【摘要】 <正>近年来，以深度学习为代表的人工智能技术飞速发展，在图像分类、自然语言处理等多个任务中超过了人类表现．在金融、教育、医疗、军事、制造、服务等多个领域，人工智能技术应用不断深化，和社会生活的融合愈加紧密．然而，在这一过程中，人工智能系统自身暴露出众多安全问题，不断涌现出针对人工智能系统的新型安全攻击，包括对抗攻击、投毒攻击、后门攻击、伪造攻击、模型逆向攻击、成员推理攻击等．这些攻击损害了人工智能数据、算法和系统的机密性、完整性和可用性，迫切需要学术界和产业界的共同关注．更多还原