9月16日，以“共筑AI安全 安享智能未来”为主题的AISC首届人工智能安全大赛落幕。本次大赛由国家工业信息安全发展研究中心、清华大学人工智能研究院和北京瑞莱智慧科技有限公司等单位联合主办，系首个全国性人工智能安全赛事，旨在推动人工智能攻防技术创新、实战演练、场景挖掘和人才培养。

　　人工智能技术在快速发展的同时，也带来了新的风险和隐患。北京瑞莱智慧科技有限公司首席执行官田天认为，人工智能技术风险发生的范围正随着应用场景的日趋广泛而逐步扩大，风险发生的可能性也随着其应用频次的增长而持续提高。

　　AI应用的安全问题首要体现为技术的“两面性”，存在AI滥用甚至“武器化”的问题，其典型代表是深度伪造技术，它的负向应用风险持续加剧且已产生实际危害。田天提到，以深度学习算法为核心的第二代人工智能是个“黑盒子”，具有不可解释性，意味着系统存在结构性漏洞，可能受到不可预知的风险，通过在输入数据中添加扰动，使得系统作出错误判断。在人工智能的全生命周期，不仅存在算法层面的安全性问题，算力作为人工智能发展的重要基础设施，也面临着诸多风险，推动人工智能算力基础设施安全发展具有重要意义。

　　构建人工智能的安全生态，一方面需要技术的持续演进，一方面也需要专项技术人才的培养。本次大赛通过实战演练的方式，全方位验证和提升选手实战能力，为培育一批高水平、高层次的人工智能安全新型人才团队提供通道。大赛共吸引来自全国70多所高等高校、科研院所、企业机构的超过400支团队，共计600余名选手的踊跃参与。上海交通大学联合战队“AreYouFake”与北京交通大学战队“BJTU-ADaM”分别摘得深度伪造安全与自动驾驶安全赛道桂冠，北京理工大学战队“DeepDream”与建信金科战队“Tian Quan&LianYi”共同位列人脸识别赛道第一名。

　　大赛期间，由国家工业信息安全发展研究中心牵头，联合华为技术有限公司和北京瑞莱智慧科技有限公司共同撰写的《人工智能算力基础设施安全发展白皮书》正式发布。该白皮书围绕人工智能算力基础设施安全发展的意义、内涵与体系架构、安全管理现状、发展建议等方面展开深入研究。白皮书指出，人工智能算力基础设施不同于传统的算力基础设施，既是“基础设施”，又是“人工智能算力”，也是“公共设施”，具有基建属性、技术属性、公共属性三重属性。相应地，推动人工智能算力基础设施安全发展应从强化自身安全、保障运行安全、助力安全合规三个方面发力，通过强化自身的可靠性、可用性与稳定性，保障算法运行时的机密性与完整性，提升用户的安全管控力、认可度与合规性等八个领域筑牢人工智能安全防线，打造可信、可用、好用的人工智能算力底座，营造安全、健康、合规发展的人工智能产业生态。

　　与大赛同期举办的主题论坛，邀请多位院士专家、行业领袖、政企代表，共同探讨如何在未来智能的战场打赢技术攻防之战。与会专家表示，重视人工智能安全体系建设，既是当务之急，也是长远考虑，需加快促进人工智能安全领域关键技术研究与攻防实践。

　　人工智能对抗攻防包括模型隐私问题等多方面技术，中国科学院信息安全国家重点实验室副主任陈恺提出“神经网络手术刀”方法，通过定位引发错误的神经元，只需极少量或无需数据样本，即能够大幅提升模型修复效果，进行精准“微创”修复。

　　“应形成从安全性测试到安全性分析与安全性加固的完整技术手段，最终形成标准化的测试流程。同时，未来的人工智能安全应该从数据、算法到系统各个层次上全面评测，同时配合从硬件到软件一套整体的安全可信计算环境。”北京航空航天大学软件开发环境国家重点实验室副主任刘祥龙表示。

　　工商银行金融研究院安全攻防实验室主管专家苏建明也建议，人工智能安全治理需要广泛协作和开放创新，需加强政府、学术机构、企业等产业各参与方的互动合作，建立积极的生态规则。应加快人工智能的立法进程，加强对人工智能服务水平、技术支撑能力等专项监督考核力度；加大对人工智能安全研究的激励投入，通过产学研合作模式加快科研成果的转化与落地；此外，逐步推动人工智能技术由场景拓展向安全可信发展转变，通过参与标准制定，推出产品服务，持续探索人工智能安全实践及解决方案。

　　圆桌对话环节，北京交通大学教授、计算机与信息技术学院副院长景丽萍、清华大学人工智能研究院基础理论研究中心主任朱军、北京邮电大学网络空间安全学院副院长邓伟洪、北京科技大学计算机与通信工程学院教授陈健生、华为可信AI安全解决方案专家唐文围绕人工智能安全技术发展、人工智能安全治理等话题作深入交流。专家认为，人工智能的安全问题还需从算法模型的原理上突破，持续加强基础研究才能破解核心科学问题。（记者 孔繁鑫）