点击右上角微信好友
朋友圈
请使用浏览器分享功能进行分享
9月17日,以“让AI更安全,让安全更AI”为主题的2025年国家网络安全宣传周人工智能安全治理分论坛在云南昆明举行。会上,安恒信息董事长范渊指出,面对AI训练与私有化部署中存在的安全风险,要以“四横四纵”的思维框架统筹应对。
安恒信息董事长范渊
“要以‘AI攻击’的视角重新来审视网络安全防御的准确性和有效性,这是很重要的思维。”范渊表示,当前AI驱动的攻击更加隐蔽、更加高效、成本更加低廉。因此,“让安全智能化”不仅是工具升级,也是认知升维。
在谈及数据安全时,范渊提到,AI正在驱动静态数据安全到动态数据安全的演进,而动态数据安全的起点便是动态数据分类分级,在结构化导入敏感数据之后,要对数据风险告警、关联分析、以及策略权限做动态调整,更好实现后续的防护、感知和预警。
除了让“安全更智能”,如何让“智能更安全”?范渊将风险划分为两个关键方面。首先,快速普及的AI技术带来新的风险。安恒信息对国内自动化生成代码的测试显示,所有模型生成的代码中有超过一半存在安全问题。其次,MCP协议并未真正关注安全,带来潜在风险,包括MCP协议存在的漏洞可能会被恶意利用,MCP权限可能会被篡改并衍生一系列新型攻击手法。
“所以我们在风险治理上,需要采用系统性思维统筹应对。”他提到,要以“四横四纵”的思维框架进行总体布局,包括战略规划、标准规划、监督审计与持续改进等。
“一是要以AI对抗AI,构建以AI为核心的防御体系;二是要常态化启动AI安全红蓝对抗,通过实战检验防御体系的有效性;三是要强化AI安全治理;四是要通过协同联动形成合力,更有效地应对相关风险。”范渊说。(赵鹏超)