点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:范渊:以“四横四纵”思维系统化解决AI安全风险
首页> 网安频道> 数字安全 > 正文

范渊:以“四横四纵”思维系统化解决AI安全风险

来源:光明网2025-09-19 10:55

  9月17日,以“让AI更安全,让安全更AI”为主题的2025年国家网络安全宣传周人工智能安全治理分论坛在云南昆明举行。会上,安恒信息董事长范渊指出,面对AI训练与私有化部署中存在的安全风险,要以“四横四纵”的思维框架统筹应对。

范渊:以“四横四纵”思维系统化解决AI安全风险

安恒信息董事长范渊

  “要以‘AI攻击’的视角重新来审视网络安全防御的准确性和有效性,这是很重要的思维。”范渊表示,当前AI驱动的攻击更加隐蔽、更加高效、成本更加低廉。因此,“让安全智能化”不仅是工具升级,也是认知升维。

  在谈及数据安全时,范渊提到,AI正在驱动静态数据安全到动态数据安全的演进,而动态数据安全的起点便是动态数据分类分级,在结构化导入敏感数据之后,要对数据风险告警、关联分析、以及策略权限做动态调整,更好实现后续的防护、感知和预警。

  除了让“安全更智能”,如何让“智能更安全”?范渊将风险划分为两个关键方面。首先,快速普及的AI技术带来新的风险。安恒信息对国内自动化生成代码的测试显示,所有模型生成的代码中有超过一半存在安全问题。其次,MCP协议并未真正关注安全,带来潜在风险,包括MCP协议存在的漏洞可能会被恶意利用,MCP权限可能会被篡改并衍生一系列新型攻击手法。

  “所以我们在风险治理上,需要采用系统性思维统筹应对。”他提到,要以“四横四纵”的思维框架进行总体布局,包括战略规划、标准规划、监督审计与持续改进等。

  “一是要以AI对抗AI,构建以AI为核心的防御体系;二是要常态化启动AI安全红蓝对抗,通过实战检验防御体系的有效性;三是要强化AI安全治理;四是要通过协同联动形成合力,更有效地应对相关风险。”范渊说。(赵鹏超)

[ 责编:曾震宇 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 新年迎接新生命

  • “津旅时光号”天津北站—北京站线路开通

独家策划

推荐阅读
【优秀案例展示|海报】“AI筑梦基础教育”公益项目
2025-12-28 11:10
【优秀案例展示|海报】“AI筑梦基础教育”公益项目
2025-12-28 11:10
【优秀案例展示|海报】阿里公益天天正能量
2025-12-28 11:10
【优秀案例展示|海报】淘宝手艺人·星火扶持计划
2025-12-28 11:10
由中央网信办网络社会工作局与中国互联网发展基金会共同发起的2024年网络公益行动项目征集活动开始展示。
2025-12-28 10:21