点击右上角微信好友
朋友圈
请使用浏览器分享功能进行分享
9月23日,第三届网络空间安全(天津)论坛开幕式及主论坛在天津举行。专家、学者和科研院所、金融机构、高校以及国内外知名企业代表齐聚一堂,深入探讨网络空间安全形势,广泛分享网络安全治理理念,共同商讨网络安全应对策略。
全国政协委员、全国工商联副主席、奇安信集团董事长齐向东作“重塑内生安全体系 升维AI时代安全力”主题演讲,从风险防范、能力升级、体系重塑三个维度,结合奇安信的实践经验,为应对AI时代网络安全挑战提供了清晰路径。
当前,AI技术正以“超人化”态势深刻重塑各行业,大模型与智能体成为生产力升级的“新引擎”,却也带来前所未有的安全隐患。齐向东形象地将AI大模型、智能体比作“AI超人”,其拥有超级权限、无所不能,一旦被劫持或攻击,可能对数据安全、业务安全、发展安全产生连锁影响。不接纳AI将被时代淘汰,接纳则需直面安全挑战。
基于近百个行业场景的攻防实战经验,奇安信总结出防范“AI超人”安全风险的核心在于管住“框、数、人、链”四个关键环节。
一是管住“框”,守住AI自身安全的“第一道门”。“框”指的是对话框、传感器等AI“超人”的交互入口。当前大量AI应用存在“重功能、轻安全”问题,易遭提示词注入、越狱攻击等。
二是管住“数”,攥紧AI时代的“核心资产”。“数”是AI的“燃料”,AI应用深化推动数据安全进入“小数据决定大价值”阶段。为最大化AI效能,企业纷纷将分散的数据“去粗取精”,形成高价值、集中化的“精华小数据”。这些“精华小数据”一旦泄露,核心竞争力将受损。
三是管住“人”,防范安全链条的“最大变量”。AI时代需防范的“内鬼”范围从传统管理员、技术员、操作员,扩展至数据管理员、数据标注员、算法工程师、模型运维工程师。他们往往掌握高级权限,若被利用可能从内部瓦解安全防线。
四是管住“链”,避免安全风险的“链式爆炸”。AI“超人”无法独立存在,必须依托生态链、供应链才能运转,其中任一薄弱环节都可能引发大规模网络攻击,需重点关注云环境漏洞与第三方开发运维中等问题。
“AI超人”不断冲击现有安全手段,要求我们加快重塑安全体系,突破看见“盲区”、看见异常、看见实效“三看”瓶颈。
面对“四管”风险和“三看”瓶颈,齐向东提出重塑内生安全体系的四步策略。
第一步是抓落地,部署大模型卫士,筑牢场景化防护屏障。如“管控-检测-溯源”三位一体防护框架及大模型卫士等相关产品,无需改造大模型即可轻量化接入现有AI应用,能有效防御多种新型风险。
第二步是向左移,强化大模型全生命周期的安全评估,前置风险防控,把安全风险“扼杀在源头”。AI时代,必须将安全评估嵌入AI模型研发、部署、运维全生命周期。
第三步是促升级,通过AI全面赋能安全防护,打造安全“技术矩阵”,实现质效双提升。如奇安信以QGPT安全大模型为基础,构建安全任务智能体,覆盖多类应用场景,威胁定性时间从小时级缩短至秒级,实现质效双升。
第四步是强联动,建设“三级联动”的安全运营体系,凝聚防御合力。面对AI时代的复杂威胁,安全建设要起效,必须形成安全合力,构建“三级联动”的安全运营体系势在必行。其中分为组织三级联动、功能三级联动和能力三级联动,三级之间环环相扣、无缝协作、形成有机整体。(孔繁鑫)