点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:大模型安全治理面临“大考”
首页> 网安频道> 隐私保护 > 正文

大模型安全治理面临“大考”

来源:经济日报2026-08-06 12:38

  当前,作为新一轮科技革命和产业变革的重要驱动力,人工智能大模型正深刻重构科研范式、产业形态与社会治理方式。然而,其潜在的安全风险,包括数据泄露、深度伪造、认知操纵等,正由技术隐患加速演变为现实威胁,迫切需要建立健全与之相适应的安全治理长效机制。

  近年来,我国大模型研发与应用呈现爆发式增长态势,但安全治理体系仍滞后于技术迭代速度。一方面,现有治理偏事后追责,缺乏对模型全生命周期的风险预判与动态监测,且缺少差异化与精细化的监管手段。另一方面,仅仅依赖政府发力,难以形成风险共担、责任共治的治理生态。更值得警惕的是,大模型的认知引导能力可能被用于意识形态渗透,通过看似中立的问答输出隐含价值偏见的内容。为此,应多管齐下,堵住安全漏洞。

  大模型的安全威胁并非仅存在于部署后的滥用环节,其风险隐患早在数据采集、算法设计与训练调优阶段就已潜藏。随着大模型加速向超大规模、多模态、多智能体、具身智能等方向演进,传统事后处置模式已难以适应安全治理需要。强化前瞻布局,本质上是把握大模型安全治理的主动权,既是为技术发展划定安全边界,也是降低未来治理成本的源头工程,更是防范系统性风险外溢的长效之策。因此,应推动治理关口前移,围绕技术预研、风险预警、安全测试、规则嵌入等关键环节提前布设治理机制。面向下一代大模型技术演进趋势,加强对多模态融合、多智能体协同、通用人工智能、具身智能等前沿方向的安全预研与评估。推动安全治理由被动应对转向主动预防,实现从“看不见”风险到“看得见、防得住”风险的转变。

  大模型能力差异显著、应用场景多元,若简单套用统一监管标准,既可能抑制创新活力,也难以有效防控高风险领域。应综合考量模型能力、数据来源、应用场景、用户规模等因素,建立分级分类的风险识别机制,推动监管资源向重点领域和高风险环节精准投放。对低风险模型,实行备案管理和常态监测,最大限度减少对创新活力的制度约束;对高风险模型,特别是涉及公共决策、金融服务、医疗健康、舆论传播等重点领域的模型,实施更严格的准入审查、算法认证和实时监管,确保关键场景安全可控。建立风险复评与动态校准机制,根据模型能力变化、场景拓展情况和风险暴露程度及时调整监管等级,推动监管标准随技术演进而持续优化,避免“一次定级、终身适用”的僵化,使分级分类管理在动态中持久生效,成为健全治理长效机制的关键支撑。

  大模型安全风险具有跨领域、跨层级、跨地域的复杂传导特征,涉及技术研发、平台运营、行业应用等主体环节,也关联公共安全、意识形态、社会秩序等治理领域。当前,单一主体的单点防控难以应对系统性风险,政府掌握监管权限但缺乏技术洞察,企业拥有技术优势但存在逐利冲动,科研机构具备专业判断但缺少执行抓手,社会公众身处应用一线却缺乏参与渠道。只有将政府的制度优势、企业的技术优势、行业的协同优势与社会的监督优势有机整合,推动治理责任由分散割裂转向协同共担,治理机制由短期响应转向常态运行,才能形成职责明晰、衔接顺畅、运转高效的治理长效机制。(作者:马晓飞 王中钰)

[ 责编:杨经国 ]
阅读剩余全文()

相关阅读

您此时的心情

光明云投
新闻表情排行 日/周
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • “核心价值观百场讲坛”第173场 走进四川雅安

  • 欢庆中国农民丰收节

独家策划

推荐阅读
中秋佳节临近,各地开展多彩主题活动,传承民俗文化,共庆团圆,营造喜庆祥和的节日氛围。
2026-09-24 15:16
2026中国国际数字经济博览会于石家庄举办,汇聚数字创新成果,搭建交流对接与成果转化平台。
2026-09-24 14:41
江苏昆山戏曲百戏博物馆推出戏曲主题民间美术展,近200件展品呈现戏出题材民间艺术魅力。
2026-09-24 14:35
新疆阿瓦提县棉花进入集中采收期,当地依托机械化采收模式,抢抓农时秋收,保障棉絮颗粒归仓、产业稳产增收。
2026-09-24 14:27
内蒙古额尔古纳城市湿地彩林斑斓,蜿蜒河道穿行林间,日出映照之下,绘就秀美的生态画卷。
2026-09-24 14:23