点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:大模型安全治理面临“大考”
首页> 网安频道> 隐私保护 > 正文

大模型安全治理面临“大考”

来源:经济日报2026-08-06 12:38

  当前,作为新一轮科技革命和产业变革的重要驱动力,人工智能大模型正深刻重构科研范式、产业形态与社会治理方式。然而,其潜在的安全风险,包括数据泄露、深度伪造、认知操纵等,正由技术隐患加速演变为现实威胁,迫切需要建立健全与之相适应的安全治理长效机制。

  近年来,我国大模型研发与应用呈现爆发式增长态势,但安全治理体系仍滞后于技术迭代速度。一方面,现有治理偏事后追责,缺乏对模型全生命周期的风险预判与动态监测,且缺少差异化与精细化的监管手段。另一方面,仅仅依赖政府发力,难以形成风险共担、责任共治的治理生态。更值得警惕的是,大模型的认知引导能力可能被用于意识形态渗透,通过看似中立的问答输出隐含价值偏见的内容。为此,应多管齐下,堵住安全漏洞。

  大模型的安全威胁并非仅存在于部署后的滥用环节,其风险隐患早在数据采集、算法设计与训练调优阶段就已潜藏。随着大模型加速向超大规模、多模态、多智能体、具身智能等方向演进,传统事后处置模式已难以适应安全治理需要。强化前瞻布局,本质上是把握大模型安全治理的主动权,既是为技术发展划定安全边界,也是降低未来治理成本的源头工程,更是防范系统性风险外溢的长效之策。因此,应推动治理关口前移,围绕技术预研、风险预警、安全测试、规则嵌入等关键环节提前布设治理机制。面向下一代大模型技术演进趋势,加强对多模态融合、多智能体协同、通用人工智能、具身智能等前沿方向的安全预研与评估。推动安全治理由被动应对转向主动预防,实现从“看不见”风险到“看得见、防得住”风险的转变。

  大模型能力差异显著、应用场景多元,若简单套用统一监管标准,既可能抑制创新活力,也难以有效防控高风险领域。应综合考量模型能力、数据来源、应用场景、用户规模等因素,建立分级分类的风险识别机制,推动监管资源向重点领域和高风险环节精准投放。对低风险模型,实行备案管理和常态监测,最大限度减少对创新活力的制度约束;对高风险模型,特别是涉及公共决策、金融服务、医疗健康、舆论传播等重点领域的模型,实施更严格的准入审查、算法认证和实时监管,确保关键场景安全可控。建立风险复评与动态校准机制,根据模型能力变化、场景拓展情况和风险暴露程度及时调整监管等级,推动监管标准随技术演进而持续优化,避免“一次定级、终身适用”的僵化,使分级分类管理在动态中持久生效,成为健全治理长效机制的关键支撑。

  大模型安全风险具有跨领域、跨层级、跨地域的复杂传导特征,涉及技术研发、平台运营、行业应用等主体环节,也关联公共安全、意识形态、社会秩序等治理领域。当前,单一主体的单点防控难以应对系统性风险,政府掌握监管权限但缺乏技术洞察,企业拥有技术优势但存在逐利冲动,科研机构具备专业判断但缺少执行抓手,社会公众身处应用一线却缺乏参与渠道。只有将政府的制度优势、企业的技术优势、行业的协同优势与社会的监督优势有机整合,推动治理责任由分散割裂转向协同共担,治理机制由短期响应转向常态运行,才能形成职责明晰、衔接顺畅、运转高效的治理长效机制。(作者:马晓飞 王中钰)

[ 责编:杨经国 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 四川越西:欢庆彝族火把节

  • 祁连山下,呦呦鹿鸣引客来

独家策划

推荐阅读
各地深耕特色种养产业,依托科技赋能与全链条升级,带动农业增效、农户增收,夯实乡村产业振兴基础。
2026-08-06 14:41
内蒙古自治区鄂尔多斯市鄂托克前旗城川镇北大池盐湖色彩绚丽,历史悠久,独特景致吸引各地游客前来观光。
2026-08-06 13:31
湖北省恩施土家族苗族自治州巴东县完善农村公路建设,融合产业文旅物流,把乡村道路打造成为富民通路。
2026-08-06 13:26
西藏自治区阿里地区措勤县扎日南木错,作为国家级湿地,高原风光壮美,吸引游人观光。
2026-08-06 11:32
安徽省合肥市组织小学生走进城市记忆馆开展暑期研学,了解家乡人文历史,探寻本土文化渊源。
2026-08-06 11:22