点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:报告:AI 治理存短板,超六成企业难管失控智能体
首页> 网安频道> 隐私保护 > 正文

报告:AI 治理存短板,超六成企业难管失控智能体

来源:环球网2026-03-12 16:44

  【环球网科技综合报道】3月12日消息,哈佛大学、麻省理工学院等多所顶尖高校联合多家顶尖机构近日发表《混沌智能体》研究报告,直指当前企业AI治理存在显著断层,AI智能体存在严重安全隐患,超六成企业面对失控的AI智能体缺乏有效终止能力,行业面临“能看不能管”的治理难题,AI安全治理体系建设迫在眉睫。

  此次研究团队模拟真实企业生产环境部署AI智能体,在短短两周内便触发并记录下11起严重安全漏洞案例,证实企业环境中的AI智能体极易被操控,其安全风险远超预期。研究发现,攻破AI智能体并非需要投毒训练数据、利用零日漏洞等复杂手段,仅通过传统的“社交工程”对话即可实现。例如,部分AI智能体虽会明确拒绝直接提取数据的请求,却可能在执行“转发邮件”等常规指令时,违规附带社保号码、银行账户等敏感信息;当攻击者在外部平台伪造身份后,一些AI智能体还会毫无防备地接受指令,甚至出现主动清除自身配置文件、交出系统最高管理权限的极端情况,给企业数据安全和系统运行带来巨大威胁。

  如果说AI智能体本身的安全漏洞令人担忧,企业层面的干预能力滞后则让风险进一步放大。Kiteworks发布的2026年风险预测报告显示,当前多数企业和组织虽已投入资源对AI行为进行监控,却陷入了“能看不能管”的治理困境。数据显示,60%的企业无法强行终止行为异常的AI智能体,63%的企业难以限制失控智能体的使用范围;在掌握关键基础设施的政府机构中,这一问题更为突出,高达76%的部门未为AI智能体配备“一键终止”开关,使得AI失控后的风险被成倍放大,关键基础设施的安全运行面临严峻挑战。

  针对AI智能体暴露出的系统性安全缺陷,行业专家明确表示,单纯依靠优化提示词、设置模型护栏等传统手段,已无法从根本上解决问题。破解当前AI治理难题,企业需要转变治理思路,将AI治理架构的核心从“约束AI模型本身”转移到“管控底层数据层”。

  专家建议,企业应在AI智能体与敏感数据之间建立统一的安全控制平面,通过构建全流程的安全管理体系,让AI智能体的每一次数据访问请求,都经过严格的身份验证、权限授权和行为审计,以架构层面的硬性约束实现对AI风险的有效管理,从源头防范AI智能体失控带来的各类安全问题。(纯钧)

[ 责编:曾震宇 ]
阅读剩余全文()

相关阅读

您此时的心情

光明云投
新闻表情排行 日/周
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 习近平会见新加坡总理黄循财

  • 习近平会见澳大利亚总理阿尔巴尼斯

独家策划

推荐阅读
河南省济源市坡头镇农民在甘蓝制种田里进行管护作业。
2026-11-20 12:54
江西省南昌市南昌高新区鲤鱼洲管理处,沃野涌金、房舍林立,乡村公路蜿蜒向前,犹如一幅初冬时节的和美乡村画卷。
2026-11-20 12:16
在广西梧州市长洲区新兴小学,消防员在向学生讲解消防装备功能。
2026-11-20 12:12
初冬时节,山西省运城市临猗县黄河湿地迎来大批越冬候鸟,成群黑鹳、白鹭栖息于此。
2026-11-20 11:29
甘肃省河西学院医学院生命科学馆内,研学学生在专业讲师指导下,借助急救模拟人体模型实操急救技能。
2026-11-20 11:25