点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:王继刚:保障AI应用在复杂环境下安全稳定运行至关重要
首页> 网安频道> 大智移云 > 正文

王继刚:保障AI应用在复杂环境下安全稳定运行至关重要

来源:光明网2025-09-19 10:57

  9月17日,以“让AI更安全,让安全更AI”为主题的2025年国家网络安全宣传周人工智能安全治理分论坛在云南昆明举行。会上,中兴通讯副总裁、网络安全首席专家王继刚指出,随着AI应用爆发式增长、迅速迭代,导致新的安全风险持续涌现,大模型恶意攻击、数据隐私泄露等AI应用安全问题已成为当前行业亟待应对的挑战。

王继刚:保障AI应用在复杂环境下安全稳定运行至关重要

中兴通讯网络安全首席专家王继刚

  王继刚首先介绍了智能体的三个核心特征:自适应环境感知、自主决策,以及目标导向。因此,其攻击面更广、潜在影响更为复杂,攻击形式也日趋多样化。

  “因此,我们需要面向AI应用构建全新的安全防护体系。”王继刚强调,要围绕身份验证、权限控制、输入输出防护、领域围栏、智能体防护等多个维度进行体系化设计,确保AI应用在复杂环境下安全、稳定运行。

  在安全架构治理方面,他提到,基于微服务架构,以事件驱动方式实现AI业务安全防护。通过学习智能体之间的行为模式,监控智能体间流量的方法,实现对智能体行为精准判断和安全防控,从而对潜在威胁做出及时且准确的响应。

  针对端侧推理大模型的安全防护,王继刚指出,当前大模型推理正在向手机、PC、智能汽车等边缘侧和端侧产品渗透,由于端侧资源受限,因此需要通过蒸馏技术构建可在CPU环境下运行的领域围栏,实现在非GPU架构下的有效安全保护。

  在智能体行为管控方面,王继刚认为,必须对智能体调用工具的合法性、使用权限进行严格校验。同时,由于智能体广泛应用于不同场景,安全防护的性能也面临更高要求,应对其CPU占用率、内存等关键参数提出更严格的标准。

  “我们期待与更多业界合作伙伴携手,共同探索AI应用安全领域的前沿技术,推动创新实践落地,构建全面可靠的大模型安全防护体系。”王继刚说。(赵鹏超)

[ 责编:曾震宇 ]
阅读剩余全文()

相关阅读

您此时的心情

光明云投
新闻表情排行 日/周
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 习近平会见泰国总理阿努廷

  • 习近平会见新加坡总理黄循财

独家策划

推荐阅读
大批白天鹅陆续飞抵三门峡黄河湿地栖息越冬,千余只洁白的天鹅在湿地水域中游弋、展翅,与泛黄的杨林、静谧的黄河滩涂构成一幅生态画卷,吸引了不少摄影爱好者与游客驻足观赏
2026-11-21 17:56
游人在山东省滕州市荆河公园划船赏景,绘就一幅美丽图画。近年来,山东省滕州市按照"生态、休闲、健身"的功能定位,不断加大基础设施投入,打造集绿色生态、市民休闲、人文体验、景城一体的城市综合性公园,满足市民群众游园需求
2026-11-21 17:54
江西省上饶市婺源县江湾镇篁岭村,众多游客正在古村落里观赏晒秋美景。近年来,当地发挥古村落人文资源优势,把传统秋俗元素融入乡村文旅产业
2026-11-21 17:51
江苏省宿迁市泗洪县青阳街道城东生态体育公园层林尽染。蜿蜒碧水穿行林间,落羽杉与各色林木交织成斑斓色块,满目缤纷。
2026-11-21 17:49
齐齐哈尔市拜泉县黑龙江仙洞山梅花鹿国家级自然保护区。成群梅花鹿漫步林间雪地,雄鹿、母鹿与幼鹿悠然觅食,暖阳洒落山林,灵动身影勾勒出一幅冬日和谐生态画卷
2026-11-21 17:46