点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:大模型多模态安全防护网关直击生成式AI安全痛点
首页> 网安频道> 要闻 > 正文

大模型多模态安全防护网关直击生成式AI安全痛点

来源:光明网2026-03-23 17:54

洞见·TMT

  在OpenClaw席卷网络、其潜藏的安全隐患引发多方担忧的同时,针对AI大模型的生成式引擎优化(GEO)“投毒”风险也接连曝光。AI技术狂飙之下,AI风险正以更隐蔽、更具破坏性的方式出现。面对持续提速的AI技术浪潮,如何搭建行之有效的安全防护体系、为技术发展装上可靠的“安全阀”,已然成为网络安全行业必须攻克的命题。

  针对当前愈发复杂的AI大模型安全困境,国内网络安全领军企业天融信针对性地推出了安全防护产品。在融信天下合作伙伴大会2026上,天融信发布了大模型多模态安全防护网关,直击生成式AI落地企业的核心安全痛点。值得注意的是,该产品是国内网络安全行业首个大模型多模态安全防护产品。

  “大模型投毒既会造成信息失真,也可能泄露敏感信息。”天融信高级副总裁杨斌坦言。据他介绍,天融信早已前瞻性布局AI网络安全防护领域,已于2025年首家通过了公安部第三研究所《大模型安全防护围栏产品认证》(增强级),并持续推动其产品能力的全面跃升。目前,公司大模型安全网关已经实现了从单模态纯文本治理到多模态安全防护、从保障“对话者”到保障“执行者”的技术跃迁,实现了图、音、视频全覆盖的多模态深度检测,对OpenClaw等执行智能体进行全流程审计和管控。

  他进一步介绍,天融信大模型多模态安全防护网关能够筑牢四大核心防护防线。其中智能体防线可以牢牢管住智能体每一步执行动作,精准斩断恶意操作。高并发视频AI智审技术则能够从多维度筛查风险,及时检测违规内容并完成溯源。视觉防线可实现图文双向治理,有效拦截注入行为、管控红线内容,同时解决资产确权难题。声学领域暗网阻击则能够检测高频隐写指令与多语种违规音频,实现深伪内容的精准溯源。目前,该产品已在医疗、能源、家电等行业落地验证,可按需适配多种部署方式与应用场景。

  杨斌举例,当前互联网上AI生成的虚假视频泛滥成灾,普遍面临内容体量庞大、违规帧隐藏性强难以识别、人工审核成本高且效率低下等问题。依托天融信此次发布的大模型多模态安全防护网关,首先能够对视频关联的文本、音频内容开展多维度语义解析与深度风险筛查,从源头阻断违规信息;其次通过精细化视频帧检测技术,全面排查敏感信息泄露、内容导向偏差、价值观不符等违规内容;最后对合规生成的视频强制写入专属元数据标识,实现视频生成、传播、使用全链路防伪溯源,切实破解AI视频治理难题。

  “天融信大模型多模态安全防护网关能为企业筑牢AI安全防线,更能成为企业发展AI的通行证。”他介绍,公司大模型安全网关可有效抵御提示词注入、模型越狱等典型攻击,同时具备多模态深度检测与跨模态风险实时拦截能力。面向AI智能体场景,产品支持API逻辑风控,实现调用链全链路监控及越权行为拦截,在合规与溯源层面,可实现全流程追踪与生成内容真伪核验,全面满足AI时代安全合规要求。(田津金)

[ 责编:曾震宇 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 中美“乒乓外交”55周年纪念大会暨中美青少年体育交流系列活动启动仪式在京举行

  • 长沙举行首届中药农业博览会

独家策划

推荐阅读
广西壮族自治区贺州市农民抢抓农时加紧早稻插秧,田间一派忙碌景象
2026-04-10 14:01
小朋友们在科技馆讲解员的专业讲解下,近距离学习航天知识、感受航天魅力,让航天科普启蒙融入幼儿成长,激发孩子们对航天科技的好奇心与探索欲
2026-04-10 13:56
近年来,学校依托人工智能、大数据与物联网技术,引进AI智慧操场及配套设施,革新传统体育教学模式。新建设的"AI智慧操场"可精准识别运动违规、实时采集运动数据,为教师提供科学指导依据
2026-04-10 13:53
江苏省南京市溧水区洪蓝街道山南村牡丹园内各色牡丹竞相绽放,美不胜收的乡村春色,吸引游客前来踏青赏花。
2026-04-10 13:52
湖南省常宁市庙前镇与桂阳县莲塘镇交界的白阜岭上,满山遍野的高山杜鹃竞相开放,如云似霞,美不胜收
2026-04-10 13:48