点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:AI视频生成模型需要“护栏”
首页> 网安频道> 数字安全 > 正文

AI视频生成模型需要“护栏”

来源:南方日报2026-02-12 17:28

  近日,字节跳动新一代AI视频生成模型Seedance 2.0上线内测,凭借多模态创作方式、自带运镜的呈现效果,迅速引起海内外高度关注。

  Seedance 2.0为何这么火?此前绝大多数AI视频生成模型更像一个“素材生成器”,用户要多次“抽卡”才能选到满意的,Seedance 2.0则更像一名能够理解叙事逻辑、掌控视听语言的“AI导演”,一段简单的文字就能生成带有运镜、灯光等专业导演技能的“大片”,一次就能达到可用标准,角色一致性也很高。难怪有人称其为“当前地表最强的视频生成模型”,不少海外用户赞其效果“媲美好莱坞大片”。

  Seedance 2.0官网称,“无论是单人还是多人场景,角色旁白、环境音效与画面均精准同步,真实感更强。”真实感,其实是一体两面的存在,既是吸引用户的关键,也会引发真相焦虑、信任危机等问题——

  影视飓风创始人Tim一边感慨Seedance 2.0的出色能力,一边在测评视频中连呼6次“恐怖”,原因是他上传自己照片、公司正面照片后,Seedance 2.0自动匹配了他的声音、生成了公司大楼另一面的景象,“这基本上可以确定一件事,Seedance 2.0大量训练了我们公司的视频。”

  由于国内外AI大模型都在使用公开数据进行训练,公众人物相关素材难免进入公开数据集被“喂”给大模型,导致后者对公众人物更加“熟悉”。但即便是公众人物,其人脸、声音等信息也是颇为敏感的,其正当权益应该得到保护。

  此外,Seedance 2.0在“看图生音”“看正面生背面”上的“逼真”表现,也让人不得不对其滥用风险加以警惕。游戏科学CEO冯骥在称赞之余就直言,“逼真的假视频将变得毫无门槛,而现有的知识产权与审查体系会面临空前冲击”。这并非危言耸听。从数据特性角度看,相比于文字内容,声音和视频具有更强的个人与场景特定性,当前阶段数据使用的责任与边界问题,也因此更加凸显。

  如今的Seedance 2.0,具有在国际上争先的势头。“Seedance 2.0们”想要成为头部,必须让治理跟上技术发展水平,这不是负担,而是可持续发展的“护栏”。

  中国工程院院士邬江兴最近就提到,各国AI竞争的本质,是一场终点线模糊的马拉松式耐力比赛,决定胜负的关键并非哪个国家取得了突破性技术,而是谁能更高效地推动AI在各生态系统实现规模化渗透应用。实现AI大规模应用,首先就面临“安全信任壁垒”问题:对用户来说,需要确认AI到底有多安全,才能“敢用”;对关键行业来说,只有了解AI犯错会造成多大的影响、责任如何界定,才“敢推广”;对监管来说,知道AI安全如何衡量、监督和处置,才谈得上“敢管”。

  由此可见,这个“护栏”需要企业“内生”,也需法律完善、行业自律等。实现多元协同治理,才能更好平衡技术发展与风险防控,让“真实感”的优势最大化、风险最小化。(维辰)

[ 责编:雷渺鑫 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • “五一”临近 “高铁快运”助力宠物出行

  • 沿黄流域博物馆文创文化展在山东博物馆举行

独家策划

推荐阅读
花海拍照不再俯拍,低机位拍照思路带你轻松出片。
2026-04-29 17:02
各地夯实乡村基建、做强特色产业、深耕农旅融合,乡村振兴呈现蓬勃向好的生动图景。
2026-04-29 13:42
湖北省宜昌市秭归县实验小学举行“班级足球超级联赛”活动,全校31支代表队齐聚绿茵赛场,队员们奋勇拼搏、挥洒汗水,尽情感受足球运动的活力与乐趣。
2026-04-29 13:20
西藏自治区林芝市米林市派镇索松村,蓝天流云映衬峡谷雪峰,江河田野与村落民居错落相融,山水风物相映成趣,雪域高原铺展一幅灵动秀美的生态画卷。
2026-04-29 12:50
为期8天的2026年“五一”假期铁路运输正式启动,全国铁路预计发送旅客1.58亿人次,日均计划开行旅客列车约1.2万列。
2026-04-29 12:39