点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:AI视频生成模型需要“护栏”
首页> 网安频道> 数字安全 > 正文

AI视频生成模型需要“护栏”

来源:南方日报2026-02-12 17:28

  近日,字节跳动新一代AI视频生成模型Seedance 2.0上线内测,凭借多模态创作方式、自带运镜的呈现效果,迅速引起海内外高度关注。

  Seedance 2.0为何这么火?此前绝大多数AI视频生成模型更像一个“素材生成器”,用户要多次“抽卡”才能选到满意的,Seedance 2.0则更像一名能够理解叙事逻辑、掌控视听语言的“AI导演”,一段简单的文字就能生成带有运镜、灯光等专业导演技能的“大片”,一次就能达到可用标准,角色一致性也很高。难怪有人称其为“当前地表最强的视频生成模型”,不少海外用户赞其效果“媲美好莱坞大片”。

  Seedance 2.0官网称,“无论是单人还是多人场景,角色旁白、环境音效与画面均精准同步,真实感更强。”真实感,其实是一体两面的存在,既是吸引用户的关键,也会引发真相焦虑、信任危机等问题——

  影视飓风创始人Tim一边感慨Seedance 2.0的出色能力,一边在测评视频中连呼6次“恐怖”,原因是他上传自己照片、公司正面照片后,Seedance 2.0自动匹配了他的声音、生成了公司大楼另一面的景象,“这基本上可以确定一件事,Seedance 2.0大量训练了我们公司的视频。”

  由于国内外AI大模型都在使用公开数据进行训练,公众人物相关素材难免进入公开数据集被“喂”给大模型,导致后者对公众人物更加“熟悉”。但即便是公众人物,其人脸、声音等信息也是颇为敏感的,其正当权益应该得到保护。

  此外,Seedance 2.0在“看图生音”“看正面生背面”上的“逼真”表现,也让人不得不对其滥用风险加以警惕。游戏科学CEO冯骥在称赞之余就直言,“逼真的假视频将变得毫无门槛,而现有的知识产权与审查体系会面临空前冲击”。这并非危言耸听。从数据特性角度看,相比于文字内容,声音和视频具有更强的个人与场景特定性,当前阶段数据使用的责任与边界问题,也因此更加凸显。

  如今的Seedance 2.0,具有在国际上争先的势头。“Seedance 2.0们”想要成为头部,必须让治理跟上技术发展水平,这不是负担,而是可持续发展的“护栏”。

  中国工程院院士邬江兴最近就提到,各国AI竞争的本质,是一场终点线模糊的马拉松式耐力比赛,决定胜负的关键并非哪个国家取得了突破性技术,而是谁能更高效地推动AI在各生态系统实现规模化渗透应用。实现AI大规模应用,首先就面临“安全信任壁垒”问题:对用户来说,需要确认AI到底有多安全,才能“敢用”;对关键行业来说,只有了解AI犯错会造成多大的影响、责任如何界定,才“敢推广”;对监管来说,知道AI安全如何衡量、监督和处置,才谈得上“敢管”。

  由此可见,这个“护栏”需要企业“内生”,也需法律完善、行业自律等。实现多元协同治理,才能更好平衡技术发展与风险防控,让“真实感”的优势最大化、风险最小化。(维辰)

[ 责编:雷渺鑫 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 北京阵雨过后见彩虹

  • 文旅新地标解锁古老敦煌新风尚

独家策划

推荐阅读
祁连山下的甘肃省张掖市民乐县南古镇景会村,竞相开放的油菜花田与远山、道路、民居等交相辉映,构成一幅美丽的田园风景画卷
2026-06-13 18:33
宁夏中卫市沙坡头区,黄河蜿蜒流淌,与两岸的农田、村庄、道路、桥梁交相辉映,构成一幅动人的生态画卷
2026-06-13 18:33
2026年江西省第十七届运动会吉安市太极拳预选赛暨吉安市第六届太极拳比赛在峡江县举行。来自全市各县(市、区)17支代表队的300余名运动员,参与了男女个人与集体两个大项共10个小项的比拼
2026-06-13 18:33
农户驾驶大型收割机在山西省永济市红日农业虞乡农场基地加紧收割小麦。眼下,山西省运城市430多万亩小麦进入集中收割期,目前已完成收割面积50%以上
2026-06-13 18:33
6月13日是2026年文化和自然遗产日,今年的主题为"文物属于人民 服务人民"。连日来,各地文博场馆迎来参观热潮,游客与市民在珍贵文物前驻足凝视,沉浸式探寻历史脉络,近距离感受文化遗产风采与中华优秀传统文化的深厚魅力。
2026-06-13 18:33