据中央广播电视总台报道，最近，一批名叫“小海”的苦命男孩在短视频平台上批量涌现，他们对着镜头哭诉着单亲、窘迫的身世，让不少中老年人看了心疼落泪，纷纷下单买货帮扶，甚至有老人独自坐火车前去探望。然而，这个“贴心晚辈”现实中根本就不存在，全是由AI合成的“数字人”。另据澎湃新闻报道，10月18日凌晨，一位演员在微博发文，怒斥某自媒体账号利用AI技术冒用其形象和声音进行带货，质问对方“骗了多少人的钱？请如数奉还”。

　　批量生成“假晚辈”、利用AI技术仿冒演员带货，相关账号其实按照《人工智能生成合成内容标识办法》相关规定，标注了“内容由AI生成”，有的平台还提示“请谨慎甄别”。这种操作看似保障了观众和粉丝的知情权，但标注“AI生成”改变不了该类账号的虚假人设、虚假短视频内容欺诈大众的客观事实和本质，不但没有起到对虚假内容的拦截作用，相反更像是虚假内容欺诈合规化的通行证。

　　AI生成标识制度的目的，是客观呈现网络内容制作方式，但现实中，上述账号中“AI生成”字样较小，一些目标人群或是较难注意到“AI生成”标签，或是不太了解“AI生成”的真实含义，因而很容易被相关视频所误导，进而信以为真。

　　事实上，针对“AI小海”这类账号乱象，监管已指明方向。目前，中央网信办正在全国范围内部署开展为期2个月的“清朗·整治短视频虚假人设乱象”专项行动，重点整治假扮弱势群体问题、利用AI等仿冒人物问题等突出问题，其中包括通过AI合成虚假音视频等方式，假冒公众人物，实施虚假代言、营销等侵权违法行为。平台需要做的便是担起主体责任，履行审核职责，结合专项行动完善主动治理机制，除加强对是否标注“AI生成”的审核之外，还应加强对账号运营者真实身份以及标注“AI生成”内容真实性的审核力度，尝试通过平台审核环节直接过滤掉“AI小海”类账号。

　　总而言之，标注“AI生成”不能成为欺诈大众的通行证，平台不能放任“AI生成”的虚假信息误导人、欺骗人。（张立美）