最近，一批名叫“小海”的苦命男孩在短视频平台上批量涌现。他们对着镜头一口一个“姨姨妈妈”，哭诉着单亲、窘迫的身世，让不少中老年人看了心疼落泪，纷纷下单买货帮扶，甚至有七旬老人独自坐火车前去探望。然而，这个让老人们牵肠挂肚的“贴心晚辈”，现实中根本就不存在，全是由AI合成的“数字人”。 （10月18日《中国之声》）

无独有偶，10月18日凌晨，演员吴越在微博发文，怒斥某自媒体账号利用AI技术冒用其形象和声音进行带货，质问对方“骗了多少人的钱？请如数奉还”。

这些批量生成的“小海”之类的“假晚辈”，跟利用AI技术仿冒演员吴越带货的短视频一样，按照《人工智能生成合成内容标识办法》的相关规定，标注了“内容由AI生成”，有的平台还提示“请谨慎甄别”。

这种标注“AI生成”的操作，看上去充分保障了观众和粉丝的知情权，并无欺骗大众的主观恶意。但是，实则不然。无论是批量“AI小海”恶意编造故事博取同情带货，还是AI假冒的吴越、邓亚萍、刘欢家人等名人或名人家人卖货，标注“AI生成”不但没有起到对虚假内容的拦截作用，相反更像虚假内容欺诈大众合规化的通行证。

实际上，标注“AI生成”改变不了“AI小海”“AI吴越”这类账号的虚假人设、虚假短视频内容欺诈大众的客观事实和本质，打标签并不能成为欺诈大众的通行证。从制度设计来说，AI生成标识制度解决的只是网络内容的制作方式究竟是AI生成的还是创作者“手搓”的，而不是解决内容本身的真实性，“AI生成”并不与虚假信息画等号。

更重要的是，从“AI小海”“AI吴越”这类账号及其内容来看，“AI生成”字样较小，受众群体又主要是数字素养不高的老年人，不是很难注意到“AI生成”标签，就是不太了解“AI生成”的真实含义。这样的操作很容易让老年人被误导，让他们信以为真，尤其是“AI小海”们恶意编造悲惨故事，很容易博取家庭情感缺位的老年人的同情。这显然属于名副其实的欺诈。

事实上，针对“AI小海”“AI吴越”这类账号乱象，监管已经指明了方向。今年9月底，中央网信办印发通知，在全国范围内部署开展为期2个月的“清朗·整治短视频虚假人设乱象”专项行动，重点整治假扮弱势群体、利用AI等仿冒人物等突出问题，其中包括通过AI合成虚假音视频等方式，假冒公众人物，实施虚假代言、营销等侵权违法行为。平台需要做的便是负起主体责任，履行审核职责，结合专项行动完善主动治理机制，而不是等到媒体曝光、舆论发酵之后再处理。平台除了加强对是否标注“AI生成”的审核之外，更重要的是加强对账号运营者真实身份以及标注“AI生成”内容真实性的审核力度，通过平台的审核环节将“AI小海”“AI吴越”这类账号直接过滤掉。

总而言之，标注“AI生成”不能成为欺诈大众的通行证，平台不能放任“AI生成”的虚假信息误导人、欺骗人。

□张立美