近日，有网友发现演员温峥嵘同时“现身”三个不同直播间，她身着不同服装推广着不同的产品，动作神态与本人高度相似，这一情况很快引发热议。

　　温峥嵘并无分身之术，这三个直播间或是录屏抠图，或是商家盗用她过往直播素材，经过深度合成、重塑形象与语音，嵌入直播间进行模拟互动。

　　其实今年4月，温峥嵘就曾对此进行过声明和维权，但并没能阻挡住网络盗播和AI冒充行为的泛滥。温峥嵘曾进入一个仿冒直播间质问：“你是温峥嵘，那我是谁”，结果反被对方拉黑禁言。

　　团队工作人员发现虚假视频在网络传播后，便持续进行举报，一天内曾集中举报50个假冒账号，有的造假账号被平台下架处理，有的刚下架就又换了个形式重新出现，让人防不胜防。

　　对此，工作人员告诉记者，部分商家只需截取温峥嵘一段影像，用简易工具就能生成虚假内容，而他们取证却要花费很大的精力。

　　盗播和AI仿冒名人直播，让网友无从分辨真假，愤怒又无奈。就在今年的9月1日，《人工智能生成合成内容标识办法》正式施行，要求AI生成内容必须“亮明身份”，但是乱象为何依旧在？治理困境又在哪里？

　　根据民法典及个人信息保，未经授权使用他人肖像进行AI合成，虽涉嫌侵犯肖像权与个人信息权益，但司法实践中，多数案件赔偿金额不足万元，远低于商家的非法收益。

　　北京师范大学院教授刘德良表示，未经允许以非法目的，通过AI或深度伪造技术改变他人面部、声音或换脸，可能侵犯肖像权、声音权。若用于广告宣传、直播营销，还可能构成虚假宣传。

　　面对乱象，监管部门已针对AI虚假直播出台治理措施。国家网信办联合多部门共同发布《人工智能生成合成内容标识办法》，明确要求AI生成的肖像、视频需标注“AI生成”，否则将面临最高10万元罚款。但记者调查发现，很多造假者将标注藏在视频或者直播简介的角落，或者用极小的字体显示，消费者很难注意到。

　　专家认为，网络平台应对其直播间里的内容负有监管责任，在AI时代，监管部门也可以同样使用AI手段对网络内容实施监管。建议消费者可先向平台投诉，平台拒不履行监管义务则需承担连带责任。监管部门也可借助AI实时处理投诉、发现假冒行为，技术无决的可通过法律途径处理。 据央视

　　温峥嵘同时“现身”多个不同直播间，这一情况很快引发热议。记者注意到，互联网上俨然出现了一支“赛博温峥嵘”大军。

　　记者在搜索温峥嵘相关内容的时候，短短十来分钟，刷到了4个温峥嵘推荐的不同品牌产品的视频，但令为迷惑的是，明明是不一样的品牌产品，但话术却是同一套。

　　还有的商家广告在AI合成上更加离谱，、张柏芝、舒淇、戚薇等一众知名女明星为温峥嵘宣传的某品牌面膜站台，视频里的戚薇说：“对不起温峥嵘我给你道歉”，说：“我很感谢温峥嵘给我推荐了××面膜。”

　　一名温峥嵘的粉丝在5月时表示，自己在一天之内一连举报了18个伪造温峥嵘的直播间，“根本举报不过来啊，举报一个又新增一个。”大半年时间过去了，仍旧有商家盗用温峥嵘过往的直播素材，用录播抠图或者AI换脸等方式合成虚假直播内容。

　　由于AI直播间未明确标识技术合成属性，消费者难以追溯责任主体。即使发现受骗，也需面对商家推诿、平台追责困难等问题，维权效率低下。

　　以虚拟一段“流浪汉闯入家中”的视频为测试目标，记者先拍摄了一张自家厨房的照片，将照片上传到“可灵AI”“即梦”等AI软件中，随后输入一段指令性的提示词：一名流浪汉站在厨房门口，他的手里拿着一个馒头。点击生成按钮，十几秒后，一张流浪汉站在记者家中厨房的照片便出现在眼前。

　　只需要在AI软件中输入一段提示词，一个拿着馒头的“流浪汉”就出现在了厨房门口。记者继续点击生成视频按钮，并加上了描述动作的提示词：流浪汉吃了一口馒头，走到镜头前，笑了笑。几十秒后，任务完成，一段时长5秒的视频就这样生成了：流浪汉非常自然地咬了一口馒头，往前走了几步，露出微笑。视频内容与提示词的要求高度一致，甚至还能看到流浪汉走动时在门窗玻璃上映出的影子！

　　记者招呼同事们一起来分辨，几个人瞪大眼睛看了半天，也没找出明显的破绽。整个“图生图、图生视频”的过程用时仅120秒，付费用户还可以无水印的高清图片和视频。

　　传统印象中，想要利用软件伪造足以乱真的图片、视频，少不了高端昂贵的设备和精通代码的程序员。然而现实摆在眼前：一个软件，输入一两句话，就能办到。

　　业内人士指出，AI生成工具已实现“单图换脸”“场景植入”等功能，通过深度学习算法提取面部特征点及环境元素，可快速完成图像融合和动态生成。在此背景下，部分平台对训练语料管理不严，且未落实合成内容标识要求，导致大量虚假信息以隐秘方式传播。

　　人工智能大模型研究员潘季明表示，从技术角度来说，基于AI技术去识别AI内容是最快的方式。例如，专门的深度伪造鉴别模型可用于分析视频和音频中的不自然特征，如检测眨眼频率、面部肌肉运动生理一致性、音频与纯嘴唇同步率、光源一致性等等，从这些细微的物理或生理破绽中发现端倪。

　　北京市竞天公诚律师事务所律师马盛君指出，由人工智能引发的致损事件不断增加，尽管现有的民法典中针对特定场景的侵权责任规则可以调整某些人工智能应用，但无法一般性地调整不同类型的人工智能侵权行为。他呼吁人工智能服务提供者，加强内容审核和审查工作，确保技术的合法合规使用。

　　面对愈演愈烈的AI滥用和侵权现象，监管层面启动了多重应对措施。2025年4月，中央网信办开展“清朗·整治AI技术滥用”专项行动。第一阶段累计处置违规小程序、应用程序、智能体等AI产品3500余款，清理违法违规信息96万余条，处置账号3700余个。9月1日，《人工智能生成合成内容标识办法》正式实施，其中明确要求服务提供者对合成内容添加元数据标识，杜绝“无标识传播”。

　　今年早些时候，最高人民法院刑事审判第三庭庭长陈鸿翔表示，针对AI深度伪造带来的新情况新问题，最高法将加强研究，会同相关部门及时出台规范性法律文件或实施细则，完善法律适用。针对电信网络诈骗犯罪这一AI侵权的重要表现形式，他指出，诈骗分子利用AI深度伪造新技术不断翻新诈骗手法，防范打击难度越来越大。对此，人民法院将积极应对挑战，强化法律支撑，完善相关法律规范。

　　降低技术门槛原本是为了方便AI生产工具的普及应用，却在不经意间，打开了滥用AI的“潘多拉魔盒”。随着技术的发展，AI治理办法也亟须一次迭代升级。 据半岛都市报返回搜狐，查看更多