在阅读此文之前，麻烦您点击一下“关注”，既方便您进行讨论和分享，又能给您带来不一样的参与感，感谢您的支持。

文|微史解读

编辑|微史解读

一夜之间，娱乐圈被AI‘盗脸’了！

明星们在直播间刷到另一个自己，竟然还被拉黑？

AI 换脸成“照妖镜”，明星们纷纷“被营业”。

央视出手整顿，揭开温峥嵘骗局真相，靳东担心的事发生了！

01

“你是温峥嵘，那我是谁？”

连温峥嵘自己都不敢相信，直播间的另一个“自己”竟然和她如此像。

当她发出那句质问后，竟然被“假我”拉黑了。

这位演过无数经典作品的老戏骨，怎么也没想到，会有一天要证明她是她。

事实上，她的团队早在年前就已整理相关证据并送达律师函，但这些假账号还是“野火烧不尽”。

这些“假温峥嵘”在直播间说的天花乱坠，卖着各种没有正规厂家的产品。

她们不仅动作神态模仿得惟妙惟肖，甚至连声音都极为逼真。

温峥嵘和团队最多时曾一天投诉五十个左右未开播的仿冒账号，拉停了至少二十个直播账号。

然而造假账号却如野草般，刚被下架就又以新的形式卷土重来，令人防不胜防。

之所以有这么多造假的账号，是因为温峥嵘也开始了直播带货，粉丝增长很快，每场的观看人数可观，销售额也颇为亮眼，所售商品以美妆护肤类居多。

他们有了现成的素材，造假更是手到擒来。

11月5日，央视《法治在线》曝光了温峥嵘的遭遇，戳穿了“温峥嵘”骗局的真相。

但还是有不少的消费者难以分辨到底哪个才是真的她。

但娱乐圈中，被这个问题困扰的又岂只有她自己？

今年2月份，北京市海淀区市场监管局接到消费者举报，反映某视频账号推广的“深海多烯鱼油”存在虚假宣传问题。

举报者提及视频中出现了央视主持人李梓萌的形象，称该产品有“调节血脂、预防心脑血管疾病”等功效，让他误以为是权威推荐才购买，使用后却发现毫无效果。

监管部门调查之后发现，涉事主体为一家生物科技有限公司，该公司为提升产品销量，通过第三方技术团队获取了李梓萌的公开视频素材，利用AI换脸及语音合成技术，伪造了一段“李梓萌推荐鱼油”的宣传视频。

在直播过程中，不仅播放该伪造视频，直播间展板上还醒目标注“央视主持人李梓萌力荐”“医学认证降脂神器”等医疗用语。

直播间开播后销量迅速突破万单，产品已售出1.2万余瓶，涉案金额超80万元。

监管部门随即委托专业机构对视频进行技术鉴定，确认画面中的“李梓萌”为AI合成，与本人无任何合作关系。

同时对涉事鱼油进行检测，发现该产品仅为普通食品，未获得药品或保健食品批准文号，所谓“治疗功效”纯属虚构。

案件曝光后，李梓萌工作室也第一时间发布声明，明确表示从未代言该产品，谴责侵权行为并保留追究法律责任的权利，提醒公众通过官方渠道核实明星代言信息，避免上当受骗。

但在利益的驱使下，AI造假的商家岂会轻易的停止？

越来越多的明星被利用，AI诈骗甚至都已经成为产业链。

02

2020年，江西60岁的黄奶奶本来过着平凡的生活，子女陪伴她的时间有限，短视频成了她消磨时光的主要方式。

一次，黄奶奶刷到名为“靳东”的账号，视频中的“靳东”温柔地对着镜头倾诉，称自己渴望真挚的感情，让黄奶奶心中泛起了涟漪。

那位“靳东”似乎格外关注黄奶奶，经常私信她，言语间满是关怀与爱意，还会分享一些日常“琐碎”。

渐渐地，黄奶奶陷入了这段虚拟的感情之中，她觉得自己找到了真正懂她、爱她的人。

随着感情的升温，“靳东” 向黄奶奶全网告白，这让黄奶奶彻底沉沦。

她深信自己的爱情来了，为了奔赴这段感情，她剪掉了长发，与丈夫冷战、打架、分房睡，甚至瘦了十几斤。

她还瞒着家人，离家出走，踏上了前往长春的寻爱之旅，因为“靳东”承诺会给她100万元，还会送她一套房。

然而，当她满怀期待地来到长春，却怎么也找不到“靳东”的身影，她的电话、私信也再得不到回应。

人们这才惊讶地发现，这竟然是一场精心策划的骗局。

骗子利用AI换脸技术，将靳东的形象合成到视频中，再配上甜言蜜语，对中老年女性实施诈骗。

靳东已经在两会上两次强调AI换脸导致的诈骗问题：

“一些喜欢我影视剧的观众，被AI换脸视频骗得很惨，这个性质非常恶劣。”

这已经是他第二次在全国两会上回应“假靳东”诈骗问题。

虽然“假靳东”诈骗已经宣判了，但假冒“靳东”的账号并未从网络上消失。

去年11月，江西宜春一位老人就深陷“靳东”情网，称她给自己表白还发布两人合照，需要贷款200万帮他拍戏。

全红婵被AI造假卖鸡蛋，骗子利用她出身农村的背景，编造出“帮母亲卖鸡蛋”的故事。

在视频中“全红婵”用标志性的亲昵语气恳求粉丝购买鸡蛋，评论区大量粉丝信以为真，纷纷下单，该商品链接显示已售出4.7万件。

骗子甚至拉来“外援”，用AI克隆孙颖莎和王楚钦的声音，利用人们对“冠军天团”的信任，进行精准诈骗。

古天乐、林峯等明星的肖像、声音及过往视频片段被线上游戏平台利用 AI 技术，合成为带有赌博性质的代言宣传片。

老牌港星黄百鸣被人用影视片段AI拟声，代言不知名药膏。

刘晓庆、张馨予等明星也都曾被AI侵权，虚假视频或广告在网络上肆意传播。

虽然已经明文规定AI视频要有标识，但为何AI造假还是屡禁不止？

03

一方面是平台的监管问题，只封号处理，而没有深挖。

盗播账号利用“镜像翻转”“画中画遮挡”等技术规避平台AI识别，通过更换IP地址、使用虚拟定位、修改设备ID等手段绕过封禁规则。

另外一方面的原因是违法成本的降低，之前制作一个AI换脸费用高达3.5万元，可如今，只需要简易的AI制作工具，就能制作出明星带货直播。

对于平台而言，应加大技术投入，利用先进的人工智能检测技术，对平台上的内容进行实时监测和分析，及时识别出AI换脸生成的虚假内容和诈骗信息。

同时，要加强对平台用户的审核和管理，提高账号注册的门槛，实行严格的实名认证制度，对疑似侵权或诈骗的账号及时进行封禁处理。

但更重要的是我们个人要提高分辨能力和防范意识。

不要轻信陌生人的信息和承诺，涉及金钱和个人信息等重要内容时，要更加的谨慎对待。

需要转账的时候，一定要多方求证，利用双方都知道的一些经历，确定对方身份的真实性。

技术本身没有错，错的是背后利用它的人。

AI技术本身具有巨大的潜力和价值，在医疗、教育、艺术等领域大大提高了效率，也催生了不少新职业，为我们的生活带来了前所未有的便利和创新。

我们在遇到明星带货直播时，应该多一份警惕，对他们的带货保持理性判断，避免受骗上当。

文章描述过程、图片都来源于网络，此文章旨在倡导社会正能量，无低俗等不良引导。

如涉及版权或者人物侵权问题，请及时联系我们，我们将第一时间删除内容!如有事件存疑部分，联系后即刻删除或作出更改。

欢迎关注

图片来源网络 侵删

部分参考资料：

打假“AI温峥嵘”不能只靠演员温峥嵘——新华网

央视曝光假冒艺人直播，温峥嵘遭牵连，曾一天举报50多个账号——凤凰网

孙颖莎、王楚钦、全红婵被假冒!真相曝光——人民日报

AI“消化内镜精灵”立大功:3毫米早期腺瘤精准检出——扬子晚报

靳东:喜爱我的观众被骗很惨，雷军:我也是受害者，AI换脸风险怎么破?——潇湘晨报