视觉志 15小时前
被盗播女明星,难证清白
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_yule1.html

 

" 你是温峥嵘我是谁?"

这句充满荒诞的质问,正出自演员温峥嵘本人。她公开揭露了自己遭 AI 换脸盗播的遭遇——多个带货直播间,盗用她形象," 假温峥嵘 " 正卖力推销。

而当本尊亲临现场,发出这句直抵核心的质问后,温峥嵘竟被 AI 直接拉黑。

随手刷一刷短视频,你会发现,类似的戏码几乎无处不在。形形色色的明星仿佛在推荐着五花八门的产品,背后却是千篇一律的模板:播放一段剪辑的画面,配上 AI 模仿的明星声音,抑或直接让 "AI 换脸明星 " 上阵直播。

这已然形成了一套完整的、工业化生产的造假流水线。

而在这个连 " 我该如何证明我是我 " 都成了现实难题的时代,AI 技术正在不动声色地侵蚀并重塑着我们社会的信任基石。

真假 " 温峥嵘 "

演员温峥嵘的这条与 AI 换脸技术对抗的漫漫维权之路,其实从今年 4 月就已经开始了。彼时,她曾在个人社交账号发布短视频,公开 " 打假 " 那些冒用她形象进行带货的行为。还明确表示自己只有一个账号直播,并支持粉丝对盗播的直播间进行举报。

然而温峥嵘个人的维权似乎并没有什么效果。直到她发现竟然有人 AI 换脸变成 " 她本人 " 在直播间带货,但有网友询问 " 是否为本人 " 时,也总会有看似无关的账号迅速回 . 复 " 就是她本人 "。

然而,在温峥嵘亲自发评论质问对方后,她直接就被拉黑了——连对峙的机会都不曾拥有。

除了直播间,那些冒用 " 温峥嵘 " 之名的 AI 推销视频也在各大平台频繁出现。这些商家盗用她的直播素材,通过录播抠图、AI 换脸等技术手段,合成出几可乱真的虚假直播内容。

更令人咋舌的是,在这些精心炮制的视频中,不仅有温峥嵘,频繁出现的还有舒淇、张柏芝等明星,视频中的她们都声称 " 支持 " 温峥嵘推荐的产品。这显然也在说明,这些明星的声音、肖像也已早早被 AI 成功复制。

依据平台规定,如果使用 AI 生成内容,视频中应当明确标注。然而这些商家大多未作任何标识,即便有在画面角落打上 "AI 生成 " 水印的,也常以贴纸、文字等有意遮挡,试图掩盖虚拟与真实的界限。

而此类的 AI 换脸视频现象猖狂到什么程度呢?有粉丝透露,自己曾一天举报 18 个 " 温峥嵘 " 直播间,但根本举报不过来,因为新建账号的迅速,往往举报一个就会新增一个。

从 4 月温峥嵘发布短视频维权至今,不难发现短短半年间,AI 技术的迭代就已让 " 假温峥嵘 " 完成了 " 赛场转换 "。赛博温峥嵘不仅能在直播间带货,还能分享日常、即兴跳舞。除了偶尔流露出的亢奋状态与温峥嵘本人气质略有出入外,其形象、声音、微表情几乎难以辨识。

最密集时,同一时间,不同的衣服,温峥嵘居然可以实现在三个直播间同时带货的 " 有丝分裂 "。由于观众通常只停留于单一直播间,除非刻意对比观察,否则很难察觉眼前主播实为 " 多人一面 " 的数字幻影。

泛滥的 AI 带货也已对温峥嵘本人的声誉造成实质伤害。有网友就在评论区坦言,自己就是因为频繁刷到 " 温峥嵘 " 带货直播,对她产生反感,直至得知真相才恍然大悟。

另一方面,正因真假难辨,温峥嵘想要证明 " 我不是我 " 的维权成本被无限推高。她只能借助媒体发声、在个人账号反复澄清立场。但在算法驱动的内容洪流中,这样的努力犹如蚍蜉撼树。

最可能的情况是,澄清尚未触达多数用户,新一批仿冒内容又已悄然上线。

这场温峥嵘与赛博温峥嵘的身份争夺战,变成了人们在这个数字时代所要面对的荒诞困境的缩影。

数字幽灵

然而这样的赛博困境并不只发生在温峥嵘的身上,实际上,几乎所有的明星都在面临着 AI 换脸的潜在威胁。

在与 AI 相关的黑产从业者的报价中,1600 元就能定做一份 " 名人脸 "。杨幂、迪丽热巴、刘亦菲等明星都在这份定制名单上。由于很多认证系统仅仅检查脸部和声音,而这两点目前都可以被 AI 伪造,这也导致系统容易受到深度伪造攻击。

这与我们传统印象中的 " 明星脸 " 截然不同。因为无论长得有多像,那些刻意模仿明星的网红也只敢在名字上打打 " 擦边球 ",不敢真的顶着明星的头衔直播。然而,AI 换脸就是伪造明星身份,也因此对明星的社会影响危害巨大。

比如就有网友曾经刷到 AI 换脸杨幂的直播间,卖衣服的主播顶着杨幂的脸,只要不回应是不是杨幂本人的评论,就很容易让网友产生是杨幂在直播的感觉。

而这个操作也并不复杂。曾有 " 卖家 " 在网上分享过如何操控换脸软件对直播间里的人进行实时换脸,在他的操作之下,迪丽热巴秒变成龙也只要 5 秒就可以完成。

,时长 00:20

实际上,当卖货直播与 AI 强绑定,明星的肖像安全仅仅是问题的冰山一角。

比如有网友发现,很多直播间中那些看似美丽、有活力的主播,其实都是 AI。当我们进入直播间时,看到主播在卖力带货,却不知屏幕那头的他们,可能只是一个 " 数字幽灵 "。

早前就有网友调侃过,在直播间买衣服,发现主播走路的姿势很奇怪,结果是 AI 生成的。所谓的 " 上身效果 " 其实完全和实物效果不同。真相是,由于真人模特成本高,AI 模特更便宜,现在的很多商家更愿意选择 AI 主播。

宁可苦了消费者,也不能让商家少赚 1 分钱。

还有那些午夜场还在持续开播,播满通宵的 " 主播们 ",她们永远不疲倦,可以 24 小时不间断地在多个直播间 " 上班 ",推销各种产品。有网友就曾很奇怪为什么这些主播能这么拼命,后来才发现这直播间里都是科技与狠活。

这条日趋成熟的低成本 AI 直播产业链,凭借采集真人主播的影像资料,制作出高度仿真的数字人模型。这些模型一旦制作完成,便可被反复使用、无限复制,甚至同时出现在多个直播间进行 " 不间断带货 "。

当然 AI 主播的问题也很明显,就是这些主播大多回答不了具体的问题,特别是服装类产品,当网友想要询问某些细节时,AI 主播通常不予理会,或是答非所问,因为他们的回答是根据模板生成的,回答效果自然也不可能尽如人意。

所以此类直播大多在半夜,且在面向老年人的保健品带货直播间更为常见。原因我们当然也清楚,比起跟随科技成长起来的年轻人,老年人更不容易识 . 别 AI 的真假,也更容易掉入 AI 主播的圈套。

还有直播间利用 AI 技术搭建假场景带货,这个情况通常会出现在购买食材相关的直播间。你以为是直播间没有中间商的新鲜食材,其实全是 AI 影像做出的假象。

而在这种 " 野火烧不尽 " 的态势下,普通消费者简直防不胜防。一旦他们在直播间下单,最终收到的商品货不对板,等待他们的就非常有可能是遥遥无期的维权之路。

鬼打墙

AI 入侵的也不只有直播间,还有最考验沟通能力的客服环节。

与直播间里活力四射的 AI 主播不同,在这里等候我们的,是一个冷冰冰、程序化、缺乏共情的 AI 客服系统。

AI 客服只能识 . 别有限的口令,对于消费者的问题无法拆解并有效回 . 复。有网友就吐槽:说她问网店客服,服装配套的裤子有没有,其实是想让客服帮忙找货,结果 AI 客服能回答的只有模块三件套——

能拍就是有货、您可以看看我们的畅销款、请您对我的服务作出评价。

还有网友说自己想问产品净重多少,客服回答规格里有,完全无法识 . 别她的诉求。

于是,消费者不可避免地陷入了 AI 客服精心构建的 " 逻辑迷宫 "。在这个迷宫里,他们需要反复表达自己的诉求,或是在多层级的菜单中做出往往并不精准的选择。

AI 客服能够精准识 . 别关键词,却无法理解一句话背后的愤怒、焦急与无奈。它只会用一成不变的、标准化的礼貌口吻回应。

实际上,这是技术与服务的本质产生的错位:AI 客服无法识 . 别人类交流语境下的复合需求,只能以最简单的模块判断、沟通,其结果当然不尽如人意。所以也有人说,在 AI 进入客服行业后,最值钱的三个字就是:转人工。

而尴尬的现状是,即使转成人工,消费者也会对此抱有怀疑。因为智能客服的回 . 复模式单一,对于消费者提出的问题也无法真正实现有效解答,反而逼迫消费者成为维权路上 " 鬼打墙 " 的双重受害者。

所以更有网友吐槽,其实商家根本就不在乎真正解决消费者的需求,他们就是要用鸡同鸭讲的 AI 客服,将投诉、顾客需求挡在外面。

发现没有,AI 并没有让商业环境变得更方便,反而加重了商家与消费者之间的隔阂。某些无良的商家,前端利用 AI 技术无限地放大营销的声量,甚至不惜造假以触达用户;后端却用另一套 AI 技术来屏蔽、过滤和延缓用户因前端的过度承诺或欺诈行为而产生的合理诉求。

企业在这套机制中,似乎短暂地享受到了低成本、高转化的红利,但长远来看,它正在无情地侵蚀品牌最宝贵的资产——信任。AI,这个本应服务于人类的工具,在此刻反而成了阻隔沟通、推诿责任的帮凶。

眼见不为实

没有人会否认,AI 的发展确实给我们的生活带来了方便。但当 AI 一头扎进电商这片热土,它带来的就不全是惊喜了。"AI 换脸 ""AI 客服 " 只是一系列乱象的缩影,而这一切恰恰说明:技术一旦跑在规则和良知的前面,再好的工具也可能变成坑人的陷阱。

更可怕的是,这些乱象还只是水面上的波纹,真正危险的暗流已经悄然降临,那就是利用 AI 技术进行的精准诈骗。

是的,我们正一步步走进一个 " 亲眼所见也不一定为真 " 的时代,AI 诈骗成了这场信任危机里最让人防不胜防的一招。AI 的发展让骗子不仅可以 " 换脸 "" 换声 ",甚至能模仿你的亲人、朋友在视频里跟你实时对话。

今年夏天南京就审理了一起 AI 换脸诈骗案,犯罪分子通过 AI 换脸软件,以 " 人脸识 . 别 " 的方式,登录了 23 名被害人的金融平台支付账户,实施犯罪;还有骗子会利用 AI 配音给留学生的家长打电话,假装孩子被绑架,并要求家长支付赎金。

所以,别再觉得只有老年人才会上当,在高度逼真的 AI 面前,自认是见过世面的年轻人也未必能全身而退。而面对这样的新现实,我们每个普通人能做的,或许就是重新拾起一样老法宝——合理的 " 怀疑 "。

从带货直播间里真假难辨的 " 温峥嵘 ",到维权路上冷冰冰的 AI 客服,我们正在经历一场前所未有的信任危机。技术可以模仿人的面容、声音,甚至可以与我们进行正常的对话 …… 当 AI 能够代替无数面孔,模糊无数真相时,我们或许应该更加清醒。面对技术的浪潮,我们不可能,也不应该轻易缴械投降。

温峥嵘在直播间里质问 " 你是温峥嵘,我是谁 " 的那一刻,恰恰展现了每个普通人在 AI 时代最该保有的姿态——不盲从、不妥协。

在这个虚实交织的时代,保持质疑的勇气,守护真实的自我,这才是我们最坚固的数字护城河吧!

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

温峥嵘 ai 明星 举报 维权
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论