央视名嘴变 " 鱼油主播 ",爸妈的养老金又要被坑了!
事情得从今年 2 月说起,有网友刷到一个 88 万粉丝的直播间。卖货主播居然是大名鼎鼎的央视主持人李梓萌,正一本正经推荐 " 深海多烯鱼油 "。
说能治头晕头痛、手麻脚麻,把老年观众唬得一愣一愣的。
可等监管部门一查,好家伙,这根本是 AI 合成的 " 假李梓萌 "!
所谓的 " 神药鱼油 " 实际执行标准是糖果,连普通保健品都算不上,纯属挂羊头卖狗肉。
今年 6 月,北京海淀区市监局正式出手,这也是北京首次用《广告法》整治 AI 仿冒名人带货的案子,涉事公司乖乖领了行政处罚。
网友评论区直接炸了:" 骗子连央视的公信力都敢蹭 "。
这波操作精准拿捏了老年人对权威的信任,再加上 AI 技术把神态语气仿得惟妙惟肖,普通人确实难辨真假。
其实,AI 仿冒名人带货早已不是个例。随着换脸换声技术门槛越来越低,大批名人都成了黑灰产的 " 数字工具人 "。
从去年 11 月开始,抖音上突然冒出大批 " 于东来 ",用他标志性的温和语气推荐各类商品,从零食坚果到日用百货应有尽有。
不明真相的粉丝还以为是商业大佬终于跨界带货,纷纷下单支持。
结果又被耍了,这些账号靠着 AI 合成技术,把于东来的神态、声音甚至说话的停顿感都复制粘贴。
巅峰时期,有一千多个于东来的 " 数字分身 " 在线卖货。
好在平台反应迅速,抖音直接封禁了上千个违规账号,还把线索上报给监管部门。
最终,泉州市丰泽区市监局查处了核心涉事企业,没收违法所得还罚款 15 万。
不过网友们纷纷表示,还是罚得太轻了。
区区 15 万,和背后巨大的利润相比简直不值一提啊,等风头一过,又会卷土重来。
虽然抖音早就出台了 AI 内容规范,可架不住背后的诱惑实在太大了,连奥运冠军都被迫带货农产品。
自带 " 国民妹妹 " 光环的奥运冠军全红婵,稀里糊涂成了 " 农产品主播 "。
今年 8 月,短视频平台刮起 " 全红婵带货风 ",镜头里的她穿着休闲装,手里举着土鸡蛋,连说话时有点腼腆的小动作都模仿得惟妙惟肖,相关视频播放量动辄百万级。
这样的形象和声音让粉丝误以为是全红婵本人,纷纷下单。
他们还拉来孙颖莎和王楚钦等两位国民度很高的奥运冠军,集体为土鸡蛋背书。
明眼人一看就知道,这些全是 AI 伪造的虚假内容,但是一些老人真得很容易上当。
有消费者信了 " 全红婵推荐 ",买了变质鸡蛋后怒喷冠军。
更离谱的是,背后还藏着一条灰色产业链。
不少 " 知识博主 " 公然在平台售卖 AI 克隆教程,几十到上百元就能买到全套换脸换声技术,甚至还提供 " 定制合成 " 服务。
最终央视出手打假曝光黑幕,虚假视频被集中清理,但全红婵遭受的名誉损失却难以挽回。
除了这些,骗子还喜欢打着 " 医生推荐 " 的名头直播卖货,张宏文医生已经成了 " 蛋白棒推销员 ",这对老年人的杀伤力可比明星大多了。
去年 12 月,不少老人的朋友圈里突然冒出 " 张文宏医生带货 " 的视频。
画面里的 " 张医生 " 正在推荐某品牌蛋白棒,说 " 增强免疫力必须吃 "。
老人们信以为真,疯狂下单,某账号单款产品就卖了 1200 多件。
张文宏本人后来在采访中气得直吐槽:" 这些假账号不止一个,像蝗虫一样投诉了一个,隔天又冒出来好几个…… "
虽然懂行的人能看出视频合成痕迹粗糙 —— 比如嘴型和声音没对上、表情有点僵硬。
但老年人哪懂这些,只认 " 张文宏 " 这个名字,很容易被 " 权威医生推荐 " 的名头忽悠。
上海消保委直接怒批这种行为 " 突破道德底线 ",把医疗公信力当骗钱工具;平台也展开专项治理,关闭了上百个违规账号。
可问题在于,黑灰产换个手机号、换个账号名就能卷土重来,单靠平台单点打击,始终治标不治本。
这些案例无一例外,都暴露了 AI 时代的致命漏洞。
首先是名人权益被肆意践踏,他们的公信力和知名度都成了骗子牟利的工具,但是维权成本却非常高。
其次是消费者沦为待割的韭菜,尤其是信息滞后的老年群体,67.3% 的中老年人曾遭遇网络诈骗,AI 技术更是让骗局升级换代。
技术本身没有善恶,AI 合成可以用于影视创作、公益宣传,却不该成为诈骗工具。
当李梓萌们的数字分身被滥用时,我们每个人都可能成为下一个受害者。
这场 " 身份保卫战 ",需要监管、平台、公众形成合力,别让科技进步的红利,变成黑灰产的狂欢盛宴。
毕竟,信任一旦被 AI 摧毁,重建起来可比打假难得多。
参考资料:
央视新闻、电商观察、九派新闻
编辑:茶茶
登录后才可以发布评论哦
打开小程序可以发布评论哦