女星吴越遭AI盗脸带货|声音画面全伪造 涉事骗徒帐号连夜更名

加拿大都市网

内地近年利用AI深度合成技术“盗脸”带货的乱象愈演愈烈。知名女演员吴越于10月18日凌晨发文痛斥,指有商户利用AI伪造其声音与外貌,打着其名号高价推销护肤品,怒轰骗子“替自己作恶”并要求退款。涉事帐号随后被发现已连夜更名试图避责。

吴越痛斥:请退还骗款

内地“AI盗脸拟声”高科技骗局再次引发社会震怒。曾参演《我的前半生》等多部大热剧集的54岁女星吴越,于10月18日凌晨3时许在社交平台发文维权,怒斥有人利用AI软件肆意抓取其公开影像及复制声音,为一个名为“花姐美肤日记”的帐号推荐护肤品。

女星吴越发文轰遭AI盗脸带货。
女星吴越发文轰遭AI盗脸带货。
涉事视频号“花姐美肤日记”。
涉事视频号“花姐美肤日记”。
女演员温峥嵘早前亦曾自爆刷到多达3个直播间同时出现“AI温峥嵘”在卖力带货。
女演员温峥嵘早前亦曾自爆刷到多达3个直播间同时出现“AI温峥嵘”在卖力带货。
女演员温峥嵘早前亦曾自爆刷到多达3个直播间同时出现“AI温峥嵘”在卖力带货。
女演员温峥嵘早前亦曾自爆刷到多达3个直播间同时出现“AI温峥嵘”在卖力带货。
涉事视频号“花姐美肤日记”发放的影片。
涉事视频号“花姐美肤日记”发放的影片。
涉事视频号“花姐美肤日记”发放的影片。
涉事视频号“花姐美肤日记”发放的影片。
涉事视频号“花姐美肤日记”发放的影片。
涉事视频号“花姐美肤日记”发放的影片。
涉事视频号“花姐美肤日记”发放的影片。
涉事视频号“花姐美肤日记”发放的影片。
涉事视频号“花姐美肤日记”发放的影片。
涉事视频号“花姐美肤日记”发放的影片。
涉事视频号“花姐美肤日记”发放的影片。
涉事视频号“花姐美肤日记”发放的影片。
涉事视频号“花姐美肤日记”发放的影片。
涉事视频号“花姐美肤日记”发放的影片。

影片中的“虚拟吴越”声称与厂家合作送福利,以极逼真声线教唆消费者“闭着眼睛囤”,更宣称“孕妇也能用”。

除吴越外,该影片末段甚至出现了乒乓球世界冠军邓亚萍的AI虚拟画面。吴越对此怒轰:“谁在利用AI替自己作恶?请如数奉还骗取的钱款!”

“我如何证明我是我”成明星维权困局

在吴越发声后,涉事视频号“花姐美肤日记”已被发现连夜改名为“小刘打工日记”,试图以改头换面的手段逃避追责,此举亦反映现时平台事前审核严重失职。

事实上,此类AI侵权事件近年层出不穷。女演员温峥嵘早前亦曾自爆,自己曾于半夜刷到多达3个直播间同时出现“AI温峥嵘”在卖力带货,当她本人亲自进入直播间留言质问“你是温峥嵘我是谁”后,竟瞬间被对方禁言并拉黑。温峥嵘无奈坦言,一天内举报50个假冒帐号仍“举报不完”,直言“现在很难证明我是我”。

电商业内人士透露,现时在网络平台上,利用明星公开影像素材进行“人脸替换、复制声音”的AI工具技术门槛极低,制作成本仅需数十至数百元人民币。虽然部分侵权影片在角落标注了“含AI生成内容”,但字体极小,消费者极易受骗。法律界促请当局及各大平台必须将监管前移至“事前审核”,切实阻断AI侵权黑产链。

share to wechat

延伸阅读

延伸阅读

四部门约谈30车企 要求严守安全底线

96岁老人独游西藏 完成走遍中国最后一站

欧盟拟对华商品实施额外限制 商务部:勿幻想施压换好处

杀猪盘|批量“AI小海”卖惨骗同情带货 专收割中老年大妈