• 由AI制作合成的泰勒·斯威夫特不雅照在网络上疯狂流传
  • 发布于 1个月前
  • 571 热度
    0 评论
近日一组由AI制作的美国流行歌星泰勒·斯威夫特(Taylor Swift,中文绰号“霉霉”)不雅照在网络上流传。

对此,有网友热议:“科技也是双刃剑,AI技术如被滥用是很可怕的”。“AI看你怎么用了,副作用是显而易见了”。

据九派新闻报道,泰勒·斯威夫特正在考虑对生成这些图片的网站采取法律行动。“X”平台表示正在“积极删除相关图片”。伪造照片发布后,立刻引起了全网轰动。在发布照片的账户被封之前,这些照片被观看了超过千万次。

26日白宫记者会上,发言人让-皮埃尔回应此事,她表示“这令人担忧”。

让-皮埃尔称,“虽然社交媒体公司在内容管理方面能做出独立决定,但我们相信他们在执行自己规则,防止错误信息和未经同意的真实人物私密图像传播方面能发挥重要作用。”

她还称应该立法对AI生成的虚假信息图像进行遏制,表示拜登政府会努力解决这类问题。

美国AI深度造假诈骗正在增加
据澎湃新闻1月17日报道,就在不久前,由人工智能生成的假泰勒·斯威夫特(Taylor Swift)带货广告在社交媒体Facebook上传播。

图3.AI生成的泰勒·斯威夫特推销Le Creuset炊具视频

“嘿你们好,我是泰勒·斯威夫特。由于包装出错,有3000套Le Creuset(中文名译为‘酷彩’)炊具套装无法正常线下销售,转向线上出售。有一个好消息分享给你们,我与Le Creuset联手进行促销——有20位忠实粉丝将免费获得赠送的炊具套装。”

涉事公司对此迅速做出回应称,Taylor Swift没有参与任何消费者赠品活动,所有关于产品促销的活动均来自官方社交活动。AI“深度造假”技术合成了她的声音,并将声音与她的形象和Le Creuset广告片段拼凑在一起。当受害者被引导至虚假网站后,会被要求支付9.96美元的运费。但号称免费送的厨具不会真的送出去。

Facebook母公司Meta也对这一欺诈活动迅速做出了回应。目前,Meta表示已经删除该广告。Taylor Swift并非最新被牵扯到利用人工智能技术造假的名人。1月15日,印度的板球传奇人物萨钦·坦杜卡也成为了AI深度造假的受害者。

什么是AI“深度造假”?
AI“深度造假”(Deepfake)技术再次引发关注。深度造假(Deepfake)是英文“Deep learning”(深度学习)和“Fake”(伪造)的混成词,指利用深度学习技术生成合成图像、音频或视频的技术。

美国布法罗大学“媒体取证实验室”的计算机科学教授吕思伟 (Siwei Lyu)表示,“霉霉”这起“深度造假”诈骗活动很可能是利用文字转语音服务制作的。这类工具可将脚本转译成声音,并用唇语同步程序将其合成至视频片段。

过去一年,人工智能取得重大进步,制作未经授权的真人数字复制品变得更加容易,音频、视频恶搞特别容易,也很难识别。

美国商业改善局去年警告,“深度造假”诈骗正在增加,“在购买商品之前,请花一点时间重新检查帖子和社交媒体账户,这些照片和视频很可能是假的,如果你购买了不合格或不存在的产品,你就会损失金钱(通常比你想象的还要多)。”
用户评论