闽公网安备 35020302035485号
堆代码讯 近日,AI 平台 Clarifai 宣布,已经删除了 300 万张来自约会应用 OkCupid 的用户照片,以及所有使用这批数据训练而成的面部识别 AI 模型。而这一删除动作的背后,是一场尘封了 12 年的隐私丑闻:两家公司的高管借着互相投资的关联关系,偷偷违反隐私政策,将数百万约会用户的隐私数据,偷偷拿去训练 AI,直到近日,这场迟到的调查才终于落下帷幕。
这起事件的源头,要追溯到 2014 年。当时,刚刚起步的 AI 公司 Clarifai,急需大量的人脸数据来训练自己的面部识别模型。于是,Clarifai 的创始人兼 CEO Matthew Zeiler,向自己的投资人 ——OkCupid 的联合创始人 Maxwell Krohn,发出了数据请求。在一封邮件中,Zeiler 直白地写道:“我们现在正在收集数据,并且刚刚意识到 OkCupid 肯定有大量可用于此的优质数据。”
而这一请求,很快就得到了回应。当时,OkCupid 的多名高管都已经投资了 Clarifai,靠着这层私人的投资关系,OkCupid 直接向 Clarifai 开放了用户数据:近 300 万张用户上传的个人照片,以及配套的人口统计、位置等隐私数据,全部被交给了这家 AI 公司。但讽刺的是,根据 OkCupid 当时的隐私政策,这种向无关第三方共享用户隐私数据的行为,本就是被明确禁止的。那些在约会应用上上传照片、填写个人信息的用户,根本不知道自己的隐私,会被平台偷偷拿去给一家 AI 公司训练模型。靠着这批数据,Clarifai 训练出了能够根据人脸估算年龄、性别和种族的面部识别工具,而这一切,都是在用户完全不知情的情况下完成的。
这起秘密的数据共享,就这样被隐藏了 5 年。直到 2019 年,《纽约时报》的一篇报道提到,Clarifai 曾利用 OkCupid 的图像来构建面部识别工具,这才引发了美国联邦贸易委员会(FTC)的注意,调查由此启动。而在调查过程中,FTC 发现,Match Group(OkCupid 的母公司)和 OkCupid,不仅偷偷做了这件事,还在此后的多年里,一直试图隐瞒这一行为,甚至阻碍 FTC 的调查,最终 FTC 不得不通过联邦法院来强制执行调查要求。
直到上个月,FTC 才终于和 Match Group 以及 OkCupid 达成了和解。在和解中,OkCupid 和 Match Group 并未承认自己欺骗用户、违反隐私政策的指控,但 Clarifai 随后的删除动作,已经默认了这一切的真实性:公司不仅删除了那 300 万张照片,还删除了所有用这些数据训练的模型,以此来向监管机构证明,自己已经处理了这批非法数据。截至目前,OkCupid 和 Clarifai 都没有回应媒体的置评请求。
然而,这场持续了 7 年的调查,最终的处罚结果,却让不少人感到失望。由于这是 Match Group 和 OkCupid 的初犯,FTC 无法对他们处以罚款。最终,监管机构只能给出一个 “永久禁令”:禁止两家公司未来就数据收集和共享的性质进行虚假陈述,禁止他们再做类似的违规行为。换句话说,哪怕他们偷偷拿了 300 万用户的隐私数据,训练了 12 年的 AI 模型,最终也不需要付出任何金钱上的代价,只需要保证以后不再这么做就行了。