近日,美国联邦贸易委员会(Federal Trade Commission ,FTC)公布了一项特殊的处罚决定:勒令一家名为「Everalbum」的公司删除其从客户手中收集的照片,以及利用这些数据训练出的所有算法。
勒令删除用户隐私数据倒不是什么新鲜事儿,但强制删除 AI 算法模型的案例我们还没怎么听说过。
「存储空间无限的云相册,AI 帮你整理照片」
Everalbum 成立于 2013 年,主要产品是一款名为「Ever」的相册软件。这一软件允许用户将移动设备、电脑上或社交媒体账户中的照片和视频上传到云端存储,声称可以帮助用户节省手机空间,但却未告知用户其真正的盈利模式。
能给用户提供免费且无限的照片存储空间,Everalbum 看起来「名副其实」,但天下哪有免费的午餐。
「整理好了,你的手机现在看起来是否轻盈了一些?」
2019 年,NBC News 等媒体曝出:「Ever」利用其收集的用户照片训练人脸识别算法,而且未在其隐私条款中写明,严重侵犯了用户的隐私权。此外,他们还将训练出的算法卖给了执法机关和军方。
这一信息的披露给 Ever 造成了很大的负面影响,不仅迫使其修订了隐私条款,公司的名称也改为「Paravision」,以远离纷争。
2020 年 8 月 31 日,「Paravision」宣布关闭 Ever,但对外公布的原因是「与谷歌和苹果默认服务之间日益加剧的竞争」。所有用户存储在云端的照片和视频都在当天被删除了, Ever 只持续了 7 年时间。
在应用关闭之前的一个月,Paravision 还在推销自己的产品,声称其开发的口罩人脸识别算法在美国国家标准技术研究所(NIST)的人脸识别算法测试(FRVT)中获得了准确率第二的好成绩。
除了人脸识别解决方案,该公司还提供一系列活动识别工具。知名科技媒体 techcrunch 曾表示,「虽然面向消费者的应用已经关闭,但公司的业务似乎还在继续」。而且,这部分业务还相当成功。Crunchbase 数据库的资料显示,Paravision 成立至今已经进行了 5 轮融资,融资额高达 2900 万美元。
媒体的曝光也引起了 FTC 的关注。经过一段时间的审查,FTC 公布了对于 Everalbum 的最终处理结果。
这项决定可能会对 Paravision 的业务带来一些麻烦。据《连线》报道,该公司最近刚刚与美国空军签署了一项价值 200 万美元的合同。FTC 这项命令颁布之后,Paravision 之前开发的人脸识别算法将无法用于该合同,之后的其他业务也可能受到影响。
这项决定得到了法律人士的支持。乔治城大学法律中心的 Lindsey Barrett 表示,「这是一种有意义的补救措施,可以让滥用公众隐私的业务成为一门有风险的业务,而不是像原来那样安全、有利可图」。
这一决定也可能对几家科技巨头产生重要影响。奥巴马前科技顾问 Ashkan Soltani 发文写道:「想象一下 Facebook 或 Google 这样的公司被要求删除其类似算法会是什么结果。可能最后删得核心模型都不剩了。」
在 FTC 发布这项命令之际,Facebook、Google 等科技巨头正面临严格的反垄断调查。它们的部分收益来自免费产品,而后者产生了大量的数据。这些数据的获取是否合法将决定其产品的去留。
目前看来,这些公司可能难逃指控。2019 年,谷歌因未经家长允许收集儿童信息被罚 1.7 亿美元。但当时,谷歌只被勒令删除了数据,算法和从数据中提取的信息得以保留。
此次命令的发布可能会改写类似诉讼的结局。Soltani 表示,「FTC 经常利用类似的小案件来确立规范和政策,以便日后在针对大公司的案件中使用。」
也有人指出,这个命令执行起来是很困难的。因为你很难知道对方有没有真的将算法删除。「万一有个员工用 U 盘将算法拷回家,回头重新开个公司怎么办」。
看来,这项命令的颁布可能只是个开始,要想真正产生效果还有很多工作要做。
免费的数据,新的「石油」
免费的就是最贵的。
来源:“机器之心”
图文编辑:北京师范大学 王知非