“照片脱敏”:新照片隐私技术能击败人脸识别AI算法
星期一, 七月 6, 2020
一秒钟之内,人眼只能扫描几张照片而计算机却能执行数十亿次(人脸识别)计算。随着社交媒体的爆炸式增长,图像已成为互联网上的新社交货币。
如今,Facebook和Instagram等主流社交媒体都在自动为照片中的用户添加标签,而Google Photos可以使用Google自己的图像识别技术识别照片中的用户并进行分组。
因此,当今对个人数字隐私威胁最大的不是不怀好意的人,而是机器的大规模人脸识别和采集。
近日,新加坡国立大学(NUS)计算机学院院长Mohan Kankanhalli教授领导的,该学院计算机科学系的研究团队开发了一种技术,可以通过对照片进行人类肉眼几乎难以察觉的细微变化来保护照片中的敏感信息,使选定的特征无法被已知人工智能人脸识别算法检测到。
此前,使用图片“加扰”技术造成的视觉失真会破坏照片的美感。为了克服这一局限性,研究团队开发了“人类敏感度图”,用于量化人类对各种场景中图像不同部分的视觉失真的反应。
开发过程始于一项涉及234名参与者和860张图像的研究。向参与者显示了同一图像的两个副本,他们必须挑选出视觉上失真的副本。
对结果进行分析后,研究小组发现人的敏感性受到多种因素的影响。这些因素包括照明、纹理、对象情感和语义等。
通过使用此“人类敏感度图”,团队将其注入低人类敏感度区域中,以将视觉失真对图像美学的破坏最小化(下图)。
AI算法能识别出左侧图片中的猫,但无法识别右侧“加扰”处理的图片中的猫
国大团队花了六个月的时间研究这项新技术。
对于数字隐私保护来说,现在阻止人们在社交媒体上发布照片为时已晚。但是,我们可以采取措施对抗AI算法,因为与机器的威力相比,人类跟踪者的威胁逐渐减弱。国大的解决方案可谓两全其美,一方面可以有效防范人脸识别AI算法,同时又不影响用户的使用体验,加扰后的照片肉眼看上去并没有明显变化。
最终用户可以使用该技术帮助在网上发布照片之前掩盖照片中的重要属性,并且默认情况下,社交媒体平台也有可能将其集成到他们的系统中。这将引入额外一层的隐私保护。
据悉,国大团队还计划将该技术扩展到视频隐私保护,视频是社交媒体平台上经常共享的另一种重要媒体。
相关阅读