人脸识别?有些人可不乐意

CBN weekly - - New New Thing/ 技术 - 文| CBN特约记者杨翘楚美术编辑|徐春萌

守护安全、便利生活的同时,不少人也开始担心人脸识别的隐私风险和可能存在的歧视与不平等。

今年夏天,美国政治家山福德·毕晓普(Sanford Bishop)遇到了一件烦心事。这位来自佐治亚州的民主党众议员和另外27名同事都被亚马逊公司的人脸识别系统Rekognition识别为“有案底”的可疑分子。

这当然是场误会。美国公民自由协会(ACLU)组织了这场测试,他们将535位国会成员的面部特征输入到系统中,与2.5万名记录在册的犯罪分子面部特征比对后,得出了“28人有嫌疑”的荒唐结论。

亚马逊公司随后表示,闹出这场“乌龙”是因为ACLU使用人脸识别技术不当,如果将识别结果的信任阈值从80%调高到95%,情况就会大为改观。但如此表态无法说服ACLU,事实上,这个团体的一大主张便是限制人脸识别技术的使用。

在美国,以人脸识别为代表的生物识别技术已然成为日常生活的一部分—当然,在中国也是如此。

在2016年以AWS云服务的形式输出其图像识别系统Rekognition后,亚马逊已经拿到了不少政府客户的订单。正式发布产品前,俄勒冈州的华盛顿县警方就已经装备了这套系统。县警方为每位警员安装了人脸识别的手机程序,后台直接连通了储存着30万张可疑人士照片的数据库。华盛顿县负责新闻事务的官员杰夫·塔波特(Jeff Talbot)表示,警方的目的是为了更好地处理犯罪问题,引入这套系统丝毫没有偏离现有的公共安全体系。

反对华盛顿县这种做法的,并非只有ACLU。今年6月,亚马逊的20家股东团体联名致信亚马逊总裁杰夫·贝索斯,要求他停止向司法部门出售Rekognition。他们的理由是,这套系统的数据库有着“许进不许出”的特征,也就是说,曾经被警方讯问但实际没有犯罪的人,也会记录在30万照片库中无法清除。

此外,准确性也让他们担心这些人脸识别系统能否承担起捍卫公共安全的职责。2017年起,英国伦敦和 南威尔士率先试点了自动局部识别技术(AFR)。令人意外的是,这项技术在伦敦的准确性仅有2%,但大都会警察局的局长克莱斯达·迪克(Cressida Dick)依然表示这是令人满意的结果。更夸张的是,在一场应用了该系统的欧冠联赛的安检中,系统一共发出了2470次警报,换算下来,每3秒就会有一名嫌犯出现。

为什么会出现这样滑稽的结果?作为一种已经非常成熟的技术,人脸识别是否精确,关键在于数据的积累。数据越少,越容易失准,也就越难以推广。但不推广、不积累数据,精确度也就始终上不去。

与识别人的动态影像相比,照片中的人脸识别已广泛商业化了,而且早已全面铺开。2 010年以来, Facebook上线了这种功能。程序对标记过的照片做出分析,生成一个名为模板(template)的字符串。当有新的照片上传到Facebook,系统马上就可以比对出这是否是同一个人。你开启这项功能,就能防止自己的照片被别人盗用。盲人用户还可以借助屏幕阅读器之口,听一听照片中都有谁和自己合了影。

太多的好处让人脸识别无法因为准确性或隐私的问题被拒绝,所以一些科学家便开始研发新技术试图干扰和对抗人脸识别技术。

微软、IBM和Face++的研究发现,同样是人脸识别,浅肤色男性的识别错误率仅为1%,浅肤色女性为7%,然而深肤色男性的错误率有12%,深肤色女性的错误率更高达35%。作为一家全球有色女性科学家的联盟,Hyphen-Lab认为“这个问题很敏感,本质上是身份政治的问题”。

来自柏林的艺术家亚当·哈维(Adam Harvey)和Hyphen-Lab想出的办法是欺骗系统。

他们设计了一款围巾。系统需要首先检测出来人脸,在统一化处理后,对面部的不同区域做切割分析,而后一一比对局部特征。明白了人脸识别的算法,设计者们在围巾上堆叠了大量的特征点。在特定的角度仔细看,你会觉得他们有点像抽象的人脸。

扫描到戴着这条围巾的真人后,系统也会同时处理围巾上所有的“面孔”。对于一些造价高昂的系统而言,它们可以在一秒钟内处理上百万张人脸,围巾不足以让系统宕机,但足以模糊掉哪张脸才是真实的你。哈维建议,围巾使用者配合墨镜等其他装备一起使用能收获更好的效果。密歇根州立大学的生物计量学教授阿那尔·嘉恩(Anil Jain)指出:“墨镜会让系统无法定位你的眼睛,也就没办法对面部特征做局部分析”。

除了墨镜,会变色的眼镜也能起到同样效果。日本一位叫越前功的科学家发明了一种装有LED光源的风镜,当人行走到监控之下,眼镜上的11盏LED会发出紫光,并在胸口处投射出光斑,让系统无法认出你是谁。

不过虽然足够有效,但一副需要随身携带电源的眼镜在马路上随时发出光线,依然让它只能作为一种技术原型而非量产的商品。

这可能也是所有反人脸识别技术的窘境。作为一个有着巨大前景及利润可图的产业,在向社会保证将把 Rekognition控制在合法范围内使用后,这项技术今天依然在亚马逊的官网上对外出售。广开销路让这项技术能积累越来越扎实的数据,丰厚的回报让公司能够不断投入力量更新系统。纯粹从社会价值出发的反人脸识别技术,陷入的是一场不对称战争。

美国最新的公共安全系统已经加入了步态识别技术。即便看不清脸,根据走路的样子,系统也可以判断谁是谁。面部可以遮起来,但想要有意改变走路的姿态骗过系统,恐怕难度将大大增加。

相关技术正以我们可能想象不到的速度飞速发展。微软全球执行副总裁沈向洋曾对《第一财经周刊》说,视觉识别在未来十年就可能超过人类,不过“对于技术带来伦理问题,我们还处在早期学习阶段。”

所以要想逐步解决这些问题,除了Hyphen-Lab们,人脸识别的技术先锋们更应该在某种程度上参与进“反人脸识别”的运动中。比如沈向洋建议,公司发布相关产品前,至少应该有一个伦理委员会先去审核一些公司平时不会去想,但确实可能会遭遇的事情。

静脉识别、虹膜识别、视网膜识别等各式生物特征识别技术已悄然嵌入日常生活。彻底否定他们当然不现实,但公司们确实需要注意,在发展这些新技术时,也要避免同时创造出一种加大歧视的机器,毕竟,掌握自己的身份、命运和形象的权利,属于每个人自己。

同样是人脸识别,对于不同肤色、种族甚至性别的人来说,准确率却可能大不相同,这本身就是一个敏感的身份政治问题。

Newspapers in Chinese (Simplified)

Newspapers from China

© PressReader. All rights reserved.