警用设备厂商 Axon 宣布暂时不部署人脸识别技术
面部识别是一个颇具争议的话题,即使不探讨日常监控和许多警察佩戴随身摄像头的行为,这个话题也已经很有争议了。但是,Axon(该公司制造了众多此类摄像头)就这个问题征求了一个独立研究委员会的意见,并根据自身调查结果决定暂时不使用面部识别技术。
该公司之前的名称为 Taser,去年成立了 “人工智能与监控技术伦理委员会”(AI and Policing Technology Ethics Board),成员包括来自不同领域的 11 名专家。该委员会刚刚发布了他们的第一份报告,主要讨论的是面部识别的危害。
他们给出的建议是十分明确的:不要使用面部识别,无论是现在,还是将来。
更具体地说,他们的研究结果如下:
- 从道德角度来讲,面部识别并未得到足够好的应用。
- 不要谈论 “准确性”,要谈论具体的 “假阴性” 和 “假阳性”,因为它们更能说明问题,相关度更大。
- 使用任何面部识别模型都不应该过度个性化,否则就有可能被滥用。
- 要启动任何一种面部识别应用,都必须征得受影响者的同意并使其输入相关信息。
- 除非有强有力的证据表明这些程序确实有好处,否则不应谈及使用的问题。
- 在受政治或道德影响的地方,面部识别技术实行不了,或者将来也行不通,所以在开发或推广它们时要考虑现实的情况。
点击 这里,阅读研究报告全文;报告中很多内容是关于家政和内部事务的,但从第 24 页开始就涉及到面部识别的应用。上面每个要点都用几页篇幅进行解释和例证。
Axon 表示,它很认同研究报告的结论:“在人脸识别技术方面,委员会的第一份报告为我们提供了考虑全面且可行的建议,作为一个公司,我们认同委员会的建议并与之保持一致,目前 Axon 不会对随身携带摄像机的面部比对产品实施商业化。”
这并不是说他们对这项技术不再做深入研究。在我看来,如果没人继续研发这项技术,是难以达到理想的效果的。这份报告不是反对这项技术,而是建议 Axon 在人工智能研究领域要不断进行最佳的实践活动,以确保他们的工作不会出现偏差以及系统性缺陷。
有一点很有趣,那就是人脸识别和人脸比对是有区别的,但这个问题并不总是被提及。虽然前者是一个口语通用术语,但我们认为在出现偏差等情况时会用到它,但从术语学上看,前者与后者不同。
面部识别或面部检测,只是发现照片中构成人脸的一些特征——例如,智能手机可以用它来对焦或应用某种特效。人脸比对是将检测到的人脸的一些特征和数据库中的人脸进行比较,以便使之与存储的人脸相匹配——这样通过 Face ID 可以解锁你的手机, 但它也可能被联邦调查局(FBI)用来对每一个进入机场的乘客与通缉名单进行比对。
Axon 利用面部识别和跟踪技术来处理警察随身摄像头拍摄的长达数小时的视频。当这段视频需要作为证据时,除了直接相关的人之外,其他的面孔可能需要进行模糊处理,除非你知道这些面孔的具体位置,否则无法做到。( 更新:这段话最初写道,Axon 使用了一种 “较小形式的人脸比对”,即在视频中比对人脸,但不与任何中心数据库匹配——它称之为人脸再识别。事实上,这项技术目前还没有进行商业化部署,仅仅处于研究阶段。)
以当前形式来看,这种特别的人脸技术似乎是良性的,而且毫无疑问,还有其他许多应用是难以被否认的。但随着面部识别技术越来越成为主流,有这样一些咨询委员会来保证使用这些技术的公司具有诚实的态度,这本身就是件好事。
题图来源:Stegerphoto/Getty Images
翻译:皓岳
Police body-cam maker Axon says no to facial recognition, for now