微软CEO纳德拉：面部识别技术对社会危害大

BI 中文站 1 月 18 日报道

微软首席执行官萨提亚-纳德拉(Satya Nadella)认为，如果一些技术被滥用，那么它们就会对社会形成很大的危害，因此政府应该对它们进行监管。他列出的第一个例子就是面部识别技术。

周一，在该公司总部的媒体邀请会议上，他对满屋子的记者发表了自己的看法。一名记者问他如何看待科技行业即将面临的监管问题。

“我们认为监管问题将会变得越来越复杂。”他补充说。在某些情况下，微软实际上是在呼吁政府采取新的监管措施。

“就拿面部识别技术这个概念来说，它现在太可怕了。这绝对是一场彻头彻尾的竞争。”他说，“这一切都是以竞争的名义进行的。任何赢得交易的人都能做任何事。这对我们这个行业或整个社会都不会有好的结果。更好的做法是制定一些我们大家都可以遵守的规则，这样我们才能保护真正重要的东西。”

温文尔雅的纳德拉并没有点名道姓地批评谁。但他发表这番言论的背景是在亚马逊的 Rekognition 面部识别服务正饱受诟病。

今年 5 月，美国公民自由联盟(ACLU)披露，亚马逊向政府机构提供了 Rekognition 面部识别服务，让政府机构来监督公民。它还写了一封公开信，要求该公司停止这样做。为了证明这项技术对公民自由的危害，美国公民自由联盟在 7 月份报告称，Rekognition 面部识别服务错误地将 28 名美国国会议员认定为曾被逮捕的罪犯。

去年夏季，数百名亚马逊员工向该公司请愿，要求停止销售 Rekognition 面部识别服务。就在本周，由五名亚马逊股东组成的联盟提交了一份决议，呼吁亚马逊停止向政府机构出售 Rekognition。这些股东总共拥有 13.2 亿美元的亚马逊股票。

早在 2018 年 7 月份，在人们针对亚马逊的批评达到顶峰时，微软首次呼吁对面部识别技术进行监管。

去年 12 月，微软首席律师布拉德-史密斯(Brad Smith)在一篇博客文章中再次呼吁监管面部识别技术。他指出，面部识别技术在三个方面非常危险：侵犯人们的隐私，政府以牺牲“民主自由”为代价进行大规模监控，以及科技行业中的种族偏见带来的风险。

在辨别有色人种时，面部识别技术的效果非常糟糕，经常认错人。这种误认可能产生非常严重的后果，特别是在执法部门使用这项技术的时候。

有趣的是，亚马逊不是第一家捣鼓这项技术的公司。Facebook 也在这项技术上引起了争议，比如在欧盟 GDPR 隐私法规生效后，该公司试图在欧洲重新引入这项技术。

而且，早在亚马逊成为焦点之前，微软在面部识别技术问题上也曾遭到批评。

一年前，《纽约时报》报道了乔伊-布兰韦尼(Joy Buolamwini)在麻省理工学院媒体实验室所做的一项研究。她发现三个领先的人脸识别系统——微软、IBM 和中国的旷视科技的人脸识别系统——在识别非白人面孔方面表现得很糟糕。微软对深色皮肤女性的错误率为 21%(而另外两者的错误率为 35%)。

周一，纳德拉承认，每当该公司受到严肃的批评时，它都会认真对待。

事实上，史密斯在去年 12 月的一篇博客文章中第二次呼吁对这项技术进行监管。就在不久之前，美国国家标准研究所(National Institute Of Standard)公布了对这项技术的持续测试结果。测试发现，微软的面部识别技术的水平有了很大提高。

与此同时，提供面部识别技术的公司数量也在激增。在去年 9 月的最后一次测试中，美国国家标准研究所测试了来自全球 39 个开发机构的面部识别算法。

本文链接