人脸识别的原罪？美国人越来越反感，IBM 高调宣布放弃，Twitter 网友：太晚了

人类群体对于技术的接纳，并不一定是一帆风顺的。

”

作者 | 李帅飞

美国人越来越反感人脸识别了。

具体来说，黑人 George Floyd 之死，也让美国社会继续反思警察执法问题，并由此引申到警察在执法中所采用的技术——其中最被严重诟病的，就是人脸识别。

在人脸识别再次成为众矢之的的情况下，科技行业也有了一些动静。

6 月 8 日，"蓝色巨人" IBM 宣布：IBM 将不再提供任何人脸识别和人脸分析软件——这是美国科技巨头第一次旗帜鲜明地放弃人脸识别业务。

不仅如此，IBM 也将不会再就这项技术进行研究和开发。

1

IBM 的政治正确

IBM 宣布放弃人脸识别，来自于 IBM CEO Arind Krishna 提交给几位美国参议员和众议员的一封信。

从信中的内容来看，放弃人脸识别业务的举动，是 IBM 因 George Floyd 之死而反对种族主义（Recism）的种种举措的其中一个。

在信中，Arind Krishna 表示：

IBM 坚定反对使用任何技术，包括其他供应商提供的人脸识别技术，来监视大众、种族定性、侵犯基本人权和自由、以及从事任何与我们价值观及原则不一致的事情。

当然，Arind Krishna 也肯定了 AI 的作用，表示人工智能是帮助执法部门保护公民安全的有力工具。

但他也强调，AI 系统的供应商和用户有共同的责任确保对 AI 进行偏见测试（Tested For Bias），特别是在执法中使用时，并确保对此类偏见测试进行审计和报告。

最后，Arind Krishna 还强调称，国家的政策还应鼓励和促进使用特定技术，来提高警务透明度和问责制，如人体摄像机和现代数据分析技术。

总体来看，IBM 的这封信，是一个议政属性较强的信件。它除了谈到对相关技术的措施和态度，还呼吁国会通过相应的议案和政策来推动警务透明、人员就业等问题。

显然，IBM 放弃人脸识别，有政治正确的因素。

但 IBM 方面告诉外媒 AXIOS，它做出这个决策并不是心血来潮，而是经过了数个月的讨论，并与客户进行了持续沟通。

另外，尽管 IBM 不再宣传、推销和更新这些产品，但它依旧会在有需求之时对现有的客户进行支持。

2

为什么是人脸识别？

当然，在政治正确因素之外，IBM 还有别的考量。

据美国 CNBC 报道称，一位知情人士承认，IBM 此举的确是踩中了当前美国社会对警察改革和种族不平等强烈关注的重要时机，但同时，IBM 也有商业层面的考虑。

该人士表示，实际上人脸识别业务并没有为 IBM 带来重大的营收——换句话说，弃之并不可惜。

但同时，该人士也承认，考虑到美国政府一直是 IBM 的主要客户，因此这个决定还是存在潜在影响的——但总之，这同时是一个商业和道德决策。

值得一提的是，Arind Krshna 是一位印度裔美国公民，他在两个月前，也就是 2020 年 4 月 6 日，正式就任 IBM CEO 一职。

在就任 CEO 之初，Arind Krshna 表示，IBM 将专注于混合云和人工智能两大战略；尤其是在云计算方面，他强调称，IBM 和 Red Hat 要把 Linux、容器和 Kunbernetes 建立为新的混合云标准。

显然，在 Arind Krshna 的领导之下，IBM 更为专注的是与微软和亚马逊等对手在云计算领域的战争——人脸识别技术自然也不值一提了。

雷锋网了解到，在人脸技术方面，IBM 虽然并不是特别突出，但也颇有一些作为。

比如说在 2019 年 1 月，IBM 曾经发布一个名为 Diversity in Faces（DiF）的脸部多样性数据集；其目标是加速公平且准确的人脸识别系统研究，减少对深色人种的辨识度偏差——该数据集包含 100 万张已标注的人脸图像。

当时，IBM 表示，DiF 的目标就是为研究人员打造无偏见人脸识别技术；相比过去，DiF 数据集提供了更分布更平均且广泛的人脸图像，也能够让研究人员跟进一步理解人脸特别。

但现在，IBM 却决定直接撂挑子了。

3

美国社会的人脸识别困境

IBM 这次的决定，对美国社会普遍反对人脸识别的情绪，也是一种迎合。

因为美国人实在是太不待见人脸识别技术了。

这背后的一个首要因素是美国的种族问题。2018 年的一个调查显示，人脸识别针对黑人女性的错误率高达 21%-35%，而针对白人男性的错误率则低于 1%——这在美国可以说是非常政治不正确的。

其次是准确率问题：据报道，亚马逊的图像识别 AI 系统 “Rekognition” 曾将 28 名美国国会议员识别成了罪犯，让美国社会一片哗然。

另外，美国社会隐私至上的理念深入人心，这也让美国民众担任人脸识别导致的安全和隐私问题，以及对于 “被监控” 本身的反感和忧虑。

为此，美国公民自由联盟（American Civil Liberties Union，ACLU）称人脸识别为 “可能是有史以来最危险的监视技术”，并多次上书美国政府：要求亚马逊停止向警方提供其旗下的 Rekognition 人脸识别技术。

就连旧金山市政府，也宣布禁止使用这一技术。

尽管如此，技术带来的便利依然不容抹杀。亚马逊等公司有用技术赚钱的需求，而美国警察也有实用技术的需求，因此包括俄勒冈州在内的众多美国州立政府，成为 Rekognition 的客户。

值得一提的是，2019 年，亚马逊在股东会议上就 "停止向政府机构销售人脸识别技术" 进行投票，结果显示，只有 2.4% 的股东同意这一销售禁令，所以投票没有通过。

后来在一次采访中，亚马逊 CTO Werner Vogels 称，技术无罪，我们无责任。

不过，对于亚马逊的说法，美国民众显然不会买账。

雷锋网观察到，在 George Floyd 之死引发的游行中，亚马逊位于西雅图市区的 Amazon Go 无人商店也遭到游行者的毁坏。

当时，亚马逊也在 Twitter 账号表示对黑人的支持，结果有美国民众质疑称：与其说一些好听的话，不如好好支付员工的工资；也有人质疑亚马逊能否停止向警方提供人脸识别监控技术。

另外，对于这次 IBM 的动向，在 Twitter 上，也有一位名为 Ananya Chakravarti 的美国网友说：

也许今天最大的胜利是很多人不会意识到的。但是，IBM 终止其面部识别技术业务，将比解散一个城市部门更能动摇全球严厉执法的基础。亚马逊，你的时间到了。

4

雷锋网总结

George Floyd 之死，引发的不仅仅是美国在政治和社会层面的问题；考虑到技术与人之间的密切关系，它也将影响到技术发展的未来。

IBM 禁用人脸识别，就是其中一个案例。

一个社会群体对于技术的接纳和融入，并不一定都是一帆风顺的，甚至有可能根本无法接受；对于美国这样注重政治正确和隐私至上的国家来说，George Floyd 之死，也许会让人脸识别技术的应用更是面临越来越严重的被动和尴尬局面。

IBM CEO Arind Krishna 说：

我们认为，现在是时候就（美国）国内执法机构是否可以使用面部识别，以及如何使用面部识别技术展开全国对话了。

对于这个问题，IBM 已经用行动给出了自己的答案，但美国政府和人脸识别技术的供应商恐怕不会那么容易就范。

最后一问：

IBM 此举，会最终导致美国政府停用人脸识别技术吗？

本文参考资料：

• https://venturebeat.com/2018/07/26/amazons-rekognition-misidentified-28-members-of-congress-as-criminals/

• https://www.ibm.com/blogs/policy/facial-recognition-susset-racial-justice-reforms/

• https://www.cnbc.com/2020/06/08/ibm-gets-out-of-facial-recognition-business-calls-on-congress-to-advance-policies-tackling-racial-injustice.html?__source=sharebar

• https://www.theverge.com/2020/6/8/21284683/ibm-no-longer-general-purpose-facial-recognition-analysis-software

• https://www.axios.com/ibm-is-exiting-the-face-recognition-business-62e79f09-34a2-4f1d-a541-caba112415c6.html

往期推荐