他们为何叫停人脸识别？

转载自 l 微信公众号“李强好书伴读”

文 l 劳东燕 叶展旗 钱童

编 l 李强

进出大学校园要出示证件，邮寄东西要核查身份证，住个宾馆要人脸识别，坐地铁人物同检尚嫌不够，还要进一步运用所谓的新技术，来继续提升安保级别。接下去，是不是要在所有的马路上，所有的公共场所，全面安装人脸识别的机器，以便随时将行人拦截下来盘问与搜身，将那些被认为危及安全的人进行拘押呢？

人脸识别等AI技术在中国野蛮生长的同时，三家美国科技巨头：IBM、亚马逊、微软反而接连叫停了人脸识别，前所未见。

▌人脸识别技术，关乎伦理问题，而非基于钱

“技术可以提高透明度、帮助警察保护社区，但绝不能放大歧视与种族不平等。”

IBM CEO 克里希纳（Arvind Krishna）向美国国会议员发出公开信，宣布不再提供通用人脸识别软件，提议制定负责任的技术政策；紧接着，亚马逊亦声明暂停向警方提供人脸识别技术一年时间；微软也表态停止向警方销售人脸识别软件，直到有相关国家法律出台。

三家公司是美国科技业的代表，市值总计3万亿美元。年过百岁的IBM是最老牌的科技企业，微软则是全球最大的软件公司，而亚马逊旗下AWS是最大的云服务商，同样服务着数以百万计的政府机构和企业。三家此次决绝的态度，也让人工智能（AI）伦理争议再起。

人脸识别是近年AI浪潮中的标志性技术，在特定领域远超人眼，被广泛应用于安防、金融等领域。

但由于数据量不足、数据种类单一等，识别算法更容易在深色皮肤、儿童等人群中出错，被视为“算法歧视”。AI技术上难以排除小概率问题，使大型科技公司屡遭指责。

AI系统的供应商和用户负有共同的责任，确保AI通过对偏见的测试。所以“暂停服务是个伦理上的决定，而非基于钱”。

相比之下，中国的企业在应用优先的环境中，人脸识别等一众新技术仍在野蛮生长。“全靠企业自觉。”一家云服务商主管称，行业中还未有治理共识。中国的监管很强，但属于事后监管，所以在恶性事件曝光之前，用户的数据权利就看企业的道德水平。“争论哪里能做人脸识别没有意义了，因为已然遍地都是。”

▌人脸识别滥用的“恶意”

很多人对人脸识别技术野蛮生长很不以为然，清华大学的劳东燕教授归纳了大概四种看法：

其一，想太多，竟不能体味与感恩政府如家父般的保护善意。

政府是由具体的人在运作，这就等于说，所有的个人数据，包括识别性极强的生物学数据，都是由群体中的少数人来掌控。这些人究竟掌控我们多少的个人信息，为什么要掌控我们的个人信息，掌控这些个人信息是要用来干什么，都是细思极恐的事。

掌控数据的人显然不是上帝，他们有自己的私欲与弱点。所以，他们会如何使用我们的个人数据，会如何操控我们的生活，都不得而知。

更不要说，这些数据因保管不善而被泄露或是被黑客侵入，导致为不法分子利用所可能产生的危害结果。

其二，有人会说，只要不干坏事，便无需担心政府掌控你的个人数据。

在一个正常社会中，个人理应拥有正当的权利，反对任何组织随意获取自己的个人生物学数据。法律之所以保护个人的隐私权与住宅自由，就是要让个人有自治的空间，这个空间不允许他人侵入。

这里的他人，不单指其他的个人或是一般的组织，也包括政府，包括国家。倘若个人的生物学数据也能以安全为名未经同意而随意获取，则法律上对隐私权与住宅自由的保护，还有什么意义？

无隐私即无自由。

其三，有人会提出，自己并非什么重要人物，别人想必也没有兴趣来了解我们的个人信息。

当你把个人安全的问题，寄希望于别人的忽视时，基本上就活得如亡命的赌徒一般了。并且，你赌的不只是自己的运气，同时还在赌，掌控数据的人是天使一般的存在。非要一厢情愿地认为自己能赌赢的人，不仅是鸵鸟性格，窃以为大概还需要上交一些智商税。

其四，还有人会辩解，这样的技术推广是有些问题，但反对也没什么用，就懒得花力气反对了。

攸关自身重大权益的事项，如若我们自己不站出来反对，做出应有努力，自然更不可能指望别人出来帮着呼吁。在没有做起码的努力之前，怎么就知道反对无效呢？即便反对最终无效，也终归比驯服地给自己套上枷锁要强。至少我们曾经努力过，做过一些抗争。

作为被侵害一方的我们，如果只是一味地默默地忍受，甚至不敢表明反对的立场，就等于是以不作为的方式，帮助对方来算计与加害自己。在这样的事情上，退一步并非海阔天空，而很可能从此坠入深渊。

因为这根本不是靠一味忍让就能解决的问题。眼看着一步步地走向深渊，这样的遭遇，至少部分是我们自己一味地隐忍所酿成的。

▌侵犯个人信息，公权力比商业机构更危险

商业机构以微利或是便捷安全之类的因素相引诱，让人们“自愿”地使用人脸识别，由于大多存在信息告知不充分的问题，很难成立有效的用户同意，故而其运用也难谓合法。

不过，在一心谋求自身利益的同时，企业与相应的技术人员，难道就没有想过，这样的技术推广会给社会带来什么样的灾难吗？难道不知道自己有一天也可能成为被反噬的对象吗？

不要扯什么技术中立之类的套话。当人脸识别技术被大肆用来获取普通公民的个人信息，并源源不断地汇集于庞大的组织之手。从事相应技术研究与推广的这些企业与技术人员，敢说自身就没有任何的责任吗？

假如电幕的世界有一天真地降临，你们是当之无愧的功臣；但愿到彼时，还能有人身自由去畅饮庆功宴上的美酒。

但是商业机构的滥用，至多不过是让人们损失一些钱财。真正令人担忧与恐惧的是，自己的信息被公权力部门所滥用；因为当他们滥用时，我完全不知道自己与家人会付出什么样的代价，财产、名誉、职业、自由、健康或是生命，一切皆有可能。

人脸识别技术运用于日常安保，无差别地监控所有人的行动，以期对公共领域实现精确把控，从而达到理想化的安全状态。 

这种行为将每一个人变成维护安全的工具，却漠视人本身才是安全的目的。

这和20世纪那些给人类带来整整一个世纪灾难的诸多行径别无二致，例如德国纳粹用科学手段测量劣等民族；苏联通过人兽杂交创造超级人猿战士；欧洲的“绝育法案”等等，都是试图用抽象、教条的科学方法论来管理、改造复杂、多变的人类社会，是对科学技术的滥用。

哈耶克在《科学的反革命》中说，滥用科学“把一个个活生生的人描述成‘毫无生命的自由原子’，他们消解了伦理道德，他们追求价值中立，驱逐价值判断，最终把人类社会引向奴役之路。”

可以说，人脸识别技术的运用，不仅是合法与否的问题，更是关乎人类自由命运的大事。

点击阅读 👇

为了能和你，没有失落与江湖的心酸

我的微信

我的备用号

感谢点亮“在看”，欢迎转发分享！