查看原文
其他

他们为何叫停人脸识别?

维罗阳光 2021-03-22
转载自 l 微信公众号“李强好书伴读”
文 l 劳东燕 叶展旗 钱童
编 l 李强




进出大学校园要出示证件,邮寄东西要核查身份证,住个宾馆要人脸识别,坐地铁人物同检尚嫌不够,还要进一步运用所谓的新技术,来继续提升安保级别。接下去,是不是要在所有的马路上,所有的公共场所,全面安装人脸识别的机器,以便随时将行人拦截下来盘问与搜身,将那些被认为危及安全的人进行拘押呢?


人脸识别等AI技术在中国野蛮生长的同时,三家美国科技巨头:IBM、亚马逊、微软反而接连叫停了人脸识别,前所未见。



人脸识别技术,关乎伦理问题,而非基于钱

 


“技术可以提高透明度、帮助警察保护社区,但绝不能放大歧视与种族不平等。”
 

IBM CEO 克里希纳(Arvind Krishna)向美国国会议员发出公开信,宣布不再提供通用人脸识别软件,提议制定负责任的技术政策;紧接着,亚马逊亦声明暂停向警方提供人脸识别技术一年时间;微软也表态停止向警方销售人脸识别软件,直到有相关国家法律出台。


三家公司是美国科技业的代表,市值总计3万亿美元。年过百岁的IBM是最老牌的科技企业,微软则是全球最大的软件公司,而亚马逊旗下AWS是最大的云服务商,同样服务着数以百万计的政府机构和企业。三家此次决绝的态度,也让人工智能(AI)伦理争议再起。


人脸识别是近年AI浪潮中的标志性技术,在特定领域远超人眼,被广泛应用于安防、金融等领域。


但由于数据量不足、数据种类单一等,识别算法更容易在深色皮肤、儿童等人群中出错,被视为“算法歧视”。AI技术上难以排除小概率问题,使大型科技公司屡遭指责。


AI系统的供应商和用户负有共同的责任,确保AI通过对偏见的测试。所以“暂停服务是个伦理上的决定,而非基于钱”。


相比之下,中国的企业在应用优先的环境中,人脸识别等一众新技术仍在野蛮生长。“全靠企业自觉。”一家云服务商主管称,行业中还未有治理共识。中国的监管很强,但属于事后监管,所以在恶性事件曝光之前,用户的数据权利就看企业的道德水平。“争论哪里能做人脸识别没有意义了,因为已然遍地都是。”
 



人脸识别滥用的“恶意”
 


很多人对人脸识别技术野蛮生长很不以为然,清华大学的劳东燕教授归纳了大概四种看法:


其一,想太多,竟不能体味与感恩政府如家父般的保护善意。


政府是由具体的人在运作,这就等于说,所有的个人数据,包括识别性极强的生物学数据,都是由群体中的少数人来掌控。这些人究竟掌控我们多少的个人信息,为什么要掌控我们的个人信息,掌控这些个人信息是要用来干什么,都是细思极恐的事。


掌控数据的人显然不是上帝,他们有自己的私欲与弱点。所以,他们会如何使用我们的个人数据,会如何操控我们的生活,都不得而知。


更不要说,这些数据因保管不善而被泄露或是被黑客侵入,导致为不法分子利用所可能产生的危害结果。


其二,有人会说,只要不干坏事,便无需担心政府掌控你的个人数据。


在一个正常社会中,个人理应拥有正当的权利,反对任何组织随意获取自己的个人生物学数据。法律之所以保护个人的隐私权与住宅自由,就是要让个人有自治的空间,这个空间不允许他人侵入。


这里的他人,不单指其他的个人或是一般的组织,也包括政府,包括国家。倘若个人的生物学数据也能以安全为名未经同意而随意获取,则法律上对隐私权与住宅自由的保护,还有什么意义?


无隐私即无自由。
 

其三,有人会提出,自己并非什么重要人物,别人想必也没有兴趣来了解我们的个人信息。


当你把个人安全的问题,寄希望于别人的忽视时,基本上就活得如亡命的赌徒一般了。并且,你赌的不只是自己的运气,同时还在赌,掌控数据的人是天使一般的存在。非要一厢情愿地认为自己能赌赢的人,不仅是鸵鸟性格,窃以为大概还需要上交一些智商税。


其四,还有人会辩解,这样的技术推广是有些问题,但反对也没什么用,就懒得花力气反对了。


攸关自身重大权益的事项,如若我们自己不站出来反对,做出应有努力,自然更不可能指望别人出来帮着呼吁。在没有做起码的努力之前,怎么就知道反对无效呢?即便反对最终无效,也终归比驯服地给自己套上枷锁要强。至少我们曾经努力过,做过一些抗争。


作为被侵害一方的我们,如果只是一味地默默地忍受,甚至不敢表明反对的立场,就等于是以不作为的方式,帮助对方来算计与加害自己。在这样的事情上,退一步并非海阔天空,而很可能从此坠入深渊。


因为这根本不是靠一味忍让就能解决的问题。眼看着一步步地走向深渊,这样的遭遇,至少部分是我们自己一味地隐忍所酿成的。


 
侵犯个人信息,公权力比商业机构更危险



商业机构以微利或是便捷安全之类的因素相引诱,让人们“自愿”地使用人脸识别,由于大多存在信息告知不充分的问题,很难成立有效的用户同意,故而其运用也难谓合法。


不过,在一心谋求自身利益的同时,企业与相应的技术人员,难道就没有想过,这样的技术推广会给社会带来什么样的灾难吗?难道不知道自己有一天也可能成为被反噬的对象吗?


不要扯什么技术中立之类的套话。当人脸识别技术被大肆用来获取普通公民的个人信息,并源源不断地汇集于庞大的组织之手。从事相应技术研究与推广的这些企业与技术人员,敢说自身就没有任何的责任吗?


假如电幕的世界有一天真地降临,你们是当之无愧的功臣;但愿到彼时,还能有人身自由去畅饮庆功宴上的美酒。


但是商业机构的滥用,至多不过是让人们损失一些钱财。真正令人担忧与恐惧的是,自己的信息被公权力部门所滥用;因为当他们滥用时,我完全不知道自己与家人会付出什么样的代价,财产、名誉、职业、自由、健康或是生命,一切皆有可能。


人脸识别技术运用于日常安保,无差别地监控所有人的行动,以期对公共领域实现精确把控,从而达到理想化的安全状态。 
 

这种行为将每一个人变成维护安全的工具,却漠视人本身才是安全的目的


这和20世纪那些给人类带来整整一个世纪灾难的诸多行径别无二致,例如德国纳粹用科学手段测量劣等民族;苏联通过人兽杂交创造超级人猿战士;欧洲的“绝育法案”等等,都是试图用抽象、教条的科学方法论来管理、改造复杂、多变的人类社会,是对科学技术的滥用。


哈耶克在《科学的反革命》中说,滥用科学“把一个个活生生的人描述成‘毫无生命的自由原子’,他们消解了伦理道德,他们追求价值中立,驱逐价值判断,最终把人类社会引向奴役之路。”


可以说,人脸识别技术的运用,不仅是合法与否的问题,更是关乎人类自由命运的大事。


点击阅读 👇
老师不读书,怎么能教好书?
陋兰:多难岂能兴邦?反思才能兴邦!
不要害怕深度阅读的苦,那是你去看世界的路
阅读的五个层次(多数人连第一层都过不去)
她用手机偷拍,不仅无人发现,还屡次斩获国际大奖…



为了能和你,没有失落与江湖的心酸




我的微信



我的备用号





感谢点亮“在看”,欢迎转发分享!



    您可能也对以下帖子感兴趣

    文章有问题?点此查看未经处理的缓存