人脸识别翻车了！怀孕8个月被「误伤」、黑人躺枪？

整理 | 朱珂欣   

出品 | CSDN（ID：csdnnews）

众所周知，人脸识别解锁了多种便利，风险也与之共存。

近日，据 NBC News 报道，美国的一位 32 岁女子 Porcha Woodruff 就无故躺枪。

被人脸识别「误伤」后， Porcha Woodruff 一纸诉讼将底特律警局告上法院，原因是 —— 警方使用了有缺陷的人脸识别技术，导致她怀孕 8 个月时被错误逮捕。

8 年前的驾照图成为「逮捕证据」

2 月 16 日， Porcha Woodruff 正准备送孩子们上学，家门口突然出现 6 名警察将她拦下。

警察向她出示逮捕令，声称她参与了 18 天前的一起抢劫事件。

据悉，这起案件的受害人在 1 月时遭遇了抢劫，随后警方对监控内容进行了面部识别。根据系统给出的结果，向受害者提供了 6 张疑似罪犯的照片。

而 Porcha Woodruff 照片就在其中，并被受害人指认成嫌疑犯。

为此，Porcha Woodruff 解释道：“指认的是我 8 年前更换驾照的照片。并且，监控中的嫌疑犯没有怀孕。”

Porcha Woodruff 的未婚夫也敦促警方确认监控中的嫌疑人是否怀孕，都无济于事。

无奈之下， 患有妊娠糖尿病 Porcha Woodruff 被警方带走。

被拘留了 11 个小时后， Porcha Woodruff 以 10 万美元的个人保释金获释后，被她的未婚夫送往圣约翰医院，通过静脉输液缓解脱水的症状。

一个月后，由于证据不足，案件初步审查后被驳回。

据相关法律文件显示：“仅凭面部识别并不能作为逮捕的可能原因，因为计算机的识别很容易出现人类也可能犯的错误。尽管具有潜力，但执法部门对面部识别的依赖导致了错误逮捕，造成羞辱、尴尬和身体伤害，这一点在这起特殊事件中凸显。”

随后， Porcha Woodruff 对底特律警方提起不当逮捕的诉讼。

目前，底特律警察局长 James E. White 在一份声明中表示：“我们正在严肃地对待此事……一旦获得更多事实，我们将提供进一步的信息。”

算法混淆之下，黑人容易躺枪？

无独有偶，这并非人脸识别导致的第一个闹剧。

据美国公民自由联盟称， Porcha Woodruff 已经是第 6 位因面部识别技术而被错误指控犯罪的人。

• 2020 年，非裔美国人 Robert Julian-Borchak Williams 成为被公开的第一位被机器错误定罪的无辜者。
• 2020 年， Michael Oliver 被底特律警察局错误逮捕，只因使用的面部识别软件错误地识别为小偷后受到指控。
• 2021 年，一位 42 岁男子 Robert Williams 一纸诉讼将底特律警察局告到法院，原因是因为人脸识别错误，他被当成小偷被捕，且在拘留所待了 30 个小时才被放行回家。
• ……

而被冤枉者中还有一处「共同点」：他们都是黑人。

令人唏嘘的是，据 2019 年美国政府的一项研究发现，许多面部识别算法错误识别少数族裔的可能性远高于白人。

美国国家标准与技术研究所也曾表示，美洲原住民、黑人和亚洲人受到影响的可能性都要高得多，某些算法混淆两个不同非白人的可能性高达 100 倍。

基于对坏结果的考量，研究人员曾多次警告不要广泛使用面部识别等可能导致种族或性别歧视的技术。

社会人士：“任何人都不该因种族主义和技术缺陷遭受逮捕！”

当人脸识别广泛应用于日常生活、刑事调查和监控，接踵而至的「误伤」事件同样引发关注。

为了减少「误伤」的发生，目前美国已有许多城市禁止城市官员使用面部识别技术，其中包括旧金山和萨默维尔。

对于此类事件，许多社会知名人士阐述了自己的观点。

乔治敦大学隐私与技术中心的律师 Clare Garvie 曾在一篇有关政府使用人脸识别系统的文章中强调，应禁止使用低质量的图像搜索系统，并且应对当前投入使用的系统进行严格的准确性和偏差测试。她认为：“人脸识别算法有好有坏，执法部门必须尽可能使用更好的算法。”

公民自由倡导组织“为未来而战”的竞选总监 Caitlin Seeley George 表示：“警方使用面部识别会产生严重后果，任何人都不该因种族主义和技术缺陷遭受逮捕。”

密歇根州 ACLU 高级律师 Phil Mayor 表示：“令人深感担忧的是，底特律警察局知道使用有缺陷的面部识别技术作为逮捕依据的破坏性后果，但仍然继续依赖它。”

随后， Phil Mayor 还补充道：“正如 Porcha Woodruff 的可怕经历，底特律警察局必须停止使用这项技术。此外，底特律警察局继续隐瞒其对这项技术的滥用，迫使权利受到侵犯的人逐案揭露其不当行为。”

与此同时，也有不少网友对「AI 的乌龙」展开了讨论：

• “谁可以为算法的偏见负责”；
• “当算法难以避免会出错，应该向谁问责”；
• “如果 AI 无法做到提供的信息完全精确，那我们又该如何提高警惕”……

参考链接：

https://www.nbcnews.com/news/us-news/detroit-woman-sues-city-falsely-arrested-8-months-pregnant-due-facial-rcna98447

https://edition.cnn.com/2023/08/07/us/detroit-facial-recognition-technology-false-arrest-lawsuit/index.html

https://www.theregister.com/2023/08/08/facial_recognition_detroit_arrest_error/?td=rt-3a

推荐阅读：