看完这 10 大 AI 失败案例，你就知道什么是“人工智障”了

点击上方“CSDN”，选择“置顶公众号”

关键时刻，第一时间送达！

今年，AlphaGo（DeepMind 公司研发） 和 Libratus（卡内基梅隆大学开发） 分别战胜了人类最顶级的围棋棋手和扑克牌玩家。虽然这两个里程碑事件向世人展示了近些年里人工智能已经取得了非常大的突破，但是失败与成功并存，在过去的一年中同样也出现了一些人工智能的失败案例，因此有很多人对这项新兴技术的整体成熟度持怀疑态度。

但作为人工智能的爱好者，很欣慰看到越来越多的人工智能项目落地，能够独立运行，从而部分代替人的工作，但是，它们有时也会出错，这些错误对人类来说可以轻而易举就能避免，接下来我们从 2017 年人工智能领域最具代表性的十大失败案例中学习经验。

iPhone X 的脸部识别技术可以通过面具破解

Face ID（刷脸认证方式）是解锁新型 iPhone X 的面部识别技术，被誉为迄今为止最安全的人工智能激活方法，苹果公司宣称其被破解的几率为百万分之一。

但是在其发布不久之后，越南的一家公司 BKAV 就破解了它，破解的方法是使用 3D 打印的塑料、硅胶、化妆品和剪纸构建一个人脸面具，其制造成本大约 150 美元。BKAV  公司首先扫描一个测试对象的脸部，然后使用 3D 打印机生成一个脸部模型，并贴上剪纸眼睛和嘴巴以及硅胶鼻子，这样一个面具就制作好了。这一破解事件让整个行业都感到不安，扩大了消费级设备隐私的风险，威胁到人工智能的安全。

Echo 音响午夜异常开启

亚马逊的 Echo 被认为是最强大的智能音响之一，但是任何事情都有其不完美之处。一名德国男子的 Echo 在夜间异常唤醒并开始播放音乐，然而他并不在家。之后音乐声吵醒了邻居，邻居不得不报警。警察只好强行撞开房门把 Echo 音响关掉，由于门锁被破坏，警察不得不换一把新锁，而当这名男子回家时发现自己的钥匙居然无法打开自己的家门。

Facebook 聊天机器人关停事件

今年七月，报道称有两个 Facebook 聊天机器人因以无法识别的语言相互沟通而被关停。一时间有关新的秘密超级智能语言的谣言四起，直到 Facebook 解释说这次神秘的交流只是由于语法编码的疏忽造成，谣言才得以停歇。

拉斯维加斯自动驾驶巴士发生撞车事故

一辆自动驾驶的巴士今年十一月在拉斯维加斯首次亮相，市民可免费乘坐，当时著名魔术师佩恩和泰勒也打算排队体验。然而这辆巴士刚刚运行了两小时，就和一辆半挂卡车发生了相撞事故。尽管当时的情况依照交通规则责任主要在半挂卡车，与巴士关系不大。但是这辆智能巴士上的乘客抱怨道，当时卡车靠近的速度很慢，巴士原本可以避开，但是它不够智能和聪明，从而没有摆脱危险。

Google Allo 使用头巾表情符号来回应枪支表情

美国有线电视新闻网(CNN)的工作人员通过 Google Allo 收到了一个戴头巾的人像的表情建议。原来这是由于包含手枪的表情符号引发的。尴尬之下，Google 只好向公众致歉并保证它已经解决了这个问题。

孪生兄弟破解汇丰银行语音识别系统

汇丰银行的语音识别是一个基于人工智能的安全系统，允许用户通过语音命令访问他们的账户。尽管该公司声称这项技术和指纹识别一样安全，但一名 BBC 记者的双胞胎兄弟却能够通过模仿他的声音访问他的账户。尝试七次就成功了。汇丰银行暂时的解决办法是只要失败超过三次就锁定用户的账户。

谷歌 AI 将步枪误识别为直升机

通过对步枪照片进行一些微调，麻省理工学院的一个研究小组就蒙蔽了Google Cloud Vision API，使得系统将步枪图片误识别为直升机。这个不良样本会导致计算机通过引入人眼无法察觉的修改来对图像进行误识别。在过去，只有当黑客知道目标计算机系统的内部机制时，伪造破坏性样本才会起作用。而这次，麻省理工学院的团队在不需要了解系统内部的情况下就触发了误识别。

恶作剧路牌误导自动驾驶汽车

研究人员发现，通过使用油漆或胶带对停止标志进行伪装，可以造成自动驾驶汽车对这些标志的误识别。通过在 STOP 标志上添加 “LOVE” 和 “HATE” 这两个词可以误导自动驾驶汽车的机器学习系统，造成它将 STOP 路牌误识别为限速标志。经测试，几乎每次都会误识别成“限速 45 ”。

AI 将 Bank Butt 误认为 sunset

机器学习研究人员 Janelle Shan 训练了一个神经网络，以生成带有名称的颜色，名称应当和对应颜色匹配。以及可以“匹配”每种颜色的名称。颜色可能令人赏心悦目，但是名字滑稽可笑。尽管他用颜色名称数据进行了少量训练，该模型仍然将天蓝色标记为“Gray Pubic”，将深绿色标记为“Stoomy Brown”。

向虚拟助手 Alexa 提问时需要格外小心

亚马逊 Alexa 虚拟助手让网上购物变得更容易。但也许是购物过程太过容易了，1 月份时，圣地亚哥新闻频道 CW6 曾报道说，有一个六岁的小女孩通过 Alexa 非常简单地就购买了一个价值 170 美元的玩具屋。故事还没有结束，戏剧性的是，当电视主持人重复了这个女孩的话，说：“我喜欢这个小女孩说，'Alexa 请帮我订一个玩具屋' ”时，一些观众家里的 Alexa 设备再次触发了玩具屋订购操作。

原文：2017 in Review: 10 AI Failures

链接：https://syncedreview.com/2017/12/23/2017-in-review-10-ai-failures/

作者：SYNCED

译者：安翔

责编：苏宓