碉堡了！AI在发展过程中的BUG

科技时代，我们更加怀念温暖邂逅的时光

后台回复“想要”，得到近期有温度的推荐

全文共3497字，预计阅读时长4分钟

今年，人工智能项目 AlphGo 和 Libratus 分别在围棋和德州扑克两个领域战胜了世界上最好的人类选手。虽然这些里程碑事件显示了近些年人工智能的发展程度，许多人仍然对新兴技术整体的成熟程度抱有怀疑——尤其是考虑到刚刚过去一年中出现的一些人工智能的失误案例。

我们十分清楚地认识到，一些新技术并不能有效地执行自己本来的任务，时常会犯一些人类从不会犯的错误。以下是我们挑选出来的部分人工智能失误事件。

塑料、硅胶、化妆品面具解锁 Face ID

Face ID，一种用来解锁最新款 iPhone 的面部识别技术，一度被称为迄今为止最安全的人工智能激活方法。苹果公司曾夸口称 Face ID 的解锁失误率仅为百万分之一。

但是随后越南公司 BKAV 使用了由 3D 打印的塑料、硅胶、化妆品和一些剪纸制成的面具就成功破解了 Face ID，而面具的造价只有 150 美元。

BKAV 只是扫描了测试对象的脸部，使用 3D 打印机生成了一个脸部模型，贴上了一些剪纸眼睛、嘴巴和硅胶做的鼻子。Face ID 的破解给整个行业带来了冲击，加剧了对消费者设备隐私的风险以及更普遍的人工智能技术安全性的考量。

你以为Face ID只有在用面具作弊的情况下才不好用？

有时候你用自己的脸都解锁不了。

著名音乐人、现阿里娱乐战略委员会主席高晓松曾发文称，自己iPhoneX的面部识别功能彻底被玩坏了！而且，去专卖店修了2个小时，硬是没检查出来问题，苹果专卖店最后只好给换了台新的。

不过，高晓松发文中最后的“嘿嘿嘿，只有我知道原因何在！以后每隔俩月就可以去换一台新手机”似乎很有深意，激起仍让网友们瞬间脑洞大开，纷纷猜测“原因”，贡献了满满的笑点！

Amazon Echo 故障引发邻居报警

最近大受欢迎的 Amazon Echo 被认为是更加强大的智能扬声器之一。但是没有东西是完美的。

一名德国男子的 Echo 在其外出期间被意外唤醒，并在半夜开始大声地播放音乐，吵醒了邻居。邻居报了警，警察不得不打破前门才把 Echo 关闭。

事后警察更换了门锁，房子的主人回家时发现自己的钥匙已经打不开自己的房门了。

Facebook 关闭聊天机器人

Facebook脸书公司的 AI机器人Bob 和Alice，是在很多机器人中被幸运选中的，他们正在参加一个试验项目，这个项目是关于社交网络助手的，也就是如果我们如果在应用社交网络的过程中出现问题，进行询问，他们会启动程序，进行自动回复。

听起来好像很平常对不对，毕竟现在自动回复到处都是在他们的工作中，主要用英文，他俩主要负责帽子、书籍、球类等的在线交易和议价。在他们的背后，“本来”是有很多优秀的工程师和一行行的代码支持的…

但是最近，发生了一件令人细思极恐的事情，据悉，事情发生在Facebook下设的人工智能实验室，“吓坏了”的工程师使出了杀招——拔插销。

媒体慌了，社交网络爆了......

而国内媒体也发出了这样的解读......

大家纷纷猜测这是不是可以被视为“机器觉醒元年”的大事件。

可事实上，这场“对话”是经过程序员事先设计的，而且Facebook关停这一研究项目也跟被“吓坏”完全扯不上关系。

为了不被各方媒体的盲目跟风式报道带乱节奏，我们得来看看这俩机器人大兄弟究竟聊了啥：

AI机器人Bob和Alice突然在没有任何人为干预的情况下对起话来了！

研究者们听到了这个，都震惊了！！

反应过来后，赶忙将他们两个关掉了…

最开始，研究者们觉得Bob和Alice说的没什么意义，但是仔细一想，这..难道是…他们自己的语言？！这个对话好像改动了正常的英语，难道这样会更便于他们的交流？

如果仔细研究，会发现Alice说的 “对我（to me）” 其实是试验项目中的回答模式。项目研究人员们惊呆了，是的，人工智能们没有必要一定要说我们理解的语言。

英国的机器人专家Kevin Warwick说，“这简直是（机器人研究的）里程碑，但是如果你认为这个不危险，就太‘自大’了…”“我们现在还不能清楚的知道他们到底交流了什么；但是如果他们可以动，比如军事用的那种机器人，结果可能是致命的。“

“比如，一个说，‘要不上？’另一个说‘好啊’

这就可怕了…”

消息听起来不免略显惊悚，但很快，pingwest中文网推文称，这完全是一场误会。实际上，Facebook并没有“关掉”这个系统，而是重新设定了正确的激励，修正了机器人的行为，让机器人用标准的英文语法来进行交流。修正的原因也不是因为害怕 AI 失控——他们的目标是让机器人和人聊天（提高和人聊天的技巧），两个聊天机器人聊天根本没有意义。

自动驾驶巴士上路第一天就发生事故

去年11 月，一辆自动驾驶巴士在拉斯维加斯华丽亮相，包括常驻拉斯维加斯的魔术明星 Penn & Teller 在内的众多名人争相排队试乘。

然后，仅仅在两个小时后，这辆公交车就和一辆货车相撞。

据报道，事故中无人驾驶巴士前保险杠受损，不过车上 8 名乘客与卡车司机并没有受到任何伤害。

据当地官员表示，这起事故其实主要责任在于人类驾驶司机，无人驾驶巴士的传感器及时检测到了碰撞威胁并刹车试图避免事故，不过人类司机并没有注意到这一潜在的威胁，结果发生了碰撞。" 如果卡车有相同的传感器，这起事故本可以避免的。" 当地官员称。

尽管从技术角度来看，公交车无须为此次事件负责——据警方所说，货车司机才应该为此次事件负责——但是这辆智能巴士上的乘客还是抱怨说，公车还是不够智能，卡车慢慢靠近的时候，它无法摆脱危险。

Google Allo 用头巾表情回应枪支表情

美国有线电视新闻网的员工使用 Google Allo 时收到了一个带有头巾的人的表情建议。而这个表情是因为一个手枪表情触发的回复建议。谷歌尴尬地向公众保证，问题已经得到解决，并向公众道歉。

双胞胎骗过了汇丰银行的声纹识别 ID

汇丰银行的声纹识别 ID 是一个以人工智能为核心的安全系统，允许用户通过语音命令访问自己的账户。

尽管汇丰银行声称这套系统和指纹 ID 一样安全，但是 BBC 的一名记者的双胞胎兄弟却能通过模仿声音访问他的账户。实验尝试了 7 次才成功。汇丰立即给出了解决方案，登录失败三次后即锁定账户。

声纹又以交互自然、具有内容变化和使用成本低等特点从众多的可选方案中脱颖而出，逐渐成为身份识别领域的一匹“黑马”。

Google 人工智能把步枪错认为直升机

这是什么？

熟悉枪械的盆友可能一眼就认出这是步枪，即使对枪种类不熟悉的同学也能认出这最可能是枪。

但……这道题对谷歌Cloud Vision API并不简单，经过推理后，这个AI认定图中物体为直升机。

这不是CSAIL研究人员的首次尝试，曾有段黑历史：

去年11月，他们创建的Expectation Over Transformation (EOT)算法在识别带纹理图案的3D模型后，继而生成它的对抗性图像，骗过了谷歌InceptionV3图像分类器，让系统将3D乌龟模型误认为是步枪。

这个对抗样例很大程度上是在“白盒”设置中设计的，研究人员了解InceptionV3的工作机制，知道如何去捉弄它。

因为这种对抗性例子与真实世界不太相似，AI系统攻击者无处寻找特定算法，因此“白盒”攻击的威胁性不大。

步枪＝直升机？但这次步枪当成直升机的研究，不一样。

在将步枪错认成直升机的例子中，MIT研究人员是在“黑盒”环境下进行研究的，他们事先不知道里面的算法是什么样的。

他们设计出了一种快速生成黑盒对抗示例的方法，具备骗过不同算法的能力，连谷歌的Cloud Vision API也不幸遇难。仅仅稍微调整了图像像素，这一排枪就被识别成了直升机。

原图的识别结果为武器

调整像素后识别结果为直升机

研究人员不只是随机调整照片，他们用一种标准方法试图欺骗AI系统。每一次试图愚弄AI时，他们会分析结果，然后慢慢向可以欺骗系统认为这是特定物体的方向引导。

研究人员随机生成标签，在步枪的例子中，“直升机”分类器也可以很容易地成为“羚羊”分类器。他们想证明他们的系统是有效的，无论选择什么标签。

亚马逊Alexa助手自动帮小孩下单购买玩具

今年早些时候，一名六岁的女孩在跟Echo内置人工智能语音助手Alexa聊天时，意外订下了价值170美元的玩具和一盒重达四磅的饼干。

虽然孩子的妈妈在收到一个不知打哪来的订单确认电话后立刻进行了取消操作，但该订单却已经被处理，且一个跟孩子身高几乎相同的玩偶就在隔天送来了。最后，他们无奈的决定将这一玩偶捐赠给当地儿童医院。

 “还原马赛克”AI技术堪比恐怖图库

谷歌大脑（Google Brain）团队此前开发了一个软件，能利用人工神经网络来填充低分辨率图像细节。也就是说，那些打了马赛克的照片有可能在后期被谷歌成功还原。只不过，在实际使用中我们发现还原马赛克AI技术给出的许多还原后照片都非常恐怖。

读芯君开扒

2017年，人工智能以极高的曝光频率出现在大众视野中，在金融、医疗、教育等多种领域统统展现了不凡的身手。尤其是当AlphaGo以3:0完胜世界排名第一的围棋选手柯洁、深圳无人驾驶汽车试运营、惊现无人超市微笑打折等新闻连续刷屏，大众对人工智能的发展前景表示充满期待的同时，也深深地开始担忧。

我们在感受着人工智能为生活提供便捷服务的同时，也会遭遇到令人捧腹的bug，但我们不能忽视的一点是，现在人工智能领域有种浮躁的氛围，任何产品贴上“人工智能”的标签都似乎价值无限，行业需要冷静的声音。在夜幕下的火光中你认为美丽的东西，也应该在朝阳东升之时再冷静地看看它。

过渡时代，必有革命。人工智能是否能担此重任，这一切都是未知。

留言 点赞 发个朋友圈

我们一起探讨AI落地的最后一公里

作者：二岳初

参考文献：

http://www.sohu.com/a/212616005_610300

http://www.sohu.com/a/162270631_464025

http://mp.weixin.qq.com/s/OS-HMC8GCJ1auhi2JNPXnQ

https://m.sohu.com/a/212933566_99985415/?pvid=000115_3w_a

如需转载，请后台留言，遵守转载规范

推荐文章阅读

长按识别二维码可添加关注

读芯君爱你