把大象当袜子，把北极熊当开瓶器：可以，这很AI

药明康德AI/报道

图像辨识是人工智能最为广泛的应用之一，深度学习通过算法和训练，就能辨识出图像中的物体。这个功能又被称为“机器视觉”（machine vision），但是我们暂时还无法完全理解机器视觉作用的机制。

为了研究AI机器视觉的机制是否和人类视觉相似，来自加州大学洛杉矶分校认知心理学的研究团队设计了五个有趣的实验，结果也出人意料：AI竟能把大象误认为袜子。

研究团队在实验中使用了一个名为VGG-19的深度卷积神经网络，这是目前现有识图能力较好的AI之一。VGG-19面对的挑战是，辨识一些被调整过的图片。研究者把图片中茶壶的图案替换成高尔夫球的纹路，把斑马的条纹贴在了骆驼的身上，还把袜子的红蓝菱形图案贴在了大象的身上。VGG-19需要在这些眼花缭乱的图片中，辨认出这些物体。

实验的结果有点搞笑，AI完全没有认出图案中的大象，AI对辨识茶壶的信心也只有41%（AI识图时会做出多个判断，并给出各个判断结果为正确的可能性，本文中用信心来描述这个指标）。和以往高准确率的图像识别率相比，实在是低的可怜。研究的第一作者Nicholas Baker先生认为，这是因为AI过度关注图面中的纹理，忽视了物体整体形状。

▲有高尔夫图案的茶壶（图片来源：Nicholas Baker/PLOS Computational Biology）

为了进一步验证这个想法，研究人员进行了第二个实验，并且还引入了另一个深度卷积神经网络AlexNet。AlexNet和VGG-19都采用了ImageNet图片数据库来进行深度学习训练。

第二个实验中，研究人员的测试道具是带有动物图案的玻璃制品。然而，这两个AI的成绩依然糟糕。它们完全无法辨认出大象造型的玻璃制品，VGG-19还做出很多令人啼笑皆非的判断。它把北极熊造型的玻璃制品当作“开瓶器”，把天鹅造型的制品当作“网页”。在1000次测试中，AlexNet的准确辨识率仅有328次。

▲北极熊造型的玻璃制品（图片来源：PLOS Computational Biology/Rubylane.com）

为了继续测试AI是否可以像人一样感知物体的形状，第三个实验检验了AI辨别黑白简笔画的能力。研究人员提供了40幅用黑色线条勾勒的绘画，没有上色，供两个AI辨识。可惜，AI连蝴蝶、飞机、香蕉这样的图案都辨别不出。

把简笔画图上色会怎么样呢？研究人员又用了40幅图片，不过这次他们给图片涂上了黑色。这次AI终于回过神来了。VGG-19对黑色算盘辨识的信心达到了99.99%，对加农炮辨识的信心也达到了61%。对比上一个实验，AI对仅有线条勾勒的锤子图案的辨识信心不足1%。

▲上：锤子简笔画（图片来源：PLOS Computational Biology/www.clker.com）

下：涂色后的算盘（图片来源：PLOS Computational Biology/Sweet Clip Art.com）

最后，研究人员在真人身上进行了一个类似的测试。他们选取了6张AI已经判定正确的图片，并把这些图片剪碎。参与者只能看到这些剪碎或未剪碎图片的剪影。结果，参与者对剪碎图片的剪影辨识度仅为20%-30%，对完整图片剪影的辨识度则超过90%。

最后这项测试再次证明，人辨识物体更依赖于物体整体的形状。而前几个实验表明，AI无法仅依靠整体形状准确地辨识物体，而更需要利用局部的细节（如颜色、纹路等）来进行辨识。

加州大学洛杉矶分校心理学系杰出教授Philip Kellman认为这项研究证明了：“AI识别图像的训练并没有太多地考虑到物体本身的形状。而对于人，物体本身形状是辨识物体最主要的因素。”

看来AI识图还是有很长的路要走呀。

参考资料：

[1] Baker, et al., Deep convolutional networks do not classify based on global object shape. PLOS Computational Biology, https://doi.org/10.1371/journal.pcbi.1006613

[2] Can artificial intelligence tell a polar bear from a can opener? Retrieved Jan 10, 2019 from https://www.eurekalert.org/pub_releases/2019-01/uoc--cai010719.php

本文来自药明康德微信团队，欢迎转发到朋友圈，谢绝转载到其它平台。如有开设白名单需求，请在文章底部留言；如有其它合作需求，请联系[e-mail]。

更多精彩文章：

大家关注的公众号越来越多，找不到“药明康德AI”怎么办？简单四步，将“药明康德AI”设置为星标公众号，问题即可解决。