费曼1985年对通用人工智能的思考
点击上方蓝字“返朴”进入主页，可关注查阅往期文章
撰文 | 武文浩
“您认为，以后有可能出现能像人一样思考，但在智力上比人类更胜一筹的机器吗？”
1985 年 9 月 26 日，诺贝尔物理学奖获得者、著名物理学奖理查德费曼在一次讲座上被问及了这样一道关于人工智能的问题。对于计算机科学领域的从业者来说，这是一个老生常谈的问题，相信你也已经在许多地方读到过，但费曼的阐述仍非常值得一读。
作为世界上最著名的科学家之一，除了理论物理学方面的工作外，费曼也是量子计算领域的先驱，对于未来智能机器的发展同样颇有兴趣。
本文便梳理了费曼在当时对通用人工智能的看法及思考。虽然这场问答发生于 35 年前，但其中的许多内容，哪怕是在神经网络深度学习技术取得重大进展、突飞猛进的今天，也同样经得住细品。
人类的发明并不全依据自然造物
“关于问题的第一个部分 ——‘未来的机器有可能会像人类一样思考吗？’，我觉得不会，原因我一会再讨论。
然后是问题的第二部分 ——‘未来的机器有可能比人类在智力上更胜一筹吗？’，我认为要回答这个问题，首先需要进一步定义什么是智力。如果你想问的是‘以后可能出现比人类更强的象棋 AI 吗？’，我觉得这是有可能的，没准我哪天就会搞出一个来。
在国际象棋领域，电脑其实已经要比大多数人都下的要好了， 但我们希望电脑能达到的是，它不应仅仅比大多数人要强，而是要比所有人都强。所以当有电脑能在国际象棋上击败我们时，我们常常会想‘打败我不算什么，它能打败国际象棋大师吗？’。通常认为人类（由于卓越的认知和学习能力）在各个领域都很出色，但如果你想让电脑也能在各个方面也都很强就很难了。
关于‘未来是否能出现像人一样思考的机器’，这个问题要从‘我们需要用什么来解决什么’出发考虑。
一般来说，我们在解决问题时，会尽量让现有的工具为了解决某个特定问题发挥最大作用。
举例子，假如现在需要制造一个能在地面跑得很快的机器，虽然在自然界中，猎豹跑的很快，但如果不是什么特别崎岖和奇特的地形的话，我们一般会首选用轮子作为机器与地面接触的中介，而不是做一个长得像或者原理上与猎豹一样的机器（尽管这在理论上是可行的）。
再比如，如果想要造一台能在空中长时间远距离飞行的机器，虽然我们知道鸟是靠煽动翅膀进行飞行，但现实生活中的飞机并不会拍打机翼。
因此，在这里我想表达的是，人类此前有过让机器具备某种能力的大量尝试，而设计出的成品与自然界中存在的例子往往差异很大。对‘像人一样思考’这个问题来说或许也一样，机器有可能以后能在计算上比人类更厉害，但它们的计算的方法应该会与人类不同。”
事实上，这段对话发生的时候，也就是 1985 年，人类国际象棋大师的实力仍在电脑之上。之后便是我们所熟知的，在 1996 至 1997 年间，世界国际象棋冠军 GM Garry Kasparov 在与 IBM 的超级计算机 Deep Blue 进行的六次比赛中落败，正式宣告了计算机在 “下国际象棋” 上正式超过人类。虽然 GM Garry Kasparov 曾在赛后对比赛结果提出质疑，原因是他认为 IBM 团队在比赛期间曾插手机器的决策，但，面对类似 “31 比 2” 和 “21 比 2” 的这种分数，无论 IBM 是否插手决策，都已说明机器确实已经在国际象棋上超过人类。而在今天来看，IBM 的 DeepBlue 同样虽然在下棋上打败人类，技术实现上确实和人类的智慧大相径庭。
费曼也曾表示，人类已经有有大量尝试开发更智能机器的探索，其中一部分工作正是人工智能，但他并不喜欢这个名字。他认为，也许不智能的机器可以比智能的机器做得更好。上述的回答也与他的这个观点一脉相承。
在特定方面能比人更胜一筹的机器
对于通用人工智能问题的回答还未结束。
稍停顿后，费曼描述了他所设想的，在某些特定方面能做的比人更强、但并不会像人一样思考” 的机器：
“就比如做计算（算数），电脑能比任何人算得都快，虽然本质上都是对数字进行运算，但没人会想着让计算机按人类算数的方式去算数，这样对计算机来说只会拖后腿。
这里可以举一个很简单的例子，现在给你一串数字，（1， 7， 3， 9，2，6，6，5，8，3，1，7，2，6，3），你能流利的正向将其念出来，但如果要你将其以同样的速度反向输出，是不是就稍微较正着念的时候有些力不从心了？这还是比较简单的，试想如果这串数字包含成千上万个数，计算机可以毫不犹豫地对它们进行操作，但如果换人的话，光是记住哪个数是哪个就已经很难了。
所以，人类到底在哪些方面做得比计算机更好，有很多方面。
但最主要的是我们对事物的分别和认知能力，比如如果我们在街上走着走着，很远就能通过一个人的走路方式或者大致外貌初步判断那人是否是我们的熟人。而这对于计算机来说几乎是无法具体细致地进行模拟的，但计算机也许可以通过获取和比对大量数据来做到这一点。
比如我们如果想让一个程序能判断任意一张图片是偏亮还是偏暗，那一种可能的做法是给这个程序提供很多明暗对比明显的图片，供其进行分析和对比，以使得其能在我们给它任意一张图片，都能对该图片的亮度信息进行评估。”
1985年时人工智能现状
费曼回答的上一部分内容，便提到了从大数据中学习识别特定 pattern 的机器智能。
既然存在这种类型的机器智能，他又尝试探讨了 “训练集的方差和偏差如何折中” 的问题。这部分回答或许带有些时代的局限性。
在机器学习中，偏差较小的数据模型套用在样本上会产出一个较大的方差，而偏差较大的模型放在样本集上则会产出一个较小的方差，偏差 - 方差问题实际上代表的是对于机器学习算法之结果的一个优化问题，即我们如何才能最小化算法中的错误假设所带来的偏差，以及如何才能让模型对足够小的数据波动敏感。
他说：“难点在于，在实际情况中，我们能提供给计算机的潜在信息是多种多样的，比如在刚才的那个‘从远处辨别熟人’的例子中，计算机需要处理的信息可能有灯光条件、距离条件和目标的一些条件，比如辨识目标的倾斜程度，电脑必须能知道如何使用这些信息才行，甚至我们其实目前也讲不清楚，究竟人是怎么通过分析这么多信息并最终得出结论的。
所以，即使我们未来能造出拥有足够算力和内存的计算机，可能也不知道该怎么将这一过程写为可靠的程式，使计算机能稳定地解决这类问题。目前来看，识别问题还是一个人类能轻易解决，但对计算机来说很难的问题，比如警局或者信息局可能会有比对指纹的专员，如果该专员经验丰富，那他在仔细观察指纹样本后就能对其进行分类，但这对计算来说几乎是不可能的，原因是我们几乎无从得知比对专员在分类时都具体使用的是哪些信息，以及在分类时所采用的标准。”
最后，就着 “指纹问题”，费曼对当时人工智能的现状进行了评价：
“对一般人来说，指纹问题可能听上去并不是很难，比如现在有两个指纹，然后我们需要比对这两个指纹上的血迹是否一样，但问题远没有它看上去那么简单。
指纹是不是被污染过，取样时手指的朝向和压力是多少，比对两个基准完全一致的图片是简单的，但如果采样的时候前一个比后一个朝向偏了一点，或者压力重了一点，或者表面被污染了一点，这些对我们来说可能‘是可被解决的’，但对于计算机来说却几乎是不可能的解决的问题，即使真有算法能通过排除各种因素解决问题，其在效率上也将是不切实际的。
所以，目前来看，我个人并不清楚人工智能技术正在往哪个方向发展，但该领域的研究者们无疑正在尝试解决我们之前所谈及的那些，对计算机来说‘棘手’的问题。
我觉得，可能就像我们能轻易分辨和认知事物一样，计算机擅长的或许是在给定一种模式或模型的情况下不带疑问地执行它，就比如国际象棋 AI 能比人类下得更好一样，但人类就很难做到这一点（快速掌握一种特有模式并直接使用）。”
参考资料
[1] https://medium.com/cantors-paradise/richard-feynman-on-artificial-general-intelligence-2c1b9d8aae31本文经授权转载自微信公众号“数据实战派”。
相关阅读
2 人工智能治理原则发布，但只是“看上去很美” | AI那厮
近期推荐
1 彭罗斯：不思考生物化学的诺贝尔物理学奖得主不是好的数学家
特 别 提 示
1. 进入『返朴』微信公众号底部菜单“精品专栏“，可查阅不同主题系列科普文章。
2. 『返朴』提供按月检索文章功能。关注公众号，回复四位数组成的年份+月份，如“1903”，可获取2019年3月的文章索引，以此类推。
长按下方图片关注「返朴」，查看更多历史文章