李德毅院士：无人驾驶的图灵测试

来源：中国人工智能学会（ID:CAAI-1981），本文本文根据速记进行整理2017全球人工智能技术大会

无人驾驶的图灵测试

李德毅  

中国人工智能学会理事长，中国工程院院士

李德毅：各位下午好，今天谈一谈智能驾驶，我讲一下智能车做好了怎么测，怎么使得它具有拿到驾照的水平，我报告的题目是无人驾驶的图灵测试。

做什么东西，得把评测搞清楚，怎么测，我们一直讲智能代理，智能代理或者认知它的方法是什么。图灵先生在他年轻的时候就在想这个事情，他提出了图灵测试，几十年过去了，人们已经把图灵测试研究透了，有人说图灵测试漏洞太多了，不好测。有人认为图灵测试做了很大的贡献，直到今天，人工智能经过两个寒冬以后，我们看人工智能带来的变化。首先是脑科学，然后是认知心理学，接着是神经生物学。这三个学科对于人智能的启发更大一点，我们把这一块叫脑认知。脑认知启发的人工智能就是目前研究的对象，这一块怎么测，按照图灵的说法，拿对话来测，用一个人和一个机器人对话，看看我们能不能知道它是人的声音还是机器的声音。听起来很简单，但是有多少智商，比如你回答问题的时候是否得体，交谈的时候带不带情感，你是沮丧的沟通，还是愉悦的沟通，所以这件事情并不那么简单。

1950年阿兰图灵写了一篇文章，可以看出来，图灵测试本质上就是交互智能的测试。一直到2014年，聊天机器人尤金古斯特曼发布了。还有做诗，给你一个上下连对横批，分别不出来是人做的还是机器人做的，是不是可以说这是图灵测试。但是有一个问题，你的打油诗是水平很高的诗，这个智能是怎么测试的。今天上午微软报告特别强调了在语音方面的智能处理，麻省计算机实验室做了一个机器制作的声音的实验，把物体碰撞的不同声音，把一个特定人的声音让机器人产生，达到了以假乱真的目的。如果我们用大数据，用深度学习训练一个机器人，让它达到某个特定人的说话水平，它发出的声音就是虚拟组织的声音，这个事情我们以前表演过，我记得科大讯飞做过这样的演示。

还有一个很重要的事情，像中小学生写作文，有一个批改网，一万人，一百万人同时写一个文章，看看哪个文章拿冠军，这时候有机器人阅卷，跟人的阅卷有什么差别，怎么样实时的交互，批改这个作文，怎么样打分，还要形成评语，都能达到以假乱真的程度。所以图灵测试又被提上了话题，尤其重要的是，最近全世界都在做智能驾驶，无人驾驶，驾驶驱动的图灵测试怎么测。如果我们在路上看到一台汽车，你是否分辨不出是机器人开的还是人开的？你是否分辨一个新手或者是老司机？是A驾照还是C驾照？图灵测试在后图灵时代已经进入了我们的生活。

谷歌公司是无人驾驶的领头羊，2015年就声称跑了100万英里，达到人类75年的驾龄了，但遇到一个最基本的问题，无人车上路怎么样获得驾照，驾驶认知度量已经成为交管部门当务之急的问题，对我们科技工作者来说，脑认知如何度量，这是一个非常重要的科学问题。假如我们把图灵测试的这个人变成一个自动驾驶仪，你区别不出是智能驾驶的汽车还是无人驾驶，那能不能叫图灵测试，如果测试者坐在直升飞机上，看交通流，车子往前走，你区别不出哪一辆车是人开的，哪一辆车是机器人开的，可不可以说就达到了人的水平呢。图灵测试进入日常生活，进入寻常老百姓家已经不奇怪了，这里列出了一大堆需要我们识别的测试，比如网上聊天机器人，你用语句搜索，它把答案变成语音还给你，因为问出现了搜索引擎和语音智能的发展，使我们随时可以听到声音，这到底是人跟我们聊天，还是机器人跟我们聊天，是机器人跟我说话还是人在说话，是机器人在翻译还是人在翻译，所以这就涉及到图灵测试的问题。远程医疗把我们可穿戴的传感设备，把你的物理参数送上去以后，它给你开的药方，怎么知道是专家开的还是机器人开的。你在家里的时候，孩子在网上做辅导或者咨询，你怎么知道这个辅导老师是人还是机器人等等。所以图灵测试进入日常生活，人类已经进入后图灵的图灵测试。无论是机器对话，机器写诗还是自动驾驶，有一点必须坚持，那就是允许测试者现场监督和交互，测试者可以现场改变红绿灯，看看车能不能停下来，可以制造一个干扰的汽车障碍，看看能不能避障。所以现场介入的交互是必须的，我们拿驾照的时候，当你路考的时候，同样两个人，水平差不多，一个人拿到驾照了，一个人没有拿到驾照，考官说你不行，你刚才超车的时候头没有往后看，我们规定头要往后看的，所以下次再考，但是你态度好一点，你记住了，这一次过了就可以了，所以我们认为图灵测试本质上尽管存在客观性，但是必然带有主观性，如果一个驾驶员老不合格，这就会受到质疑，何况驾照还可以收回，所以对图灵测试应该用这样的观点来看。

驾驶图灵测试的现实意义非常重要，随着机器换人时代的到来，有这样一个问题，相比较而言，汽车自动化程度比较高，一个驾驶员怎么样通过方向盘油门的动作改变习惯的，常年的考驾照的测试，已经积累了丰富的经验，驾驶图灵测试可以成为图灵测试的起始点。汽车工程师学会有一个非常自动驾驶的等级区分，分成L0到L5。上面两个是人驾驶，下面三个是机器人驾驶，有的厂家宣称我要做L4的自动驾驶，有人说我只能做L3，我觉得辅助驾驶挺好，所以有一个问题，就是图灵测试的问题。自动驾驶的等级转换点如何度量，掌握权交界点如何度量，5级分类可操作点在哪里，要规定100个驾驶窗口还是1000个驾驶窗口，这还真是一个问题。我们在北京可以看到很多特斯拉的车，有的卖80万，有的卖120万，你问驾驶员你自动驾驶了吗，基本上没有，因为特斯拉声称是L2等级，需要驾驶员的手放在方向盘上，保持注意力，如果不这样干，出了事还是驾驶员的。苹果公司在加州测试是1000英里，0.2次干预，也就是北京到深圳来回一趟只干两次，所以图灵测试的问题是一个现实的问题。

人的智商到底是怎么样表现的，生物学家告诉我们，在微观，宏观维度上有不同的表现。比如说当我们看台子上写的人工智能，你脑子里的兴奋区也许在这个地方。当你耳朵里听到人工智能这个词兴奋度在这个地方，什么也没有听说，你自己想，兴奋区就更多了，所以告诉大家，记忆很重要，一个驾驶员头脑里记录了多少场景，能够应付多少事件，怎么学习的，这点很重要。再一个，当你看周围场景的时候，驾驶员是有选择性注意的，同样一个场景，小孩子和一个经验驾驶员看，注意点是不一样的。我们很多人都做机器视觉，有人说是计算机视觉，确切说是图像的处理和理解，我们叫做先视后觉，它无特定的任务驱动，所以我们进行分类，聚类，进行一些识别，形成一个全局的认知，现在很火。但是人类认知难道都是这样的吗？不是的，因为我们在做无人驾驶的时候，有一条坚定的信念，叫做传感器不完美，是我们确定的一条原则，不要想着哪个传感器是完美无缺的，分布在车体各部位都认为看到了全局。生物视觉和机器视觉的差别，观而不觉，无视后觉，边视边觉，先觉后视。生物视觉选择性注意当中，我们经常听到，大范围优先，或者大尺度有限，当你看一幅图的时候，大图很重要，细微的地方并不重视，这是优先点不重要。还有，当你看到一个图像的时候，掉下来的部分你很注意，这是一个圆的，方的长的，还有一种差异优先。我们的问题是，在选择注意力的时候，这几个问题碰到一起到底谁优先，我们研究的结果认为，真正的是记忆优先，你头脑里记忆的东西对当前情景会发生很大的注意，上午很多人研究感知的智能，没有人研究认知的智能，对不起，我们就在研究认知的智能。脑认知的主要外面表示在如何听说和如何看，脑认知的内涵是想，想的时候有三种认知，记忆认知，计算认知和交互认知，我在一个场合说了一点计算机负面的话，我们人类对计算机的追求有一点贪得无厌，现在这么快，我们还要更快，但是我们没有用精力研究记忆和交互，这是一个遗憾。我们在研究计算的同时，应该花更多的精力研究记忆和交互，这才是受脑认知启发的人工智能。

我们认为人类认知没有你想想的那么复杂，用一句话，一件事情反复的装进你的头脑里，你就形成了自己的认知，记忆是脑认知的核心，遗忘是人类智能的显著表现，没有遗忘脑子将不堪重负。神经生物学家告诉我们，人类记忆是分区的，瞬间记忆，工作记忆，场景记忆，有不同的划分的区域和方法。遗忘是对记忆的不能再认和回忆，因此我们应该研究遗忘、记忆、存储，认知过程可用卷积表征体现出来。我个人定义了一个很重要的公式，记忆是认知函数和遗忘记忆的卷积。我提出用认知学的物理方法研究人的遗忘，一个图片怎么实现遗忘的，在你的记忆里怎么恢复的，这件事情应该下决心研究清楚。感觉记忆是非常丰富的，但是也是瞬间的，工作记忆是在海马体里面，它和学习有很大的关联。大脑的皮层的记忆已经被抽象化了，所以人工智能的学者不能简单研究计算，还要研究记忆，不但要研究学习和遗忘，还要研究三个不同记忆区的划分方法。要研究工作记忆和场景记忆，怎么样帮助当前的瞬间感知。人脑的计算没有什么复杂的变化，就是一种相似计算，是我们复杂化了。交互是脑认知的重要形态，交互的力度不一样，各有各的不同，怎么样实现转换。人在神经网络交互的同时，还有与外面世界的交互，获得心得感知，所以交互只有二重性。对于无人驾驶来说，你要从人的驾驶认知必须回答的问题，人脑是如何定位的。大家都知道，做无人驾驶最难的技术，就是实时定位，我们把大的坐标系叫做上帝坐标系，每个人看的都一样，我们的智能体是以它为基础的认知，因此我们提出对周边环境进行实时定位，以及影射，这样才能知道我这辆车当前应该在什么地方采取什么动作。语言我们认为是图像认知在不同抽象中的语义标注。要构造不同尺度连接组的，三位一体的多个多层的卷积网络。

这时候我们看看计算机的局限性，计算机最主要的是CPU，脑认知的单元每层都有记忆智能，计算智能和交互智能，这样才能建立起来。我们的观点和特斯拉不一样，和谷歌有区别，和英特尔也有不同，我们认为八个字，无人驾驶，难在拟人。无人驾驶不仅仅是车，不是做自动化就可以了，自动化遇到了天花板，人工智能来了。

我们有一点感叹，现在的汽车可以做到100马力甚至更高，但是汽车真的不如马的认知，马是认知主体，老马识途，车不如马，现在无人驾驶遇到最大的痛点就是最后一公里，回不来，共享单车回不来，将来共享汽车，最后一公里回不来，共享汽车的商业化用途就无解。因此，要想实现无人驾驶为主的驾驶，最根本的问题到底是解决车还是解决人，我们发出一点不同的声音，如果做解决车的问题，就把车的自动化做好，我们做一个软件定义的机器，实现无人驾驶。如果解决人的问题，那就必须具有记忆，决策和行为能力的认知主体，进行自主驾驶，一字之差，差之毫厘，自动化学者和人工智能学者是有不同的观点的。汽车的行为是由驾驶员决定的，无人驾驶难在拟人，因此我们要研究驾驶员行为学和驾驶员心理学，当在爆胎的时候，驾驶员的动作恰当吗，我们要研究驾驶员的感知、记忆、控制和行为技巧，而不是一味的改良车辆动力学性能，实现自动驾驶。

我们看看驾驶员的行为学和心理学，这张图是在自动驾驶之前，在交通运输里就有的，专门研究驾驶员的行为学和心理学，分为感知域，认知域，行为域，现在把感知智能适应以后的结果演化成驾驶透视图，通过深度学习或者算法，实现对方向盘和油门的控制，然后我们把驾驶员的驾驶技巧，怎么样省油，坐着舒服，就是有技巧的驾驶，怎么样使这个车子开的平稳，我们自然科学基金会组织全国八九次的比赛，考虑到裁判指标，图灵测试的指标，我们检测4个S，靠这4个S形成图灵测试，拿出一个表，决定谁是冠军，谁是亚军。现在我们在做认知领域的深度学习，驾驶认知的核心是学习还是记忆，生活是记忆，驾驶也是记忆，驾驶员开车的时候都是在算账吗，所以记忆很重要。每次驾驶都会结合对过去驾驶的记忆，学习是什么，学习是理解知识，形成记忆的交互过程，理解是信息的认知或已有认知的结果，而记忆弥散在神经网络之中，不去研究这样的问题，做出的决策和结果出路不大。驾驶员的经验和临场处理能力必须由驾驶员自己替代。我们现在开始往记忆和交互上发展，当然计算也是很重要，有的单位说我们做一个机器人操作系统，用它支撑驾驶员，操作系统ROS固然重要，但是它不能代表驾驶员。如果要说驾驶员的注意力，释放驾驶员的认知，必须有一个物化驾驶员的认知，我们把特定的驾驶认知叫做驾驶脑，这样以来就会注意力集中，永远专注，永不疲劳，原来驾驶员发生的事故称之为人类第一杀手，也就不再存在，这该多好。

驾驶认知，自动驾驶是机器驾驶，它物化了驾驶员的认识，实现了无人驾驶。我们想一想，自动驾驶如果是在地铁比较好，因为铁路是它的，还有网络调度，如果是高铁，也可以做自动驾驶，因为道路是封闭的，调度能力很强。如果是飞机也可以做自动驾驶，唯独汽车不行，因为汽车是你个人的代步工具，它在开放的不确定性的环境下，常常会遇到大雪、大雾、大雨。比如说冰雪，还有人为的红绿灯失效，道路施工，车辆醉驾等等，如果不能处理这些能力，做自动驾驶可能难以胜任。有经验的驾驶员，标杆驾驶员能够灵活处置，自动驾驶车怎么样学习呢，这是我们研究的重点。一个小孩能够成功的抓住一只球，这是计算出来了吗，不是，是用了什么算法吗，也不是。一次又一次的学习，操练，久而久之，智能成为新的本领。我们认为开车和学英语本质上是相同的，熟练的司机开车，如同自己走路一样自然，开多了，不是每天都在计算。经验驾驶员，不但要符合驾规，安全行驶，我们还要使车子坐起来比较舒服，从A点到B点怎么样舒服省油，这也是驾驶员重要的技巧。因此我们发明了一个单词，Driving Brain，不同的人开车行为习惯不一样，我们认为自驾车应该有个性，好像我们每个人开车都有个性一样，如果你不强调开车的水平，我们可以找标杆驾驶员开车，这也是可以的。驾驶技能的习得通常通过认知，关联，自主三个因素决定的。如果像特斯拉一样，把传感器放在车里，让人工开车，开了两年以后，拿回来一学习，再放回去让它和你开车一样。在路上的行为就成了自己的行为，人的感知和车的行为达到了合一的境界，这是我们追求的目标。

我们十多年的自动驾驶的生涯告诉我们，这件事情很重要，如果没有的话，我们仍然会恐慌、迷茫，今天做的很好的，明天可能就做不好了。感知认知和行为有一个比较好的反馈过程，从动态感知到态势分解，到自主决策，这个期间场景记忆，功能记忆都起到很重要的作用。四类传感器，分别是激光雷达，摄象头传感器，还有车姿传感器，还有GPS传感器，这代表我们的感知系统。而认知系统里，既有驾驶技术，还有各种各样的记忆棒，我们利用当前的驾驶态势和时间序列表决策当前的认知，形成认知箭头，控制车的动力和行为，这块叫做小脑，因为它已经有驾驶技巧了，从感知到认知到行动，再感知到认知到行动。可先利用微电子技术，采用GPU+CPU+FPGA+ASIC机构，生产专用芯片和板卡，2016年研发的驾驶脑V1.0。原来开始开车准备时间十几分钟，现在我们开车启动时间只要22秒，我们终于开始我们自己的发明，就是驾驶脑，它是给你拿驾照的，它是给你积累驾驶技能的，它是买路熟的，它是个性化驾驶和标杆驾驶，这些东西怎么靠自动驾驶完成的呢，这就是我们在全世界的自动驾驶的浪潮中发出了自己微弱的声音。我们认为人工智能的使命是加速汽车向人机交互的转变。有了驾驶脑，有可能使汽车成为驾驶员自己，这是我们人类追求非常有理想，有意义的科技，我们很多人买聊天机器人，我们想汽车也应该是这样的。智能驾驶专用实验与评估环境，全国已经批准了7个实验场，这很有可能发展成为赛车手和赛车机器人的赛车场。

机器人换人带来一个新的行业，就是后图灵时代，也许是人机共生，共融，共发展的时候了。如果人脑的特定问题域的认知能力可以先局部地得到解决，比如驾驶问题，写作问题，学英语问题等等。如果我们做一个流动大巴车，我们安排一个驾驶脑，安排一个聊天脑，不但会开车还会导游，这样下去，千千万万个特定的机器人认知脑，通过移动互联网，云计算和大数据，是不是可以倒逼变成一个通用的人工智能呢，或者强人工智能呢，我们一起来拭目以待，谢谢大家。

一网打尽系列文章，请回复以下关键词查看：

创新发展：习近平 | 创新中国 | 创新创业 | 科技体制改革 | 科技创新政策 | 协同创新 | 成果转化 | 新科技革命 | 基础研究 | 产学研 | 供给侧

热点专题：军民融合 | 民参军 | 工业4.0 | 商业航天 | 智库 | 国家重点研发计划 | 基金 | 装备采办 | 博士 | 摩尔定律 | 诺贝尔奖 | 国家实验室 | 国防工业 | 十三五 | 创新教育 | 军工百强 | 试验鉴定 | 影响因子 | 双一流

预见未来：预见2016 | 预见2020 | 预见2025 | 预见2030 | 预见2035 | 预见2045 | 预见2050 |

前沿科技：颠覆性技术 | 生物 | 仿生 | 脑科学 | 精准医学 | 基因 |  基因编辑 | 虚拟现实 | 增强现实 | 纳米 | 人工智能 |  机器人 | 3D打印 | 4D打印 | 太赫兹 | 云计算 | 物联网 | 互联网+ | 大数据 | 石墨烯 | 能源 | 电池 | 量子  | 超材料 | 超级计算机 | 卫星 | 北斗 | 智能制造 | 不依赖GPS导航 | 通信 | MIT技术评论 | 航空发动机 | 可穿戴 | 氮化镓 | 隐身 | 半导体 | 脑机接口

先进武器：中国武器 | 无人机 | 轰炸机 | 预警机 | 运输机 | 战斗机 | 六代机 |  网络武器 | 激光武器 | 电磁炮 | 高超声速武器 | 反无人机 | 防空反导 | 潜航器 |

未来战争：未来战争 | 抵消战略 | 水下战 | 网络空间战 | 分布式杀伤 | 无人机蜂群 | 太空站 |反卫星

领先国家：俄罗斯 | 英国 | 日本 | 以色列 | 印度 

前沿机构：战略能力办公室 | DARPA | Gartner | 硅谷 | 谷歌 | 华为 | 俄先期研究基金会 | 军工百强

前沿人物：钱学森 | 马斯克 | 凯文凯利 | 任正非 | 马云 | 奥巴马 | 特朗普

专家专栏：黄志澄 | 许得君 | 施一公 | 王喜文 | 贺飞 | 李萍 | 刘锋 | 王煜全 | 易本胜 | 李德毅 | 游光荣 | 刘亚威 | 赵文银 | 廖孟豪 | 谭铁牛

全文收录：2016文章全收录 | 2015文章全收录 | 2014文章全收录 

其他主题系列陆续整理中，敬请期待…… 

“远望智库”聚焦前沿科技领域，着眼科技未来发展，围绕军民融合、科技创新、管理创新、科技安全、知识产权等主题，开展情报挖掘、发展战略研究、规划论证、评估评价、项目筛选，以及成果转化等工作，为管理决策、产业规划、企业发展、机构投资提供情报、咨询、培训等服务，为推动国家创新驱动发展和军民融合深度发展提供智力支撑。