破除对人工智能的常见误解 | 袁岚峰
解读科学，洞察本质
戳穿忽悠，粉碎谣言
最常见的错误理解是以为AI已经在所有的智能领域击败了人类，因为围棋是“人类智慧皇冠上的明珠”。错了，围棋只是“完全信息博弈”这最简单的一类问题中的“明珠”。机器人统治人类只是个模糊而遥远的威胁，被敌人的AI军事力量突袭却是个明确而直接的威胁。
近日，神秘棋手Master （大师）横扫围棋界，中、日、韩等国的顶尖棋手纷纷败阵。其后，谷歌出面证实，Master就是升级了的AlphaGo 。人工智能（AI）再次引发人类的惊叹。惊叹之余，我们应当做的一项重要工作是，破除对AI 常见的几种错误理解。
人机大战
对人工智能的四种错误理解
最常见的错误理解是以为AI 已经在所有的智能领域击败了人类，因为围棋是“人类智慧皇冠上的明珠”。错了，围棋只是“完全信息博弈”这最简单的一类问题中的“皇冠上的明珠”。整个人类智慧的“皇冠上的明珠”是什么？当然是科学研究啊！如果问历史上最聪明的人有哪些，最常被提出来的肯定是牛顿、爱因斯坦、阿基米德、高斯这些科学家，而不是黄龙士、吴清源、聂卫平等棋手。科研是高度开放式的问题，一眼看上去不知道答案到哪里去寻找，甚至连有没有答案都不知道，答案又必须经得起实验或逻辑的检验。科研是需要最高创造性的人类活动，是人类区别于任何其他物种的本质。相比之下，下棋只是封闭问题，复杂程度相差不可以道里计。
牛顿
由此引出第二种常见的错误理解，以为“天网”已经近在咫尺，机器人快统治人类了，甚至会毁灭世界。其实，对这种有自我意识的“强人工智能”如何实现，我们还完全没有头绪。目前所有的人工智能研究，处理的都是封闭问题。沿着这些技术路线走下去，能不能处理开放问题，尚在未定之天。在这种情况下，机器人统治人类还完全不是个现实的担忧。当然这方面的哲学思考是需要的，多多益善，只是说不要什么都不敢干了，自己把自己吓死。
事实上，对技术毁灭人类的担心，这并不是第一次。核武器刚发明出来不久，科学家就对它的巨大破坏力极为忧心。在整个冷战时期，核武器毁灭世界是最流行的话题，被比作悬在人类头上的“达摩克利斯之剑”。苏联解体仅仅20 多年，我们这么快就忘记了对核战争的恐惧，把和平、繁荣当成理所当然的，真是令人惊异的健忘。爱因斯坦、罗素、鲍林等人付出了极大的努力来发动和平运动，正是他们的努力扭转了历史的自然趋势，避免了人类在核战争中毁灭的命运。就像马克思对资本主义的批判改变了资本主义制度本身，避免或减缓了资本主义的灭亡，现在人们对强人工智能的担忧也有这样的作用，虽然目前是杞人忧天，但未雨绸缪的意识是好的，将来也许真要靠它改变历史的走向。
核战争
第三种常见的错误理解是走向一个相反的极端，完全抹杀人机大战的科学意义，只把它看成谷歌操作股价的广告。典型的说法类似这样：“明眼人都能看出来其本质就是广告和炒作，无非电脑善于高速计算、因此在简单而重复的操作上有优势而已。所谓算法的改进也只是聚焦于如何提高计算或检索效率。”这些观点过于轻佻，严重低估了技术进步的作用。能拿出几千个CPU的企业多得是。真正的瓶颈不是在计算能力上，而是在算法架构上，Master 和AlphaGo 最大的进步是在这方面。如果通过击败人类棋手来炒作股价这么容易，其他企业为什么不做？无论你把这件事说得再容易，现在还是只有谷歌等凤毛麟角的少数几个企业做到了，别人做不到。人家做到了，就有权利获得相应的荣誉和关注度，股价上涨也是理所当然的。我们现在不如人家，就要老实承认，以此为基础才能发奋努力，尽快赶上。这一点在军事领域尤其重要，避重就轻、粉饰太平是要付出血的代价的。
第四种常见的错误理解是对谷歌和美国的科技陷入迷信，转头对中国企业大加鄙夷，尤其是百度。典型的例子像这种段子：“请谷歌及时转型，回到医疗广告竞价排名的正确道路上来。”这是一种很不具有建设性的态度。实际上，中国的科研机构和企业对人工智能是相当重视的，也有很强的技术实力，如百度的AI 在“最强大脑”节目中“人脸识别”胜过人类。
此外，中国科学院计算技术研究所研发的全球首个能够深度学习的神经网络处理器芯片“寒武纪”，通过突触权重将存储和处理一体化，突破了经典的计算机冯·诺伊曼结构。这是引领世界的智能芯片，哈佛、斯坦福、MIT 、哥伦比亚等国外高校都跟在后面做。“寒武纪”负责人之一陈天石解释：“普通的处理器就好比瑞士军刀，虽然通用，但不专业。如果厨师要想做出像样的菜肴，就必须使用专业的菜刀，而专门的深度学习处理器就是这把更高效、更快捷的‘菜刀’。”科大讯飞的认知智能“讯飞超脑”、百度的感知智能“百度大脑”都在快速发展。科大讯飞的目标是让机器人参加高考，目前已经能考上三本，希望未来3-5 年后能上一本，5-10 年后能考上顶级高校，PK 掉99.9%以上的人类。
讯飞超脑
这里有一个心态问题要思考。假如是百度做出一个围棋软件击败人类高手，中国普通人的反应会是怎样？是像对谷歌这样顶礼膜拜，还是嘲讽百度净整些没用的，浪费大笔资金作秀呢？恐怕后者不会少。这种逆向民族主义、反智主义的社会氛围对科技创新是重大的阻碍，需要着力破除。我们的社会心态和舆论需要学会平常心，不再习惯性地追捧外国嘲笑本国，对投入大量资源追求突破性成果持鼓励的态度。把自己认真地看作引领人类发展的先驱，从内心里支持创新，宽容失败，为创新本身而不是赚钱感到兴奋，这是一个社会成熟的标志。这种自我定位方面的差距，是目前中国和发达国家最大的差距。
军事领域要高度重视人工智能
以上分析表明，AI 目前处于“弱人工智能”的阶段，在这个阶段AI 越发展给人类社会带来的好处越多，我们应该大力欢迎。这是一副乐观的图景。但是有一个领域是例外，现在就应该亮起警报，这就是军事领域。
人工智能的一个特点是：一旦取得突破，就会爆炸式增长，不会停留在你觉得舒适、习惯的区间。昨天你还觉得它是小学生，明天它就超过了爱因斯坦。用现在流行的话说：“人工智能就像一列火车，它临近时你听到了轰隆隆的声音，你在不断期待着它的到来。它终于到了，一闪而过，随后便远远地把你抛在身后。”对军事领域来说，这意味着稍差一点就有可能形成代差，陷入严重的被动。
习近平总书记在2014 年12 月3 日的《加快构建适应履行使命要求的装备体系，为实现强军梦提供强大物质技术支撑》中说：“确保不被敌实施技术突袭。”如果我们对AI的军事应用不重视，走得不够快，那么这正是一个有可能被敌人技术突袭的领域。机器人统治人类只是个模糊而遥远的威胁，被敌人的AI军事力量突袭却是个明确而直接的威胁，对此必须以最高的警觉和只争朝夕的精神来对待。下面我们来讨论几种AI 在军事领域可能的应用。
1.沙盘推演
用深度学习机制，用山川河流的沙盘代替围棋棋盘，用军队资源代替围棋棋子，可以制造人工智能的军事参谋。这个参谋学习得很快，可以通过自己和自己打仗积累战争经验。
2.通讯保障
计算机网络本来就是一个军事通讯研究项目。互联网实际上是战争通讯保障技术的民用，通讯保障的一个重要的概念是消除关键单节点。互联网解决的军事通讯问题，就是通讯中枢被敌人打掉了怎么办？比如电话，只要把电话交换中枢炸掉，整个通讯系统就瘫痪了。而网络的一条通讯渠道断了，信包可以走另一条路。互联网的路由器是智能化的，一个网关送的信包没有回音，或报告不通，路由器就会把信包送往另一个次短路径的网关。
3.军事系统智能化
未来学家凯文·凯利（Kevin Kelly）的名著《失控》中提到，罗德尼·布鲁克斯（RodneyBrooks）1989 年发表了一篇论文《快速、廉价、失控：一场太阳系的机器人入侵》，提议用低成本的火箭发射大量廉价的小机器人去探索外星球，让它们自由行动，协同完成任务，而不是像以前普遍设想的那样，发射一个巨大而精密的机器人。“快速、廉价、失控”是指导AI 发展的三个关键词，这三个词也可以用到军事系统上。
《失控》
“失控”就是系统中的每个个体自主决策，没有人规定干预，也没有外部指令。美国伊拉克战争斩首行动能够成功，是因为伊拉克军事系统有一个指令中枢。但斩首行动在反恐战争中毫无用处，本·拉登的死对恐怖组织没有多大影响，全球恐怖主义反而愈演愈烈。波士顿恐袭、巴黎恐袭、布鲁塞尔恐袭，都或多或少有个体自主决策，接近独狼行动。现在肆虐欧洲的恐怖运动，就是“阿拉伯之春”催生的“快速、廉价而失控”的恐怖系统，谁也关不上这个潘多拉盒子。
本·拉登
美国破坏伊朗核原料工厂离心机的震网病毒是廉价而失控的，快速与否倒不重要。廉价的病毒在工厂控制系统中繁殖，大多数时间都是“潜伏期”，随机偶然对系统发出破坏性指令，然后又把这些指令记录毁灭，返回“潜伏期”。这些病毒繁殖的群落是失控的，没有人干预。
美国研发的潜水无人机，不失控，可以潜伏3 个月无声无息，接到指令后飞出水面执行任务。可以设计廉价而失控的智能水雷，锁定某航母特征频率，在其港口外放一群潜伏静默，听到特征频率接近才群起而攻之。这就像蜂群攻击人，每只蜜蜂都可以轻而易举地被人拍死，但大群廉价的蜜蜂就完全可以蛰死人。末端敏感弹药可以发展成快速、廉价而失控的蜂群系统，每个弹本身的智能不需要很高，三板斧就够用：锁定、规避同伙互撞、规避拦截。
如何打造这三板斧，是个有趣的问题。任何一个智能物种如果得不到合适的环境支持就难以生存，直奔目标的生态系统建设往往失败，凯文·凯利给出了很多例子。因此，智能系统的生成最好是达尔文式的演化过程，而不是整体设计的创新研发过程。《失控》指出，一种智能系统建立的途径，就是每次只解决一个智能功能，把一个智能功能完善了以后，再去增加第二个智能功能，第二个智能功能加入系统的时候，要保证不破坏第一个功能。用在上述的末敏弹问题上，可以是先研发末敏弹的锁定功能，然后加入弹—弹通讯功能，规避自相碰撞，形成密集蜂群，最后再加入躲避拦截功能。根据这种思想还可以看出，低风险的整体设计研发，应该是整合已经成熟的众多技术的结果。同时增加众多创新功能，有可能使得功能之间难以适配。当然，这不妨碍各种创新的并行研发。
科技研发需要“富人思维”
无论是军用还是民用，发展人工智能的关键归根结底就是一点，要舍得投入资源。追赶的难度跟原创有本质区别，用金钱来衡量，原创的性价比必然低于追赶。
我们要转换思维方式，像富人一样思考，而不是像穷人一样思考，更多地要以花别人两倍的钱办别人1.5 倍的事自豪，而不是以花别人10% 的钱办别人20% 的事自豪。要认识到，研发是回报最大的投资之一，投入越多其实是节约越多，这是富国的发达之本。中国的研发经费占GDP 的比例应该翻一番，从目前的2% 出头增加到韩国的4% 水平，这是实现中国梦的关键。
作者简介：袁岚峰，中国科学技术大学化学博士，中国科学技术大学合肥微尺度物质科学国家实验室副研究员，科技与战略风云学会会长，微博@中科大胡不归，知乎@袁岚峰（）。本文2017年2月发表于《中国发展观察》2017年第2-3期合刊。
责任编辑：郭尖尖
知乎专栏：
一点资讯：
今日头条：