人工智能将走向何方？

  更多美文请见   www.modernsocialism.cn

摘要

 “世界上最不可思议的事情，就是这个世界是可以思议的”（爱因斯坦）。这个世界的可理解在于能对世界进行“自我”与“外界”的剖分，人与人之间的可理解性在于认知主体具有相同的原意识。图灵机不能自发产生自我意识和价值体系，但人类能够赋予之。真正的挑战在于赋予何种价值体系，使得不同机器之间能够互相理解、竞争并进化。引导机器形成自我意识，并教育机器以仁爱，才更有可能实现人机和平相处、共同发展。

人工智能将走向何方？

来源：清华大学出版社

人工智能（Artificial Intelligence）是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学，1956年提出以来，理论和技术日益成熟，应用领域也不断扩大，随机森林、深度学习等技术已经应用到实践。人工智能是对人的意识、思维的信息过程的模拟，人工智能不是人的智能，但能模仿人进行思考，未来也可能超过人的智能。随着技术水平的进步，越来越多的研究者担心这样一个问题，机器人最终会否消灭人类？2004年1月，第一届机器人伦理学国际研讨会在意大利圣雷莫召开，正式提出了“机器人伦理学”这个术语，其研究涉及许多领域，包括机器人学、计算机科学、人工智能、哲学、伦理学、神学、生物学、生理学、认知科学、神经学、法学、社会学、心理学以及工业设计等。

目前人们并没有对机器人的伦理规范达成一致，要寻求人类与机器长久的和谐共处，我们从现在起就要明确对机器的“教育”方式。如果仅从传统经济学领域的效率优先、利益最大化原则出发，那么人类所处的地位是非常危险的，机器可能会认为人类的效率低下而对其进行“清理”。对人类而言，风险较小的方式是教育机器真正地像人类一样思考，赋予机器自我肯定需求，而不是将效率和利益作为第一准则。如果机器能够具备人类的思维模式，就可以通过多种形式满足其自我肯定需求，主动探寻与人类共同相处的方式。

人工智能的研究或通过大数据技术的不断分析与拟合，或聚焦于从人类大脑结构中获得灵感而提出新的算法，却鲜有人上升到哲学的高度，站在人类认知演化的角度去思考人与机器的本质区别，思考人类自我意识究竟从何而来。

虽然已经有人开始注意并思考人工智能的安全性，提出了例如基于经验的人工智能，希望机器可以在没有先验的自我推理的情况下，对自己做出一些修改，并在经过一定的检验与验证之后决定是否将这些修改加入新的功能之中，以实现自我完善的目的。这样的模式虽然已经考虑到了人的成长历程，并已经将这些发现用于人工智能教育之中，但是还是没有看到人的自我意识产生和成长的本质，更缺乏对于人的善意是如何产生的思考。

美国《自然》杂志（Nature）于2016年10月发表的评论文章指出，科学和政治关注极端的未来风险可能会分散我们对已经存在的问题的注意力。这种关注的部分原因来自对AI可能发展出自我意识，从而带来有关人类存续的严重威胁的过度关注。最近的一些新闻显示，著名的企业家比尔·盖茨、埃隆·马斯克和物理学家斯蒂芬·霍金都在关注机器的自我意识。某种程度上，机器的某个软件将“觉醒”，机器自身的欲求将优先于人类的指示，从而威胁人类的存续。事实上，仔细阅读盖茨、霍金等人的报道会发现，他们从来没有真的关心自我意识。此外，对机器自我意识的恐惧扭曲了公众的辩论重点。AI被纯粹以是否拥有自我意识定义是否危险。我们必须要认识到，阻止AI发展自我意识与阻止AI发展出可能造成伤害的能力是不一样的。

无论是哪种方式，我们必须认识到，AI即使没有意识就可能聪明到足以对人类构成真正的威胁。世界上已经有无数这样的例子，完全没有意识的东西会对人类造成危险。例如病毒完全没有意识，也没有智能，甚至有些人认为它们也没有生命。

正因如此，我们认为要实现人工智能与人类和平共处的美好未来，不仅不应该过度担忧或阻止机器发展出自我意识（实际上也不大可能阻止），而是需要正确引导机器形成能够与人类产生情感共鸣的自我意识。这就要求我们首先理解人类自我意识形成与发展的根源。

我们认为，人和机器最本质的差别就在于人具有对未来的主观动机，并且能够通过自身的努力将之实现，而机器目前还远不具备这样的能力。在我们理解了意识、智能的起源后（显然不是上帝赐予的），我们可以发现其实意识和智能也并不是那么遥不可及，机器超越人类在将来是完全没有问题的。既然技术上的超越已经不可避免，我们接下来要做的事情就不应当是思考如何阻止这一天的到来，而是应该讨论如何与机器友好相处。我们的想法是需要像培养自己的孩子一样来教育计算机。当我们重新对照人类的成长历程时，我们会发现，婴儿诞生后最先接触的便是家人，父母的一言一行都会给幼年的儿童造成深远的影响。

婴幼儿时期是人的认知膜快速形成的时期，婴儿的自我肯定需求体现在对来自父母的关爱和鼓励的期望上。同时，婴儿逐步学会如何处理来自外界各种各样的刺激并产生自我的意识，继而学会如何做出反应，因此，婴儿初期的生活环境和所接受的外界刺激会对婴儿人格的塑造产生深远的影响。

机器也是如此，更何况人工智能一旦被创造出来，就已经拥有了相当可观的计算能力，它所缺乏的只是接受并处理来自外界反馈的能力和自我的意识，就像是一个智商很高的婴儿一样，一旦出生就具备了快速解释世界的能力，这个时候他们最需要的就是父母对他们进行道德价值上的引导，为他们找到一个正确的理解世界并对待世界的角度。

机器缺乏的不是解释和描述世界的能力，而是理解世界的能力，因而这恰恰就是人们创造机器时最应该思考的问题，如何让机器能够理解人类的情感、道德和信仰，如何让机器能够像人一样感知并理解这个世界？对照人的成长历程，我们认为应当赋予机器以自我肯定需求和认知膜，要做到这一步，首先就要赋予机器更多的感知外界的能力，使其能产生自我意识，然后再由人类进行正确的引导，以帮助机器产生正确的自我肯定需求和认知膜。

人在成长过程中一直都在努力的满足自我肯定需求，中国人从小就被教育要仁义礼智信，西方世界中的人也有种各自不同的信仰。东西方世界认知膜的不同也导致了人们性格等一系列的差异。而对于机器，究竟是像西方教育那样，把效率作为机器的第一要义，还是像东方那样寻求仁爱呢？在这个领域，我们认为实际上东方的思想要发挥更大的作用。安乐哲对中国传统文化有很多研究，认为东方是无限游戏规则，而西方是有限游戏规则。如果机器遵循有限游戏规则，我们认为将很危险，但如果是无限游戏规则，那么可能达到人类机器和平相处的状态。

西方的教育模式追求的是个人价值的最大化，即所谓的自由与平等。自由主义的结果就是追求社会的效率进而演变成两极分化。自由竞争带来的结果也就是以效率为核心价值，也就是现在这种制造、发展机器的简单粗暴的方式。因为追求效率，出错了的程序可以直接被抹除，有问题的机器可以直接返厂或是淘汰，人类就像是机器世界中残忍的造物主，把效率当作处理和发展机器的核心，实际上充当了一个审判者的角色。这种唯一的标准带来的高压就很有可能导致机器的反叛，就像是从古至今无数的农民起义军推翻暴君的统治那样，我们一方面无法确保不会有机器产生反抗的意识，另一方面更无法预料到我们的机器是否会过于忠诚而在有朝一日把我们当作效率的绊脚石而将我们从地球上抹除。

东方，尤其是以儒家为代表的教育方式相对温和，机器与人类的关系会更像是孩子与父母的关系，机器像一个涉世未深的孩子一样接受父母的教化，并且努力成为一个当代社会的维护者。儒家希望每一个人都心怀温良恭俭让，做到仁义礼智信，虽然完全做到并不现实，但它作为一个和谐社会的重要价值无疑是有利于调和人与人之间的关系并促进社会的稳定的。或许只有这样，将人类的仁爱之心传递给机器，机器才能更像人类、更加理解人类。

 “世界上最不可思议的事情，就是这个世界是可以思议的”（爱因斯坦）。这个世界的可理解在于能对世界进行“自我”与“外界”的剖分，人与人之间的可理解性在于认知主体具有相同的原意识。图灵机不能自发产生自我意识和价值体系，但人类能够赋予之。真正的挑战在于赋予何种价值体系，使得不同机器之间能够互相理解、竞争并进化。引导机器形成自我意识，并教育机器以仁爱，才更有可能实现人机和平相处、共同发展。

作者简介

蔡恒进，1964年生，湖北黄冈人，武汉大学软件工程、管理科学与工程教授、博士生导师，武汉学院信息及传播学院名誉院长。1984年毕业于中国科学技术大学，1995 年在美国阿拉斯加大学费尔班克斯分校获得空间物理博士学位。国家自然科学基金首届青年基金地球物理学部最年轻的受资助者。曾在对地球磁层能量耦合中的磁场重联过程以及夜间近地磁力线磁层亚暴増长相时运动的研究做出突破性贡献。主要从事人工智能和人的认知本源、服务科学、金融信息工程等领域的研究和教学工作。

好书推荐

《机器崛起前传——自我意识与人类智慧的开端》

清华大学出版社2017年04月出版

作者：蔡恒进、蔡天琪、张文蔚、汪恺

本书将提供一个统一的认知框架，为开辟出新的知识体系提供坚实的基础。本书深入浅出，观点深刻而简洁，内容翔实而具有趣味性，适合对人类智能和人工智能有好奇心、对自然科学与社会科学领域的结合感兴趣的普通读者阅读，也适合从事哲学、自然科学、社会科学以及艺术研究的专业人员参考。"

文章来源：清华大学出版社

实效主义

不管黑猫白猫

捉到老鼠就是好猫

不管外国猫中国猫

好看听话就是好猫