刘慈欣：人工智能在情感上都可能会超过人
发现思想力 成就影响力
本篇文字节选自PingWest品玩的刘慈欣专访
1. 人工智能在情感上可能会超过人
目前，人工智能的优势集中在和情感无关的活动上面。对于人类社会来说，感觉或者说更高层次的情感是我们生活中相当重要的一部分。但对于机器来说不是这样，你要让机器具有人的感觉，实际上是为了人自身服务的，如果按照机器自身进化规律的话，它不会走人的感情，这对它是一种限制。对于人和智能机器的交互来说，特别是让智能AI推动将来人类社会发展，给人们带来更好的生活，机器从感情上跟人类交流是必须的。
我们成天谈情感、谈感情，其实从技术层面，从严格的科学层面上来说，人类自己也不知道感情是什么东西，我们并没有一个严格意义上的科学定义。
情感和记忆里的那些数据、事实的关系是什么？它是在左半脑还是右半脑？它是一种应急反应还是一种算法？其实，我们连情感在人类什么地方都不知道。
当然，按照传统主流的说法，可能说它在大脑里，但是这个其实很可疑，因为莎士比亚有句诗说“爱情你来自何方，是脑海还是心房”，这个很深刻。就是说假如我们把大脑从人的身体上抠出来的话，它还能够成活的话，它还有感情吗？这个东西很难说。
我是写科幻小说的，而并不是学者，我倾向于把所有的可能性排列出来。情感的存在方式有两种可能：
一种就像我们现在很多主流科学家认为的，人就是大脑。大脑里什么都有，情感都在大脑，你把大脑拿出来就是把人拿出来。
另外一种就是像莎士比亚表述的这样，情感有一部分在大脑，可能另一部分和你整个的身体系统，和你的内分泌、和你的各方面都有着密切的关系。
从我自己来看，可能后一种可能性更大，特别是爱情，我很难想象只有大脑能产生。所以说模拟情感，从一方面来说比模拟人类的纯智能是难度更高的。
但是，它不等于不可能，它不是我们既有的生物学、生理学的大脑机制上的模拟。人类的脑科学和神经学处于很原始的状态，但是我们可以把大脑、把人的身体情感看作一个黑箱，我们并不管它内部是什么东西，只模拟它的输入输出，这个是完全可以的。
我举个例子，我们并没有模仿鸟的飞行。但是飞机无论是速度还是高度，都比鸟强。那么一个很强的人工智能要想在不了解大脑的情况下，在不了解整个人的情感系统的情况下，仅仅从大数据去模拟情感，它最终可能像围棋一样。
你想想有这么一个存在，它能够在一个小时甚至更短的时间内，把人类有史以来所有的书、所有的小说、文学作品，一个小时内全部读完甚至时间更短。这么一个实体根据这么一个数据，可以在一天之内，把几亿人的情感生活全分析一遍，这么一个大数据筛选出来的情感，人可能是望尘莫及。
最近流行的一种说法就是人和人工智能的孰优孰劣，好像这个情感是人的最后一道防线。就说很多学者认为及计算机没有情感，实际上这个东西从科学上来说是很不成立的。我们自己连情感是什么都不知道，你怎么知道计算机没有呢？
2. 人和机器的沟通中间有一道很难图突破的障碍
人工智能的情感和人的沟通，它是分几个层面的，现在比较简单的层面像你说的银行、服务产业人机界面很友好，这可以作为人机交互的润滑剂，这个目前它的意义还是有限的。
人和机器的沟通中间有一道很难图突破的障碍、底线，这个底线很难突破，这个底线一旦突破的话对人类的改变还是很大的。什么底线呢？就是机器本身和我们的情感沟通。如果说我们不知道它是机器，可能会很容易。假如我们知道对方是机器，这个情感只能限制在一定的程度上。
人类对没有生命的机器，不管它有多高的智能，都没有多多的情感，就像你把一台机器给摔了，不会有任何道德上的谴责。
3. 越现代、越前卫、越高级的艺术越容易被机器模仿
八十年代大家都写诗，那会儿没有人会用软件写诗。我们看到这个东西现在被机器操作，尤其现代诗，现代诗有的时候是符号的游戏，是语言学家的符号学，机器很容易去模仿。
我看到机器出的诗集觉得很有意思，我会仔细去看，有的时候我甚至会拿它跟现代诗的作品作一些对比，以至于我真的分不出来从审美上哪个更好一点。这个时候我感到很不安，因为我知道它不是跟我们用同样的方式去创作文艺作品，但它们也创作出来。
但这个远不是最后一道堡垒，文学艺术包括人文的东西，目前机器已经在大规模侵入。其实在前年，在国内就进行过一次写古诗的图灵测试。就是说我不告诉这是机器还是人写的，就是一大堆诗，教你把机器写的、人写的挑出来，就算是中文系的教授、学生都挑不出。
现在电脑能写出很好的古诗来。但是目前人类还是有很多可以防守的领域。计算机最容易写的诗就是现代诗，我编的C语言、写诗歌程序还不到一千句，很小的一个程序。但是你要想写比较古典的诗词就难一点。
小说也一样，你写现代的意识流小说，让计算机写好像挺容易的。你要写托尔斯泰那种小说，恐怕很难。所以我说人类还有可防守的疆域，当然最后不一定防得住。因为你现在用计算机创作，你凑出一个上海的艺术双年展作品根本不费什么劲儿，而且根本看不出来那是计算机作的。但是你凑出一部古典的油画、国画这些作品来，我估计是很难。
一旦计算机、人工智能完全进入了人文领域、文学艺术领域，对我们的文明是一个冲击，那个时候艺术品的数量可能是巨大的，可能取之不尽、用之不竭，比如几秒钟就能生成一部长篇小说。可能它要是写出来一看就是机器写的，那个构不成威胁。它写的如果是让我们根本分别不出来是人类科幻作家协的还是机器写的，那个威胁就来了。
它基于海量的数据，基于一些算法产生的东西。这个我再补充一点，就是对于机器作品最后的评价，人们还是有个误区。比如AlphaGo下围棋，柯杰说的一句话对我印象特别深，他说搞了半天我们三千年来所有围棋的理论、顿悟全是错的。
我见过那个机器的推理过程，我见过用蒙特卡洛法，用进化算法推理一个事情的过程，他把整个打印出来，你看完全是一堆没有意义的乱码，你根本看不懂。我想AlphaGo对于围棋的推理过程也是那样，你看不懂。但是不管看得懂看不懂它最后赢了，你说围棋多么古老，我有禅意。这是不错，但是围棋是为了赢的。文学艺术其实也一样，情感也一样，不管我怎么把它产生出来，我打动你了，我震撼你了，引起了你的共鸣，你管我怎么产生出来的，你管我背后有没有你说的情感。
现在这些人类、诗人们辩护说他们有情感，其实你那些情感最后挖到最深处，不也是大脑中一些化学物质的传递和反应吗，和那些电子的传递算法在自然规律上没有什么本质区别。
4. 机器创造的人类永生，是真的永生吗？
我作为一个存在，比方说几十年后的一天我躺在病床上，然后我面前有人说你不会死的，哪怕你的躯体死了，你也不会死的，因为你看面前这个人，它具备了你所有的理智和情感，我们这个东西既通过机器模拟，也通过云和大数据去复制，这个人它已经能像你一模一样了。这个时候其实我想做的一件事情我赶快坐起来，然后用我生命中的最后一丝力量把它掐死，这个事情让我感觉非常可怕。
你的一个完整的复制体可能是在这个世界上最大的异己，因为那是个很可怕的东西，因为我们最怕在别人身上见到我们自己的缺点，你所有的缺点、黑暗面他一点不落全有，而且它还知道你所有不可见人的事儿，这个东西别说是你的永生了，你根本不愿意它存在。
而且你说的关于一个复制体是否意味着一个人永生的问题，我觉得从不同的视角看，不同的人看答案是不同的。从别人看你确实永生了，那就是你。
所以永生对于个人来说，最可靠的办法还是保持数据在你大脑里面，就是让你的身体不断地在未来的先进技术下能够维持下去。否则的话复制人这个事情、永生这个事情从哲学层面思考其实是很绕的，越想越复杂。
一个大脑真的能代表一个人吗，很难说。就像一个计算机，你把硬盘拔出来揣在口袋里拿走了，你等于把整个计算机拿走了吗，没有，可能你把它主要部分都没拿走，它的CPU、它的内存条这些东西。
用大数据来构造一个已经去世的人的技术，现在差不多能做，据我所知没有什么人愿意去做这个。当时是重庆还是哪儿，有一个做公墓的企业家，他有一个想法要做一个很现代化的墓，他的想法就是在墓碑上有一个屏幕，反正最后模拟这个亲人的影像。这个效果除了恐怖以外，没有别的任何效果，特别是晚上去了墓地。
5. 当人工智能遇见智人，
会不会形成“共生”的新物种？
在我们来说智能可能分两部分，一部分就是很硬的智能，基于数学的推理、逻辑这些，这些方面计算机早就超过人了。另外一方面就涉及到人本身情感很微妙的这些人文的、情感的这些东西，目前可能人工智能还在快速的学习当中。
但是我觉得总有一天会以很大的计算速度、很好的算法，最后以海量的原数据来制成，肯定计算机在情感方面也会超过人的。
这个变化用一个词儿可以形容，叫other，就是他者。人类文明什么都遇到过，但是唯一一种东西我们从来没有遇到过，就是他者。他者的意思就是一个有自我意识的，在智力上与你相当或者比你这么一个存在，这么一个存在从来没有过这个东西，假如真的出现了，甚至我们仅仅知道它存在了，对我们人类文明、人类文化会产生什么样的冲击，就是说在这个层面上外星人跟人工智能倒是有共同之处，都是他者。
曾经智人在欧洲和尼安德特人共同生活，也算是一个他者，但那个他者，好像他们之间还没有生殖隔离。
而机器绝对是他者，而这个他者如果在人文情感、文学艺术上也侵入到人类的领域的话，那我们生活可能会发生根本的改变，至于说怎么改变，可能性太多了，都是科幻小说的故事和资源，但是要真的适应那么一个社会也不是太容易。
不过目前来说，我们对人工智能的期望和目前人工智能所达到的技术水平之间距离很远，而媒体把它混淆了，好像让我们觉得像库兹威尔在奇点里面定了一个时间，就是机器取代人的时间是2045年，这个有点太乐观了。
目前，无论是你看人脑的一个神经节很可能相当于一台CPU或者甚至一台高级计算机，人脑有一千亿个神经节，而我们目前速度最快的计算机CPU大概也就一万个左右，这差的太多了，这个技术差距什么时候赶上，这也是一个问题。
所以说我们说的这些是一个设想，但是它还有很大的可能会到来，但它到来的途径和它到来的方式可能不是我们想的。
在我们面前，现在我们的意识深处，我们的情感好像是一道马奇诺防线一样，把机器挡在外边。但是像历史一样马奇诺防线不是被攻破，是被绕过去的。所以机器从哪一条路绕到我们背后，在情感上超越我们，在文化上超越我们，这个是不知道的。
我们一步一步地在积攒，我们在某个服务项目、养老项目上，人和机器的交互算法越来越完善，后面的数据支持越来越庞大，很可能总有一天量变就变成质变，就悄悄的不以我们的意志为转移在发生了，那条绕过马奇诺防线的路就通了。
人机结合我觉得是一个跨越智能机器危机的一个途径，我打不过你我就加入你嘛。
编辑：杨胡贤哲、马宇聪