活动回顾 | 刘擎x许纪霖x黄竞欧 ：《智人之上》，反思AI迫在眉睫，我们今天又重新处于奥本海默的时刻……

尤瓦尔·赫拉利

9月10日，中信出版集团特别邀请华东师范大学的刘擎和许纪霖两位教授，结合尤瓦尔·赫拉利这本新书《智人之上》进行了精彩对话，并特邀首都师范大学讲师黄竞欧主持。因篇幅有限，此处仅做部分选摘。

每个人使用AI时都肩负着重大责任

黄竞欧：尤瓦尔·赫拉利在这本新书《智人之上》中，他谈到我们已然处于一个人工智能的时代，比如我们使用聊天机器人，各种各样的翻译软件等。所以他提出一个观点：每个人在使用AI的过程中都肩负着重大的责任，那就是正确地引导AI向着一种积极的、有利于人类发展的方向。他认为每个人都负有这个责任，因为每个人都处在跟AI交流的信息节点上。

两位老师认为无论是从伦理的层面，或者从有利于人类发展的层面，我们应该如何跟AI打交道，或者说如何使用它、引导它？

刘擎：这里面有好多层次可以谈。最直接的就是《智人之上》这本书是以信息网络作为主干来分析的。他认为印刷术和计算机发明的信息网络，看上去都是技术，但它们有一个本质的不同。印刷术是无法摆脱人独自存在的，印刷术印的任何书籍、纸张文件等等，哪怕文官系统总是要从文件到人、人到文件，人在整个的网络当中它是不可缺少的一环。

而计算机新时代它有两个特点，一个是它可以独立做出决定（make decision）。做这个决定它只要智能就可以，它不需要情感，不需要意识。第二，它在做决定的时候，通过计算以后可以有新的想法，于是可以只从一端构成信息网络，它中间没有所谓人的环节，计算机连一个计算机，再连一个计算机，再连一个计算机。

华东师范大学刘擎教授

他在书里举了个例子。比如在股票里，有一个信息传达了虚假新闻，一个计算机分析认定可能是一场政治危机的开端，觉得很危险，就要把那些高风险的股票全部抛掉；有的地方听到之后它自己做个决定要购买风险更低的国债。在这个过程中，计算机就自己决定了，马上在几秒钟里边操纵金融市场。它具有一个由机器或者非人作为能动者的自动的网络，这是极大的不同。

在这种情况下，他谈到我们在使用它的时候，怎么叫恰当地使用呢？就是说让它能够为我们人的目标来服务，而不是被它所操纵，这就变成了一个很重要的问题。但正是在这一点上，我一直觉得赫拉利自己有一个没有办法完全解决的内在矛盾。

他很早就在《未来简史》和《今日简史》里面说，我们有主要的共同故事，从宗教到科学到人文主义。但今天由于AI的挑战，人文主义这个故事已经讲不下去了，我们需要一个新的故事。我们人的目标是在共同的故事当中，但是如果这个新的故事还没有出来，在什么意义上能说我们要让它为人的目标服务？

我认为，虽然赫拉利一直说自己是中立的，他仍然有一个立场，他是一个人文主义者，而且他是一个自由民主主义的支持者，是一个民主派。他是一个比较在乎社会、正义、平等的一个民主派。他仍然怀着这个立场，只是他感到了危机和挑战。

同时他在这本书里面我觉得最深的一个洞见，就是他对西方民主政治的危机感是很强的。他认为现在的这样一种信息网络，会煽动仇恨，煽动民粹主义。因为计算机虽然没有情感，但它知道它要什么。它要大家参与度更高，它要流量更高，所以它认为推送什么信息是最有效的？仇恨。仇恨是非常原始的，结合了人的那种本能。它在经验的大数据下知道仇恨性、煽动性的言论，最容易让人involve、engage，所以它就会做出这样一个决定。它是一个没有情感的机器，没有内在意识的机器，做出来这样的决定，它就改变了我们网络信息的立场分布。他认为这对于民主政治是致命的。

总的来说，我认为这本书有敲响警钟的功能，让我们在使用计算机的时候意识到我们是被算法所操纵的。有意思的一点是我为什么觉得它还是有用的呢？大家想想这样两种状态：一种是我被算法推送，我不知道有算法这回事；第二种是有人告诉你，你接到这么多仇恨言论的信息，或者你接到这么多同一类商品，或者接到这么多同一类小视频，是由于算法在操纵你，我处在这两个状态是不一样的。正像你不知道存在魔术的时候，你看到魔术是一个惊喜，然后有人告诉你这是魔术，是一种特殊的伎俩，是里边有一种诡计造成的结果，你在认知上是处于不同的状态的。

像赫拉利这样的文章，不仅是他，还有其他很多人揭示的底层算法，这有点像什么？像古代的戏剧，我们只在前台看到演员在演，现在有人一方面在给你演戏，一方面把后台怎么操纵的全部给你揭示出来。我认为现在的观众是可以，哪怕在这个信息时代，处在一个反思的立场。只要你愿意，你可以抵达这个反思的立场，来开展自己的主体性行动。这就是这一类写作带给我们重大的启示。

许纪霖：我看了赫拉利这一年多的很多访谈，他深刻表达出ChatGPT诞生以后，人工智能可能会给人类社会所带来的伤害。所以在今天技术加速主义和对齐主义两大立场之间，他显然是对齐主义的。
他不完全否认技术依然有必要发展，但他的立场是很鲜明的，我也是比较赞成这样的立场。用他的一个非常通俗的比喻，假如你在上一架飞机的时候，有一半的飞机设计者和工程师告诉你，飞机有10%的失事的危险，你还会上这架飞机吗？因为一旦发生了，这是人类付不起的代价。

华东师范大学许纪霖教授

在这点上我是赞成赫拉利的，人工智能的发展怎么和人类文明对齐，因为这是人类文明第一次出现的这样一个人类的创造物，最终有可能摆脱人类本身，它摆脱造物主，成为人类无法控制的一个新的物种，就是所谓的硅基生物。硅基生物有没有可能以后会建立、形成一个对碳基生物的统治？

因为你想象一下，赫拉利讲的都是链接，这个链接过去讲的都是自然人、文明社会他们自身所建构的这套链接。但是当这样一个高级人工智能产生以后，无数台计算机之间可以产生无数的链接，不需要人就可以形成另外一个世界。这个世界一旦出现以后，我们是无法操控它的。

好几个人工智能的专家，都是做研发的，不是做理论研究的。他们对我说：“许老师，我到现在还没搞清楚，人工智能是怎么获得最后的结果的，它整个一套逻辑，我们是不清楚的。”也就是说它们自身所形成的一套逻辑，甚至它最后慢慢形成自己的一套算法，已经超越了我们的想象。这就像当年围棋Alpha Go，它可以下出这种漂亮的新的下法，我们过去想都想不到。

刘擎：Alpha Zero。Alpha Go是模仿大师的，Alpha Zero是自己搞的。

许纪霖：对，这个是一个非常典范。在《智人之上》里面，赫拉利说人工智能会形成一个硅幕，就是硅基生物最后建立了一条铁幕，这个铁幕把硅基生物和我们碳基生物隔离了，那个世界是我们无法理解的，甚至它具有自主性，它自己可以运作。

自主性，这是真正让我们恐惧的地方。如果它是它的世界，我是我的世界，那也就罢了，大家在一个平行世界里面。但是很有可能出现硅基生物对我们人类世界的殖民化。它可以释放出足以乱真的虚假信息，我们根本无法辨别。虽然我们的法律可以要求，凡是AI创造的，你必须打水印，必须注明，但是最后当它不再听我们指挥的时候，它释放给我们的信息不打水印，你何以辨别？这种殖民化，不是一个天方夜谭的故事，恐怕三、五年以后就成为一个现实。

我想说赫拉利的担忧不是杞人忧天，我是赞成赫拉利的立场——人本主义，人本主义依然以人为本，这个人是自然人，并不是我们说的人创造的异类、异种生物。就像过去《左传》《春秋》里面说的，“非我族类，其心必异”，这个族不是我们自然人所说的异族，而是一个完全和我们不一样的另类的物种，其心必异，你无法想象它在想什么，它是一套什么算法，它以后会干什么。

如果我们依然还有这样一种人本立场的话，我们不能凭一厢情愿我们以后就得和谐相处对吧？这个和谐相处建立在一个前提下，那就是我还在对你可控。我们可以给你一个指令，你必须和我和谐相处。当然我们希望它的本性为善，但是历史经验往往告诉我们，人性往往都是趋向于恶的，这个恶当然不是要作恶，而是从欲望推动，这种欲望就是主宰力、控制力。我甚至相信硅基生物也同样具有这样一种欲望，这种所谓控制、占有、主宰的欲望，那么你怎么来应对它？

所以从这个意义上来说，赫拉利的立场也是我非常赞同的立场，它的发展要向人类文明对齐。

人工智能时代是否存在真实的亲密关系？

黄竞欧：在赫拉利的这本书里面，他不仅从宏观层面去讨论人工智能时代给整个人类发展带来的挑战，他还从微观上注意到当计算机学会了使用人类的语言之后，能够通过跟人类沟通的方式来跟人类建立亲密关系，对个体所造成的影响。

首都师范大学讲师黄竞欧

在两位老师看来，人跟人工智能或者跟计算机建立的这种亲密关系是真实的吗？而在现在日渐老龄化的社会里，它又是否有存在的必要性？

刘擎：这是一个有意思的问题。当我们问我们跟计算机建立这种亲密关系是否是真实的时候，需要先回答什么是真实？有人问，我们真实的人和人之间建立的亲密关系，那种爱情是真实的吗？好多年轻人不相信真的爱情，“哪有什么真爱？都是博弈，都是利益互换，是交易。”好多情感故事都是在用所谓博弈论的逻辑来给大家一些忠告和策略，说你怎么来处理亲密关系。

所以当真的亲密关系这个问题本身变成问题的时候，我觉得很多人愿意说，只要人工智能的机器人的伴侣发展得更真切一点，它完全可以做一个所谓的平替。或者说，现代人有对爱情的幻灭感。好多年轻人认为真爱要么不存在，要么存在也轮不到我。我们先要学会把自己看护好。但人会有情感需求，有亲密的、归属感的需求，所以如果AI机器人能发展出一种方式带给我们亲密感，它确实有很大的吸引力。

虽然现在AI还不是发展得特别健全，特别成熟，但已经有一部分人跟它也就发展出一种伴侣的关系、问答的关系。有一次我在讲课的时候遇到一些海外留学生，那时候我还没用过ChatGPT，他们就是在ChatGPT 3.5的时候，三、四个女生还有一个男生，他们说，我每天晚上睡觉前有20分钟跟ChatGPT3.5（那个时候是很低的版本）对话。有的时候是吐槽，向它说今天一天的沮丧、不安或者是问题，它应答特别体贴。过了一段时间他们就觉得它像一个伴侣一样，离不开它，对它有感情了。赫拉利在新书里也引入了这样一个例子，谷歌公司里有一个人就发现他自己对机器人有了感情。

来自虚拟女友的电话。电影《她》

而最近有一些网站提供了虚拟伴侣的服务，好像前段时间网络发生问题上不去了，大家就一片哀嚎，有的人觉得失恋了。还有一个人用了一个特别生动的语言，说像你的未婚夫出去旅行，但是飞机失事了。甚至有几天这个人是沉浸在这种哀悼之中。

在我看来，机器人的亲密关系是没有办法取代的。我在做一个关于爱情哲学的课程，我给出一个思想实验。你说现在交友、谈恋爱太难了，那我们就发明了一种机器人伴侣，出厂设置全部按你所愿，它是百依百顺的。或者如果我觉得百依百顺太无聊了，我让它有点小脾气，脾气你是可以调程度的，有低级、中级、强力。你特别喜欢好斗的，你觉得两个人的冲突会造成激情的，你就调一个强脾气模式。你要喜欢温柔的，你就调一个弱脾气模式。这一切都如你所愿，跟这个人生活在一起，你感到很舒适。但是你会感到爱情，你能相信这是真的爱情吗？

电影《她》

有一个麻烦就在于，当我们在爱情当中的时候，我们是相信有一种主体间的关系的，因为我得到一个人的赞美或者体贴，哪怕是顺从，当他是一个具有主体和自由意志的人的时候，这份承认才是值得的，才是有价值的。正像黑格尔在讲主奴辩证法的时候，当你完全变成主人，奴隶对你的承认虽然是100%彻底的，但他没有价值，因为他是奴隶。所以你不知道他的承认是由衷的，还是出于他的奴隶地位。

在你对机器人伴侣感到十分美好的时候，你知道所有它顺应你的那些都是你设计的，所以仍然有一个巨大的缺失和空虚感。在某种意义上，我们知道我们愿意自欺欺人。当我们自己知道自欺的时候，它仍然是有一种挥之不去的遗憾，我认为它是没有办法替代的。

许纪霖：我这一年与好几个聊天模型做沉浸式的体验，体验的感觉是不好的，为什么？我发现这些所谓的机器人伴侣目前达到的水准，因为它有很多语库，它是一种概率的计算，你问什么问题，它在各种各样的可能性回答里面，选择了一种来回答你。机器人伴侣的回答，基本是陈词滥调，缺乏个性和鲜活感。

实际上亲密关系恰恰就像开盲盒，你不知道他的反应会如何，才会吸引你。这种不确定感才构成了某一种你喜欢它的理由，如果它所有的回应都是一种你所期待的，你预料中的，你想想看你还有多少surprise？没有了，它的各种各样的神秘性，不可测性。因为不了解才会产生爱，因为了解最后反而是彼此疏远，这是亲密关系的某种特征。

刘擎：这里肯定是用的模型不够好。有一个电影《她》，里面的“她”会打动人吗？明明知道选的是机器人，但是那个主人公还是陷落其中，直到他认识到“她”跟35000个人在同时交往的时候，才崩溃了。他明明知道是自己选的，也知道是一个机器大语言模型训练过来投喂给他的，但他还是对“她”产生了一种很强的依恋感。

电影《她》

黄竞欧：他要“她”的独特性，你可以是AI，但是你必须属于我，你不能跟别人共享。

刘擎：对，这是一种专有的、排他的关系。

许纪霖：为什么今天这样一种聊天模型很多人喜欢？我觉得和我们今天这个时代有关，我们今天要找到彼此之间身体的亲密太容易了。但是今天身体越来越接近，心灵越来越遥远，因为心灵的魅力就在于变幻莫测，高度的不确定，所以它才有吸引力。很多人就想寻找一个精神上的伴侣，这些AI聊天模型也许刚好迎合了你这些东西，它输出的一些所谓情绪价值，算准了人性的弱点，提供给你了。

但是我想说的是，恰恰是真的亲密关系，它一定要具有身体性的。纯粹精神性的东西，柏拉图式的恋爱，与仅仅只有身体，都是长久不了的。甚至在我看来亲密关系更具有身体性。那么这种身体性缺失以后，那些精神性的东西，我们同样说它是不完备的。

所以我一直在思考的问题就是，在一个人工智能时代，怎么来实现身体性的亲密关系？当然一种模式说我可以在自然人那里获得身体的亲密，在机器人那里获得一个精神性的亲密，那么这需要一种能力，就是身心分离的能力，你的各种欲望可以分解在不同的人身上，在自然人和机器人那里分别获得满足。

电影《她》

爱情一定是具有某种排他性的，这种排他性在动物那里也存在，且不要说人。所以电影《她》最后男主的崩溃在于发现他所爱上的这位是不具有排他性，是和别人共享的“人”。

主体间性就是我与你，而非我与他，这种关系是真正达到了一种恋人的关系，如果不具有排他性，你所爱的人同时和500个、5000个人在恋爱，那么你对他意味着什么？你只是他的一个客体，只是它服务的众多客体之一，你的主体已经消失了，你成为他的一个服务的客体而已。

所以这个电影最后崩溃就崩溃在这，我只能说到目前为止，人工智能只提供了一个虚假的亲密性，并不是一个真实亲密性，它只是弥补了我们在真实世界里面匮乏的这一面，而并不意味着他成为一个完全灵肉交融的一个真正的亲密性。

刘擎：我觉得许老师刚才强调的要点在于，他说的排他性是要求身心合一的，而且是同一个人。那么就这个问题我可以说，给你制作一个有身体的机器人，而且它身体整个的生物性的感受和真人是一样的，那么这个问题是不是就解决了？它既有身体，又有心灵，是身心合一的，而且是专属于你的。

但即便如此，对我来说，一个完美的机器人，如人般真实的，在感受上真实的一个机器人，当你知道它是机器人，也就是说它只有智识而没有内在意识和精神感受的时候，它不能够像你同样感受到那种心跳、心痛和那种奔涌的时候，你仍然觉得虽然你让我有这个感觉，但我知道是由于我购买产品的设置，让我有这样的感觉，这仍然失去了那种爱情、亲密关系要求的真正意义上的主体间性。哪怕你能够设置一些出乎我意料的东西，我也知道这不是发自于你内心的，因为你没有内心，只有智识。

赫拉利在这本书里说得很清楚，他以前也曾讲过，机器人我们断定它是可以有智能的，未必需要有意识，有智识就可以做恰当的决定。所以它的喜怒哀乐都是它做出的正确的决定，而不是发自内心的。在这个意义上我们可以做一个亲密关系的平替，但它不能够真正达到那种我们所向往的经典意义的亲密关系和主体间性。

许纪霖：事实上最深刻的爱并不是快乐，而是痛苦，它永远伴随着痛苦。

刘擎：悲喜交加。

许纪霖：无论什么意义上的痛苦，到目前为止，只有自然人才能提供，因为自然人你永远无法确定你所爱的人，他的下一步反应是什么，他永远会给你留下很多缺憾的东西，这才真正的吸引你。

但是今天很多人迷恋上的那些他认为他离不开的机器人，到底是一个他真正爱的人，值得留恋的人，还是他离不开一个在生活当中的一个奴隶，它永远在讨好你，做你喜欢做的事，想你所喜欢想的，说你想听到的话。但是当你意识到这点，那么我只能说你的骨子里边有一种主人性格，你并不需要一个和你平等的对象，而是完全听从你、顺服于你的奴隶，实际上这也是某种客体。因为按照黑格尔的主奴辩证法，看起来你是主人，它是奴隶，但是当你某一天离不开它的时候，你是被它控制。

电影《她》中，系统错误后，主角失去了和虚拟女友的联系

所以在我看来，这同样不是一种最真实的亲密关系。哪一天生命科学和人工智能结合，能够出来一个完全像真人一样，有触感观感，那种肌肤相亲的感觉，同时又植入了那种高级的人工芯片、大脑芯片。这个时候的人，恐怕就更接近我们所说的这个意义上的亲密关系了。

但只要没有出现，我依然认为这是一种“拟亲密关系”，或者甚至说是一种虚假的亲密关系。当然了，只要你认为感觉好那也行。

刘擎：它作为商品是好的。

许纪霖：是，只要你开心就好，是吧？但是你不要真的以为这就是亲密关系。

我们重新处于奥本海默时刻

黄竞欧：赫拉利的新书不管它是《人类简史》三部曲的续曲，或者是基于当下的一种崭新的一个阐释，您觉得这本书最打动您的地方，或者认为它最核心、最具创见的地方是什么？

刘擎：我自己私自认为《智人之上》其实才是第三部曲，就是第一部是《人类简史》，第二部是《未来简史》，那个《今日简史》是中文起的名字，它原名叫“21世纪的21个问题”。《今日简史》特别像一个新闻工作者写的，应对当下棘手的问题的具体的答案，是基于前两部做的一个应用题，而这一部倒像是三部曲的第三部，想用一个贯穿性的框架，它从信息的发展史来讲，这是一个大历史的处理。

所以它带给我们的启示是换了一个角度，是着眼于信息的网络来看信息网络的不同类型对我们人类生活，特别是政治生活、政治秩序和人类欲望塑造的这样一个理解。它这方面谈的是蛮详细的，包括我们的隐私权是什么。我们本来认为它是一个工具来实现我们的欲望，但我们的欲望也是被工具反过来塑造的。在他忧虑的西方的民主政治当中，他特别担心的是那种民粹主义、煽动仇恨的那种阴谋论在信息网络里面大行其道。因为他讲有一个天真的信息观，就是说民主不是让大家都发言吗？那么互联网不是让大家都发言，不是更促进民主吗？根本不是这样。

互联网有促进民主的一面，它可以让很多人比如弱势群体、边缘群体发声，同时它也可以让一些专断者有更好的监控和操纵的方式，它可以让那些具有煽动性的民粹主义者，找到更多凝聚他们团体的方式。所以这就像所有的技术一样，同时带来潜力和挑战的这样一个状况。

赫拉利这本书它是从这样一个视角出发，对信息网络的类型和它的转变剖析的角度出发，让我们看到今天我们怎么对付它。这里面有一个点特别有意思，他说历史学不是研究过去，是研究过去是怎么变化的，这让我们来为未来可能发生的变化做好准备。

这里面当然没有决定论。因为我们知道了过去的变化只能让我们受到启迪，而不能说未来的变化就按照过去的踪迹再演一遍。所以理解历史，理解信息网络变化的历史，让我们对未来信息网络变化的各种可能性做好准备，带着这样一种认知的背景，我们在里面想我们人能够做什么，应该做什么和如何去做。

许纪霖：这本新书我想给我最重要的是三点。

第一点就是一切皆可链接，一切皆是网络，他用这样一种链接的网络结构的方式来看我们的文明历史的发展。

第二个，这本新书比较了两种不同的信息的结构，中央集权式的和分散处理的两种模式。在赫拉利看来，因为信息是非常复杂多元的，所以也必须做一种分层的处理，这对我们今天是有很大的启示意义的。

第三个，它警示我们一种新的物种即将出现，它有可能会塑造、建构一个我们所完全无法理解的一种新的网络结构，甚至有可能阻碍我们的未来。我们怎么和他们链接，形成一个能够互动的、互为主体的关系。

这三点是这本书给我一个最大的印象，因为它背后所能引出的问题是值得我们今天继续来探究的。

刘擎：我想补充一点，赫拉利他在这本书里说，大家要注意有一个紧迫性，就在未来四、五年内，我们就会决定自己的命运。因为好像这是最后一个时间窗口，如果错过了，就像许老师刚才讲的，硅幕它就下垂了，它将隔绝人类和非人类智能的两个世界。

那个世界一旦来临的话，可能有的时候就太迟了。他要把具有紧迫性的反思意识和这个时刻交付给大家，让大家积极地思考和行动。

许纪霖：我们今天又重新处于奥本海默时刻，也可以把它命名为ChatGPT时刻。

中信出版
尤瓦尔·赫拉利系列作品 
《智人之上》

点击图片，即可下单
▽

《人类简史》三部曲10周年纪念版

点击图片，即可下单
▽

《人类简史》知识漫画

点击图片，即可下单
▽

本文转载自公众号“中信出版”，感谢中信出版集团授权海螺转载。

本期编辑  |  周泓彤   

推荐阅读