对话《未来简史》作者：AI消灭人类？你们想太多了
编者按：尤瓦尔·赫拉利，这位希伯来大学的历史教授绝对称得上“网红作家”。他的《人类简史》和《未来简史》被摆在书店最显眼的地方，全球巡讲每一场都座无虚席，掌声雷动，日程满到他来不及倒时差。
赫拉利本人总是一副忧心忡忡的样子。他写人工智能、技术宗教和人的命运，当世界沉浸在科幻电影所构建的“人 vs AI”的二元对立中时，他却说：AI才不在意是否消灭人类，它们只不过会让大多数人“无用”起来。
“我们都对一些虚构的东西怀有共同的信仰，社会、国家、金钱和组织的概念只存在于我们的想象中。”
历史学家、网红作家尤瓦尔·赫拉利刚结束一场半小时的演讲，台下听众如雷的掌声似乎还回荡在会场四周。采访室里，他坐在离我只有几米的地方，脸上略显疲惫，似乎随时会陷入日常的冥想状态。
赫拉利身上有一种很奇怪的特质。他写人工智能会如何改变人类的命运，自己却完全不用手机。他一个月要飞到世界各地去做无数场演讲，每天还能雷打不动地花两个小时冥想。他深受科幻小说的影响，却并不太喜欢幻想，或者更准确的说，他认为幻想出来的东西大多不存在，探索自己的内心比时空旅行更重要。
其实，如果你仔细听他阐述观点，就会发现，他在做与科幻作家们一样的事：反思当下的世界，不惮于展示糟糕的可能性，希望人类的未来能变得美好一些。
一个着眼于未来的历史学家
赫拉利几乎符合我们对“怪才”的一切想象，这位历史学家的成功，出乎所有人的预料。
他的两本书——《人类简史》和《未来简史》——甫一出版就成为畅销书，现在更是风靡全球，十有八九会被摆在书店最显眼的地方。在谷歌里输入他的名字，会得到超过40万条搜索结果，几乎所有知名媒体都有过至少一篇关于他的文章。从他走进XWorld大会会场那一刻起，观众席就爆发出了热烈的掌声。难怪赫拉利会说，自己来到中国后，受到欢迎的程度堪比摇滚明星。
这一切的背后，是大众科学的传播：历史研究走出学院，进入了普通人的生活。艰深晦涩的人类史理论，以一种平实而有趣的方式被放上书桌。
赫拉利大学期间研究的是中世纪军事史，博士毕业于牛津大学，现任耶路撒冷希伯来大学历史教授。2011年，他用希伯来语出版了《人类简史》一书，从石器时代一路写到21世纪，把整个人类历史浓缩在500页以内。2014年英文版出版，很快就被翻译成近30种语言。
去年，赫拉利又写了《未来简史》，把视野扩展至人类作为一个物种在进化中可能遭遇的问题上，用历史研究的方法讨论个人体验、情感和道德、意识和体验，以及人工智能浪潮席卷下，人类可能的未来。
而他看到的未来并不太美好。《未来简史》提出了一个观点：AI等技术的发展将在短短几十年内彻底改变人类社会的结构，产生一个新的“无用阶级”。
“科学研究关注的重点都是经济和政治系统的迫切需要，而不是从我们作为人类的更深层次的需求。……无意识的AI会把数十亿人类踢出劳动力市场，无用的大多数会构成一个规模庞大的新阶级。”
《未来简史》的原标题为Homo Deus，这两个拉丁词分别意为“人”和“神”，但与好莱坞科幻电影中拥有近乎神的能力的超级英雄不同，“homo deus”最主要的特质是能改变和创造生命——从某种意义上说，也可以理解为“上帝”。赫拉利认为，100年后人类也不太可能变成超人，但100年对于发展人工智能和生物工程技术来说足够了。“这远比超人或蜘蛛侠要厉害得多。”
在电影里，AI产生了意识后，或开始与人类谈恋爱，或想要消灭所有人。“这些都不太现实，因为智能和意识是完全不同的两回事。”智能是解决问题的能力，而意识有关感受和欲望，“目前看来，AI在发展出意识方面还没上道儿呢。”
因此，在他看来，好莱坞式科幻电影最大的问题，就是对科学整体发展方向的讨论脱离现实。
想象力与神话构筑的“现实”
赫拉利并不认为我们会被AI所消灭，他所担心的是，我们在技术的道路上高歌猛进时，却忽略了人类最根本的需求。所有人都死去的世界末日，一切问题也就跟着人类一起消失了。麻烦的是，我们很可能会在21世纪渐渐滑向自己亲手建造的反乌托邦。
《未来简史》不是一本科幻小说，但赫拉利如科幻作家一样，对人类社会持冷静而略显疏远的态度。他站在科学和历史的角度，做了与科幻类似的事：展示最糟糕的未来，然后逼着读者去反思我们的社会究竟可能出了什么问题。
今年6月坎贝尔奖期间，美国堪萨斯大学冈恩科幻研究中心召开了一系列讨论，其中一个重要议题就是反乌托邦文学。我们究竟为什么会写、会看这种并不美好的小说？
科幻大师詹姆斯·冈恩认为，乌托邦社会变成反乌托邦，就是因为我们不再做应该做的事了，比如关心气候变化、关爱身边的普通人。人性永远不会改变，但世界还会是原来的世界吗？科幻是一张地图，告诉所有人反乌托邦可能是什么样，参照这个指引，我们才能尽量避免坠入噩梦般的漩涡。
科幻有自己的卡桑德拉*式噩梦。阿西莫夫在几十年前就开始警告气候变化可能造成的危害，但并没有在当时的读者中引起多大的反响。所幸的是，《人类简史》和《未来简史》引起了广泛的关注，也触及了那些骚动着所有人想象的重要问题：明天会怎样？未来会怎样？
* 卡桑德拉（Cassandra）：古希腊、罗马神话中的特洛伊公主，太阳神阿波罗的女祭司，拥有预见未来的能力，却永远不被人相信。
但说起想象力时，赫拉利有着科学家的谨慎和科幻作家的远虑。
一方面，正因为想象力，人类社会才能凝聚起来。“以色列之所以存在，得益于对人民对这个国家的共同信仰；对金钱的信仰保证了世界经济能持续运转。”
另一方面，他担心想象力会让人们囿于神话构筑的“现实”，疏远于真正的现实。赫拉利在书中讨论了“技术宗教”（techno-religion）这一概念，认为宗教不是相信上帝，而是人类为了解决现实问题、寄托情感而发明出来的东西。人工智能、基因工程等带来的变化，已经令技术变成了新世界的宗教，不仅发生在硅谷，也在世界的每一个角落，放不下的智能手机，就是21世纪的神。
但这并不是要否定想象力，相反，赫拉利鼓励所有人开始思考那些尚不存在之物。“拿AI来说，虽然目前看起来还没什么危害，但我们需要提前讨论AI 的发展会如何影响就业市场。”
AI 并不在乎你过得如何
在计算能力方面，AI早已超越人类，硅基生命不受限于太空环境，因此AI 甚至可以代替人类殖民外星球，带来前所未有的生物革命。
“我们会渐渐与计算机融合，最后变成赛博格。”赫拉利的担心其实已经在现实中慢慢浮现，智能手机几乎变成了我们身体的一部分，社交网络账号几乎就是虚拟空间里的身份证号，手机上“睡眠”功能的原理，大概就是考虑到只要我们醒着，就在玩手机。“这些智能机器一刻不停地分析我们，逐渐适应了不同人的性格，并且在塑造者我们的世界观和内心深处的欲望。”
赫拉利相信，到2050年，智能手机将被植入人体内的生物识别传感器取代。基于对每一个人的生理参数的分析，AI 将更了解我们自己的喜恶和欲望，替我们作出人生中那些重大而艰难的抉择：报考什么专业，找什么工作，和谁共度一生。
“人类的记忆是靠不住的，但算法记得一切。于是，人类就像是被圈养的动物。在大数据处理机制中，变成了高效运转的芯片，而忘记了作为‘人’究竟该做什么。”
可是，AI真的在乎人类社会发生怎样的变化吗？
赫拉利认为AI不太可能产生意识，更不用说欲望或征服欲这些主观感情，因此也就不会像许多科幻电影中那样，对人类发动战争。“算法歧视人类是有可能的，但不是因为你属于某个群体，而是因为算法不喜欢你身上的某一点。可怕的是，你根本就不知道它不喜欢的究竟是什么，即使知道，你也不能组织一群人来表示抗议，因为你始终孤身一人。这就是21世纪的歧视——不是针对群体，而是针对个人。”
更大的危险还在于，AI会改变世界权力的分布，集权于一小撮人手中，导致社会阶级的进一步分化和人类本身的异化。
《未来简史》中提出的“无用阶级”的概念，不是指道德层面的无价值，而是对经济和政治体系来说无用。二战期间，每个人都有军事价值，40年代纳粹德国政府在医疗和教育领域投入了大量资金，是因为普通人也能变成士兵。但在新世纪，失去了经济价值的个体对整个国家和社会来说，已经没有什么实际作用了。
由此产生的新的不平等是多方面的。最早进入医疗领域的IBM Watson，正在训练成为超越医生的癌症专家；日本筑波大学和京瓷公司7月底宣布，已开发出通过皮肤照片快速诊断皮肤癌的系统，准确率高达90%；当医学的主要目的从具有平权色彩的治病救人，变成升级健康后，连死亡都不再平等了。
教育领域也是如此，因为无法预测未来的就业市场，现在的很多技术很可能在20年后都是毫无用处的。过去，机器自动化智能取代体能工作，现在AI开始在与智能相关的工作上与人类竞争，而失业者并没有适应新现实的能力。
“我们不用担心AI会消灭人类。未来，人类将面临不同的命运，而不是同一个命运——灭绝。”
▽
赫拉利的走红让我们看到了一些希望，这个世界并不会“死于安乐”，21世纪的信息爆炸让更多人能从更多角度思考过去和未来。诸如人工智能这些专业研究，渐渐变成了普通人日常谈论的话题。你可以了解不深，但不会从未耳闻；可以质疑或反对，但不会漠不关心。
从这个意义上说，赫拉利的作品有些像摇滚金曲的歌词，有人奉为经典，有人不甚认同，重要的是每个人都会有自己的解读；也有些像科幻小说，似乎讲的是离日常有些遥远的事，但这正是每时每刻都在向我们逼近的未来。
结束了巡回演讲，赫拉利回到了以色列，继续思考人类和未来，准备写一部关于当下的作品。或许从来就不存在“应许之地”，但赫拉利就像很多优秀的科幻小说家一样，想象这个世界最坏的模样，让我们在受了当头一棒之后，努力让自己离乌托邦再近一些。
如果人工智能真的有了意识
你愿意把自己也上传到赛博空间吗？
本周日，北京，今日美术馆
我们来聊聊上传之后的生活
你会成为赛博空间里的哪段代码？
“上传之后”
9月10日·周日 今日美术馆
点击图中的大脑了解详情
你将在这里上传意识
（照片提供：吴钰辉、碎碎）
点击文末左下角“阅读原文”，报名上传
📝责编：Mo
📝作者：Raeka，转码员，《不存在日报》记者，冷僻故事爱好者。期待有一天能在街角遇见蓝盒子，去看看galaxies far far away。
▼ 点击图片，查看更多精彩内容 ▼