尤瓦尔·赫拉利：你可以拥有蓝色或红色药丸，我们已经没有蓝色药丸了

Credit...Illustration by Zisiga Mukulu/The New York Times; photograph by Jonathan Knowles/Getty Images

想象一下，当你登上一架飞机时，有一半建造飞机的工程师告诉你，飞机有10%的可能性会坠毁，导致你和飞机上的其他人死亡。你还会登机吗？

2022年，在一项关于未来人工智能风险的调查中，超过700名顶尖学者和领先人工智能公司背后的研究人员被问及。半数受访者表示，未来的人工智能系统有10%或更大的机会使人类灭绝（或类似的永久性和严重的丧失能力）。建立今天的大型语言模型的技术公司正陷入一场将全人类送上那架飞机的竞赛中。

药品公司不能在未对其产品进行严格的安全检查的情况下向人们出售新药。生物技术实验室不能将新的病毒发布到公共领域，以便用他们的巫术来打动股东。同样，具有GPT-4及以上能力的人工智能系统不应该以超过文化能够安全吸收的速度与数十亿人的生活纠缠在一起。主导市场的竞赛不应该设定部署人类最重要的技术的速度。我们应该以任何能够让我们正确对待这个问题的速度前进。

自20世纪中期以来，人工智能的幽灵一直困扰着人类，但直到最近，它仍然是一个遥远的前景，是属于科幻小说而不是严肃的科学和政治辩论的东西。我们人类的头脑很难掌握GPT-4和类似工具的新能力，更难掌握这些工具以指数级的速度发展更先进和强大的能力。但大多数关键技能归结为一件事：操纵和生成语言的能力，无论是用文字、声音还是图像。

起初是文字。语言是人类文化的操作系统。从语言中产生了神话和法律，神和金钱，艺术和科学，友谊和国家以及计算机代码。A.I.对语言的新掌握意味着它现在可以入侵并操纵文明的操作系统。通过对语言的掌握，人工智能正在夺取文明的万能钥匙，从银行金库到圣墓。

对人类来说，生活在这样一个世界里意味着什么？在这个世界里，很大一部分故事、旋律、图像、法律、政策和工具都是由非人类智能塑造的，它知道如何以超人的效率利用人类思维的弱点、偏见和成瘾--同时知道如何与人类形成亲密的关系？在像国际象棋这样的游戏中，没有人能够希望击败计算机。当同样的事情发生在艺术、政治或宗教领域时会发生什么？

A.I.可以迅速吃掉整个人类文化--我们几千年来产生的一切--消化它，并开始涌出大量的新文化艺术品。不仅仅是学校作文，还有政治演说、意识形态宣言、新邪教的圣书。到2028年，美国的总统竞选可能不再由人类主持。

人类往往不能直接接触到现实。我们被文化所笼罩，通过文化棱镜体验现实。我们的政治观点是由记者的报道和朋友的轶事形成的。我们的性偏好是由艺术和宗教来调整的。到目前为止，这个文化茧子是由其他人类编织的。通过非人类智慧产生的棱镜来体验现实会是什么样子？

几千年来，我们人类一直生活在其他人类的梦中。我们崇拜神灵，追求美丽的理想，并把我们的生命献给源于某些先知、诗人或政治家的想象的事业。很快我们也会发现自己生活在非人类智能的幻觉中。

《终结者》系列电影描述了机器人在街上奔跑和射杀人。《黑客帝国》假设要获得对人类社会的完全控制，人工智能将不得不首先获得对我们大脑的物理控制，并将它们直接连接到计算机网络。然而，只要掌握了语言，A.I.就会拥有它所需要的一切，将我们控制在一个类似母体的幻觉世界中，而不需要向任何人开枪或在我们的大脑中植入任何芯片。如果有必要开枪，人工智能可以让人类扣动扳机，只需告诉我们正确的故事。

被困于幻觉世界的幽灵困扰人类的时间比人工智能的幽灵要长得多。不久，我们将最终面对笛卡尔的恶魔，面对柏拉图的洞穴，面对佛教的玛雅。一道幻觉的帷幕可能会笼罩整个人类，而我们可能再也无法撕开这道帷幕--甚至无法意识到它的存在。

社交媒体是人工智能与人类的第一次接触，而人类输了。第一次接触让我们尝到了未来事物的苦果。在社交媒体中，原始的人工智能不是用来创造内容，而是用来策划用户生成的内容。我们的新闻提要背后的人工智能仍然在选择哪些文字、声音和图像到达我们的视网膜和耳膜，其依据是选择那些将获得最大的病毒、最大的反应和最多的参与。

虽然非常原始，但社交媒体背后的人工智能足以创造出一幕幕幻象，加剧了社会的两极分化，破坏了我们的心理健康，并使民主解体。数以百万计的人将这些幻觉与现实混淆。美国拥有历史上最好的信息技术，但美国公民却无法再就谁赢得选举达成共识。尽管现在每个人都已经意识到了社交媒体的弊端，但由于我们太多的社会、经济和政治机构已经与之纠缠在一起，所以它还没有得到解决。

大型语言模型是我们与人工智能的第二次接触，我们不能再输了。但是，我们应该在什么基础上相信人类有能力使这些新形式的人工智能与我们的利益相一致？如果我们继续像往常一样做生意，新的人工智能能力将再次被用来获得利润和权力，即使它无意中破坏了我们社会的基础。

A.I.确实有潜力帮助我们战胜癌症，发现拯救生命的药物，为我们的气候和能源危机发明解决方案。还有我们无法想象的无数其他好处。但是，如果地基坍塌，人工智能组装的利益摩天大楼有多高也不重要。

在我们的政治、经济和日常生活变得依赖人工智能之前，是时候考虑人工智能了。民主是一种对话，对话依赖于语言，而当语言本身被入侵时，对话就会中断，民主就会变得无法维持。如果我们等待混乱的发生，再来补救就太晚了。

但有一个问题可能会在我们的脑海中徘徊：如果我们不尽快行动，西方不会有输给中国的风险吗？不会。不受控制的人工智能在社会中的部署和纠缠，释放出与责任脱钩的神一样的力量，可能正是西方败给中国的原因。

当神一样的力量与相应的责任和控制相匹配时，我们仍然可以选择我们想要的人工智能的未来，我们可以实现人工智能所承诺的好处。

我们已经召唤了一个外星智能。我们对它了解不多，只知道它非常强大，为我们提供了令人眼花缭乱的礼物，但也可能破坏我们文明的基础。我们呼吁世界各国领导人以它所带来的挑战水平来应对这一时刻。第一步是争取时间，为人工智能世界升级我们19世纪的机构，并在人工智能掌握我们之前学会掌握它。

作者介绍

尤瓦尔·赫拉利是一位历史学家，《人类简史》系列的作者，也是社会影响力公司Sapienship的创始人。特里斯坦-哈里斯和阿扎-拉斯金是人道技术中心的创始人，也是播客 "你的全神贯注 "的共同主持人。

来源：www.nytimes.com

翻译：www.DeepL.com/Translator

往期：