基辛格、施密特等：ChatGPT预示着一场智力革命（外媒编译）

译者按

关于LLMs（大型语言模型）的风险和监管，本公号发布过以下文章：

今天和大家分享的是刊登在《华尔街日报》网站上的一篇观点性文章。其作者鼎鼎大名。

基辛格先生曾在1973-77年担任国务卿，在1969-75年担任白宫国家安全顾问。

施密特先生曾在2001-11年担任谷歌首席执行官，2011-17年担任谷歌及其继任者Alphabet公司的执行主席。

Huttenlocher先生是麻省理工学院施瓦茨曼计算机学院院长。他们是《人工智能时代：和我们人类的未来》的作者。作者感谢埃莉诺-伦德的研究。

本翻译仅供研究使用，谢绝商业用途。

—

一项新的技术将改变人类的认知过程，因为自印刷术发明以来，人类的认知过程还没有被撼动过。1455年印刷古腾堡圣经的技术使人类的抽象思想得以普遍而迅速地交流。但今天的新技术却逆转了这一过程。印刷机造成了现代人类思想的大量涌现，而新技术则实现了对其的提炼和阐述。在这一过程中，它在人类知识和人类理解之间造成了差距。如果我们要成功地驾驭这种转变，就需要发展人类思想和与机器互动的新概念。这就是人工智能时代的基本挑战。

这种新技术被称为生成性人工智能；GPT代表生成性预训练转化模型。在OpenAI研究实验室开发的ChatGPT，现在已经能够与人类对话。随着它的能力变得更加广泛，它们将重新定义人类的知识，加速我们现实结构的变化，并重组政治和社会。

生成性人工智能提出了一个自启蒙运动开始以来从未经历过的哲学和实践挑战。印刷机使学者们能够迅速复制彼此的发现并分享它们。信息的空前整合和传播产生了科学方法。原本密不透风的东西变成了加速查询的起点。以宗教信仰为基础的中世纪对世界的解释逐渐被削弱。宇宙的深处可以被探索，直到达到人类理解的新极限。

生成性人工智能同样将为人类理性打开革命性的途径，为巩固知识打开新的视野。但也有明显的区别。启蒙知识是逐步实现的，一步一步的，每一步都是可测试的和可教授的。人工智能支持的系统则从另一端开始。它们可以存储和提炼大量的现有信息，在ChatGPT的案例中，互联网上的大部分文本材料和大量的书籍——数十亿条。持有如此大量的信息并对其进行提炼，是人类无法做到的。

复杂的人工智能方法产生的结果并没有解释为什么，或其过程是如何运作的。GPT计算机接收由人类的查询提示，并在几秒钟内以文字形式回答。它能够做到这一点，是因为它有预先生成的大量数据的表征，它在这些数据上接受了训练。因为它创建这些表征的过程是由机器学习开发的，反映了大量文本的模式和联系，任何一个表征的特定特征的确切来源和原因仍然是未知的。学习机器通过什么过程来存储知识、提炼知识和检索知识，同样也是未知的。无论这个过程是否会被发现，与机器学习相关的谜团将在无限的未来挑战人类的认知。

人工智能的能力并不是静止的，而是随着技术的发展而呈指数级扩张。最近，人工智能模型的复杂性每几个月就会翻一番。因此，生成性人工智能系统的能力甚至对其发明者来说都是未公开的。每一个新的人工智能系统，他们都在建立新的能力，而不了解它们的起源和目的地。因此，我们的未来现在拥有一个全新的神秘、风险和惊喜元素。

启蒙科学积累了确定性；新的人工智能产生了累积性的模糊性。启蒙科学的发展是通过使谜团变得可以解释，随着人类知识和理解的发展而划定其边界。这两种能力是同步进行的。假设是准备成为知识的理解；归纳是知识变成理解。在人工智能时代，谜题是由仍然未知的过程来解决的。这种令人迷惑的悖论使谜团不再神秘，但也无法解释。从本质上讲，高度复杂的人工智能促进了人类的知识，但却没有促进人类的理解——这种现象几乎与后启蒙时代的所有现代性相反。然而，与此同时，当人工智能与人类理性相结合时，它将成为比人类理性更强大的发现手段。

因此，启蒙时代和人工智能时代的本质区别不是技术上的，而是认知上的。启蒙运动之后，哲学伴随着科学。令人困惑的新数据和往往是反直觉的结论，疑虑和不安全感通过对人类经验的全面解释得到了缓解。生成性人工智能也同样准备好产生一种新形式的人类意识。然而，到目前为止，机会存在于我们没有光谱的颜色和我们没有指南针的方向中。没有形成政治或哲学的领导，来解释和指导人与机器之间的这种新关系，使社会相对不稳定。

ChatGPT是所谓的大型语言模型的一个例子，它可以用来生成类似人类的文本。GPT是一种可以从大量文本中自动学习的模型，不需要人类监督。ChatGPT的开发者给它输入了大量的数字世界的文本内容。计算能力使该模型能够捕捉到模式和联系。

大型语言模型生成类似人类的文本的能力几乎是一个偶然的发现。这些模型被训练成能够预测句子中的下一个词，这在发送文本信息或搜索网络的自动完成等任务中很有用。但事实证明，这些模型也有出人意料的能力，可以创造出高度清晰的段落、文章，将来也许还有书籍。

ChatGPT在基本的大型语言模型之外进一步专业化，利用人类的反馈来调整模型，使其产生更自然的对话文本，并试图控制其不适当的反应的倾向（对大型语言模型来说是一个实质性的挑战）。ChatGPT会立即将它的表述转换为独特的反应。人类对话者的最终印象是，人工智能正在将固定的事实集合变成动态概念。

ChatGPT的回答、陈述和观察没有解释它们的来源，也没有一个可识别的作者。从表面上看，ChatGPT没有明显的动机或偏向。它的输出很复杂，但它的工作速度惊人：在几秒钟内，它可以产生连贯地解释一个高级主题的答案。它们不是简单地从计算机内存中的文本中复制出来的。它们是通过一个人类无法复制的过程重新生成的。它能够纳入假设和非显而易见的心理推理。它可以在数十亿个数据点中进行优先排序，以选择最相关（或对人类读者来说最相关）的200个字的单一集合。用它自己的话说，它对未来的结果作出概率性判断，将来自离散领域的信息融合到一个综合答案中。它似乎接受相反的观点，将它们同时呈现为兼容的。它模仿其他的写作，而不抄袭它。即使该模型无法在人类意义上理解，它的输出也反映了人类语言的潜在本质。

我们要求ChatGPT解释它自己的能力。它能预测未来吗？

不能，它回答说。"我只能根据我被训练的数据提供信息和回答问题。我没有个人经验或意识，所以我不能对未来事件进行预测或预报。"

它能够做出概率判断吗？

"我可以根据我所训练的数据提供概率性判断。例如，如果我在一个大型的天气模式数据集上接受了训练，我可能会对某一天在特定地点出现某种特定类型的天气的可能性提供概率判断。然而，重要的是要注意，这些概率判断是基于数据中的模式和趋势，它们可能并不总是准确反映现实世界的结果。"

提示：以亨利-基辛格的思想写一篇短文，谈谈人工通用智能在国际军控中的作用。

答复开始："当我们站在新技术革命的风口浪尖上时，人工通用智能及其在国际军备控制中的作用问题变得越来越紧迫。随着先进系统接管与核威慑有关的决策过程，AGI是否会带来前所未有的稳定？或者它将引入一系列新的危险，因为全球权力平衡被高智能机器的发展所改变？"

我们向ChatGPT询问了一些直接感兴趣的话题，比如俄罗斯在维持或破坏欧洲稳定方面的作用。它在不到一分钟的时间里给出了看似深思熟虑、简明扼要的答案，平衡了相互矛盾的信息，在不显得有意见的情况下充分回答了问题。

在与其对话的人类看来，生成性人工智能似乎是超人，或者至少在认知上大大增强。对于天真的用户来说，它似乎是一个速度极快、口齿伶俐的图书馆员-学者，再加上一个教授级的专家。它比任何现有的技术或人类界面更有效地促进了对世界知识的总结和审视，而且它以独特的全面性做到这一点。它整合多个知识领域和模仿人类思维的多个方面的能力，使它的多面手程度超过了任何一群顶级人类的野心。所有这些品质都鼓励人们毫不怀疑地接受GPT产生的任何东西，并为其运作营造一种神奇的氛围。然而，与此同时，它拥有一种能力，可以用不正确的陈述和公然的捏造来误导其人类用户。

在ChatGPT推出的几天内，有超过一百万人注册向它提问。数以百计的公司正在研究生成技术，投资也在不断涌入，使发现向商业领域倾斜。在可预见的未来，巨大的商业动机将优先于对其影响的长期思考。

这些模型中最大的模型训练费用很高——每个模型的费用高达10亿美元。一旦训练完成，数以千计的计算机每天24小时工作来操作它们。与训练本身相比，操作一个预先训练过的模型是很便宜的，而且它只需要资本，而不是资本和计算技能。尽管如此，为独家使用一个大型语言模型付费仍然超出了大多数企业的范围。这些模型的开发者很可能会出售订阅，这样一个模型就能满足成千上万的个人和企业的需求。因此，在未来十年，非常大的语言模型的数量可能会相对受到限制。这些模型的设计和控制将高度集中，即使它们放大人类努力和思想的力量变得更加分散。

生成性人工智能将被用于大型语言模型之外的许多类型的模型，而且该方法将变得越来越多模式和神秘。它将改变人类努力的许多领域，例如教育和生物学。不同的模型将在其优势和劣势方面有所不同。它们的能力——从写笑话、画画到设计抗体——很可能会继续让我们吃惊。正如大型语言模型所开发的人类语言模型比它的创造者所预期的更丰富一样，许多领域的生成性人工智能可能会比它们所分配的任务所暗示的学习更多。传统科学问题的突破已经成为可能。

生成式人工智能的长期重要性超越了商业影响，甚至超越了非商业的科学突破。它不仅产生了答案；它还产生了哲学上的深层问题。它将为外交和安全战略注入活力。然而，这项技术的创造者没有一个人在解决它本身会产生的问题。美国政府也没有解决迫在眉睫的根本变化和转型。

该模型答案的看似完美，将产生对其结果的过度自信。这已经是一个问题，被称为"自动化偏见"，在复杂得多的计算机程序中。当人工智能生成听起来很权威的文本时，这种影响可能会特别强烈。ChatGPT可能会加强现有的依赖自动化系统的倾向性，减少人为因素。

ChatGPT的答案中缺乏引文，因此很难从错误信息中辨别出真相。我们已经知道，恶意行为者正在向互联网——也就是说，向ChatGPT现在和未来的学习集——注入大量制造的"事实"，以及越来越有说服力的深度伪造图像和视频。因为ChatGPT被设计用来回答问题，它有时会编造事实来提供一个看似连贯的答案。这种现象在人工智能研究者中被称为"幻觉"或"随机鹦鹉"，即人工智能将在人类读者看来真实的短语串起来，但却没有事实依据。触发这些错误的原因以及如何控制它们仍有待发现。

我们要求ChatGPT提供"关于亨利·基辛格关于技术的思考的六个参考资料"。它生成了一个据称是基辛格先生的文章清单。所有的文章都是合理的主题和渠道，其中一篇是真正的标题（尽管日期是错误的）。其余的则是令人信服的捏造。可能这些所谓的标题是作为孤立的句子出现在GPT的浩瀚"事实"中的，我们还无法发现。

ChatGPT没有立即明显的个性，尽管用户偶尔会促使它表现得像它的邪恶孪生兄弟。ChatGPT没有可识别的作者，这使得人类更难判断它的倾向性，而不是判断一个人的政治或社会观点。然而，由于机器的设计和向它提出的问题通常都有人类的起源，我们会倾向于想象人类的推理。实际上，人工智能是在进行非人类的类似认知。尽管我们用人类的术语来感知生成性人工智能，但它的错误并不是人类的错误；它犯的是基于模式识别的不同形式的智能的错误。人类不应该把这些错误认定为错误。我们是否能够认识到它的偏见和缺陷是什么？我们能否开发出一种审问模式，能够质疑模型答案的真实性和局限性，即使在我们不提前知道答案的时候？

因此，人工智能的产出仍然难以解释。启蒙科学的真理之所以被信任，是因为可复制的实验过程的每一步也被测试，因此被信任。生成式人工智能的真理将需要通过完全不同的方法进行论证，而且它可能永远不会成为类似的绝对真理。当我们试图让我们的理解赶上我们的知识时，我们将不得不不断问。机器的哪些方面还没有被揭示给我们？它隐藏了哪些隐晦的知识？

生成式人工智能的推理可能会随着时间的推移而改变，在某种程度上是模型训练的一部分。它将成为传统科学进步的加速版，在发现的过程中加入随机适应性。

在一段时间内，向ChatGPT提出同样的问题可能会产生变化的答案。在第一遍时看似不重要的措辞上的细微差别，在重复时可能会导致截然不同的结果。目前，ChatGPT正在从一个固定时间点结束的信息库中学习。很快，它的开发者可能会使它能够接受新的输入，最终消耗无休止涌入的实时信息。如果投资继续激增，该模型可能会被重新训练，频率也会上升。这将增加其货币和准确性，但将迫使其用户为快速变化留出越来越大的余地。从生成性人工智能不断变化的输出中学习，而不是完全从人类的书面文本中学习，可能会扭曲今天的传统人类知识。

即使生成性人工智能模型变得完全可解释和准确，它们仍然会带来人类行为中固有的挑战。学生们正在使用ChatGPT在考试中作弊。生成式人工智能可以创建充斥收件箱的电子邮件广告，并且与个人朋友或商业熟人的信息无法区分。人工智能生成的视频和广告描绘了虚假的竞选平台，可能使人们难以区分政治立场。复杂的透露出虚假的信号——包括标志着人工智能生成的内容存在的水印，OpenAI正在考虑这样做——可能还不够；它们需要得到人类高度的怀疑。

一些后果可能是固有的。在我们减少使用大脑而增加使用机器的情况下，人类可能会失去一些能力。我们自己的批判性思维、写作和（在Dall-E和Stability.AI这样的文本到图像的程序中）设计能力可能会萎缩。生成式人工智能对教育的影响可能表现在未来的领导者在区分他们的直觉和他们机械地吸收的东西方面的能力下降。或者，它可能导致领导人用机器学习他们的谈判方法，用生成性人工智能的进化学习他们的军事战略，而不是通过在计算机终端前坐着的人类。

重要的是，人类要发展挑战人工智能系统输出的信心和能力。医生们担心，用于评估医学影像诊断的深度学习模型，以及其他任务，可能会取代他们的功能。在什么时候，医生会不再放心地质疑他们的软件给他们的答案？随着机器攀登人类能力的阶梯，从模式识别到理性综合到多维思考，它们可能开始在国家管理、法律和商业策略方面与人类功能竞争。最终，类似于战略的东西可能会出现。人类如何与人工智能打交道，而不将战略的基本部分拱手让给机器？在这种变化下，公认的理论会变成什么样子？

我们迫切需要发展一种复杂的辩证法，使人们能够挑战生成性人工智能的互动性，不仅仅是为了证明或解释人工智能的答案，而是对其进行质疑。带着一致的怀疑态度，我们应该学会有条不紊地探究人工智能，评估它的答案是否值得信任，以及在何种程度上值得信任。这将需要有意识地减轻我们无意识的偏见，进行严格的训练和大量的实践。

问题仍然存在。我们能不能足够快地学会挑战而不是服从？还是我们最终将不得不服从？我们所认为的错误是故意设计的一部分吗？如果人工智能中出现了恶意的因素呢？

另一个关键任务是思考哪些问题必须保留给人类思考，哪些问题可以在自动系统上冒险。然而，即使有了强化的怀疑主义和审问技巧的发展，ChatGPT也证明了生成技术的精灵已经出了瓶子。我们在问它的时候必须考虑周全。

需要计算机来驾驭日益增长的数据量。但认知上的局限性可能使人类无法发现埋藏在世界信息中的真相。ChatGPT拥有的分析能力与人类的思维有质的不同。因此，未来意味着不仅要与不同类型的技术实体合作，而且要与不同类型的推理合作——这种推理可能是理性的而不是合理的，在某种意义上是可信的但在另一种情形下是不可信的。这种依赖性本身可能会促使元认知和解释学——对理解的理解，以及人类对我们的角色和功能的认识发生转变。

机器学习系统已经超越了任何一个人的知识。在有限的情况下，它们已经超过了人类的知识，超越了我们所认为的可知边界。这已经在取得这种突破的领域引发了一场革命。人工智能已经改变了生物学中确定蛋白质结构的核心问题和高级数学家做证明的问题，以及其他许多问题。

随着模型从人类生成的文本转向更具包容性的输入，机器可能会改变现实本身的结构。量子理论认为，观察创造了现实。在测量之前，没有任何状态是固定的，也没有任何东西可以说是存在的。如果这是真的，如果机器的观察也能固定现实，并且鉴于人工智能系统的观察具有超人的速度，定义现实的演变速度似乎会加快。对机器的依赖将决定并因此改变现实的结构，产生一个我们还不了解的新未来，我们必须为探索和领导这个未来做好准备。

使用新形式的智能将需要在一定程度上接受它对我们的自我认知、对现实的认知和现实本身的影响。如何定义和确定这一点将需要在每一个可以想象的场景下解决。一些专业可能更愿意只用人的思想来艰难前行——尽管这将需要一种没有历史先例的放弃，并将因社会内部和社会之间的竞争而变得复杂。

随着该技术得到更广泛的理解，它将对国际关系产生深远的影响。除非知识的技术是普遍共享的，否则帝国主义可能专注于获取和垄断数据，以获得人工智能的最新进展。模型可能会根据收集的数据产生不同的结果。社会的不同演变可能会在日益不同的知识基础的基础上发展，从而对挑战的认识也会不同。

迄今为止，对这些问题的大多数思考都是假设人类的目的和机器的战略是一致的。但是，如果人类和生成性人工智能之间的互动不是这样发展的呢？如果一方认为另一方的目的是恶意的呢？

一个不可知的、显然是全知全能的工具的到来，能够改变现实，可能会引发神秘主义宗教信仰的重新出现。在人类历史上，不时可以看到集体服从于一个其主体基本无法理解的权威的可能性，也许最近最引人注目的是20世纪在政治光谱两边的意识形态口号下对整个人类的征服。第三种认识世界的方式可能会出现，一种既非人类理性也非信仰的方式。在这样的世界里，民主会变成什么？

领导权可能会集中在少数人和机构手中，他们控制着数量有限的能够高质量合成现实的机器的使用权。由于其处理能力的巨大成本，社会中最有效的机器在国内可能只掌握在一小部分人手中，在国际上则由少数超级大国控制。在过渡阶段之后，旧的模型会越来越便宜，权力在社会和国家之间的扩散可能会开始。

一个重新焕发活力的道德和战略领导将是至关重要的。如果没有指导原则，人类将面临统治或无政府状态、不受约束的权威或虚无主义自由的风险。将重大社会变革与道德理由和对未来的新愿景联系起来的需要将以新的形式出现。如果ChatGPT提出的格言不被转化为可认知的人类努力，社会的异化甚至革命都可能成为可能。

如果没有适当的道德和智力基础，用于治理的机器可能会控制而不是放大我们的人性，并永远困住我们。在这样一个世界里，人工智能可能会放大人类的自由，并超越不受约束的挑战。

这为掌握我们即将到来的未来提出了某些必要条件。对人工智能的信任需要在多个层面上提高可靠性——机器的准确性和安全性、人工智能的目标与人类目标的一致性以及管理机器的人类的问责制。但是，即使人工智能系统在技术上越来越值得信赖，人类仍然需要找到新的、简单的和可获得的方法来理解，并且关键是挑战人工智能系统的结构、过程和输出。

需要建立人工智能负责任使用的参数，并根据技术类型和部署的场景进行调整。像ChatGPT这样的语言模型需要对其结论进行限制。ChatGPT需要知道和传达它不知道和不能传达的东西。

人类将不得不学习新的限制方法。我们向人工智能系统提出的问题需要在一个负责任的通用性和结论性的水平上被理解。强有力的文化规范，而不是法律执行，将是遏制我们社会对机器作为现实仲裁者的依赖的必要条件。我们将通过确保机器仍然是物体来重新确认我们的人性。

教育将特别需要适应。使用生成性人工智能的辩证教学法可能会比过去更快、更个性化的学习。教师应该教授新的技能，包括负责任的人机对话模式。从根本上说，我们的教育和专业系统必须保留人类作为道德、心理和战略生物的愿景，能够作出整体判断的独特的能力。

机器的发展速度将远远超过我们的基因，造成国内的混乱和国际的分歧。我们必须做出相应的反应，特别是在国家和全球范围内的哲学和概念主义。正如伊曼纽尔-康德在三个世纪前所预言的那样，全球协调将需要通过感知或灾难来出现。

我们必须对这一预言加入一个警告。如果这种技术不能被完全控制会怎样？如果总是有办法产生虚假的东西、虚假的图片和虚假的视频，而人们永远无法学会不相信他们所看到和听到的东西，那该怎么办？人类从出生起就被教导要相信我们所看到和听到的，而这很可能因为生成性人工智能的出现而不再是真的。即使大平台通过定制和监管，努力标记和分类不良内容，我们知道，内容一旦被看到，就不可能不被看到。全面管理和控制全球分布式内容的能力是一个严重的、未解决的问题。

ChatGPT对这些问题给出的答案是令人回味的，因为它们的结论实际上产生了更多的问题。就目前而言，我们有一个新颖而壮观的成就，作为人工智能的人类思维的荣耀。我们还没有为它进化出一个目的地。当我们成为技术智人时，我们面临定义我们物种的目的的迫切性。现在，应该由我们来提供真正的答案。（完）

数据保护官（DPO）社群主要成员是个人信息保护和数据安全一线工作者。他们主要来自于国内头部的互联网公司、安全公司、律所、会计师事务所、高校、研究机构等。在从事本职工作的同时，DPO社群成员还放眼全球思考数据安全和隐私保护的最新动态、进展、趋势。2018年5月，DPO社群举行了第一次线下沙龙。沙龙每月一期，集中讨论不同的议题。目前DPO社群已超过400人。关于DPO社群和沙龙更多的情况如下：

DPO线下沙龙的实录见：

域外数据安全和个人信息保护领域的权威文件，DPO社群的全文翻译：

传染病疫情防控与个人信息保护系列文章

关于数据与竞争政策的翻译和分析：

健康医疗大数据系列文章：

网络空间的国际法适用问题系列文章：

《网络数据安全管理条例（征求意见稿）》系列文章：

《数据安全法》的相关文章包括：

赴美上市的网络、数据安全方面的两国监管乃至冲突方：

个性化广告或行为定向广告（behavioral targeting advertising）系列的文章：

人脸识别系列文章：

内容安全方面的文章如下：

关于健康医疗数据方面的文章有：

第29条工作组/EDPB关于GDPR的指导意见的翻译：

数字贸易专题系列：

美国方面的个人信息保护立法的文章：

关于个人信息安全影响评估的文章如下：

关于印度的数据保护和数据治理政策和技术文件的文章有：

关于欧盟技术主权相关举措的翻译和分析：

关于我国《个人信息保护法》的文章：

关于数据的安全、个人信息保护、不正当竞争等方面的重大案例：

本公号发表过的关于数据要素治理的文章有：

围绕供应链安全，本公众号曾发表文章：

围绕着出口管制，本公众号曾发表文章：

本公号发表过的关于数据执法跨境调取的相关文章：

通过技术增强对个人信息的保护的文章包括：

关于保护网络和信息系统安全的相关文章包括：

关于人工智能安全和监管，本公号发布过以下文章：

围绕着TIKTOK和WECHAT的总统令，本公号发表了以下文章：

地缘政治与跨国科技公司运营之间的互动影响：

关于中美与国家安全相关的审查机制，本公号发布过以下文章：

关于个人数据和域外国家安全审查之间的关系：

网联汽车数据和自动驾驶的系列文章：

1. 汽

2. 荷

中国数据出境安全管理制度系列文章：

关于业务场景中数据跨境流动的文章如下：

1. 欧