Altman和Airbnb CEO最新访谈：AI对社会的影响将远超其他技术，但AGI不会突然出现
文｜王奕昕 李锦辉
编辑｜李然
封面来源｜视频截图
OpenAI的首席执行官Sam Altman和Airbnb的联合创始人兼首席执行官Brian Chesky日前在阿斯彭思想节（ASPEN IDEAS FESTIVAL）上接受了NBC新闻Lester Holt的访问，讨论了人工智能如何演变、AI如何落地、Altman被解雇的风波、AI安全如何保证等问题。
经智能涌现整理，对话嘉宾主要观点如下：
有关AI发展的前景，Altman强调，这是一个渐进的过程。AI已经跨越了重要门槛，但未来还有更多突破。”我们会像达到AGI时刻一样到达这个阶段。但你知道，这是一个非常不明确的术语，我认为一开始就这样想是没有意义的。现在我们考虑的是，AGI只是一系列阈值，系统将获得新的、更好的功能。”
而就全球范围来看，两位科技界领袖一致认为，合作至关重要。Chesky强调：”这不是一场竞赛，也不会秘密进行。我认为各国可以合作。”
Altman认为，AI是生产力的巨大推动力，还预测AI可能使全球GDP翻倍。然而，Chesky提醒我们不要高估短期影响：”未来几年世界不会有太大变化。”两位嘉宾都认为，AI的真正变革将在人们开始广泛应用这项技术时发生，涉及科学发现、教育等多个领域。面对AI带来的机遇与挑战，Altman表示希望”继续帮助人们更好地生活，做到他们所做的事情的最好。”
被问及AI安全和政治经济之间的关系，Altman说，“人工智能似乎将成为世界上越来越重要的地缘政治优先事项，但我很难确切说明其发展方向。”他说，防止深度伪造是这次选举周期中的三大关注重点之一。
他还认为，人工智能可能会在某种程度上显著改变人们使用互联网的方式，并且我们可能会看到过去的一些经济模式的进化。
Chesky则指出，AI将彻底改变商业和日常生活，”AI将完全融入我们所做的一切”。他以Airbnb为例，展望了AI如何个性化用户体验，”它可以真正理解你，像是一个匹配需求的媒介，将你与人、社区、服务、体验相匹配，乃至所有能让你在世界各地旅行、生活的事情。”
Chesky还回顾了以往互联网发展的经验教训，认为审慎对待技术，不盲目乐观是重要的：”我们新一代更加清醒和现实，因为我认为我们学到了上一代的很多教训。我们学习到了技术如何主要用于善事，但总是会有意想不到的后果。”
两位科技领袖还回顾了Altman被OpenAI解雇的事件。Altman承认AI发展带来的挑战，强调了创新之余，赢得信任的重要性：”AI将是社会的巨大变革。我认为与其他技术趋势不同，即使像ChatGPT这样非常有用的工具，人们使用它之后不会害怕它了，但对于未来将走向何方，仍然存在一种可以充分理解的焦虑感。……我们必须赢得的很多信任，才能成为管理者。”
以下是对话全文：
AGI：发展AI像连续跨栏
主持人：在过去的一年里，AI是否跨越了一个关键的门槛？
Sam Altman：我认为是的，但是我认为会有很多门槛需要AI去跨越。Brian给了我很好的建议。我们曾经谈论过，我们会像达到AGI时刻一样到达这个阶段。但你知道，这是一个非常不明确的术语，我认为一开始就这样想是没有意义的。现在我们考虑的是，这只是一系列阈值，系统将获得新的、更好的功能。
所以，你今天可以使用ChatGPT来做一些事情，将来它能完成更有帮助的任务。比如，我们的合作伙伴之一Color Health现在正在使用GPT-4进行癌症筛查和治疗计划，这很棒。也许未来的版本将有助于发现癌症的治疗方法。所以我认为门槛是连续的，但毫无疑问，我们可以用自然语言与计算机交谈，让它们理解我们并帮助我们，这肯定是我们将跨越的门槛。
主持人：我想谈谈我们最近在新闻中看到的一些事情，看看你如何评价。你们在短时间内就交到了朋友，也树敌颇多。你最近和苹果达成了一笔大交易。埃隆·马斯克感到不满，并表示他不会允许苹果产品进入他的公司。你看到这个消息了吗？
Sam Altman：嗯，我其实有点怀疑他说的是否真的会发生，但我没有预料到他是这个反应。
主持人：这是否代表了OpenAI之外其他科技公司的反应？
Sam Altman：不，我认为那只是Elon的反应。
AI落地：从神秘概念到重塑日常生活
主持人：Brian，让我来问问你。Airbnb最近收购了一家AI的初创公司。我们现在是否到了每个科技公司都必须参与这个行动伙伴关系或拥有自己的发展计划的地步？
Brian Chesky：是的，我的意思是，我认为就像现在几乎世界上每个公司都在互联网上一样。AI将完全融入我们所做的一切。我认为Sam最不可思议的一点是，就像Sam曾经说过的，如果你想成为一个伟大的企业家，你必须在你职业生涯中的大事上做出正确的选择。我认为Sam对科技史上最重要的事情之一有着非常正确的看法，AI将是比我们过去见过的任何技术都更能影响人们生活的事情。
但我认为，我们现在谈论人工智能时，常常把它当作一个存在主义的、神秘莫测的东西。我觉得我们忽略了一个重点，那就是讨论人们如何在实际生活中从中受益。我可以给你举个Airbnb的例子，当然Sam也有很多例子可以分享。
目前，Airbnb的运作方式是这样的：你在搜索栏输入一个城市名，然后找到一个房源，预订这个房源，这就是Airbnb。这基本上就是过去20年来互联网的运作方式。
但是想象一下，未来的系统会更好地理解你。这才是真正的变化。一台能理解你的电脑。我要问你，你是谁，Lester？你的愿望是什么？你的梦想是什么？你想去哪里旅行？你有一天时间，想做什么？它可以真正理解你，像是一个匹配需求的媒介，将你与人、社区、服务、体验相匹配，乃至所有能让你在世界各地旅行、生活的事情。这就是我认为Airbnb可以实现的价值。但是我认为几乎每个行业都可以通过AI来重塑。我认为他们可以参与。
AI时代的信任危机：如何应对公众焦虑，承担责任？
主持人：但是与你所谈论的抱负和愿景相比，这中间的赌注很大。你会看到一些真正的有关AI的恐惧，我想我们都明白。那么对于运营这些项目的人来说，这意味着什么？我们大多数人只是这辆公交车上的乘客，或者看着你们做这些不可思议的事情。就像人们谈论曼哈顿计划，是想知道这将走向何方，想知道背后的人是谁？我们能相信这些人吗？所以，如果可以的话，请你谈谈道德责任，让我们所有人了解一下，像你一样正在做出这些改变的人。
Brian Chesky：好的，我可以分享。我的意思是，我在2008年遇见了Sam。当我来到硅谷时，技术这个词就像字典中对好这个词的定义一样。Facebook是分享朋友照片的一种方式。YouTube上都是猫的视频。推特就像在谈论你今天在做什么。我认为技术曾经有这种广义的简单和纯粹。
随着时间的推移，我们意识到，我认为技术就是一个工具。史蒂夫·乔布斯，他说过的一件事是他在每台电脑的背面都放了一个手柄，因为他说永远不要相信一台你不能扔出窗外的电脑。他说这些设备都是工具，我们应该支配它们。他们不会支配我们。我认为其中一件事是，当你把一个工具和数亿人的手放在一起时，你知道他们会用它来做你不想做的事情。
我认为我们新一代更加清醒和现实，因为我认为我们学到了上一代的很多教训。我们学习到了技术如何积极地改变我们的生活，但总是会有意想不到的后果。所以我认为这一次，我看到Sam做的一件事是他非常谨慎，对这项技术的发展方向一点也不“Pollyannaish”（小说《波莉安娜》Pollyanna的主角名字，形容一个人过分乐观或天真，总是看到事物光明的一面，即使在困难或不利的情况下也是如此），他真的会告诉政府需要监管。
主持人：Sam，我想听听你的看法，谈谈你被解雇的事情。你被自己的公司解雇了。为什么？
Sam Altman：让我先继续Brian在你之前的问题中说的话，然后我会很乐意聊解雇的事情。
AI将是社会的巨大变革。我认为与其他技术趋势不同，即使像ChatGPT这样非常有用的工具，人们使用它之后不会害怕它了，但对于未来将走向何方，仍然存在一种可以充分理解的焦虑感。如果这些工具以它们一直以来的速度变得更有能力，这意味着什么？有很多好的方面，我们可以说一整天，但是有一个问题，即使我们解决了每一个安全问题，未来会是什么样子？
当我们解决了每一个误用问题，找到了完美的监管机制，当我们的生活不仅仅是计算机理解我们，了解我们，帮助我们做这些事情，而是，我们可以说：嘿，计算机，去研究物理学，去创办并经营一家伟大的公司，并且它可以做到这一点时，这意味着什么？所以这是一个很大的变化。
我们必须赢得的很多信任，才能成为管理者。当然也有很多其他人研究这项技术，我们也为我们过往的成绩感到自豪。看看我们已经推出的系统以及我们所花费的时间和精力，我们已经能够使它们达到普遍接受的稳健性和安全性水平，这远远超出了几年前我们到达这些初始系统时人们认为我们能够做到的水平。就像你看到GPT-2或GPT-3时会问，我们能让它足够安全地使用吗？很多人认为不行。但是事实证明我们可以做到。
未来迫在眉睫，我们必须继续通过我们所做的事情、我们在世界上建立的系统以及我们如何对这些系统进行合法决策、我们如何广泛地赋予人们权力、我们如何在所有这些变化面前继续促进世界的稳定来赢得信任。但这些事看着是非常让人焦虑的。
在董事会解雇我的期间，Brian给我提供了巨大的帮助。这显然是一次非常痛苦的经历，但我理解为什么大家的焦虑水平如此之高。我认为以前的董事会成员对AI的持续发展感到紧张，也对我和我们的做事方式有情绪。虽然我强烈地不同意他们的想法，以及他们自行动以来所说的话，但我认为有些人本质上是好的，他们对未来感到紧张，并试图弄清楚我们如何才能取得好的结果。
我对新董事会感到非常兴奋，他们非常有建设性、乐于助人、经验丰富且强大。那是自那时以来非常有成效的事情，但那仍是一次可怕的经历。就好像这是一件疯狂的事情，让我们想办法抚平一些影响。Brian帮了我很多。但是在那之后的一段时间里，我不得不在这种情感冲击的状态下重新振作起来。那种感觉真的很糟。
主持人：Brian，你当时和他通了电话。
Brian Chesky：是的，当时ChatGPT刚发布，它是在2022年11月下旬发布的。这是自iPhone推出以来我们从未见过的现象。我什么都不记得了。我们知道一夜之间一切都会改变。我记得和Sam见面，我说，你知道，我以前经历过这种火箭飞船般的快速增长，我不会在AI的核心研究上给你建议。但是说到营销、利益相关者管理、PR、设计、产品等等，我之所以能走到今天，只是因为人们相信我，人们帮助我。硅谷的一个伟大之处在于它是一个高度信任的地方，人们会提供帮助。所以我只是想对他有所帮助。
Brian Chesky：这样持续了大约一年。一年后，我收到了一条短信，实际上是别人发来的，说Sam被OpenAI解雇了。我很震惊，立刻给他发了短信，我想他的短信是五分钟后回复给我的。他刚刚发现自己被解雇了。他说，太残忍了。我说，会发生什么？所以我们打电话，他不知道发生了什么。没人给他解释。顺便说一下，他的联合创始人，也是董事会成员，被从董事会中除名了。这在我看来非常可疑。所以我和他以及Greg通了电话，我们认为这不是一个公平的过程。我认为应该有一个公平的过程，特别是如果他们是创始人，因为他们很难被取代。
在那最初的24小时里，我注意到的是，在最黑暗的时刻，没有多少人支持Sam，但在我的危机中，有人支持我。这就是我想为Sam做的。基本上，我们讨论了一些事情，我说我认为对你来说最重要的事情就是在内部和外部完全透明地展示你所知道的和正在发生的事情。但最值得注意的事情，也是让我真正想为他辩护的事情是，你可以从危机中了解很多人。如果你真的想知道一个人的情况，看看他们处于危机之中是什么样的。
在这件事发生的五天里，Sam从未花时间精力来自保。我想，你为什么不待在这里？你为什么不多关心关心自己？这就是为什么我对他说，总得有人支持你。但他非常专注于团队，想的都是对团队最好的事情。我认为这才是真正让我专注于帮他的原因。
主持人：Sam，如果可以的话，我想谈谈你最近收到的一些负面报道，包括关于Sky语音的争议。有一件事可能有助于澄清人们对Sky的声音与斯嘉丽·约翰逊相似的担忧，那就是让你所说的被聘用为Sky配音的演员出面发声。这是你会考虑做的事情吗？
Sam Altman：当然，如果她想的话。我的意思是，我知道她通过她的经纪人发表了声明，但我没有。我不知道在哪里。我的意思是，她想做的任何事情都肯定没问题。
AI安全与技术界限
主持人：这整个事情确实引发了一个更大的问题：在人工智能世界里，我们拥有什么？我们是否能控制自己的形象？我们现在看到深度伪造色情，人们的头部被随意替换。这些在个人层面上是有害的。我知道这个问题不仅仅局限于OpenAI，但整个行业将如何应对这个问题呢？
Sam Altman：我们认为整个行业需要在这方面采取非常强硬的立场。显然，我们就是这么做的。还有一些与这项技术被用来伤害人的其他相关问题，我们认为行业需要对此采取非常强硬的立场。我们不仅大声呼吁制定法规来防止这些滥用案例，这些滥用行为我认为正在发生。我们还努力在我们提供的产品和服务中树立一个很好的榜样，并要求自己遵守非常高的标准。
主持人：但这些问题是否不可避免呢？当这项技术逐渐成熟时，你显然已经预见到了风险。
Sam Altman：就像那些缺陷。
主持人：没错，缺陷。我曾经提到过换脸技术。
Sam Altman：技术最终能够实现这一点是不可避免的。所以，当然会有一些系统允许这样做。但这就是我认为社会和政府需要发挥作用的地方，来表明我们会允许一些我们不太舒服的技术用例，但在某些地方，我们要划定界限，而换脸深度伪造技术就是一个很好的划线点。
AI与深度伪造：选举安全的新挑战
主持人：随着总统选举临近和深度伪造的出现，你如何看待行业在防止虚假信息泛滥方面的责任？
Sam Altman：这将是首次，不仅在美国而且在其他国家的选举中，人工智能将成为主要技术因素。来源的可靠性至关重要，确保准确的民意调查信息，避免重复以往技术平台和其他选举周期中出现的问题同样至关重要。防止深度伪造是我们这次选举周期中的三大关注重点之一。此外，我们意识到人们可能会以我们尚未预见的方式滥用这些技术，因此我们已经建立了全面的监控措施。随着选举日期的临近，我们需要一个紧密的反馈循环，以便及时发现和应对新技术滥用的问题。
主持人：Brian，请谈谈此次选举结果对你个人企业的影响？
Brian Chesky：Airbnb的业务主要依赖于各个城市和州，因此联邦政府的变化对我们的影响并不大。此外，我们在220个国家运营，具有较强的适应能力。在疫情期间，我们注意到业务的一部分变化会通过其他部分进行调整。因此，我认为选举结果不会对我们产生重大影响。
主持人：Sam，你怎么看呢？
Sam Altman：我确实预计选举结果会产生一些重大影响，但具体如何很难预测。人工智能似乎将成为世界上越来越重要的地缘政治优先事项，但我很难确切说明其发展方向。
我非常珍视Brian的帮助。当 ChatGPT开始流行并让我忙得不可开交时，许多人表示愿意帮忙，但大多数人都很忙。Brian是那个每隔一周花三个小时和我坐下来，给我列出五项必须立即完成的任务，指出我不足的地方、做错的地方、需要主动处理的事项和需要思考的问题的人。他几乎总是对的，我学会了听从他的建议。
Brian最近开始说的一件事是，我们可能没有充分考虑政治和政策对世界对AI看法的影响。他强调了我们需要雇佣适合的人才，并且重视制定和思考战略的重要性。他详细列出了应该做和绝对不应该做的事情。这些建议非常有帮助，我认为对我们的业务至关重要。
Brian Chesky：Lester，我记得刚来硅谷的时候，我们没有预料到这些平台会对社会产生今天已知的影响。因此，我觉得像Sam这样的思维方式，甚至你现在问他的问题，在15年前的科技领导者中可能不会有人提出。整个行业已经发生了变化，对话的内容也在演变，像Sam这样的人在政策和利益相关者管理方面建立了比大型科技公司更早、更完善的团队。
主持人：在开发ChatGPT和其他技术中，我们学到了训练这些模型所需数据量的巨大需求。这种需求是否改变了您对合理使用以及可以使用哪些合作材料的看法？
Sam Altman：首先，目前我们还不清楚这些模型未来的智能获取方式会是什么样子。我认为仅仅是无限增加数据并不是正确的方法。人类从阅读一本教科书中学到的东西与AI模型目前所需的数据量是非常不同的。我预计，要想创造新的科学，有时需要静下心来思考并进行一些实验，这并不是任何教科书中能找到的，因为它是全新的领域。因此，我认为未来我们会重新思考如何看待训练数据，以及使这些模型真正变得能力强大需要什么。
主持人：这会成为这些产品发展的障碍吗？
Sam Altman：我认为这可能不会成为一个障碍。然而，关于公平使用和如何看待那些创造数据、知识和撰写优秀书籍的人的问题，尽管从法律角度来看，我们对我们的公平使用立场感到有信心，但随着事态的发展，我们需要找到新的经济模式，让全世界都能参与其中。这不仅涉及到提供训练数据的人，我们已经找到了许多不同的许可和其他处理方式；同时也包括那些为模型提供反馈、创造即时新闻的人，即使模型没有训练过这些内容，但我们也希望能够及时展示出来，这需要投入大量的工作。
我认为人工智能可能会在某种程度上显著改变人们使用互联网的方式。如果确实如此，我们可能会看到过去的一些经济模式需要进化。这个话题更广泛，不仅限于训练数据，而是关于人工智能的内容和表现形式。
AI的未来探索：追寻人工通用智能的道路
主持人：我想问一下关于人工通用智能的问题，这在很大程度上改变了游戏规则。如果我理解正确的话，那就是我们能做什么，电脑就能做什么，这样总结合适吗？
Sam Altman：我认为最初将人工通用智能看作某一刻会突然出现的想法可能是错误的。现在人们似乎在各种领域使用AGI，可以做的事情多种多样。我觉得为全球制定一份路线图，预测技术能力显著增长的领域，能够做到人类能做的事情、能够创造新的科学、能够完成整个公司能做的事情，对行业来说将非常有用。这样一来，这样我们就可以更有条理地开展对话。
Brian Chesky：我们需要讨论的一个问题是，要透明运作，让人们知道人工智能向人工通用智能发展可能不会是一蹴而就的。这是一个技术演进的故事，有许多步。重要的是，我们要让整个社会参与其中，不要让人们觉得这是一个黑箱操作，只有少数人控制着未来。我们需要与其他开发者、计算机科学家、研究人员和决策者保持透明沟通，告诉他们我们正在采取哪些步骤，我们目前的观察结果以及我们认为接下来的几个步骤会是什么。
主持人：这不是在不同层面上的一场竞赛吗？赌注如此之高，你认为自己在这场竞赛中吗？你觉得会赢得通往人工通用智能的胜利吗？
Sam Altman：我不认为这是一场竞赛。我理解为什么这种说法很引人注目和戏剧化。或许在某个时候会有国家之间的竞赛，但当前开发这项技术的公司都意识到必须正确地推进这个领域的重要性。
我也同意Brian的观点，我们并不是在赛跑去达到某个具体的里程碑。这是技术持续演进的过程，就像我们曾经将沙子熔化并将其制成晶体管，然后学会构建操作系统和进行某种类型的编程一样。我们不断扩展这些系统的能力，虽然它们在某些方面具有智能，但并不像自主运行的实体那样。它们是我们用来做比之前更多事情的工具，就像我们在没有人工智能的情况下利用计算机做更多事情一样，工业革命时期，我们利用机器完成了以前无法完成的更多工作，同时通过农业的发展，我们有了更多的时间和空间去做更多的事情。
我认为这不是追逐某个具体里程碑的竞赛，而是持续前进的过程，一步接一步。工具会变得越来越好，但技术并非中立，工具本身也不是中性的事物。通过构建这些工具，我们可以产生重大影响，我们希望能做到正确。人们将使用这些工具来创造我们共同生活的未来。在ChatGPT出现之前，一个人能做的事情已经非常令人印象深刻，而当我们达到GPT-6或GPT-7时，一个人能做的事情将会大大增加。我对此感到非常激动，因为我认为这就是世界变得更好的故事。我们创造技术，人们用它来构建新事物，表达创造性的想法，从而改善社会。
主持人：当谈论给予这些程序与我们相同的能力时，我们也持有不同的价值观，有时我们以非传统方式看待普通的行为规范。如何以无害的方式向计算机传授这些知识？如何教授积极的价值观？
Sam Altman：目前系统的水平让我感到惊讶的是，我们教导模型按特定价值观行事的能力比我预期的要好得多，虽然这并不意味着我们已经解决了整个人工智能对齐的问题。
目前面临的更大挑战是，确定模型的价值观由谁来决定，以及默认的行为规范是什么，以及个人用户在这些范围内能够进行多少定制。我们最近发布了一个“AI安全文档”，作为第一步尝试明确我们期望模型的行为和遵循的价值观。这样一来，当人们对某些行为感到不满时，至少可以判断是误解还是故意行为。
随着时间的推移，社会可以讨论并逐步确定这些价值观，我们也可以进行相应调整。因此，虽然我对我们在这方面的技术进步感到兴奋，但编写出一套能够得到社会广泛认可的价值观，确实是一个极具挑战性的任务。
主持人：Brain，你曾不时为Sam提供建议。但关于先行动，后解决问题的观念。你认为在进行这类研究时，是否应该设定限制？
Brian Chesky：我认为如果想象自己驾驶一辆车，车速越快，就越需要提前看路和预见弯道。我们意识到这项技术的强大，这也是为什么我们如此慎重对待的原因。人们真的在苦苦思考如何处理这些系统。我不记得我们在
2007、2008
年做过这些。所以我认为现在是一个非常不同的时代。Sam和我讨论过的一点是早期引入其他利益相关者。
去年你全球巡回会见各地人士，主要是为了从他们那里获取反馈，教育他们并真正听取他们的反馈意见。所以我认为关键是，Lester，我们绝不能过快地超前社会，我们的步伐只能够确保每个人都能跟上。如果每个人都能参与并发表意见，我认为并没有什么值得大惊小怪的。我们真正害怕的是那些我们不理解、被排除在外并且失控的事物。因此，我们不希望生活在这样的未来中。
关于人工智能可能会让人感到害怕的问题，ChatGPT听起来就不那么可怕，因为它是一个非常具体的工具。因此，我们需要专注于眼前的事物，关注如何帮助人们解决当前的许多问题。OpenAI可以促进许多科学研究和发现，ChatGPT对艺术家来说是一个令人难以置信的工具。而对于Airbnb，我们认为它可以真正把人们聚集在一起。在这个孤独感普遍存在的时代，我们可以利用这些技术帮助人们团结起来。归根结底，决定成败的不是技术本身，而是使用这些技术的人们，他们的价值观和品性。
Sam Altman：我认为我们需要学习如何制造安全的技术，需要弄清楚如何构建安全的产品。这包括与社会进行持续对话，告诉他们这个技术带来了我意料之外或者不希望的影响。同时也要听取他们的反馈，了解他们为什么不让我做这个对我很重要的事情？我们需要与使用和受到我们产品影响的人们进行广泛交流，让他们反映他们想要的东西。另外，我们需要有一个安全操作计划，逐步提升我们对技术能力的预测能力。
研究当然是一个开放的问题，我们并不总能预见到它的发展方向。但在开始训练新模型之前，我们希望能够提前认识到可能存在的危险能力，并建立一个应对框架来测试它们。有时这可能需要很长时间。例如，对于GPT-4，我们在完成训练到发布之间大约花了八个月的时间，其中包括大量的外部咨询和红队测试（一种模拟真实攻击的安全测试，旨在评估组织对于恶意攻击的防护能力和应对策略）。
未来的模型可能需要更长的时间，但从社会中获得反馈非常重要。我认为不好的一点是让巨大的能力过剩积累起来，而我们又没有与社会进行反馈循环。因此，我们确实需要找到平衡点。总之，花时间做好每件事情是非常重要的。
主持人：你是否会感觉需要退后一步，去看未来，可能发现它确实像一些人所担心的那样令人不安？你是否已经做好准备，迎接那个时刻的到来，即使你的竞争对手可能希望继续前进，而你不得不退后一步？
Sam Altman：当然，我们有些开发了但选择不发布的东西，有时我们会长时间拖延。虽然其他公司可能会发布我们选择不发布的东西，我们并不总是能做出完美的决定。有时候我们可能会推出某些东西，但后来需要收回。也有可能有些东西，我们选择不推出。
AI不是竞赛，全球合作非常重要
主持人：当你比较人工智能和曼哈顿计划时，这种比较是否有助于你阐述观点？
Sam Altman：我们尝试使用多种历史类比来强调技术的重要性，尽管新技术并没有完全相同的历史类比。我们认为曼哈顿计划、阿波罗计划、iPhone、带手柄的iMac、互联网以及工业革命等都有一些与当前人工智能发展相似的方面，但每种类比都存在其局限性。重要的是指出哪些方面可以参考历史类比，哪些方面则不适用。我认为人工智能的形态、决策和影响与以往任何技术都有所不同，具有自己独特的特点。
Brian Chesky：我认为这与曼哈顿计划不同。这不是一场竞赛，也不会秘密进行。我认为各国可以合作，可能会形成一个跨国的组织或机构，确保各方都在同一页面上，这对社会最有利，也可能对企业家们最有利，因为他们不必遵守200多种不同的法律。
Sam Altman： 我们认为建立某种全球框架和合作非常重要。
主持人：你们其中一位提到了国家，是否存在国家将利用这项技术进行危险行为的风险？
Brian Chesky：当然。我认为我们必须非常谨慎地考虑将这项技术交给谁的问题。这也涉及到一些Sam正在思考的事情，比如他们早期开发但选择不公开的技术，比如语音克隆。已经有技术可以捕捉某人的声音，但显然这可能非常危险，因为可以想象它可能如何影响选举和造成重大安全风险。因此，重要的一点是考虑这些工具最终会落入谁的手中，如果放任这些技术发展，是否会变得过于危险，因此需要非常慎重地对待这个问题。
主持人：Sam，根据一份报道有人推测，你推测人工智能可以累积高达100万亿美元的财富。你曾表示将重新分配这些财富。这一说法准确吗？你是否想进一步阐述？
Sam Altman：我想我当时试图表达的观点是，人工智能可能会使全球 GDP 增加一倍，这对我来说似乎是合理的，并且与其他技术革命是一致的。我们确实认为这将是生产力的巨大推动力。即使在这个早期阶段，我们已经看到人们如何利用它来大幅改进产品和服务。
主持人：你能理解这种说法对很多人听起来会是什么样子吗？
Sam Altman：当然，我明白这对很多人来说会是怎样的情况。但我认为历史类比在这里是有帮助的，观察世界 GDP 随时间变化的图表也很有帮助。你知道，如果全球 GDP 每年增长7%，听起来增速非常快，但也许像这样的技术变革并不遥远。我总是不太擅长心算，但我认为只需要大约10年就能使其翻倍。所以我认为，认真对待这项技术潜力为社会带来巨大益处是值得的。随着人们开始采用这项技术，我们现在可以看到更多这方面的实际效果。
主持人：你认为未来ChatGPT-5的技术飞跃会是什么？这些技术进步是否让你走上更直接或更符合你期望的道路？
Sam Altman：目前我们还不确定。我们持乐观态度，但还有很多工作要做。但我期待它会是一个重大的技术进步。GPT-4在很多方面存在问题，比如不能进行推理，有时会偏离主题并犯一些很愚蠢的错误，甚至是一个6岁的孩子都不会犯的错误。我期待新版本在这些方面会有很大的改进，并能够被广泛应用于更多有益的任务中。
主持人：它有时确实会偏离主题。这是否与我们之前提到的数据不足或数据短缺有关？
Sam Altman：我认为这是多种因素共同作用的结果。我们在开发这样一个复杂系统的早期阶段，存在数据问题、算法问题。相对于未来可能的规模，现在的模型仍然相对较小，我们知道它们会逐渐变得更加可预测和有效。所以我觉得问题更多是我们需要改进的多个方面，而我们在技术发展的早期阶段。你知道，第一代iPhone也有不少问题，但它足够好用，对人们来说很有用。
Brian Chesky：我认为未来几年世界不会有太大变化。人们认为这种变化不是线性的，会缓慢发展，然后可能突然加速。我认为每个人都还在试图弄清楚如何利用这项技术。如果你拿起手机看看主屏幕，并在ChatGPT发布一年半后问自己，因为人工智能而从根本上改变了多少个应用？答案是很少。
所以我认为我们仍处于这样一个阶段，即正在开发大量的计算，英伟达、Sam及其团队正在开发模型，而真正的变革会在人们在这些模型基础上构建应用时发生。有很多用途。我知道，科学发现是其中一个重要的应用案例。想想这项技术对药物研究以及社会中一些最大的问题能做些什么。教育领域也有很多潜力。我们认为这基本上可以让全世界的人都能获得导师的帮助，包括创意人士。我知道有很多人担心艺术家会被取代，但我认为如果艺术家参与其中，这项技术对他们来说也是有用的。所以我认为我们可以列出一长串例子，未来三到五年将会有很多令人兴奋的机会。
主持人：五年后你想成为什么样的人，Sam？
Sam Altman：在这条同样的路上，我们希望能继续。工作中最有趣的部分之一就是每天收到大量来自用户的电子邮件，他们在使用这些工具时表现出惊人的创意。
我记得有人能够诊断出我多年来一直困扰我的健康问题，我自己一直搞不清楚，使我的生活变得很痛苦。我只是把我的症状输入ChatGPT，得到了一个建议，去看医生，现在我完全康复了。还有人一生努力学习某些东西，但始终无法做到，然后通过ChatGPT找到了一个像导师一样的解决方案。还有开发人员告诉我，他的生产力提高了三倍，正在做一些令人惊奇的事情。
我很享受这些反馈，我喜欢看到人们对ChatGPT的喜爱。五年后，我希望会有更多这样的故事。我希望我们能将这个工具推广到世界各地，继续帮助人们更好地生活，做到他们所做的事情的最好。
主持人：关系到你们的发展道路，接下来我们将会有更多类似的对话。但我想感谢Sam Altman和Brian Chesky，抽出时间与我们一起在Aspen进行这次精彩的访谈。