《时代杂志》封面故事：Claude AI如何挑战GPT-4o，Dario Amodei谈构建与人类协同工作的AI系统

6 月 20 日，Anthropic 在这场竞争中推出了最新版本的聊天机器人：Claude 3.5 Sonnet。根据公司介绍，这款模型在推理、编码和某些类型的数学方面设立了新的行业标准，超越了 OpenAI 最新推出的 GPT-4o。“今天的发布标志着我们在技术互动方面迈出了重要的一步，”Amodei 在 6 月 20 日的声明中表示。“我们开发 Claude 的目标不是仅仅改进大型语言模型，而是创建一个能够与人类和软件在有意义的方式上协同工作的 AI 系统。”

在旧金山的 Anthropic 办公室内，距离首席执行官 Dario Amodei 不远处，挂着一幅装裱精美的图画。图画是一个巨大的机器人在一座燃烧的城市中肆虐。在画下方的标题写道：深度学习正在撞墙（Deep learning is hitting a wall）。这句话是 AI 怀疑论者的常用说法，他们认为人工智能的快速进步即将放缓。但在画中，一个箭头指向机器人，标注为“深度学习（Deep learning）”，另一个箭头指向被毁的城市，标注为“墙（wall）”。

这幅俏皮的图画反映了作为一家 AI 公司，大多数员工相信 AI 的进步并未放缓，甚至可能对人类构成威胁。上个月，Amodei 也登上了《时代周刊》封面，因为他的公司被评为 2024 年《时代周刊》最具影响力的 100 家公司之一。

如下《时代周刊》采访

记者： Anthropic 是最年轻的“前沿” AI 实验室，也是规模最小的。相比之下，竞争对手拥有更多的资金。从许多方面看，Anthropic 更明确地致力于安全。你们是否认为自己是弱者？

Dario Amodei : 你提到的所有事实都确实如此。但情况正在逐渐改变。我们现在有大型计算合作协议，获得了数十亿美元的资金支持，而我们的竞争对手则拥有十几亿到甚至的数百亿美元资金。因此，称我们为弱者有些尴尬。但相比该领域的重量级选手，我认为这个说法依然成立。

记者： AI 的“规模定律（Scaling Law）”表明，随着你用更多的计算能力和数据训练系统，它们的能力会显著提升。你在系统中看到了哪些尚未发布的能力？

Dario Amodei : 我们最近刚发布了最新模型，所以并不存在一年的未发布秘密。即使有，我也不会详细说明。但我们确实知道进展在持续。我们没有看到任何迹象表明进展在放缓。现实情况是，进展随时可能停止。每次训练新模型时，我都会观察，总是在想——我从未确定是感到欣慰还是担忧——是否某个时候我们会发现模型不再有提升。我认为，如果规模效应停止，从某种程度上说对世界是好事。它会同时限制所有人。但这是我们无法选择的——当然，模型带来了许多激动人心的好处。总体来说，这是一种自然规律。我们无法选择，只能发现我们生活在什么样的世界里，然后尽力应对。

记者： Anthropic 的文化目标是什么？

Dario Amodei : 我们有一个捐赠匹配计划。Anthropic 允许员工将最多 25% 的股权捐赠给任何慈善机构，并会匹配这笔捐赠。这吸引了那些重视公共利益的员工。如果你看重这个，我们的股票赠予会显得更有吸引力。这并不妨碍员工获取经济回报，但有助于塑造公司的氛围。

在安全方面，公众的认知和我们的初衷之间存在一些差距。我不把我们看作是一家 AI 安全公司，而更倾向于认为我们是一家专注于公共利益的公司。我们不是那种坚信 AI 系统会带来特定危险的公司。那是一个经验问题。我更希望 Anthropic 成为一家每个人都关注公共目的的公司，而不仅仅是一家专注于 AI 安全或 AI 系统失调的公司。在内部，我认为我们已经成功实现了这一点，我们拥有来自不同背景的员工，但他们共同致力于公共利益。

记者： 如果唐纳德·特朗普在今年年底当选，这对 AI 安全意味着什么？

Dario Amodei : 无论下一任总统是谁，我们都会与他们合作，努力解释美国需要在这项技术上保持领先地位，同时也需要对技术本身提供合理的安全保障。我的信息会是一样的。显然，不同的政府会有不同的观点，我预计政府政策会因选举结果而有所不同。我能做的就是表达我认为对世界的真实看法。

记者： 我们使 AI 系统更安全的最佳方法之一是“强化学习”，它将模型引导到某个方向——使其有帮助且无害——但并不会消除其潜在的危险能力，这些能力仍然可以通过类似越狱的技术被利用。你是否担心这种方法的脆弱性？

Dario Amodei : 我不认为这种方法本质上脆弱——我更倾向于认为我们在如何引导这些系统的科学上还处于早期阶段。我们还在早期阶段，意味着它们会出现幻觉，意味着它们可以被越狱。每次我们试图让模型听起来更友好时，可能会导致它在其他情况下给出过长的回答。你试图让它做所有好的事情，而不是所有坏的事情，但这确实很难。我认为这种方法并不完美，可能永远不会完美。我们有一个瑞士奶酪模型：虽然一层有洞，但如果有10层瑞士奶酪，很难让任何东西穿过所有10层。没有一种万能的方法可以完全引导这些模型，我们需要将许多不同的策略结合起来。

记者： 在风险如此高的情况下，使用这样的策略是否负责任？

Dario Amodei : 我希望我们生活在一个理想的世界。不幸的是，在我们现实生活的世界中，有巨大的经济压力，不仅公司之间存在竞争，国家之间也存在竞争。但如果我们能真正证明这些风险是现实存在的——这是我希望能够做到的，那么我们可能有一些机会让世界停下来，至少思考片刻，并以合作的方式正确处理这些问题。但我并不天真——这种机会非常罕见，要停下一列强大的经济火车，只能在特殊情况下短暂实现。

记者： Meta 正在开源一些与你们的模型在能力上差距不大的模型。你怎么看待这种策略？这是否负责任？

Dario Amodei : 我们的主要担忧并不是开源模型，而是那些强大的模型。我认为，大多数公司最终会在能力达到我们担忧的水平之前停止开源——我怀疑 Meta 也会这样做，但不能确定。总的来说，我认为开源问题几乎是个假象。人们认为开源模型会削弱我们的商业模式，但实际上，任何能够生产出强大模型的公司都是我们的竞争对手。当有人托管这些模型时——我认为我们应该称它们为开放权重模型——它们会被放在云端，经济效益和其他任何服务都差不多。

记者： 微软最近表示，他们正在内部训练一个大型语言模型，可能会与他们投资的 OpenAI 竞争。亚马逊作为你们的支持者之一，也在进行类似的工作。谷歌也不例外。你是否担心目前领先的小型 AI 实验室，可能只是暂时领先于这些资源更加丰富的科技公司？

Dario Amodei : 我们的文化一向强调“以少做多”。我们总是努力在计算资源较少的情况下，做到与那些拥有更多计算资源的公司一样好甚至更好。所以最终，我们的竞争优势在于我们的研究人员和工程师的创造力。我越来越多地从创造性产品提供的角度思考，而不是纯粹的计算能力。我认为你确实需要大量的计算资源，我们也有很多，并且还会获得更多。但只要我们能够更有效地使用这些资源，做到以少做多，那么最终，资源将会流向那些具有创新能力的公司。

记者： Anthropic 已经筹集了约 70 亿美元，这足以支付下一代模型的训练费用，你提到这可能需要数十亿美元。为了训练再下一代模型，你们需要开始寻找更多的资金来源。你认为这些资金会来自哪里？

Dario Amodei : 我认为我们也能够为再下一代模型筹集到资金，尽管在 Anthropic 的发展过程中，我们还需要筹集更多资金。这很难说具体来自哪里。可能是传统投资者，也可能是大型计算资源提供商，甚至还有一些我们未曾考虑过的其他来源。

记者： 一个不常被讨论的资金来源是政府。他们有这样的资金规模——尽管在政治上可能有些困难，但这是你们考虑过或者讨论过的吗？

Dario Amodei : 技术变得越来越强大，政府应该在其研发和部署中扮演重要角色。这不仅仅是监管问题，还涉及国家安全。在某些时候，这是否应该成为一个国家项目？我当然认为模型在政府内部有很多实际应用。但随着时间推移，最强大的模型可能会被视为对国家安全至关重要。我认为政府应该更多地参与其中，我希望民主政府能以负责任和可问责的方式引领这项技术。这可能意味着政府在技术建设中起到重要作用。我不知道具体会是什么样子，今天还没有这样的先例。但鉴于我们正在构建的技术如此强大，当它达到一定程度时，是否应该由个人或公司主导？我可以想象，在未来两到五年内，具体情况可能会引发非常严肃的讨论。

记者： 你认为目前全球的贫富差距过大了吗？

Dario Amodei : 我认为确实如此。现在仍有数十亿人每天的生活费不足 1 美元，这显然不正常。

记者： 有人，比如 Sam Altman 会说，如果我们能改善这些人的基本生活条件，那么亿万富翁的存在也可以接受。你怎么看待这种不平等带来的权力失衡？

Dario Amodei : 这里涉及两个问题。一是提高基本生活水平，二是全球的权力分配。我对权力的集中感到担忧。即使在物质上满足了所有人的需求，如果权力过于集中，民主制度和决策的公平性将难以维持。金融权力集中是一种形式，但还有其他形式的权力集中。在美国历史上，曾有过像镀金时代那样的时期，当时工业巨头几乎掌控了政府。我认为那种情况太极端了。我不确定经济能否在没有一定程度不平等的情况下正常运行。但我担心我们可能正处于一个趋向极端的不健康民主社会的时代。

关于基本收入保障的想法——如果我们找不到更好的解决方案，这确实比什么都没有要好。但我更希望生活在一个人人都能有所贡献的世界。如果有少数人能赚取数万亿美元，而政府将这些财富分发给大众，这样的情景有点反乌托邦。尽管这比不分发要好，但这并不是我们真正追求的世界。我相信，如果 AI 的进步速度是指数级的，那么在大多数事情上，AI 系统可能会比大多数人甚至所有人更为出色。因此，我们真的需要重新思考很多问题。短期内，我一直强调人类与 AI 的互补性——确保人类与 AI 协同工作是一个很好的短期答案。

但从长远来看，我们需要思考如何重新组织经济，以及人类如何看待他们的生活。这不是一个人或一家公司能够完成的事情，而是需要全人类共同讨论。我唯一的担忧是，如果技术发展过快，我们必须迅速找到应对之策。

原文链接：https://time.com/6990386/anthropic-dario-amodei-interview/

往期回顾

---

我们的AI团队现向外界开放服务，旨在助力每个企业与个人引领时代潮流，将先进科技与创新想法完美融合!

告别昂贵服务费和缺人烦恼,再见漫长交付周期

无限创意风格,分分钟生成专业级作品

感受 AI 带来的全新工作体验！

欢迎各大品牌方、媒体、科技企业、知名IP等合作

合作请联系负责人微信：Milo-1101

--END--