OpenAI内幕故事：与浮士德的交易，马斯克为何愤而离场？

  //  

马斯克认为，通过特斯拉创造人工通用智能有更好的机会，因为在那里可以获得更多资源。

Sam- Altman，这位37岁的创业大师，处于人工智能热潮的最前沿，长期以来一直梦想着一个计算机能够像人类一样交谈和学习的未来。

他最清晰的童年记忆之一是在圣路易斯郊区的卧室里坐到很晚，玩着他8岁生日时得到的Macintosh LC II，当时他突然意识到：“总有一天，电脑会学会思考。”

最近几个月， Altman比任何人都做得更多，以迎接这个未来，并使其商业化。他领导的公司OpenAI在11月发布了ChatGPT，这个聊天机器人具有类似人类写作的不可思议的能力，已经成为科技史上最具病毒性的产品之一。

在这个过程中，OpenAI从一个小的非营利组织变成了一个价值数十亿美元的公司，其速度接近创纪录，部分原因是启动了一个营利部门，根据投资者文件, OpenAI能够从微软公司筹集130亿美元。

Altman说，他担心如果人工智能被不顾一切地推广到社会中会发生什么。他在八年前共同创立了OpenAI，作为一个研究性的非营利组织，他认为让利润成为开发强大人工智能模型的主要驱动力是非常危险的。

他对利润作为人工智能发展的激励因素非常警惕，以至于他在自己建立的企业中没有直接的经济利益，他说这在硅谷是一个反常现象，在硅谷，成功的初创企业的创始人通常靠股权致富。

“像大多数人一样，我喜欢看着数字不断上升，”当涉及到经济收益时，他说。“OpenAI方面不希望涉及任何盈利的导向。” (该公司说他的工资 "不高”，但拒绝透露具体数额）。

Altman说，他在一个投资于OpenAI的风险基金中拥有少量股份，但这 “并不重要”。

Altman说，他在职业生涯早期赚了 “多得用不完的钱”，当时他在投资年轻的初创企业时赚了一大笔。

他说，他的目标是建立一个新的世界秩序，让机器解放人们去追求更有创造性的工作。在他的设想中，全民基本收入--为每个人提供现金津贴的概念，不附带任何条件--有助于补偿被人工智能取代的工作。

Altman甚至认为，人类将如此热爱人工智能，以至于一个先进的聊天机器人可以代表 “你意志的延伸”。

他说，从长远来看，他希望建立一个全球治理结构，监督有关人工智能未来的决策，并逐步减少OpenAI的执行团队对其技术的权力。

支持者说，他在社会意识使他成为领导OpenAI 这个资本主义世界产物的理想人选。

也有一些人，包括一些曾为他工作过的人，说他的商业意识太强，沉浸在硅谷思维中，无法领导一场已经在重塑商业和社会生活的技术革命。

投资者文件显示，该公司在1月份与微软签署了一项100亿美元的交易，允许这个科技巨头拥有该公司盈利实体的49%的股权。

这种企业合作关系，以及 Altman推动其技术更积极地商业化，使OpenAI的早期关键领导人感到失望，他们认为这些决定违反了最初的承诺，即在股东的影响之外开发人工智能。

1

OpenAI的批评者——马斯克

埃隆-马斯克(Elon Musk)是OpenAI的批评者之一，他在2015年共同创立了这家非营利组织，但在2018年因其控制权和方向问题发生争议而分道扬镳。

这位特斯拉公司的首席执行官今年2月在推特上说，OpenAI是一个非营利组织。

马斯克在2月份的推特上说，OpenAI是作为一个开源的非营利组织成立的，“作为对谷歌的制衡，但现在它已经成为一个封闭的、利润最高的公司，实际上由微软控制。这完全不是我的初衷”。

当被问及上述的批评时， Altman停顿了一下。“我喜欢伊隆，”他最后回应道，“我关注他说的话。”

在上周公开的一封公开信中，马斯克和其他硅谷名人，包括苹果公司联合创始人史蒂夫-沃兹尼亚克，呼吁暂停开发比GPT-4（OpenAI在3月发布的最新技术）更先进的人工智能，以阻止一场可能失控的技术竞赛。

Altman说，他不一定需要率先开发人工通用智能（AGI），这是一个研究人员和科幻小说作家长期以来想象的世界：在这个世界里，软件不仅仅擅长一项特定的任务，如生成文本或图像，而且能够理解和学习，甚至比人类更优秀。他反而说，OpenAI的最终使命是安全地建立AGI。

根据投资者文件，OpenAI为投资者设定了利润上限，任何超过一定水平的回报--从他们投入的7倍到100倍不等，取决于他们的投资时间，都将流向非营利机构。

OpenAI和微软还成立了一个联合安全委员会，其中包括 Altman和微软首席技术官凯文-斯科特，如果微软和OpenAI发布的产品被认为过于危险，该委员会有权收回。

亿万富翁风险资本家彼得-泰尔(Peter Thiel)称，AGI的可能性使 Altman先生产生了这样的想法：一些类似的技术创造了我们的宇宙，他是 Altman先生的密友，也是非营利组织的早期捐助者。长期以来，他一直是人类和机器有一天会融合的想法的支持者。

ChatGPT的发布引发了一连串竞争性的人工智能公告。

“一些公司，他们争先恐后地发布新闻稿，类人工智能软件”Altman谈到他的竞争对手时说。“很明显，他们现在已经落后了。” 谷歌在2月份宣布它正在测试自己的聊天机器人Bard，并在3月份向公众开放。

在其成立章程中，OpenAI承诺，如果有其他项目在它之前接近建立AGI，它将放弃其研究努力。该公司表示，其目标是避免在竞争的推动下建立危险的人工智能系统，而是将人类的安全放在首位。

OpenAI的总部位于旧金山的Mission区，与其说是一个试图拯救世界的非营利组织，不如说是一个富裕的新时代乌托邦。在几乎所有沐浴在阳光下的房间里，石制喷泉都依偎在多肉植物和蕨类植物中间。

Altman对他构思的蜿蜒的中央楼梯赞不绝口，这样公司的400名员工每天都有机会互相交流，或者至少在周一到周三他们需要亲自上班的日子里。

办公室包括一个大学风格的食堂、一个自助酒吧和一个图书馆，其模式是将他在巴黎最喜欢的书店和斯坦福大学最大图书馆顶层的安静学习空间Bender Room结合起来。

Altman身着灰色连帽衫、牛仔裤和刺眼的白色运动鞋等典型的科技界CEO制服，他描述了自己更为朴素的成长经历。

Altman在圣路易斯郊区长大，是皮肤科医生康妮-吉布斯廷(Connie Gibstine)和杰里- Altman(Jerry Altman)所生四个孩子中的长子，后者从事过各种工作，包括律师，五年前去世。他的家人說，老 Altman先生真正的職業是經營可負擔的住房非營利機構，他花了多年時間試圖重振聖路易的市中心。

Altman说，他父亲教给他的经验之一是：“你应该尽量帮助别人，即使你认为你没有时间，你也要想办法。”

母亲Gibstine博士说，儿子在2岁时就开始操作家里的录像机，13岁时就自己订机票从营地回家。她说，在他三年级的时候，他已经在当地的公立学校帮助老师解决电脑问题了。中学时，他转到了私立的约翰-伯勒斯学校。

“老师们喜欢他，因为他真的非常聪明，而且是个勤奋的人，但他也超级善于交际，”当时担任校长的校长安迪-阿博特说。“他很风趣，有很大的个性”。

Altman去了斯坦福大学，在那里他在一个人工智能实验室做研究。大二时，他与人合作创办了Loopt，这是一个基于位置的社交网络服务。

Loopt成为Y Combinator的第一期学员，Y Combinator是一个创业加速器，后来孵化出了Airbnb、Stripe和Dropbox等公司。此后，Altman也离开了学校。

2012年，Loopt公司以4340万美元的价格出售，接近包括红杉资本在内的投资者投入的金额。

在Y Combinator期间， Altman开始越来越担心，像2014年被谷歌收购的DeepMind这样的大型研究实验室，正在公众视线之外创造潜在的危险人工智能技术。马斯克也表达了对一个由强大的人工智能机器控制的二元世界的类似担忧。

Altman和马斯克决定是时候建立自己的实验室了。两人都是向非营利组织OpenAI Inc.认捐10亿美元的团体的一员。

这个非营利组织在其早期的几年里徘徊不前，尝试了一些项目，如教机器人如何完成解魔方等任务。2017年，OpenAI解雇了一大批员工。

OpenAI的研究人员很快得出结论，实现人工通用智能的最有希望的途径在于大型语言模型，或模仿人类阅读和写作方式的计算机程序。

Altman说，这种模型是在大量的文本上训练出来的，需要大量的计算能力，而OpenAI作为一个非营利组织并不具备这种能力。

他说："我们对这个项目会有多昂贵没有直观的感觉。现在我们仍然不知道未来需要花费多少钱。”

那一年， Altman研究了为OpenAI筹集更多资金的方案，比如获得联邦资金和推出一种新的加密货币。他说：“没有人愿意以任何方式资助这个项目，那是一段非常艰难的时期。” 

熟悉此事的人说，Altman与马斯克的关系也越来越紧张，后者对进展缓慢感到沮丧，并推动对该组织进行更多控制。

OpenAI的高管们最终恢复了公司历史上早些时候提出的一个不同寻常的想法：创建一个营利性部门OpenAI LP，向非营利性机构报告。

瑞德-霍夫曼（Reid Hoffman）是LinkedIn的联合创始人，他当时为OpenAI提供咨询，后来还担任董事会成员，他说这个想法是为了吸引渴望从OpenAI一些技术的商业发布中赚钱的投资者，加速OpenAI的进展。

“你想先到那里，你想制定规范，” 他说。“这就是为什么速度在这里是一个道德和伦理问题的部分原因。” 

熟悉此事的人说，这一决定进一步疏远了马斯克。他于2018年2月与OpenAI分道扬镳。

参加会议的前员工说，马斯克在公司的全员大会上宣布了他的离职。他们说，马斯克解释说，他认为通过特斯拉创造人工通用智能有更好的机会，因为他在那里可以获得更多资源。

前雇员说，一位年轻的研究人员质疑马斯克是否考虑到了安全问题。马斯克明显感到沮丧，并称这名实习生为 “傻瓜” ，让员工们目瞪口呆。这是他们中许多人最后一次见到马斯克本人。

不久之后，OpenAI的一位高管为这位年轻的研究员制作了一个 “傻瓜 ” 奖杯，后来被放在一个枕头上送给了他。“你得找点乐子，”  Altman说。“这就是文化所产生的东西。” 

马斯克的离开标志着一个转折点。当年晚些时候，OpenAI的领导人告诉员工， Altman先生将领导该公司。他正式成为CEO，并帮助在2019年初完成了营利性子公司的创建。

OpenAI表示，它从最初的10亿美元认捐中收到了约1.3亿美元的捐款，但在营利性公司创建后不再需要进一步的捐款。马斯克先生曾在推特上表示，他向OpenAI捐赠了约1亿美元。

2

GPT-3，更强大的语言模型

在此期间， Altman开始寻找投资者。

2018年夏天，他在爱达荷州太阳谷举行的艾伦公司(Allen & Co.)年会上取得了突破，他在楼梯间碰到了微软首席执行官萨提亚-纳德拉(Satya Nadella)，向他介绍了OpenAI。纳德拉说他很感兴趣。谈话在那个冬天开始了。

“我记得之后回到团队，我想，这是唯一的合作伙伴，” Altman说。“他们得到了安全的东西，他们得到了人工通用智能。他们有资本，他们有运行计算的能力。”  Altman在谈判过程中与员工分享了这份合同，举办了全员会议和办公时间，以消除人们对这一合作关系与OpenAI最初承诺的在企业界以外开发人工智能相矛盾的担忧，前雇员说。一些员工仍然认为这笔交易是一种浮士德式的讨价还价。前雇员说，OpenAI的首席安全研究员达里奥-阿莫代(Dario Amodei)和他的副手们担心，这笔交易会让微软在对OpenAI的技术进行足够的安全测试之前就出售使用该技术的产品。他们认为，OpenAI的技术远未准备好进行大规模发布，更不用说与世界上最大的软件公司之一合作了，他们担心它可能出现故障或被滥用，造成他们无法预测的伤害。前雇员说，阿莫代先生还担心这笔交易会把OpenAI的船拴在一家公司--微软--这使得OpenAI更难恪守其创始章程中的承诺，即如果它首先得到AGI的帮助，就会协助另一个项目。微软最初向OpenAI投资了10亿美元。虽然这笔交易给了OpenAI所需的资金，但也带来了一个麻烦：排他性。OpenAI同意只使用微软的巨型计算机服务器，通过其Azure云服务来训练其人工智能模型，并给予该科技巨头为未来产品授权OpenAI技术的唯一权利。“你必须跳下悬崖，希望你能落地，” 纳德拉先生在最近一次采访中说。“这就是平台转移的方式。” 纽约大学心理学和神经科学荣誉教授加里-马库斯(Gary Marcus)说：“这笔交易完全破坏了他们获得非营利地位的那些原则。” 他是一家机器学习公司的共同创始人。他说， “Altman的这个转折背弃了其原来信仰的人类优先原则” 。Altman不同意这种说法。他说：“微软作为合作伙伴的不寻常之处在于，它让我们保留了所有我们认为对我们的任务很重要的原则，包括利润上限和承诺在另一个项目首先得到AGI的帮助” 。现金加速了OpenAI的进展，让研究人员获得了改进大型语言模型所需的计算能力，这些模型是在数十亿页的公开文本上训练出来的。OpenAI很快就开发出了一个名为GPT-3的更强大的语言模型，然后在2020年6月通过被称为应用程序接口(API)的打包代码行向开发者出售了对该技术的访问。前雇员说，“ Altman和阿莫代在发布API的问题上再次发生冲突。阿莫代希望产品的发布更加有限和分阶段，以减少宣传，并允许安全团队在较小的用户群中进行更多测试。”几个月后，阿莫代先生与其他几个人一起离开了公司，成立了一个名为Anthropic的竞争对手人工智能实验室。Altman说：“他们对如何最好地实现安全的AGI有不同的看法。” 此后，Anthropic今年从谷歌获得了超过3亿美元的资金，并在3月发布了自己的人工智能聊天机器人Claude，它也可以通过API向开发者提供。在最近的一份投资说明书中，Anthropic表示，它“致力于大规模商业化” ，以实现创造安全的AGI，并在9月 “完全承诺” 采用商业方式。该公司成立时是一家人工智能安全和研究公司，当时说它可能会寻求从其产品中创造商业价值。根据投资者文件，在最初交易后的三年里，微软共向OpenAI投资了30亿美元。ChatGPT在11月发布后的五天内就有超过100万用户注册，这一速度甚至让 Altman感到惊讶。在此之前，该公司推出了DALL-E 2，它可以根据文字提示生成复杂的图像。互联网上炸开了锅，人们用ChatGPT创作十四行诗或计划幼儿生日派对的轶事层出不穷。瑞银集团(UBS)的分析师称，到2月份，它的用户数已经达到1亿，这是历史上消费类应用达到这一目标的最快速度。Altman的亲信称赞他有能力平衡OpenAI的优先事项。泰尔先生说，没有人比他更能在 “错位的理想主义” 和 “近视的野心 ” 之间游刃有余了。Altman说，他将其模型的最新版本GPT-4的发布时间从去年推迟到3月，以进行更多的安全测试。用户报告了一些令人不安的使用该模型的经历，该模型被整合到必应中，软件会产生幻觉--这意味着它对它不知道的问题编造了答案。 Altman说：“正确的方法是让人们参与其中，探索这些系统，研究它们，以学习如何使它们安全。” 文件显示，在微软的初始投资得到偿还后，它将获得OpenAI利润的49%，直到利润上限，而之前的安排是21%。非营利性母公司OpenAI Inc.将获得其余部分。Altman的其他项目包括世界币(Worldcoin)，这是他共同创办的一家公司，旨在向地球上的每个人提供加密货币。此外，近年来，他几乎将自己所有的流动财富都投入到另外两家公司。他向Helion Energy公司投入了3.75亿美元，该公司正寻求从核聚变中创造无碳能源，并接近于创造 “真实演示中的合法净收益能源” ， Altman说。他还向Retro公司投入了1.8亿美元，该公司的目标是通过 “细胞重编程、血浆启发疗法和自噬” ，即重新利用旧的和受损的细胞部分，使人类的寿命延长10年，据该公司称。他指出，从道德上讲，这些问题比人工智能要容易得多。“如果你在做核聚变，这都是颠覆性的。它就是好的，” 他说。“如果你在制造人工智能，它有可能非常好，也有可能非常可怕。” （WSJ）