最担忧人工智能风险的应该是这项技术的开发者。随后，不信任感加剧了一场愈演愈烈的竞争。2015年7月，埃隆·马斯克在加州葡萄酒乡的一个度假村，庆祝了他44岁的生日。这是一个为期三天的派对，由他的妻子策划，只邀请了家人和朋友，孩子们则在在纳帕谷的豪华游泳池中嬉戏。那时距离 Twitter 改名为 X 和特斯拉首次盈利还有几年。马斯克和他的妻子塔卢拉·莱利——她在 HBO 的科幻剧《西部世界》中扮演一位美丽但危险的机器人——他们的第二次婚姻还有一年就将结束。派对的嘉宾之一，拉里·佩奇，那时仍是谷歌的 CEO。而人工智能只是在几年前开始进入公众视野，当时它被用于识别 YouTube 上的猫，准确率仅为16%。当马斯克和佩奇在第一晚晚餐后坐在泳池旁的火坑边时，人工智能成为了他们讨论的主题。这两位亿万富翁已经是十多年的朋友，马斯克有时开玩笑说他偶尔会在玩完视频游戏后在佩奇的沙发上过夜。但那个晴朗的夜晚，气氛很快变得紧张，因为两人开始辩论人工智能到底是会提升人类还是最终导致毁灭。随着讨论进入深夜时刻，气氛变得更加紧张，超过30位派对参与者中的一些人聚集起来倾听。佩奇先生，因为他的声带有一个罕见的疾病，已经受阻超过十年，他低声描述了他对数字乌托邦的愿景。他说，人类最终将与人工智能机器融合。将来，许多种智能将竞争资源，最优秀的将胜出。马斯克先生回应说，如果那成为现实，我们就完了。机器将会摧毁人类。佩奇先生带着沮丧的嘶哑声音坚持他的乌托邦理念应该被追求。最后他称马斯克先生为“物种主义者”，意指偏爱人类而不是未来的数字生命形式。当晚散去时，许多人似乎都感到震惊，尽管他们也觉得有些好笑，认为这只是硅谷派对上经常爆发的那些辩论之一。但八年后，两人之间的争论似乎显得预见性十足。人工智能是提升世界还是摧毁它的问题，已经成为硅谷创始人、聊天机器人用户、学者、立法者和监管者之间关于这项技术是否应该被控制或放任自由的持续辩论的核心。这场辩论使得世界上一些最富有的人陷入对立：马斯克、佩奇、Meta 的马克·扎克伯格、科技投资者彼得·蒂尔、微软的萨提亚·纳德拉和 OpenAI 的萨姆·奥特曼。他们都在为这个可能价值数万亿美元的商业机会以及塑造它的权力而斗争。这场竞争的核心是一个难以理解的悖论,那些最担心人工智能的人反而是最坚定地想要创造它并从中获益的人。他们用坚定的信念来证明自己的野心，认为只有他们才能防止人工智能对地球造成威胁。马斯克和佩奇在那个夏天的派对后不久就不在联系。几周后，马斯克与当时运营一个科技孵化器的奥特曼以及几位研究人员在加州门洛帕克的罗斯伍德酒店的私人房间共进晚餐，这是一个靠近 Sand Hill Road 风险投资办公室的热门交易场所。那次晚餐促成了当年晚些时候成立的 OpenAI 初创公司。该实验室得到了马斯克和其他资助者数亿美元的支持，承诺保护世界免遭佩奇愿景的影响。得益于其 ChatGPT 聊天机器人，OpenAI 已经彻底改变了技术行业，并向世界展示了人工智能的风险和潜力。据了解，OpenAI 的估值超过800亿美元，尽管马斯克和奥特曼的合作并未持续。此后，两人也停止了交流。奥特曼表示：“存在分歧、不信任和自我中心。” “人们越是朝着同一个方向前进，争议就越激烈。你在宗教团体和教派中可以看到这一点。最亲近的人之间经常发生激烈的争执。”上个月，这种内斗蔓延到了 OpenAI 的董事会。一些反对的董事成员试图迫使奥特曼下台，因为他们认为不再能信任他建立有利于人类的人工智能。在五天的混乱中，OpenAI 似乎即将崩溃，直到在巨大投资者和威胁跟随奥特曼离开的员工的压力下，董事会最终退让。OpenAI 内部的这场戏剧让世界首次看到了将决定人工智能未来的人类之间的激烈争斗。但在 OpenAI 几乎崩溃的几年前，硅谷就已经展开了一场鲜为人知但激烈的竞争，争夺控制现在迅速重塑世界的技术，从孩子们的教育方式到战争的打法。《纽约时报》采访了80多位高管、科学家和企业家，包括两位参加了2015年马斯克生日派对的人，讲述了这个关于雄心、恐惧和金钱的故事。 在纳帕谷派对的五年前和 YouTube 上猫的识别突破的两年前，34岁的神经科学家德米斯·哈萨比斯走进彼得·蒂尔在旧金山的联排别墅举办的鸡尾酒会，并意识到他找到了机遇。在蒂尔先生的客厅里，可以俯瞰城市的美术宫和天鹅池，摆放着一张棋盘。哈萨比斯博士曾是世界14岁以下组别的第二棋手。“我为那次会面准备了一年，”哈萨比斯博士说。“我认为那将是我独特的切入点：我知道他喜欢下棋。”2010年，哈萨比斯博士和两位同样居住在英国的同事正在寻找资金来构建“通用人工智能”（A.G.I.），一种能做大脑能做的任何事的机器。当时，很少有人对人工智能感兴趣。经过半个世纪的研究，人工智能领域未能提供任何接近人类大脑的成果。然而，一些科学家和思想家开始关注人工智能的负面影响。许多人，像这三个来自英国的年轻人一样，与互联网哲学家和自学成才的人工智能研究员埃利泽·尤多科夫斯基有联系。尤多科夫斯基是一个自称为理性主义者或在后来的年份中称为有效利他主义者的社区的领袖。他们相信人工智能可以找到治愈癌症的方法或解决气候变化，但他们担心人工智能机器人可能会做出创造者未预期的事情。如果机器变得比人类更聪明，理性主义者认为，机器可能会反过来攻击它们的创造者。蒂尔先生通过早期对 Facebook 的投资以及与马斯克在 PayPal 早期的合作而变得极为富有。他对奇点产生了迷恋，这是一个科幻小说的主题，描述了智能技术无法再被人类控制的时刻。在蒂尔先生的资助下，尤多科夫斯基扩大了他的人工智能实验室，并创建了一个关于奇点的年度会议。多年前，哈萨比斯博士的两位同事之一曾与尤多科夫斯基会面，他为他们在会议上获得了发言机会，确保他们被邀请参加蒂尔先生的派对。尤多科夫斯基将哈萨比斯博士介绍给蒂尔先生。哈萨比斯博士认为派对上的许多人都会试图向他们的东道主索要资金。他的策略是安排另一次会面。他告诉蒂尔先生，主教和骑士之间存在着深刻的紧张关系。这两个棋子具有相同的价值，但最好的棋手明白它们的优势是截然不同的。这个策略奏效了。被吸引的蒂尔先生第二天邀请他们回来，他们聚集在厨房里。他们的东道主刚刚完成早晨的锻炼，还穿着闪亮的运动服出汗。一位管家递给他一罐健怡可乐。这三人做了他们的推销，不久蒂尔先生和他的风险投资公司同意向他们的初创公司投入140万英镑（大约225万美元）。他成为了他们的第一位重要投资者。他们将公司命名为 DeepMind，这既是对“深度学习”（一种人工智能系统通过分析大量数据来学习技能的方式）的致敬，也是对神经科学的致敬，以及对科幻小说《银河系漫游指南》中的深思超级计算机的致敬。到2010年秋天，他们正在构建他们的梦想机器。他们全心全意地相信，因为他们了解风险，他们独特地位于保护世界。“我不认为这是一个矛盾的立场，”DeepMind 的三位创始人之一穆斯塔法·苏莱曼说。“这些技术将带来巨大的好处。目标不是消除它们或暂停它们的发展。目标是减轻不利影响。”赢得了蒂尔先生的支持后，哈萨比斯博士进入了马斯克的轨道。大约两年后，他们在蒂尔投资基金组织的会议上见面，该基金还向马斯克的公司 SpaceX 投资。哈萨比斯博士获得了 SpaceX 总部的参观机会。之后，两人在挂着火箭壳的天花板下的食堂共进午餐并交谈。马斯克解释说，他的计划是移民火星以逃避地球上的过度人口和其他危险。哈萨比斯博士回答说，这个计划会奏效——只要超智能机器不跟随并在火星上也摧毁人类。马斯克先生哑口无言。他还没有考虑过这个特别的危险。马斯克很快就和蒂尔一起投资了 DeepMind，这样他就能更接近这项技术的创造。DeepMind 拥有充足的资金，聘请了专门研究神经网络的研究人员，这些复杂的算法是按照人类大脑的形象创建的。神经网络本质上是一个巨大的数学系统，它花费数天、数周甚至数月的时间来识别大量数字数据中的模式。这些系统最早在20世纪50年代开发，可以学会自己处理任务。例如，在分析了数百个信封上涂鸦的姓名和地址后，它们可以阅读手写文本。DeepMind 进一步发展了这个概念。它构建了一个能够学习玩经典雅达利游戏的系统，如太空侵略者、乒乓球和破坏者，以展示可能性。这引起了另一个硅谷巨头谷歌，特别是拉里·佩奇的注意。他看到了 DeepMind 的机器玩雅达利游戏的演示。他想参与进来。2012年秋，多伦多大学64岁的教授杰弗里·辛顿和两名研究生发表了一篇研究论文，向世界展示了人工智能的能力。他们训练了一个神经网络来识别常见物体，如花朵、狗和汽车。科学家们对辛顿博士及其学生构建的技术的准确性感到惊讶。特别关注这一点的是余凯，一位曾在研究会议上遇到辛顿博士的人工智能研究员，他最近开始在中国大型互联网公司百度工作。据了解，百度提供了1200万美元让辛顿博士及其学生加入北京的公司。辛顿博士拒绝了百度的提议，但这笔钱引起了他的注意。这位在剑桥受教育的英国人大部分职业生涯都在学术界度过，除了偶尔在微软和谷歌的短暂工作，并不特别看重金钱。但他有一个健康不太好的孩子，这笔钱意味着财务安全。“我们不知道我们的价值有多少，”辛顿博士说。他咨询了律师和收购方面的专家，提出了一个计划：“我们将组织一场拍卖，并将我们自己出售。”这场拍卖将在塔霍湖哈拉斯酒店和赌场举行的年度人工智能会议期间进行。大型科技公司开始关注。谷歌、微软、百度和其他公司开始相信神经网络是通往不仅能看，还能听、写、说话，最终——思考的机器的道路。佩奇在谷歌大脑——他公司的人工智能实验室——看到了类似的技术，他认为辛顿博士的研究可以提升他的科学家们的工作。他给了谷歌工程高级副总裁艾伦·尤斯塔斯一个相当于空白支票，以雇佣他所需的任何人工智能专家。尤斯塔斯和负责大脑实验室的杰夫·迪恩飞往塔霍湖，并在拍卖前一晚在酒店内的一家牛排馆请辛顿博士和他的学生吃饭。迪恩回忆说，旧香烟的味道令人难以忍受。他们为加入谷歌提出了理由。第二天，辛顿博士在他的酒店房间进行了拍卖。由于旧伤背部受伤，他很少坐下。他把一个垃圾桶倒扣在桌子上，把笔记本电脑放在上面，观看接下来两天的出价。谷歌提出了报价。微软也是如此。随着价格上涨，DeepMind 很快退出了竞标。行业巨头将出价推高到2000万美元，然后是2500万美元，根据详细说明拍卖的文件。当价格超过3000万美元时，微软退出了，但在3700万美元时重新加入了竞标。然后微软第二次退出了。只剩下百度和谷歌，他们将竞标推高到4200万美元，4300万美元。最后，在4400万美元时，辛顿博士和他的学生停止了拍卖。出价仍在上升，但他们想为谷歌工作。而且这笔钱是惊人的。这是一个明显的迹象，表明资金雄厚的公司决心购买最有才华的人工智能研究人员——这一点并没有让 DeepMind 的哈萨比斯博士感到意外。他一直告诉他的员工，DeepMind 将保持独立公司的身份。他相信，这是确保其技术不会变成危险东西的最佳方式。但随着大型科技公司进入人才竞赛，他决定别无选择：是时候出售了。到2012年底，谷歌和 Facebook 都在争夺收购这家伦敦实验室，据了解情况的人士透露。哈萨比斯博士及其联合创始人坚持两个条件：任何 DeepMind 技术都不能用于军事目的，其 A.G.I. 技术必须由一个独立的技术专家和伦理学家委员会监督。谷歌提出了6.5亿美元的报价。Facebook 的马克·扎克伯格向 DeepMind 的创始人提供了更大的报酬，但不同意这些条件。DeepMind 卖给了谷歌。扎克伯格决心建立自己的人工智能实验室。他聘请了也进行了开创性人工智能研究的法国计算机科学家亚恩·勒坎来运营它。在辛顿博士拍卖的一年后，扎克伯格和勒坎飞往塔霍湖参加同一场人工智能会议。扎克伯格在哈拉斯赌场的套房里穿着袜子走来走去，亲自面试了顶尖研究人员，他们很快被提供了数百万美元的薪水和股票。人工智能曾经被嘲笑。现在，硅谷最富有的人士正在花费数十亿美元，以免被甩在后面。当马斯克投资 DeepMind 时，他违背了自己的一个非正式规则——不投资于他不亲自管理的公司。他这一决定的负面影响在他与佩奇先生生日争执后不久就已经显现，当时他再次面对面地遇到了他的前朋友和亿万富翁同行。那次会面是 DeepMind 伦理委员会的首次会议，时间是2015年8月14日。该委员会是在初创公司创始人的坚持下设立的，目的是确保他们的技术在出售后不会造成伤害。据了解，与会者聚集在 SpaceX 马斯克办公室外的一个会议室，窗外可以看到他的火箭工厂。但马斯克的控制权到此为止。当谷歌收购 DeepMind 时，它买下了整个公司。马斯克被挤出局了。从财务上来说，他赚了，但他并不开心。现在牢牢控制 DeepMind 的三位谷歌高管也在场：佩奇先生；谷歌联合创始人兼特斯拉投资者谢尔盖·布林；以及谷歌董事长埃里克·施密特。其他与会者包括另一位 PayPal 创始人里德·霍夫曼和研究“存在风险”的澳大利亚哲学家托比·奥德。DeepMind 的创始人报告说，他们正在推进工作，但他们意识到这项技术带来了严重风险。DeepMind 联合创始人苏莱曼进行了一场名为“火炬手即将来临”的演讲。他向董事会表示，人工智能可能导致虚假信息的大量增长。他担心，随着这项技术在未来几年取代大量工作，公众会指责谷歌剥夺了他们的生计。他认为，谷歌需要与那些无法再找到工作的数百万人分享其财富，并提供“全民基本收入”。马斯克同意了这一观点。但很明显，他的谷歌客人并没有准备好开始重新分配（他们的）财富。施密特先生认为这些担忧被过分夸大了。佩奇先生以他惯有的低语同意。他辩称，人工智能将创造比它带走的更多工作。八个月后，DeepMind 取得了震惊人工智能界和全世界的突破。一台名为 AlphaGo 的 DeepMind 机器击败了世界上最好的围棋选手之一。这场通过互联网直播的比赛吸引了全球2亿人观看。大多数研究人员曾假设人工智能需要再过10年才能掌握做到这一点的聪明才智。理性主义者、有效利他主义者和其他担心人工智能风险的人声称，计算机的胜利证实了他们的担忧。“这是另一个迹象，表明人工智能的进步速度比许多专家预期的还要快，”即将加入 DeepMind 成为“人工智能安全”研究员的维多利亚·克拉科夫纳在博客文章中写道。DeepMind 的创始人越来越担心谷歌会如何使用他们的发明。2017年，他们试图脱离该公司。谷歌回应增加了 DeepMind 创始人及其员工的薪水和股票奖励包。他们留了下来。确信佩奇先生对人工智能的乐观看法完全错误，并对失去 DeepMind 感到愤怒的马斯克决定建立自己的实验室。OpenAI 成立于2015年底，就在他在硅谷的罗斯伍德酒店与萨姆·奥特曼会面几个月后。马斯克向实验室投入资金，他以前的 PayPal 伙伴霍夫曼和蒂尔也加入了这个项目。这三位男士和其他人承诺向该项目投入10亿美元，当时30岁的奥特曼将帮助运营。为了让他们开始，他们从谷歌挖走了伊利亚·苏茨克弗。（苏茨克弗博士是谷歌在辛顿博士拍卖中“购买”的研究生之一。）最初，马斯克希望将 OpenAI 作为一个非营利组织运营，摆脱驱动谷歌和其他公司的经济激励。但到谷歌用其围棋特技震惊科技界时，马斯克正在改变他对其运营方式的看法。他迫切希望 OpenAI 发明一些能够吸引全世界想象力并缩小与谷歌的差距的东西，但作为一个非营利组织，它没有完成任务。2017年底，他策划了一个计划，试图从奥特曼和其他创始人手中夺取实验室的控制权，并将其转变为一家商业运营公司，与特斯拉合作，并依赖该汽车公司正在开发的超级计算机，据了解情况的人士透露。当奥特曼和其他人反对时，马斯克退出并表示他将专注于特斯拉的人工智能工作。2018年2月，他在初创公司办公室的顶层——一个改造的卡车工厂——向 OpenAI 的员工宣布了他的离开，据参加会议的人士透露。当他说 OpenAI 需要更快行动时，一位研究员在会议上反驳说马斯克正在冒险。马斯克称这位研究员是“蠢货”并愤然离开，带走了他的资金。OpenAI 突然急需新的融资。奥特曼飞往太阳谷参加一个会议，并偶遇微软首席执行官萨提亚·纳德拉。一次合作似乎很自然。奥特曼认识微软的首席技术官凯文·斯科特。微软曾从 OpenAI 董事会成员霍夫曼那里收购了 LinkedIn。纳德拉告诉斯科特去完成这件事。这笔交易在2019年完成。奥特曼和 OpenAI 在原有的非营利组织下成立了一家盈利公司，他们拥有10亿美元的新资本，微软有了一种将人工智能构建到其庞大的云计算服务中的新方法。OpenAI 每个人都不感到满意。
与有效利他主义社区有联系的研究员达里奥·阿莫迪在罗斯伍德酒店见证了 OpenAI 的诞生。阿莫迪博士，他在谈话时不断地在手指间拧动他的卷发，领导着实验室构建一个名为大型语言模型的神经网络的努力，该模型可以从大量数字文本中学习。通过分析无数的维基百科文章、数字书籍和留言板，它可以自行生成文本。它还有一个不幸的习惯，就是编造事实。它被称为 GPT-3，并于2020年夏天发布。
OpenAI、谷歌和其他公司内部的研究人员认为这种迅速改进的技术可能是通往 A.G.I. 的一条路径。
但阿莫迪博士对微软的交易感到不满，因为他认为这是将 OpenAI 带向非常商业化的方向。他和其他研究人员向董事会提出，试图推翻奥特曼，据了解情况的人士透露。在他们失败后，他们离开了。就像 DeepMind 的创始人之前一样，他们担心他们的新企业主人会将商业利益置于安全之上。
2021年，这个由大约15名工程师和科学家组成的团队创建了一个名为 Anthropic 的新实验室。计划是按照有效利他主义者认为应该做的方式来构建人工智能——实施非常严格的控制。
Anthropic 的发言人萨莉·奥尔杜斯说：“没有试图通过 Anthropic 的联合创始人将萨姆·奥特曼从 OpenAI 中移除。” “联合创始人自己得出了他们希望离开 OpenAI 创立自己公司的结论，向 OpenAI 的领导层表达了这一点，并在几周内协商了一个双方都能接受的离职条款。”
两年后，Anthropic 接受了亚马逊的40亿美元投资和谷歌的20亿美元投资。
在 OpenAI 从微软获得另外20亿美元后，奥特曼和另一位高级执行官格雷格·布罗克曼拜访了比尔·盖茨，地点是在西雅图外的华盛顿湖畔他宽敞的豪宅。微软的创始人不再参与公司的日常运营，但与其高管保持着定期联系。
在晚餐期间，盖茨先生向他们表示，他对大型语言模型的有效性持怀疑态度。他说，除非这项技术能够完成需要批判性思维的任务——例如通过 A.P. 生物学考试，否则他将保持怀疑。五个月后，也就是2022年8月24日，奥特曼先生和布罗克曼先生再次拜访盖茨先生，并带来了一位名叫切尔西·沃斯的 OpenAI 研究员。沃斯女士曾是高中时国际生物学奥林匹克竞赛的奖牌得主。纳德拉和其他微软高管也在场。在盖茨先生客厅外的一个大型数字显示器上，OpenAI 团队展示了一项名为 GPT-4 的技术。布罗克曼先生给这个系统一个多项选择的高级生物学测试，沃斯女士对答案进行评分。第一个问题涉及极性分子，即一端带正电荷、另一端带负电荷的原子团。该系统正确回答并解释了其选择。“它只被训练来提供答案，”布罗克曼说。“对话性质几乎是神奇地显现出来的。”换句话说，它正在做一些他们并没有真正设计它去做的事情。盖茨先生坐直了身子，睁大了眼睛。1980年，当研究人员向他展示了成为现代个人电脑基础的图形用户界面时，他有过类似的反应。他认为 GPT 是革命性的。到10月，微软正在将这项技术添加到其在线服务中，包括其必应搜索引擎。两个月后，OpenAI 发布了其 ChatGPT 聊天机器人，现在每周有1亿人使用。OpenAI 在 Anthropic 的有效利他主义者中占据了领先地位。谷歌的乐观主义者奥特曼匆忙发布了他们自己的聊天机器人 Bard，但普遍被认为已经输给了 OpenAI。ChatGPT 发布三个月后，谷歌股价下跌了11%。马斯克已经不知所踪。链接：https://www.nytimes.com/2023/12/03/technology/ai-openai-musk-page-altman.html