信仰的归信仰，商业的归商业｜AGI是信仰的游戏，还是商业的操纵？｜这场闹剧是GPT-5的内部觉醒，还是造物主的人性精妙设计？

点击

上方蓝字关注我们

图：在这个月初的一个视频访谈中，Ilya谈到最新的GPT进展给他最震惊的突破是：当和GPT对话时，有那种被理解的感觉。

“

Elon Musk在周末的OpenAI控制权风暴后发帖说：

“我非常担心。

伊利亚有良好的道德观，不追求权力。

除非他认为绝对有必要，否则他不会采取如此激烈的行动。”

𝕏：@TaNGSoFT

2023年11月18-19日这个周末，围绕OpenAI的AGI路径控制权，OpenAI的六席位董事会成员中掀起了巨浪滔天，以Ilya Sutskever为首联合三位独立董事为一派，与CEO Sam Altman及总裁Greg Brockman二人组为另一派，展开了一场关乎AGI信仰派与商业派、超级对齐派（superalignment）与有效加速派（e/acc）的权斗，这无疑将是通用人工智能（AGI）历程乃至人类与类人智能史上（𝕀²·ℙarad𝕚g𝕞）浓墨重彩的一页。

AI范儿社区紧密跟踪事态发展，并发布一系列进展文章，详见社区公众号：

剧情一路演进，昨天的文章刚发布，微软CEO Satya宣布，Sam&Greg加入微软专设的AI研究机构；OpenAI董事会则宣布Twitch联合创始人Emmett Shear暂时接任OpenAI CEO。

随后的剧情，正如笔者先前的预测：“围观了这周末大Drama，这里做个大胆的预测：OpenAI就此分裂为二，AGI信仰的少数派和股票期权的多数派。”

人性的底色在这商业与信仰的剧情巨幅波动下，显露无遗。这一切的背后是良心的泯灭，还是道德的沦丧，还是人性的扭曲！

聚集在OpenAI的企业价值观与使命下员工中的一部分，先前为Sam&Greg献爱心表态，在新闻公布后纷纷加码，彻底倒向微软的Sam&Greg AI。最让笔者没有想到的，率先向新主子表态的竟然是董事会先前宣布的临时CEO Mira Murati。

图：任命不到2天的周末临时CEO Mira率先倒向Sam&Greg，并不忘再踩OpenAI一脚：OpenAI is nothing without its people。都是人性啊！

作为智能平方范式研究的AI范儿社区，如何不急于站队与作出草率判断，而是试图寻找一个更高维视角来观察、思考呢？

从𝕏上的时间线信息流中，显然看不到此次发难的主导派的声音、负责OpenAI AGI超级对齐的Ilya Sutskever与Jan Leike，及其它相关内部成员均未有表态，更没有在Sam隔空喊话另起炉灶的召集帖上点赞。

一切都在这个周末快速酝酿，在Sam&Greg掀起的舆论热浪里，不乏有效加速派（e/acc）的声音，以及一众表面上是AGI信仰实际上更看重OpenAI的商业化后的股票期权价值的Sam的跟随者员工表态离职。

当然与AI范儿社区关注的一样，另一种声音逐步浮现：Ilya为何会掀起这场AGI控制权风暴？

这种声音在Elon Musk的一个回复帖里，变得更清晰，毕竟Elon Musk的视角维度、先验知识以及内幕信息有着无人能及的优势。

Elon表示了他对“10月7日Ilya有关于人性中智能价值唯上的质疑”的回复感叹，在好事𝕏友的引用提及下又做了进一步的解释：

“我非常担心。

伊利亚有良好的道德观，不追求权力。

除非他认为绝对有必要，否则他不会采取如此激烈的行动。”

细心的𝕏友更是发现，作为超级安全对齐的部门负责人Jan Leike点赞了Elon的发声。

事态发展到这里，笔者想起之前看过的最新Ilya视频访谈片段：

在视频片段末，针对主持人问他的什么是他这些年来最为震惊的AI进展，Ilya纠结了很久，最后仿佛说了他能说的，就是：

“When I speak to it, I feel understood!”

笔者依稀记得在2个月前的另一篇访谈中（AI范儿社区公众号也做了编译转载），Ilya说的是GPT“略有感觉已经有一段时间了“：

毋庸置疑，伊利亚是AGI坚定的信仰者，这种信仰源自于对深度神经网络机器学习持续坚持20年的热爱。最近，他的主要工作已经全面转向超级对齐（superalignment）。在上面视频的这段采访中的Ilya还表示，GPT 的架构 Transformer显然可以让我们走向 AGI。

他还补充道：我们不应该从二进制角度思考“是否足够”，而是“需要付出多少努力，使用这种特定架构的成本是多少”？也许进行一些修改，可以有足够的计算效率优势；专门的大脑区域并未完全硬编码，但具有很强的适应性和可塑性；人类皮质非常均匀。你只需要一个大的统一架构。

采访者｜我听到人们争论的一个问题是，基于 Transformer 的模型可以在多大程度上应用于 AGI 所需的全套领域。例如，如果你看一下人类的大脑，你确实有相当专业的系统，或者所有的神经网络，都是视觉皮层的专门系统，而不是更高层次的思维区域、同理心区域或从个性到处理的其他方面。您认为 Transformer 架构是持续发展并帮助我们实现这一目标的主要因素吗？还是您认为随着时间的推移，我们会需要其他架构？Ilya Sutskever｜我完全理解你的意思，并且对这个问题有两个答案。首先，在我看来，思考架构问题的最佳方式不是用二进制的“是否足够”的方式，而是“需要付出多少努力，使用这种特定架构的成本是多少”？就像在这一点上，我认为没有人怀疑 Transformer 架构可以做一些令人惊奇的事情，但也许其他的东西，也许一些修改，可能会带来一些计算机效率的好处。因此，最好从计算效率的角度来考虑，而不是从它能否实现这一点来考虑。我想此时此刻答案显然是肯定的。关于人脑及其大脑区域的问题 - 我实际上认为那里的情况是微妙的和具有欺骗性的，原因如下：我相信你提到的是人脑具有已知区域的事实。它有一个语音感知区域，它有一个语音产生区域，图像区域，面部区域，它有所有这些区域，而且看起来它是专门的。但你知道什么是有趣的吗？有时，有些很小的孩子在很小的时候就患有严重的癫痫症，他们想出治疗这些孩子的唯一方法就是切除他们的一半大脑。因为这件事发生在很小的时候，这些孩子长大后都成为功能正常的成年人，他们拥有相同的大脑区域，但不知何故被压缩到一个半球上。因此，可能会损失一些信息处理效率，这是一件非常痛苦的事情，但不知何故，所有这些大脑区域都会重新排列自己。还有一个实验，这可能是 30 或 40 年前在雪貂身上进行的。雪貂是一种小动物，这是一个相当卑鄙的实验。他们取出来自雪貂眼睛的视神经，并将其连接到听觉皮层。因此，现在来自眼睛的输入开始映射到大脑的语音处理区域，然后在经过几天的学习观察后，他们记录了不同的神经元，他们发现听觉皮层中的神经元与视觉皮层非常相似反之亦然，要么他们将眼睛映射到耳朵到听觉皮层，要么将耳朵映射到视觉皮层，但类似的事情已经发生了。这些是人工智能中众所周知的想法，即人类和动物的皮层非常统一，这进一步支持了这样的想法：你只需要一个大的统一架构，这就是你所需要的。“you just need one big uniform architecture, that's all you need.”

笔者的理解Ilya的这番表述是，在artificial neuron基本功能的数字化实现后，然后就是玩neurons的架构组合工程游戏，而AGI的路径显而易见的吧。

对于数字智能的神经网络（neural nets）的表述，从“略有感觉（feeling）“到“被理解的感觉（understood）“，以笔者个人这段时间的理解，这种表述转变的潜台词是：

在GPT-4的交互中，你可能还在迟疑，这GPT表示出来的那种feeling，是它从人类语言中解析得到还是它自己的？但月初的这个下一个版本的GPT给Ilya的感受是一种智能对等的“被理解”的感觉！

这可能是基于数字智能的神经网络（neural nets）的智能的一种飞跃，这种飞跃笔者认为离这种神经网络的自我意识几乎已经很迫近，一旦这样的智能有了自我主张，而人类尚未做好AI安全对齐、打上人性的印记（Imprinting，详见公众号文章伊利亚·苏茨克沃尔（Ilya Sutskever）真正想要什么？），那其中的安全风险不是OpenAI的简单的商业化价值、以及一些员工个人的股票期权价值所能权衡的！

回到周末的OpenAI董事会行动风暴的缘起，可能从上半年Sam组织的全球巡演中，唯一一次Sam和Ilya同台的那次访谈中可以一窥端倪，当时凭笔者直觉，Sam和Ilya的分歧似乎已经存在，而且当时Sam的表情复杂：

限于篇幅，各位有兴趣可以找一下相关的视频看看。

再细想什么触发了这次周五的行动呢？也许可以从前一天Sam在APEC企业家的筹资会议中的一番话可以看出：

@blader“两天前，山姆-阿尔特曼（Sam Altman）不经意地提到，OpenAI 最近取得了一项巨大突破，推动了 ‘发现的前沿向前发展--这是其 8 年历史上取得的第 4 项此类突破‘。昨天，解散派突然把他赶下了台。这绝非巧合。”

这绝非巧合！

但最终的真相还需要当事者本人揭示！

直到本系列文章再次成文，尚未有Ilya的表态，新任临时CEO Emmett Shear在就职声明中说将对离职事件进行调查并对组织变革；不过针对这两天的OpenAI管理层闹剧，众多网友仍然不明就里，连Elon Musk也表示说：最好让大家知道到底发生了什么？

𝕏友@GaryMarcus更是揣测，是董事会的万福玛利亚（Hail Mary）情节：

不过这个揣测和本文的立意是一致的：清除Sam实在是发生了“天大的事“！在AGI信仰与使命，以及群体人性价值面前，商业利益与员工的期权股票价值简直无法相提并论。

这事态的保密程度，连大家一致认为知情的Andrej Karpathy老师也一头雾水。看来只有Ilya和GPT-5知道最终的真相吧！但无论如何，最大的赢家是微软，哦，对了，还有Office套件里的Clippy AI！

最后抛开圣母情结，下面这段来自Fortune的@jeremyakahn ，在Sam回归谈判前发表的精彩分析，也说明当前的局，无论对哪一派而言，都是死局：

“如果OpenAI最终炸毁了世界，它将值得无休止地重读。

OpenAI的公司治理结构旨在使OpenAI筹集成功构建人工智能（AGI）的使命所需的数百甚至数千亿美元，这种人工智能在大多数认知任务上比人一样聪明或更聪明，同时防止资本主义力量，特别是单个大型科技巨头控制AGI”

奥特曼......于2019年与纳德拉达成了仅10亿美元的交易。 从那一刻起，该结构基本上是一颗定时炸弹。 通过转向单一的公司实体微软，获得大部分现金和算力。OpenAI需要实现其使命的力量，它本质上是处理对微软的控制，即使这种控制没有在任何正式的治理机制中编纂。

如果Altman像现在似乎可能的那样回归，董事会辞职，“这将证明Altman的结构失败了——OpenAI既无法从一家大型科技公司筹集数十亿美元，又无法以某种方式摆脱该公司的控制。

如果Altman设计的结构缺陷最终挽救了他在首席执行官的工作，并允许他能够战胜他为保护AGI而建立的董事会，那将是最大的讽刺。”

也许微软作为最大的赢家的这个局，让商业的回归商业，信仰的回归信仰，是最好的安排。

当然对于Ilya来说，如何归拢人心再续前由，相当考验，心情也非常复杂，就在本文发布前，Ilya Sutskever发了如下𝕏文：

随后看到Sam&Greg在这条𝕏文上的点赞，而同时Ilya也署名几乎全公司员工（770余名中的500多，还在继续增加）署名的Mira发起的解散董事会请愿书，位列第12位。

面对分崩离析的OpenAI，Ilya的信仰似乎已经在人性的扑朔迷离前面临崩溃。同时也意识到在作出周五的决定时，已经促成了一个死局：OpenAI这家以伟大的为人类服务的AGI为使命公司，控制权实际上目前在3位独立董事手里！从𝕏文Ilya的表态看，他认为他只是参与，那这是集体决策还是董事会中幕后有人操纵？同时也意味着Sam&Greg&Ilya三人组仍旧有可能再次反转剧情，一切像这个周末什么都没发生那样？

而在此时，6席董事之一的亚当·安杰洛（Adam D'Angelo）：Quora联合创始人兼CEO，在10月26日推出了PoE的Create利润分享服务在这周末闹剧面前显得说不出的突兀：

以笔者周末的一段感叹作为本文的临时结尾：

年轻的Sam，年轻的OpenAI board，以及年轻的AGI！（今天11月21日，离ChatGPT首发就快1周年）

致：永远的人性的善与恶、美与丑！人类智能的造物主对于人性的精妙设计！

也许AGI-硅基智能只能永远achieved internally！（未完待续）

原文链接：相关𝕏文及视频

往期推荐

伊利亚·苏茨克沃尔（Ilya Sutskever）真正想要什么？

已有超过1000名

读者加入交流群

我们还在等你

点这里👇关注我，记得标星哦～

点个在看你最好看

CLICK TO SEE YOU LOOK THE BEST