OpenAI第一季剧情拼图：以AGI的名义
点击
图：剧情一波三折，以董事会重组Sam回归CEO作为第一季终结：11/17周五董事会突然行动原因仍然成谜。
“
就在Sam被解雇的前一天，他在一个UP主的播客现场发表了这篇令人不寒而栗的演讲中说到："这是我们创造的工具，还是我们创造的生物？"
（"Is this a tool we've built or a creature we have built?"）
这条时间线与今天Reuters爆料的 Q* （Q-Star）项目相吻合。
以AGI的名义之一：OpenAI的治理结构
△
-摘自OpenAI官网[https://openai.com/about]
OpenAI当前的企业治理架构是整个剧情发展理解的关键。在OpenAI官网的描述中值得注意的关键词是：非盈利nonprofit / 利润设限capped-profit / 安全safety。
“我们由非盈利组织管理，我们独特的利润封顶模式推动着我们对安全的承诺。这意味着，随着人工智能变得越来越强大，我们可以重新分配工作利润，最大限度地发挥人工智能技术的社会和经济效益。”
2019年成立OpenAI GP LLC则解决了前期难以为继现有的大模型高昂的训练成本问题，微软的49%投资则通过OpenAI Global LLC这个利润设限的实体进行。此外员工以及早期其它投资者则是通过OpenAI Inc下的一系列控股公司实体并持有OpenAI Global LLC。
从OpenAI官网披露的OpenAI Global LLC的投资条款看起来非常苛刻：
按笔者非专业视角解读来看，接受这些条款简直就是意味着为AGI信仰而投资，近乎捐赠！而且微软公司没有董事会席位，也没有控制权；同时AGI 被明确排除在所有商业和知识产权许可协议之外。这也意味着，假如GPT-5被OpenAI确认为AGI，那这个产品的收益与微软的投资无关。
所以在本次11月17日官宣CEO离职、并和Greg一起被董事会除名之后，人们会发现控制非盈利机构OpenAI LLC的六席董事以及公司的治理结构非常奇特，当前的成员包括：
- 伊利亚·苏茨凯弗（Ilya Sutskever），OpenAI首席科学家，是OpenAI的联合创始人之一，曾在Google担任研究科学家，领导过AlphaGo项目，当前致力于超级对齐和人工智能监管。
- 亚当·安杰洛（Adam D'Angelo）：Quora联合创始人兼CEO，他强调通用人工智能的重要性和非营利性控制。
- 塔莎·麦考利（Tasha McCauley）：是兰德公司 (RAND Corporation) 的一名兼职高级管理科学家，曾创办多家初创公司，支持人工智能治理，与亚洲的人工智能生态系统有关。
- 海伦·托纳（Helen Toner），是乔治敦大学安全与新兴技术中心的战略与基础研究拨款总监，专注于人工智能的长期风险和影响，也与中国人工智能领域有关。
算上被官宣除名的Sam的董事席位和Greg的董事主席位，人们会发现6席董事席位中，几乎没有成员持有OpenAI LP（或LLC）的股份，包括CEO在内，只通过pre-seed 轮YC的投资间接持有极少的股份。
董事会专注于公司使命，不受投资回报的制约，可以将赚来的资金再次用于研发，这类似于慈善捐赠。在GP和LP之间发生冲突时，只有未持股的董事会成员可以参与决策，以确保董事会的决策独立性。（详情见公众号文章-谁在控制OpenAI？OpenAI公司结构、董事会详解）
这个董事会的奇怪之处是，以非盈利组织名义，控制一个有盈利上限的商业组织。这个结构最容易出问题的地方是创始三人组必须团结一致，否则就会导致像Sam和Greg在周五被除名之后，董事会实际上已经促成了一个死局：OpenAI这家以伟大的为人类福祉为愿景的AGI为使命的公司，控制权实际上目前在三位独立董事手里！
这种公司治理架构，在周末的冲突中，导致员工无法相信自己的利益会被董事会考虑，几乎立刻全部倒向Sam&Greg在外的控制权争夺操控，甚至连Ilya本人也不得已倒戈，最终导致董事会的重组，并由外部董事重组新的调查小组对董事会的一系列决定进行调查。
以AGI的名义之二：什么促成董事会的周五决定
2023年11月18-19日这个周末，围绕OpenAI的AGI路径控制权，OpenAI的六席位董事会以及全体OpenAI成员，度过了难忘的72小时，甚至有人翻出Sam在8月份收到一个新的游戏更新时发的玩笑帖子说：AGI delayed another 4 days！
AI范儿社区紧密跟踪事态发展，并发布一系列进展文章，这里不再赘述。随着新的董事会启动成员确定，Sam与Greg均回归OpenAI，这波剧情暂告一段落。
目前为止董事会为什么采取突然行动的背后原因依然成谜。从事后来看，至于公告里说的Sam在与董事会沟通过程中并不前后一致保持坦诚，且阻碍了董事会行使其职责，仍旧讳莫如深。
从最新爆料看，Sam和Greg都回归管理岗位，但暂时未能回董事会，一切要等新的启动董事会调查结束，最终的董事会结构安排目前尚未可知，但相信整体上会对之前的治理上的致命问题有所考虑。
董事会在对 Altman 先生的离职进行审议后得出结论，Altman 先生在与董事会的沟通中未能始终保持坦诚，妨碍了董事会履行职责的能力。董事会不再相信他有能力继续领导 OpenAI。
投票一：亚当·安杰洛（Adam D'Angelo）｜Quora联合创始人兼CEO，在10月26日推出了PoE的Creator利润分享服务，说白了就是GPT的套壳服务，与Sam在DevDay上力主推出的GPTs，是有产品与利益层面的冲突的，在这周末闹剧面前显得说不出的突兀。
投票二：海伦·托纳（Helen Toner）｜负责乔治敦大学安全与新兴技术中心的战略与基础研究，爆出在Altman被解职前几周，Sam与其讨论了她最近与乔治敦大学安全与新兴技术中心合作编写的一篇研究论文。
Altman抱怨这篇论文似乎批评了OpenAI在保持其人工智能技术安全方面的努力，同时赞扬了竞争对手Anthropic采取的方法。Toner辩解说，这是一篇学术论文，分析了公众在试图了解发展人工智能的国家和公司的意图时所面临的挑战。
但Altman持不同意见，认为这会对公司产生负面影响，并在周五的沟通中挑战是否应先罢免Helen。但最终是Ilya支持解职Altman，并宣读了董事会的声明，称Altman被解职是因为他在与董事会的沟通中不“一贯坦诚”。
至于其它两票｜塔莎·麦考利（Tasha McCauley）目前没有更多消息传出。不过继临时过渡CEO Mira Muranti后的埃米特-希尔Emmett Shear，有点意外是个非常识时务的人，知道自己并不会被OpenAI的员工接受之后，以由于董事会没有提供罢免Sam的书面证据，这位历时 72 小时的 OpenAI 临时 CEO 不想继续担任 CEO，相反，他力主通过谈判让Sam回归。
以AGI的名义之三：Ilya的反转与幻觉
这一反转剧情，显然超出几乎所有人的预料。 包括笔者当时预测：“围观了这周末大Drama，这里做个大胆的预测：OpenAI就此分裂为二，AGI信仰的少数派和股票期权的多数派。” ；到这里只能从人性高度，将其底色置于商业与信仰的剧情巨幅波动下考量。直到现在，与AI范儿社区关注的一样，心中另一种声音仍旧浮现不去：Ilya为何会掀起这场AGI控制权风暴？
是董事会收到的OpenAI离职员工匿名信触发么？详见：马斯克曝OpenAI离职员工匿名信：指控Sam Altman不当行为
是DevDay后Sam的一系列筹资活动暴露出的激进野心以及用户数暴涨么？
是Sam在前一天的OPEC CEO峰会上的讲话表述的第4次重大突破么？
还是11月初内部的Demo上看到了什么以及Sam因此信心满满？
直到今天Reuters爆出独家：OpenAI 研究员在 CEO 被撤职前向董事会发出 AI 突破警告 — 据知情人士透露；详见：奥特曼离职原因曝光：OpenAI发现了构成人类威胁的AI突破。
这个在OpenAI内部称为Q*（Q-Star）的项目，据称解决了从next token预测到动作的高效搜索、从基于语言的认知到基于搜索的动作决策、从LLM到agent，并且相信人工神经网络的自主性大大增强，离自我意识也大大前进了一步。
而且从各方信息反馈看，如同Transformer到了OpenAI手里导致GPT系列的突飞猛进一样，这个Q learning + A* + GPTZero合成数据（限于篇幅需要另文跟踪报道），很有可能就是导致OpenAI的AGI加速的关键，而这一进展是否及时有效和早已全面转向超级对齐的Ilya及独立董事们沟通？
以及Sam&Greg 11月初以来的一系列外部活动是否董事会知情？极有可能就是导致上周五的激烈行动的导火索！也可以解释官方通告上说的not consistently candid in his communications with the board。
至于其它分歧，散见于前序文章中的部分章节：信仰的归信仰，商业的归商业｜AGI是信仰的游戏，还是商业的操纵？｜这场闹剧是GPT-5的内部觉醒，还是造物主的人性精妙设计？
不过笔者在一个𝕏帖中，针对AGI信念，对Sam和Ilya的一致与差异做了定性的总结：
在这场AGI的游戏里，相比于Ilya更懂如何操纵AI对齐，Sam更懂得如何操纵HI（人类智能）人性。
Elon表示了他对“10月7日Ilya有关于人性中智能价值唯上的质疑”的回复感叹，在好事𝕏友的引用提及下又做了进一步的解释：
“我非常担心。
伊利亚有良好的道德观，不追求权力。
除非他认为绝对有必要，否则他不会采取如此激烈的行动。”
“相比于Sam身上表现出来的humanity很可疑；性取向，整容，BigSur的末日bunker，worldcoin项目...总之我还是觉得Ilya靠谱些!“
本文写到这里篇幅又已经过长，笔者想起之前看过的最新Ilya视频访谈片段：
在视频片段末，针对主持人问他的什么是他这些年来最为震惊的AI进展，Ilya纠结了很久，最后仿佛说了他能说的，就是：
毋庸置疑，伊利亚是AGI坚定的信仰者，这种信仰源自于对深度神经网络机器学习持续坚持20年的热爱。最近，他的主要工作已经全面转向超级对齐(superalignment)。在上面视频的这段采访中的Ilya还表示，GPT 的架构 Transformer显然可以让我们走向 AGI。
他还补充道：我们不应该从二进制角度思考“是否足够”，而是“需要付出多少努力，使用这种特定架构的成本是多少”？也许进行一些修改，可以有足够的计算效率优势；专门的大脑区域并未完全硬编码，但具有很强的适应性和可塑性；人类皮质非常均匀。你只需要一个大的统一架构。
笔者的理解Ilya的这番表述是，在人工神经元(artificial neuron)基本功能的数字化实现后，然后就是玩神经元的架构组合工程游戏，而AGI的路径显而易见的吧。
Ilya对于数字智能的神经网络（neural nets）的表述，从“略有感觉（feeling）“到“被理解的感觉（understood）“，以笔者个人这段时间的理解，这种表述转变的潜台词是：
在GPT-4的交互中，你可能还在迟疑，这GPT表示出来的那种feeling，是它从人类语言中解析得到还是它自己的？但月初的这个下一个版本的GPT给Ilya的感受是一种智能对等的“被理解”的感觉！
这可能是基于数字智能的神经网络（neural nets）的智能的一种飞跃，这种飞跃笔者认为离这种神经网络的自我意识几乎已经很迫近，一旦这样的智能有了自我主张，而人类尚未做好AI安全对齐、打上人性的印记（Imprinting，详见公众号文章伊利亚·苏茨克沃尔（Ilya Sutskever）真正想要什么？），那其中的安全风险不是OpenAI的简单的商业化价值、以及一些员工个人的股票期权价值所能权衡的！
回到周五行动动机｜如此激烈的行动清除Sam实在是发生了“天大的事“！在AGI信仰与使命，以及群体人性价值面前，商业利益与员工的期权股票价值简直无法相提并论。而这事态的保密程度，连大家一致认为知情的Andrej Karpathy老师也一头雾水。从现在看，Ilya肯定对于11月初的进展细节并不完全清楚。
而且就在Sam被解雇的前一天，他在一个博主的podcast现场发表了这篇令人不寒而栗的演讲中说到：
"这是我们创造的工具，还是我们创造的生物？"
这条时间线与今天Reuters的爆料的 Q* （Q-Star）项目相吻合。
（未完待续）
原文链接：
相关𝕏文及视频
-Reuters相关爆料：https://www.reuters.com/technology/sam-altmans-ouster-openai-was-precipitated-by-letter-board-about-ai-breakthrough-2023-11-22/
往期推荐
伊利亚·苏茨克沃尔（Ilya Sutskever）真正想要什么？
OpenAI首席科学家的思维世界：超级智能的未来之谜和与机器的融合
OpenAI的AGI信仰与权斗｜站在AGI的十字路口｜从“GPT略有感觉”到“感到被GPT理解”
信仰的归信仰，商业的归商业｜AGI是信仰的游戏，还是商业的操纵？｜这场闹剧是GPT-5的内部觉醒，还是造物主的人性精妙设计？
已有超过1000名
读者加入交流群
我们还在等你
点个在看你最好看
CLICK TO SEE YOU LOOK THE BEST