OpenAI幕后科学家：为什么伟大的创新不能被计划？

来源：知识分子（ID:The-Intellectual）现如今，人们大多习惯以“目标”为界定和评估事物的重要标准。科学界也不例外，大到战略方向，小到研究进度，几乎方方面面都离不开目标导向思维的驱动。然而，OpenAI团队两位科学家在《为什么伟大不能被计划》一书中结合实际科研案例指出，伟大的创新成就往往难以被计划，共识和目标是创新的阻碍，往往只会墨守成规并导致平庸的结果，“不和谐”的意见反而可能是革命性颠覆的前奏。

当代社会，我们对“目标”的推崇达到了前所未有的地步。

大公司中，KPI代表的一系列的工作目标和对目标完成情况的考察，几乎成了衡量员工工作的唯一标杆。

教育领域，标准化测试不仅被用来评估学生的课业表现，还被用来评估学校教育的成功与否，即使是美国的中学，同样有追求成绩优异率的压力。

在科学界，大到战略方向，小到研究进度，科学家要经过重重考核监督。经费申请要审核是否属于关键领域和国家利益，在申请书科学家上要陈述自己的研究目标，每过几年还会审查目标的完成情况。

在肯尼斯·斯坦利（Kenneth Stanley）看来，这种目标导向思维是一种“目标神话”，似乎所有的追求都能拆解成一个个的具体目标，再机械地逐步推进，最终就能收获回报。但斯坦利认为，伟大的发现往往来自创造性的自由探索，而不是机械地完成目标。

斯坦利是一名人工智能和机器学习学者，他和合作伙伴乔尔·雷曼（Joel Lehman）开创的公司后来被优步人工智能实验室和OpenAI的Open endless团队吸收，支撑了Chat GPT这个近年来最轰动的创新成果的研发。对于创新是如何产生的，这两位学者把自己的见解写进了《为什么伟大不能被计划》这本书里。

两位学者认为，越是伟大的成就，依靠目标导向的思维就越难达成，而自由探索往往会为伟大的发现打下基础。伟大的成就总是在没有计划、意想不到的地方诞生，没人会想电子产品热销推动的锂电池技术进步，最后会成就革新汽车产业的特斯拉。游戏产业需求催生的高性能显卡，会成为未来AI大模型激烈竞争的基础。

肯尼斯和乔尔还把这个发现外推到日常的社会、文化领域，认为科研、商业、艺术创新，甚至人生选择都能将这个原则作为参考。

以下内容节选自《为什么伟大不能被计划》（彭相珍译，中译出版社2023年4月出版）第八章，有删减。

- 01 -共识往往是通向创新的最大障碍
包括美国在内的许多国家，其大多数科研项目都由政府资助机构的拨款提供资金支持。这种官方的资助，对推动基础科学的发展至关重要，因为它们支持的是尚不具备商业可行性的科学研究。当然，很多得到资助的科学研究都会失败，因为突破性的想法往往也隐藏着极高的失败风险。
因此，虽然最终会有一部分获得资助的科研项目取得成功，但是更多的项目会遭遇失败。这就意味着，类似美国国家科学基金会（NSF）和欧洲科学基金会（ESF）等科研资助机构在做出投资决策时，需要承担一定的风险才有希望推动最具创新性的想法实现。那么，研究科研项目资助机构如何做出资助的决策就很有意思了，因为我们可能会再次面临目标的欺骗性和束缚性问题。
科研项目申请经费的大致流程是：科学家们向资助机构提交申请，并提供阐释了科研想法的提案；提案随即被送到一个由专家同行评审员组成的评审小组，这些评审员通常是提案所涉领域，如生物学或计算机科学领域的资深科学家；评审专家随后给出评级，包括从差到优的不同等级。一般来说，获得最高平均评级的提案，最有可能获得资助。

乍看之下，这是一个十分合理的筛选过程。理想情况下，某个领域中最优秀的想法，就应该能够说服一个由专业科学家组成的小组，并将其评定为优秀。然而，这种表面合理的常识背后，同样隐藏着麻烦，因为这个评审体系的主要作用是支持共识。换句话说，评审员群体越是认同提案的优秀性，机构提供资助的概率就越大。
共识往往是通往成功的踏脚石的最大障碍，当具有相反或不同偏好的人被迫投票时，获胜者往往不代表任何人的喜好或理想。寻求共识将阻止人们沿着有趣的踏脚石前进，因为不同的人对什么是最有趣的踏脚石的看法或许并不一致。解决不同人群在喜好上的分歧，往往会导致相互对立的踏脚石之间彼此妥协，就好像将对比鲜明的黑白两色混合到一起，最终只会产生了寡淡的灰色。
这种妥协的产物，最终往往只会冲淡两个原始理念的色彩。对于撰写提案的科学家来说，赢得资助的最佳方式是提出完美的妥协方案，即最柔和的灰色——足以满足所有人的眼光，但不太可能带来高度的新奇性或趣味性。因此，当人们尝试在探索中寻求共识时，整个系统不是让每个人去发现自己的踏脚石链，而是将各种不同的意见压缩成一个四平八稳的平均值。也许有时候支持最大限度的分歧，而不是一致的意见，会更有意义。反对共识有可能比平淡无奇的“达成一致”更有趣。毕竟，吸引一致认同的投票，不过是一种“人云亦云，亦步亦趋”的标志。如果你跟风去做热门的研究，并且鹦鹉学舌似的随大流，或许能够得到广泛的认可和支持；相反，一个真正有趣的想法，或许会引发争议。
在我们目前已知和未知的边界，仍存在一些尚不确定答案的问题，这就是为什么在科学的未知领域，专家们的意见应该保持分歧和发散状态，正是在这片位于已知和未知之间的“蛮荒”边界地带，我们应该让人类最伟大的头脑进行探索，而不是在最大共识的舒适区“沉迷享乐”。
试想一下，哪个项目可能更具有革命性：是评分“喜忧参半”的项目，还是“全体好评”的项目？意见分歧的专家们，或许比总是达成一致意见的专家们更有推动伟大成就的能力。
这并不意味着全员差评的提案应该得到资助，如果所有专家都认为某个想法很糟糕，比如都给出了“差”的评级，那便没有证据表明它值得追求。但是，当专家们彼此之间存在根本性的意见分歧时，一些有趣的事情就发生了。
达尔文的进化论最初发表时遭到许多专家的否定——这其实是一个好兆头！正如美国科学史家托马斯·库恩（Thomas Kuhn）提出的范式转变概念，使得现有的科学框架开始出现裂痕。在这些时刻，不和谐的意见便是革命性颠覆的前奏。由于所有这些原因，我们的一些资源应该被用于奖励分歧而不是共识。
图：托马斯·库恩
这个观点也与目标产生了联系，因为奖励共识的基础是目标导向思维。在目标导向的观点中，专家们越认同某一条路径值得一走，人们就越应该选择这条路径。得到一致认同的路径是一个基于目标的选择，因为人们都认同了这条路径的目的地。而专家们给出一致意见的数量，提供了一个衡量最佳目的地的标准——这就是一种基于目标的证据。
如果你的目标，就是寻求一个趋于获得普遍认同的想法，那么共识当然是一个值得称赞的盟友。这就是为什么在目标驱动的搜索中，重点总是放在最终的目的地，而不是放在当前踏脚石的趣味性和新奇性。这就让基于目标的搜索不可能成为“寻宝者”。非目标搜索不鼓励人们最终走上同一条路或抵达同一个目的地，只有在这种情况下，有趣的想法才能吸引资源和资金。
到此不妨回想一下，追随趣味性与追随目标表现之间的搜索行为差异。科学是人类最伟大的一种探索，而在决定下一步行动前达成共识的做法，无异于是对科学领域创造性努力的扼杀。我们并不是建议只有存在分歧的科学提案才应该得到资助，但社会的部分资源的确应该用于支持有趣的探索。科学领域的探索，同样需要秉持“寻宝者”和“踏脚石收集者”的理念。
当然，达成共识对特定类型的决策而言是有意义的，但对于创造性的探索却不适用。我们提出的观点是，研究小组之间以及整个科学探索领域内部的“不团结”，有时候反而可以推动进步。“不团结”的力量，可以帮助我们更好地组织科学探索和其他创造性的工作。

- 02 -

只投资重点研究领域和目标宏大的科研项目带不来创新

除了推动人们达成共识之外，基于目标的思维还可能从其他方面影响科研投资的决策。例如，假设你是目标论的信徒，可能会认为科学进步的框架是可预测的。换句话说，根据“有志者，事竟成”的目标性思维，通往重大发现的踏脚石，将以一种有序、可预测的方式排列。

在这种思维导向下，治愈癌症的关键创新，似乎应该是对已经存在的癌症治疗方法的改进或完善，或至少应该来自与癌症直接相关的研究领域。然而，我们会一次次地看到，通向卓越成果的踏脚石是不可预测的。因此，如果我们想要治愈癌症，只专注于癌症领域可能无法使我们实现这个宏伟目标。但是，即使一项研究未能实现其原始目标，其副产品也可能会在看似不相关的领域实现意外的突破性发现。

事实上，各国政府已经投入巨额研究资金，开展了众多诸如此类的重点研究项目，以期解决某些特定的科学问题。例如，日本通商产业省在1982年启动了一个长达10年的大规模研究项目，即“第五代计算机系统项目”，旨在推动日本的计算机技术跻身世界领先地位。虽然日本政府投入了大量资金用于定向研发，但人们普遍认为这个项目没有实现其目标——开发出具备商业成功潜力的产品，尽管这个项目的确为日本培养了新一代有潜力的日本计算机研究人员。

同样，美国总统尼克松于1971年发起的“抗癌战争”（旨在消灭癌症这一高死亡率的疾病）也尚未取得成功，尽管这个项目在研发更有效的癌症治疗方法方面进行了针对性研究，并加深了人们对肿瘤生物学的理解。事实上，类似人类基因组计划等看似不相关的科学研究项目，更有希望发现更好的癌症治疗方法。

图：美国总统尼克松1971年签署《国家癌症法案》，来源：American Cancer Society

当然，有时雄心勃勃的科学探索计划也能获得成功，比如20世纪60年代的美苏登月竞赛就是由肯尼迪总统发起的，他在国会演讲中承诺，“我相信这个国家能够齐聚一心，全力以赴达成这个目标，十年之后，人类将乘坐宇宙飞船登陆月球并且安全返回。”但这份充满不确定性的宣言后来之所以能够实现，是因为它当时正好处于技术可能性的边缘（也就是说，这个宏伟的目标彼时离实现只有一步之遥）。

然而，从这些成功案例中得出的关于目标力量的潜在误导性结论，往往助长了天真的目标乐观主义——认为只要有足够的资源支持，任何目标都可以坚定地在历史上的任何时期设立并一定能够实现。例如，美国癌症协会的一位前任主席曾经说过：“我们离治愈癌症的目标已经非常近了，只是缺少将人送上月球的那种意愿、资金和全面规划。”

即使在这些宏伟的科学事业的成功案例中，最终给人类社会带来最深远影响的技术，往往也是未曾预料到的。例如，太空竞赛给我们带来了人工耳蜗、记忆海绵床垫、冻干食品和改进后的急救毯等创新产品。

尽管这些设定了宏伟目标的科研项目显然由目标思维驱动，但它们依然为我们提供了一些更为微妙的启示。我们也许能持续地靠投资来不断优化那些目前看起来最有可能产生影响的科研项目，最终会催生出一些具备突破性影响的科研项目。背后的逻辑是，具有适度影响力的科研项目将带来更多更具影响力的科研项目，最终使科学的探索和发现给世界带来颠覆性变革。

按照这个逻辑，目标驱动思维在科研资助领域的另一个体现，就是根据科研项目预期影响力的重要程度来判断是否值得投资。事实上，类似美国国家科学基金会等资助机构评估科研经费申请的一个主要标准是拟议研究项目的影响力范围。因此，被认为影响潜力较小的科研项目，获得资金的可能性也低。

图片来源：nsf.gov

而政客们倾向于嘲笑那些目标看似异想天开的科研项目，即显然不会带来任何重要成果的研究，认为它们纯粹就是浪费钱，这种态度的背后也体现了同样的逻辑。这些例子背后，存在一个非常具有诱惑性的推理过程，即在研究项目开展之前，我们有可能根据研究项目及其成果是否具备广泛的社会影响，而将其划分为重要或不重要的项目。

读到此处，诸位或许已经能够看出，这种想法过于武断——因为许多重要的发现，都是偶然获得或意料之外的。因此，预测科研项目的影响，不一定总是行得通，反而会导致我们忽视偶然性的重要作用。此外，即使我们可以事先评估大多数科研项目，并以可靠的方式预测其影响力，然后只为其中最重要的项目提供资金，也并非明智之举。

问题的关键在于，用更适合评判整个系统的标准来评判单一的踏脚石，可能是短视的做法。归根结底，科学作为一个整体，其目标是发现具备深刻性和变革性的真理。但在这个过程中，任何特定的科研项目是否具有变革性，可能根本不重要。事实上，一个科研项目很有趣，并能够进一步生成更有趣或更意外的实验结果，或许比其自身具备重要性更值得关注。

图片孵化器网站就是这样一个例子，它作为一个整体系统，最终生成了单个用户难以完成的外星人脸和汽车的图片。新奇搜索的案例也遵循了同样的逻辑，作为一种探索体系，它可能会发现一个可以穿越迷宫的机器人，但只有在机器人不会按照其穿越迷宫的能力划分等级的情况下，才最终实现了这样的结果。

为此，如果我们接受“科学探索中的踏脚石是不可预测的”这一观点，那么“重要性”在科学领域的探索中，可能也是一个暗含欺骗性的标准。一项具备一定重要性的科学成果，是否必然带来更接近变革性的突破？在科学研究领域，重要性不过是另一块破损的目标指南针，因为通往最重要科学发现的踏脚石可能并不重要，而通往最具颠覆性技术的踏脚石也可能没有显示出任何变革性的迹象。

在科学领域，决定是否支持重大项目，或根据预估的影响力判断项目是否值得投资的另一种情况，是将科学研究项目符合特定利益的程度作为投资的评判标准。在不涉及太多政治因素的情况下，这就意味着政府只希望资助它当时认为重要的研究议程，或能够为国家提供明确的短期利益的研究项目。

例如，根据美国众议员拉马尔·史密斯（Lamar Smith）在2013年提出的《高质量研究法案》（High Quality Research Act）中称，在决定资助任何科研项目之前，美国国家科学基金会的主席必须发表一份声明，证明该项目符合以下规定。

1、符合美国的国家根本利益，通过促进科学进步，推动国家健康、繁荣或福利，并确保国防安全；

2、具备最高的质量，具有突破性，能够回答或解决对整个社会而言最重要的问题；

3、与基金会或其他联邦科学机构正在资助的其他研究项目不重复。

第二点规定背后的设想是，根据科研项目的重要性来判断其是否值得资助，是可能的或可取的，而第一点规定设想的是，科学研究只能沿着对国家有直接利益的方向狭义地展开，而不进行更广泛的搜索。

尽管这项法案在美国获得通过和执行的概率不大，但加拿大已经执行了类似的政策。2011年，加拿大国家研究委员会（NRC）开始以牺牲基础研究为代价，将科研资金转向经济发展领域。

时任NRC主席约翰·麦克杜格尔（John McDougall）解释说，最终只有20%的总预算会用于“好奇心和探索性活动”等基础科研领域。到了2013年，NRC宣布“向商业领域的研究敞开大门”，并将其资助重点集中到12个“以行业为主题的切入点”。委员会声称自己正在“重塑自身，以支持加拿大产业的发展……所有这些（举措）都是为了一个最终的目标：提供高质量的工作岗位、增加商业研发活动、获得更多商业化成果，以及构建一个繁荣且具备更高社会生产力的加拿大”。

当然，“只要大量地投入资金，就能可靠地产出特定重要研究领域的根本性突破”的想法非常具有吸引力，但狭隘地框定重点研究领域和宏大目标驱动的科研项目其实并不可取。因为，不管其基本设想是否足够吸引人，科学探索的结构其实并不是这样运作的。

谁能确定下一个伟大的、可商业化的技术会从哪里来？所以症结是，无目标性的探索貌似让前景听起来很悲观，但它能使科学的世界变得更有趣。还有许多有趣又重要的发现等待我们去探索，但发掘它们需要持续不断的智慧投入和开放的心态，而不是简单的目标式蛮力。

我们并不是说科学进步在总体上是不可能的，而是认为我们不知道什么才能催生重要的科学发现。就像“不团结”在科学领域具备惊人的重要价值那样，投资看似不具备重要性但显然十分有趣的科研实验，或许亦是明智之举。尽管这意味着我们可能需要先通过许多不相关的步骤，但追随兴趣行动而非狭隘的野心，才可能更好地揭示通往颠覆性科学发现和经济大幅增长的踏脚石。

“不知去往何处”恰恰是信息收集器的运行方式、寻宝者的探宝方式、收集踏脚石的方式、通往任何地方的正确道路，是通往未来的途径。“不知前路通往何方”，才是人类能创造伟大事物的原因。共识、可预测的重要性、与国家利益的一致性——这些都是目标思维的衍生物，只会导致我们在朝未知世界迈进的过程中，离我们想要的越来越远。

- 03 -

资助有趣发现能带来有效创新

“不团结”或“不重要”具备一定价值，听起来很怪异，而目标驱动型系统表面上看起来则十分合理。例如，在评估科研项目是否值得资助时，另一个与目标相关的标准是，评审员会根据项目成功的可能性做出决定。换句话说，科研经费的申请，必须说明研究项目的目标，然后交给评审员评判。许多科研项目申请被拒绝，是因为评审员认为其设定的目标不切实际或不够明确。但是，考虑到目标在任何情况下都好比是一块失灵的指南针，也许不应该总是把成功的可能性作为评审的重点。

我们想说的是，并非所有的科研项目都需要设置一个目标或一项研究假设。有一些科研项目哪怕仅仅从趣味性角度考虑，也同样值得一试。我们甚至可以毫不犹豫地资助那些曾有过有趣发现记录的研究人员，就像麦克阿瑟奖向极富创造性的人提供大笔资金那样。当然，麦克阿瑟基金会并不确定这些人的想法将引领他们走向何方，基金会的这种堪比“直接发放空白支票”的做法也可能会令你感到有失理性。

毕竟，没人知道这些研究人员打算完成什么，也不知道他们希望如何完成，但科学研究的真正意义就在于去探索那些充满了未知和不确定性的地方。如果我们无法接受这个观点，那么所有不具备明确目标的“偶然发现”之路，可能从一开始就会被否决。然而，正如前文所述，太过“高大上”的目标几乎从来不会实现。因此，强迫研究人员在资金申请表中陈述目标，只能使他们提出一些平庸的目标。

人们之所以紧紧抓住目标不放，对风险的恐惧是一大主因。尽管一定程度的风险是探索和进步必须付出的代价，但那些负责掏钱的人，通常不希望承担过高的风险，以免资源被简单地浪费在那些不切实际、异想天开的项目上。

但我们的恐惧并不能改变风险是科学探索不可分割的一部分的事实，因为科学探索就是要求我们在持续很长一段时间内跨越许多未知的踏脚石。我们希望走得更远，所以规避风险的目标思维将限制和约束我们的进步。

例如，有多少人预测到电子消费产品的进步，会促成世界上第一辆可量产的全电动跑车——特斯拉Roadster的问世？然而，只要将数以千计的笔记本电脑锂电池集成在一起，就有可能创造出更轻、更强大的实用电动汽车。那些曾经看似不可能实现的成就，通过之前尚未发现的联系，突然进入了可实现的范围，逐步走进看似不可预见的死胡同，有时可以帮助我们收获巨大的回报。

图：特斯拉Roadster，来源：快科技

从长远来看，正是这些踏脚石的积累，才带来了最伟大的创新。当每一小步的发现，都是一个启示的时候，这个探索链条本身就不亚于一场革命。

因此，虽然押注革命性的发现可能风险很高，但随着时间的推移，它终究会到来。正如所有伟大发现的过程一样，革命性的发现，很少是通往它们的踏脚石所设定的目标。即使没有明确说明，投资者也早已认识到这一原则。简而言之，如果你想在有远见的人身上投资，就看看那些在附近的不确定性领域中徘徊和探索的人。

确实有一群创新者，已经在某种程度上看穿了目标的欺骗性。对于艺术家和设计师而言，一个想法背后的理念，往往比其目标（如果存在目标的话）更重要。

艺术往往更关注创造性的探索，而不是为了满足一个特定的具体目标。随便询问一位艺术家，对方都会告诉你，在艺术创作中，跟随灵感的曲折小径前进，比致力于画出下一幅《蒙娜丽莎》更好。当然，当艺术和设计发生碰撞时，目标有时确实能够发挥作用。例如在建筑领域，屋顶必须能遮挡雨水，而地基必须坚实稳定。事实证明，这些类型的目标与自然进化中对生物体的限制存在着一个有趣的相似之处。自然界中的每一种生物，都必须活得足够长久，才能够生存和繁衍。但不同的生物，有着各种各样的方式来满足这一目标，其表现就是地球上丰富而庞大的物种多样性。

因此，建筑中的防雨屋顶和稳定的地基更像是对创造力的限制，其本身并不是典型的目标。就像所有的生物都必须能繁殖一样，建筑也必须兼具功能性和安全性。在这些领域的创新，通常意味着在限制范围内，不断找到新的方法。但这些领域整体上的搜索，仍在向未知的空间推进。

在当前的主流文化中，认为进步主要依赖于严格的目标来推动的想法，影响了教育、科学、艺术等所有领域，我们组织大多数工作的方式，似乎无法摆脱目标思维带来的虚幻舒适感。

虽然非目标探索本身并不是一剂万能药，但我们最好还是要清醒地认识到，一味地相信基于目标的探索和评估，往往只会导致平庸的结果和墨守成规，继而停滞不前。

虽然这个世界的运转方式复杂，探索并非易事，但至少我们知道，有一条道路能够摆脱既定目标结果的桎梏。

如果说反思计划经济的力作，首推哈耶克的《通往奴役之路》——哈耶克站在信息收集角度否定了中央计划的可行性；

那么在21世纪的智能时代、计划思维充斥在社会各个领域的今天，反思计划思维的力作则首推这本《为什么伟大不能被计划：对创意、创新和创造的自由探索》

先知书店深知本书之重要，为此诚挚推荐，数量有限，感兴趣的读者，欢迎一键收藏。（还可在规格中一并收藏“反计划思维四书”，看人们熟知的伟大思想家们，如何对计划思维“口诛笔伐”，含独家好书。）

▍延伸阅读“计划思维”的四个迷思为什么伟大不能被计划？比计划经济更可怕的是计划思维