意识更像棋局，还是天气？

还在孩提时期，阿尼尔·塞斯（Anil Seth）就对宏大的问题产生兴趣。我为什么是我，而不是别人？我出生之前待在哪里？他在了解到意识这一概念之前，就对意识相关问题充满好奇。这一好奇心最初驱使他进入了物理学领域，他认为那里有能够用来理解一切事物的想法与工具。后来，实验心理学似乎承诺提供一条通往理解心智本质的更直接的路径，但他的关注点又转移到了其他地方。塞斯近来告诉我：“我有很长一段时间都在关注计算机科学和AI，所以我博士学位的研究方向实际上是人工智能。”然而，这并没有限制住他的好奇心：AI引领他来到神经科学领域，并回到意识这个主题，这是他“20多年来绝大部分时间内”的研究焦点。

塞斯如今是英国萨塞克斯大学的认知与计算神经科学家。他的思想使命是推进意识科学的发展，他还与其他人共同指导两个组织机构——萨克勒意识科学中心和加拿大高等研究所的高级研究“大脑、心智与意识”项目。此外，塞斯还写作了《成为自己：意识的新科学》（Being You:A New Science of Consciousness），此书出版于2021年。他在书中提出，心智需要基于肉身的预测机制。他2017年与此相关的TED演讲已有一千三百万播放量。

我最近见到了塞斯，讨论了他有关意识、人工智能以及这两方向令人堪忧的交叉领域研究——创造有意识的AI，即不仅会思考而且能感知的机器的可能性。我们讨论的话题包括：为什么意识大概率无法还原为大脑算法；设计得看上去似乎有意识的AI带来的困扰；为什么我们对世界的体验实际上是一种“受控制的幻觉”以及心智存在的演化论观点。

阿尼尔·塞斯，英国萨塞克斯大学认知和计算神经科学教授，自幼就为自己不只是一个“物体”这一奇迹着迷。Neuroscience of Consciousness主编，2017年担任英国科学协会心理学分会主席。撰写有博客 NeuroBanter，被列入Clarivate Analytics发布的 2019 年高被引研究人员名单。著有Being You: A New Science of Consciousness ，合著有30 Second Brain，Modelling Natural Action Selection。

—

Lovis Osternick

如何理解智能与意识之间的联系？

塞斯：意识和智能是非常不同的。AI社区到处流行着一种假设：随着AI越来越聪明，当到达某个临界点时，或许是通用人工智能的临界点——在这一临界点上，AI变得和人类一样有智慧——奇迹会突然降临在系统上，它变得有觉知了。这下它不仅能做事，还能感知事物。但广义上的智能指的是在正确的时间做正确的事情，灵活地拥有并实现目标。意识则全在于主观、原始的经验和感受，比如疼痛、愉悦，还有对我们周围世界以及世界中的自我的体验。也许对于人类和其他动物来说，智能的某些形态需要意识，但二者根本上是不同的。认为意识只是附带产物的假设是错误的。

意识需要什么才能发挥作用呢？

塞斯：我们不知道如何制造一个有意识的机器，就其充分机制也还没有达成共识。但相关的理论不少，每个都很有趣。我在《成为自己》中阐述了我的理论，这一理论与“生命”概念紧密相连：在能够制造有生命的机器之前，有意识的机器不会出现。但我的想法未必正确，或许AI离获得意识比我们想得更近。在这种不确定性下，我们在尝试制造有意识的机器时应该保持极度谨慎。因为意识将赋予这些机器各种新的能力与力量，使其难以被调节和控制。一旦AI系统有了意识，它很可能抛弃我们给予它的利益，并拥有自己的利益。更令人忧虑的是，当某物拥有意识，它就有了经受痛苦的潜质，甚至是以我们无法识别的形式遭受痛苦。

-Lydia Maltby -

我们需要担心那些看上去有意识的机器吗？

塞斯：是的。在读过ChatGPT这样的机器写出的的文字后，我们很难避免将某种心智投射其上。这对社会来说或许是个颠覆性的挑战。尽管现在我们尚未完全深陷其中，如今的大型语言模型和聊天机器人尚能被人们识破。但我们人类有一种重度的拟人化倾向，容易基于相对表面的相似性向事物投射意识和思维。随着AI变得更为流利，更难被看破，我们越来越难避免某物与这些工具交互时视其为有意识的实体。或许，我们会在预测它们的行为时犯下诸多错误。其中一些误判可能带来灾难性后果。如果我们认为某物有意识，那么我们或许会一厢情愿地认为它会以与我们相同的方式行动，因为我们是有意识的。

这还可能扭曲我们的道德观。如果我们真的感觉某物是有意识的，那么我们可能会开始关心它所说的话，关心它的福祉，以至于忽略对其他真正有意识事物的关心。科幻系列如《西部世界》以一种并不令人放心的方式探讨了这个问题。与机器人互动的人们最终学会像对待某种奴隶那样对待这些系统。这种姿态对我们的心灵来说不是那么健康。

-Lydia Maltby -

你越深入地研究大脑，

就越会发现它不像一台计算机。

你对制造意识机器保持谨慎，这与你想要理解意识的目标之间存在张力吗？机器人专家艾伦·温菲尔德（Alan Winfield）认为，以基于模拟的内部模型和心智的人工理论作为起始点来制造意识机器，将会是解决意识难题的关键。他持有“如果你不能制造它，就不能理解它”的观点。对此你怎么想？

塞斯：这里的确存在张力。艾伦的观点确实有一定道理。我也为此做过一些思想斗争。这取决于你认为什么东西最终会制造出意识AI。在我看来，意识与生命紧密相连。我认为，在计算机上模拟大脑（我们现在做的）不同于建造或实例化一个意识系统。但我也许错了，这里存在风险，也许模拟某物和实例化某物、生成某物实际上是一回事。若果真如此，我就没有自己所想的那样谨慎。

另一方面，除非理解了生物性的大脑是如何产生意识的，否则我们就不能坚定地推断其他系统何时会产生意识，无论是机器学习系统、人工智能系统、动物、新生儿，还是其他种类的系统。我们判断的基础将会非常不牢靠。所以研究意识是必要的。我只是想说人们不该有那种盲目狂热的目标，“让我们试着造个真正有意识的玩意儿，因为这挺酷。”这个领域的研究应该有一些伦理规范，规定什么是值得做的，优缺点有哪些，风险和回报是什么，就像其他研究领域所拥有的伦理规范那样。

-Florent Bloc -

在能够制造有生命的机器之前，

有意识的机器不会出现。

你为什么认为意识不是神经元执行的某种复杂算法？

塞斯：这一想法在哲学中通常被称作功能主义，这是一个非常大胆的假设。的确存在一些东西，当你运行某个算法模拟它时，你真的能得到它。就比如说，一个国际象棋的算法确实在下棋。但对其他一些东西而言，算法模拟只是，并将永远只是，一个模拟。拿计算机模拟天气系统为例。我们可以穷尽一切细节模拟一个天气系统，但没人会期待计算机模拟的飓风会真的下雨或刮风，对吧？它只是模拟。那么问题来了：意识更像是棋局，还是天气？

一种常见的观点认为，意识只是大脑湿件（wetware）运行的一个算法，根据这一观点，意识更像棋局而非天气。然而，几乎没有理由支持这种观点。这一观点源于我们至今仍持存的一个成见，即认为大脑是一种计算机，而有意识的心智是大脑计算机上运行的一个程序。

但你越深入研究大脑，就越会发现它不像一台计算机。在计算机中，基板、硅硬件和运行软件之间有着明显区分。这就是为什么计算机很有用。你能在一台计算机上运行十亿个不同的程序。大脑则完全不同，智件（mindware）与湿件的区分并不鲜明。神经元是极度复杂的东西，甚至是单个神经元的单次放电都会改变其连接强度，但每个神经元也在努力持存下去。此外，还有化学物质在神经元周围旋动。我很难相信意识可以从一堆构成了大脑和身体的物质中抽象出来，并被置入其他某类系统的原始回路中。

-Gustavo Henrique -

你认为对我们所感知的世界的最佳理解就是把它当做一种受控制的幻觉。此话怎讲？

塞斯：我们似乎是以一种独立于心智的方式，按照世界之所是感知世界：我们睁开眼睛，某物存在于那里，那就是世界。我在书中和研究中探索的观点就是，事实并非如此。我们所体验的现实，以一种非常依赖于基质的方式，植根于我们身体的生物学。事实上，大脑一直都在预测着世界或身体中的动向，并用感觉信号更新这些预测。我们有意识地体验到的并不是一个由外向内的感觉数据的读取，而是预测本身，是大脑对现实的最佳猜想。

可以将这种最佳猜想视作对客观现实的模拟吗？

塞斯：不必如此。我只是认为这意味着大脑有着对感觉信号的源头的某种生成模型，那才真正构成了我们的体验，但大脑关于身体自身也有类似的处理方式。想想大我们应该想想大脑是用来做什么的，从演化发展的角度来说，它不是用来研究神经科学或下象棋用的，它是用来维持身体存活的。大脑需要控制并调节血压、心跳、胃张力等各种生理过程，以确保我们处于严格安全范围内，从而使得像我们这样的复杂有机体存活下去。我认为这意味着大脑是一个或有一个针对身体的预测模型，因为预测对于调节来说十分有利。调节贯穿生理的全部层次，连单细胞都以非常有趣的方式进行自我调节。上面提到的基质依赖性从根基处就已经是有机体根深蒂固的一部分了。

既然我们可以拥有无身体的经验，为什么意识得是一个具身现象呢？

塞斯：你说的对。人可以有离体经验（out-of-body experiences），比如自我解体（ego dissolution）。这表明我们经验中显现的的东西不总是（如果有时是的话）对实际之所是的准确反映。我们对自己身体是什么的经验本身就是一种知觉经验。很多实验表明，想要操纵人们对自己身体位置的经验或世界中的某物是否是身体的一部分的经验是怎样轻而易举。若要使大脑能够产生这些经验状态，我猜想至少需要有一段具身化的历史。一个与身体或世界没有过任何互动的大脑或许有意识，但它根本不会意识到任何东西。

-Spooky Pooka -

我们有意识的经验

实际上是大脑对现实的最佳猜想。

那它可以在类脑上发生吗？

塞斯：是的。类脑看上去不太引人注目，它们是从培养皿培育出的人类干细胞分化而来的成簇的神经元。它们当然不像聊天机器人一样会写诗。我们看着它们，然后会想：“这在伦理方面没什么可担心的”。但就我个人而言，我对类脑合成意识的未来发展的担心比对迭代聊天机器人要多得多。因为类脑和我们是由相同物质构成的。当然，它们没有身体，这可能是个决定性条件。但在一种关键意义上，它们更加接近我们，毕竟它们与我们产生于同一种物质。

但那并不意味着它会有意识，对吧？在于生成意识无关的很多方面，我们的大脑不是依旧保持活跃吗？

塞斯：你说的非常对。大脑中发生的很多事仿佛和意识没有直接关联。但所有东西都是间接相关的。如果我们去看脑活动与意识联系最紧密的地方，一大部分的大脑将会被排除在外。我们可以排除小脑。位于脑后方的小脑在脑有着我们四分之三的神经元，但却不像是和意识有直接关联。所以如果你只有小脑，那我想仅凭小脑自身不会产生任何意识经验。对此的正确理解是，由神经元构成并有这种生物基质可能是意识的必要条件，但肯定不是充分条件。

-Florent Bloc -

关于拥有意识体验可能有何种适应价值，你怎么看？你认为昆虫或植物有可能具有意识吗？

塞斯：这是个大问题。实际上这里有两个相互关联的问题。一个是：意识的功能是什么？有个著名的说法是，除非在演化的角度考察，否则生物学中没有什么是有意义的。为什么演化赋予我们和其他生物意识体验？所有的生物都被赋予了意识体验吗？与此相关的问题是：我们如何能够知道上述问题的答案？我们现在能否开发出检验一个植物、一个类脑或一个AI系统有没有意识的测试？如果我们理解意识的功能，可能已经能够在一些情况下应用某些测试了。

有些人，特别是在哲学领域中，认为意识没有任何功能。它在有机体行为上不发挥任何作用。对我来说这非常费解。意识经验是我们生活中如此核心的现象。你只要看看意识经验的特征，就会发现它在功能上是非常有用的。一个意识经验，特别是对人类来说，能够将世界中的大量信息汇集起来，这些信息通过很多不同的感觉模态——视觉、听觉、触觉、味觉和嗅觉——一股脑涌入，统合成一个单一情景，这能让有机体明确知道接下来该做什么。这是意识的首要功能——引导生物的动机行为，最大化其生存的机会。

-Valerie Belan -

植物能体验到生存动机吗？

塞斯：植物是很了不起的。这话听起来很老套，但植物比人们所想的有趣得多。它们在缓慢时间尺度下移动，但如果你加速它们的移动，就会发现它们在行动。它们不只是随风飘荡。很多植物显得拥有目标，并且表现出意向性行动。但它们没有任何种类的神经系统，肯定没有媲美人类的那种。植物并未真正面临与我们相同的问题，即整合大量信息以支持快速灵活的行为。

推测意识存在于人类之外的世界某处是极其困难的。我们知道我们是有意识的。当我们看向所有哺乳动物时，你会看到参与到到人类意识生成的相同的大脑机制。如果你再走得远点，到了昆虫和鱼类，事情就变得更具争议且更难下定论了。但我并不认为这个问题是无法解决的。如果我们逐渐明白，重要的不只是拥有大脑，而是脑区之间如何相互交流，就会获得一些线索，我们可以在有着不同大脑的其他动物中寻找这些线索。但到了植物，就变得困难重重。

-Valerie Belan -

你最近在研究什么？

塞斯：我最近在忙的其中一件事是尝试用计算模型理解不同种类的视觉经验。我们在研究不同种类的幻觉，这些幻觉或许发生在精神错乱中、服用迷幻剂后，或是各种神经系统疾病的结果，如帕金森病。这些幻觉有着不同的特征。有些简单，有些复杂，有些是自发的，有些似乎是从环境中生成的。我们试图理解这些不同体验背后的计算机制。这不仅仅是为了更好地理解幻觉体验，更广泛地说，还是为了进一步理解一般的非幻觉经验。

我们对知觉多样性或内在多样性的隐秘图景也知之甚少。一个例子是几年前有张裙子的图片*，世界上一半的人看到的和另一半看到的完全不一样。但不只有裙子是这样。我有一个项目叫做知觉普查（Perception Census），是一个规模非常大的线上公民科学项目，它描述了人们在颜色、时间、情绪、声音、音乐等领域的知觉经验是怎样的千差万别。调查涉及大约50个知觉的不同维度，已有来自100个国家的约25000人参与到我们的研究中。目标是看看是否存在某种潜在的空间，你可以把它想象为知觉性格，它可以解释个体在感知上的差异如何在我们观察不同类型的感知时联系在一起。这是一片未知的领地。

*译者注

即蓝黑白金裙，相关解释见“你说的黑是什么黑”。

后记

Steven Wang：我们的意识从何而来？这个问题太有趣了，我闲着没事会突然想到它，因为忙碌的时候意识都在别处，而什么也不做的时候才有机会意识到自己拥有意识这一点，平时我们总将意识视为理所当然的。当然，这是有缘故的，毕竟“我思故我在”，如果说有什么不可置疑的东西，那便是我们自己的意识了，因为我们的怀疑必然预设了意识。然而，自我意识虽不可怀疑，但并不是不可探究的，且探究的意义巨大。意识对各种伦理、形而上学问题都无比重要：如“堕胎”问题（胎儿何时获得意识、意识是否该成为道德地位的关键条件）、人格同一性问题（意识如何持存下去、人格的同一取决于意识的连续性还是身体的连续性）、自由意志问题等（意识是否可以被还原为神经元放电、我们“自由”的选择究竟源于神经元与环境的因果效应还是我们自己）。希望塞斯与其他意识科学家将频繁刷新人类对意识的认知，而印证他在TED视频上所说的：“how things seem is not how things are”。

Muchun：意识与生命紧密相连，我们所感知的世界是大脑对世界的最佳猜想，意识是一个具身现象，阿尼尔•塞斯提出的这三个观点或许是目前对意识的主流理解。一方面，我们接纳意识的生物学模型，另一方面，认为意识是大脑所运行的程序的计算机模型也得到许多人的支持。类脑与有意识的AI哪一个更接近人的意识？动植物是否具有意识？意识与智能的区别和关联是什么？幻觉经验如何启发对非幻觉经验的研究？通过这些问题，塞斯为我们勾勒出一个意识研究的地图。

作者：Brian Gallagher、Anil Seth

译者：Steven Wang | 审校：Muchun

编辑：光影 | 排版：骐迹 | 封面：Spooky Pooka

原文：

https://nautil.us/is-consciousness-more-like-chess-or-the-weather-304796/?_sp=99d6f585-57e4-4fdc-81bc-679d30949a2b.1684876279224

微信又改版了，不是常读或星标的公众号，图文推送不再显示封面啦。为获得更好的体验，以及不错过任何一条精美推送，跪求喜欢我们的小伙伴标一个“星标”，这样才能及时收到我们的优质内容。如有转载需要，可直接快捷转载；或在后台回复“转载”，添加bot微信即可，但暂不支持转载到微信外其他平台哦。