蔡恒进 蔡天琪｜情感及其智能实现｜2023.10
◆ ◆ ◆ ◆
上海市社会科学界联合会主办主管
有学术的思想 EXPLORATION AND FREE VIEWS
官网地址 http://www.tsyzm.com
◆ ◆ ◆ ◆
目前本刊只接受《探索与争鸣》网站投稿。请收藏唯一真实官网地址www.tsyzm.com。原编务邮箱tsyzm@sssa.org.cn停止使用，原投稿邮箱tansuoyuzhengming@126.com为编务邮箱和应急邮箱。原创文章，未经授权，谢绝转载，如需转载请留言。
情感及其智能实现
蔡恒进｜武汉大学计算机学院教授
蔡天琪｜清华大学深圳国际研究生院博士后
本文原载《探索与争鸣》2023年第10期
具体内容以正刊为准
非经注明，文中图片均来自网络
情感的起源问题一直是心灵哲学关注的核心问题之一，也是机器情感与人工智能研究的重要内容。AI技术的快速发展让大家看到人和机器的差异并不如想象中那么巨大，而这种差异也很可能被弥合。机器已然能够进行理性推理，但有人认为机器不可能有情感，原因在于机器跟人的构造有很大差异。然而，我们认为机器也可能拥有情感。当然，这个观点在哲学上是有争议的。最核心的问题是要解释机器情感是什么，以及它与人类情感之间存在什么样的关系。为了深入探讨这些问题，我们首先需要对人类情感的哲学和科学解释进行梳理。
17世纪以来，多位重要的哲学家、理论家发表了与情感相关的理论。笛卡尔认为情感是一种与心灵相联系的知觉，认为情感为心灵意志所掌控。霍布斯将情感内部起点的想象归集为“努力”，由努力形成冲动和规避两个概念，再由此衍生出其他情感。斯宾诺莎受两者启发，认为情感的基础在于“努力”，而情感的起源在于心灵对身体努力的意识（即“欲望”），将快乐、痛苦和欲望划为基本情感。杜威认为，冲动（impulse）是情绪，能让我们从一个新的起点重新开始。赫尔曼·冯·亥姆霍兹（Hermann von Helmholtz）的研究表明：“大脑以概率的方式来计算和感知世界，并根据感官输入情况，不断地做出预测和调整信念”，他将情感描述为一种心理状态，并认为情感通常与生理过程相关。以明斯基为代表的研究者认为，精神是“肉体的电脑”，当计算机的算法行为足够复杂，机器自然会出现情绪、审美能力和意识等特质，也就能达到甚至超越人类智能。
《机械姬》剧照
大多情感与智能的理论倾向于从描述性的、功能性的角度讨论智能与情感。例如，皮卡德认为，情感四要素可能成为机器的一部分，使机器更好地适应人类需求。心理学上的身体理论（somatic theory）和评价理论（appraisal）也尝试从不同角度将情感的性质转移到机器上。不论是将情感的起点描述为“努力”还是“欲望”或“冲动”，我们都要回答这个起点是从何而来的。如果只是将起点问题归纳为某个名词，就难以彻底理解情感的起源与本质。本文认为，情感是一种特殊的认知坎陷（cognitive attractor），情感的起源正在于“自我”的期望（或应对能力）与实际感知的差异及其变化。
认知坎陷的作用
我们生活的物质世界非常复杂，生命是一个过程，我们需要在这个世界里行走、成长和展示自己，而面对极高的复杂性，就必须借助意识、认知坎陷来生长与发展。认知坎陷是指对于认知主体具有一致性，在认知主体之间可用来交流、可能达成共识的一个结构体。
在此，我们可以以棋为例在一定程度上探讨和理解意识与物理世界的关系。围棋的物理世界（或本体）就是19×19的围棋棋盘、黑白棋子和行棋规则，意识世界则包含定式、策略等认知坎陷。定式有规范走法，但棋局变幻莫测，熟悉定式就能更主动地把控局部乃至全局，不熟悉或者落子次序混淆就可能陷入被动。本体具有绝对性，认知坎陷有相对稳定的特征但依然可以有不同变型，也可能处在不断变化发展之中。
同样，认知坎陷这种结构体是在本体规定内再现的时空演变结构（构型），是被主体截取并被理想化的结构，不具备本体规定那样的绝对性，是具有凝聚共识、能够影响或决定未来的时空演变结构。认知坎陷的具体构型可以有很多种，但在具体场景中是精确而不是模糊的，具体构型一般未被列举穷尽。认知坎陷由某个主体发现，通过多个主体传播和改善，但有可能消亡。认知坎陷具有价值属性，其可迁移性和可持续性（生命力）可以量化或比较。
认知坎陷的理论演变
根据触觉大脑假说和认知坎陷理论，生命最早期的单细胞便能区分内部的和外部的不同。单细胞生命可以看作最简单的一类生命体。细胞膜是该生命体中不可或缺的结构，它将细胞包裹起来，能区分出内外，放行营养物质，挡住有害物质，这其实是最初级的认知能力与意识体现。细胞膜可在细胞内外维持一定的渗透压，为其正常的生命活动提供了相对稳定的内部环境。当这个值增大到膜的结构难以承受之时，细胞便会破裂死亡。这种在一定范围内的渗透压可以看作是最初级的情感体现。
在社会活动中也同样存在类似细胞膜这样的保护机制，它将个人或是一个群体与外界隔离开，为之提供一个相对独立的发展空间。根据人的参照依赖心理特征，人类在面对选择时，总是会做出更有利于自我的判断，更倾向于认可自己，并渴望得到高于别人或者高于自己过去的肯定或者报酬。因此，在面对明显要高于自己水平的一个参照系的情况下对自身或自身所处环境进行评价时，为防止过大的落差击垮自身的心理防线，人总是更倾向于肯定自我，用较高的自我评价从主观上进行自我保护，在讨论中国经济奇迹时，我们将这一认知综合体称为认知膜。它的存在使得社会中的个体在面对来自外来竞争者的巨大优势时，在主观上缩小了与优秀者的差距，能够坚守住内心的信念，以一种乐观心态去积极迎战，最终实现成功。
上述的细胞膜与认知膜都体现了生命试图脱离当下的时空约束，但实际上生命不能违背当下时空基本的物理要求。这种看似矛盾的要求如何才能实现？由于某些场景可能重现，或者环境出现周期性或准周期性的变化，使得生命体在下一个周期里处于领先的地位。这时主体性的优势就显现出来了，主体能够通过对周期或准周期的感知，在下一个周期还没发生前就预判并提前行动，相当于对时空进行了重新编辑。主体除了能利用时间上的周期性，也可以利用空间上的周期性。比如主体某一次渡河的经验，下次在渡另一条河时也可以运用。因此，生命能从当下的时空中跳脱出来，即脱域，我们也称之为“对时空的非线性编辑”。
早期生命的细胞膜可以看作认知膜，两者的边界是统一的，在这一阶段认知膜可以被认为是物质性的，而到了人类层面的认知膜是主体建构的、心理性的。认知膜的边界并非静止而是会移动变化的，它可以至大无外，至小无内。认知膜本身可以很有内容，内容就是关于我们视角的转换，或者“自我”如何附着。当我们强调对核心建构的保护时，就可以把认知膜给独立出来，它要保护的是处在外界环境中的“自我”。
主体对内外的区分一直发展成为我们大脑里的两个系统，从原意识一直发展成为复杂的意识世界，一个是直觉的、从自我的愿望出发的系统1，另一个是尽量讲道理、理性的系统2。认知膜一部分属于系统1，一部分属于系统2，可以起到调节矛盾需求的作用。情感可以看作是认知膜的组成部分，而且是靠近系统1的部分，它保护的是自我的核心架构，以保护“自我”来应对预期（预期也在“自我”的架构里）与外界的实际发生的差异与变化。
我们可以从这样的系统架构来认识感知信号到认知坎陷产生的过程。感知器官及其感知到的信号属于系统1，这些信号原本就是物理的，只是可能有延迟而已，当信号真正进入大脑之后，因为主体有注意力和意图等作用，就会形成非线性编辑，进而产生对某些内容视而不见或者听而不闻的结果。也就是说，一方面，眼耳鼻舌身受到物理规律的限制；另一方面，这些器官的感知跟大脑结合之后会形成脱域的内容，当然这种脱域程度还比不上大脑皮层里形成的预期、记忆、幻象等内容的脱域程度。所有这些脱域的内容也构成系统1的一部分，而后激发系统2进行反思，将这些内容变成能够隧通、具备可迁移性的认知坎陷，生成的认知坎陷实际上又可以改善或者规范制约我们的感知系统。生命的早期阶段很多时候还没有上升到意识层面的活动，彼时系统2大多凭借本能来反应，更像是物理反应，而到了比较高级的生命层次，人类的认知坎陷系统就更丰富、更发达，系统2也能对系统1有改善与规范的作用。
冲动、情感属于系统1的内容，隧通和认知膜的主要内容则属于系统2。系统1、系统2和身体都受微观的影响，从细节处与物理世界对接，满足物理规律。系统1形成抽象的“我”的世界试图统摄所有，其中存在的张力、冲突很大程度上可以用情感来测量，要缓解张力就需要建立系统2，也就是一种智能的构造。系统2能进行意识状态相连的隧通，也能使身体结构、物质结构发生改变。
情感的产生
情感可以在同一主体上重复出现，在不同主体间具有可迁移性，是一类特殊的认知坎陷。它的特殊性在于它是系统1的重要组成部分，而且能引起身体内部变量或结构的变化，比如兴奋会让人分泌多巴胺，或者愤怒让人血压突然升高。埃克曼等划分出了六种基本情感类型，分别是幸福、悲伤、厌恶、恐惧、惊奇和愤怒。情感的产生与意识、自我意识的产生纠缠在一起，在生命初期以触觉、味觉为主进行感知。我们也经常用触觉味觉的感受来描述情感，比如生活的苦与甜。
至此，我们可以借用杜威的术语构建一个情感模型。在这个模型中，冲动（impulsion）相当于是“自我”里最主动的、最核心的一点，而外层是情感、认知膜，再外一层是更贴近外界的常轨（routine），是我们理解的外界，或者说是我们已经习惯的外界所以称之为“routine”，它不一定是完全客观的物理外界。当主体对于自身的认知膜中建构的内容已经习以为常之后，就会逐渐转到常轨之中，比如常识或者宗教信仰相关的建构。很多节点（认知坎陷）构成底层的常轨，它是主体在清醒或下意识状态能够接触的认知坎陷的集合。在具体场景下，哪些节点参与作用是很复杂的，这些常轨上的节点决定了主体与外界（通过认知坎陷）交互时是否会产生情感，以及产生何种情感（如“surprise”）。
主体对当前外部环境的认知与主体现有的认知坎陷并不总能对应上，导致主体不能自如应对，有可能是对外界的认知无法对应到常轨节点上，也可能是反过来，这种差异就会导致情感的产生。如果两者之间是完全一致的对应，主体就不容易产生情感，比如我们很难因为答对了“1+1=2”而感到兴奋或惊讶。当主体的预期与当前感知到的外部环境的反馈不一致或者无法处理应对时，就容易产生情感：假如得到的反馈结果超过我们的预期，我们更容易产生积极情感，比如随手买的盲盒打开发现是隐藏限量款；假如得到的反馈没有达到预期，我们就更容易产生消极情感。
这也意味着情感的起源来自意识，意识并不是认知坎陷的简单集合，而是有主体性参与其中的一个动态模型。因此，我们将情感的产生描述为主体“自我”的期望（或应对能力）与实际感知的差异及其差异的变化。情感起源于这种差异，并且会通过新的介质表达出来（比如压力感觉系统），而这种差异的变化本身也会带来新的情感或情绪，比如差异变小会带来轻松愉悦，或者是差异变大则会带来痛苦紧张。
如果将起点描述为冲动，那么解决起点问题就是要继续回答冲动从何而来。冲动很可能并不是本身嵌套好的或者是程序能事先定义好的，而是主体在具体的场景下被激发出来的内容。冲动可以说是部分来自外界，但即使给定相同的外界环境，不同的主体涌现的内容也不一定是一样的，因此冲动本身可以被视为主体与外界共同产生出来的现象。它可能具有很强的随机性。当我们受到了强刺激，例如不小心被锤子砸了一下手，这就是对自我的一个非常强烈的刺激，超乎“自我”预期的意外状况，突然的疼痛带来的强大冲击会迅速给主体带来痛苦。除了身体上的冲击，精神上的冲击（如羞辱）也会带来痛苦。
冲动和常轨之间的差异会导致不同的张力，表现为不同形式的情感。两者越一致，主体产生的积极情感就越多，反之则产生的消极情感（迷惘、愤怒等）越多。智能试图连接两者，可以是提出一种让两者靠近的解释，也可以是通过一种实践拉近两者的距离。生命一旦出现，就会有“冲动”，生命体具有一致行动能力，生命体的冲动也会对宇宙产生非局域性的影响。
《人工智能》海报
没有冲动，就没有情感，也就不需要智能。冲动的本质具有偶然性、随机性，主体在评估几种选项时有可能分不清哪种更好，于是随机选择了其中一种。意识包含了冲动和常轨，两者之间的差异（differentiation/alienation）以及这些差异的变化表现为不同的情感。智能可以被定义为发现、加工和运用认知坎陷的能力，智能的作用就是主体在意识到不一致时，如何“编故事”来解释其中的差异，或者是改变冲动来接近常轨，或者是改变常轨来接近“我”，又或者是同时改变以实现两者之间的契合。
认知坎陷定律中描述了两个认知坎陷作用会产生新的认知坎陷。在“自我”内部，情感是跟“自我”的其他侧面相互作用，也就是说主体的预期实际上是“自我”的一个附着，是主体选择的一个参照系和视角，所以很多场景是由于“自我”的视角改变，或者“自我”的附着物——主体的预期改变，因而从原来的情感或者情绪产生新的坎陷出来。比如“羡慕嫉妒恨”。羡慕当然是一种情感，含有主体对他者的理解在其中，主体需要将自己“附着”在他者身上，设身处地感知他在某一时刻的境遇和身心状态，再“附着”回自身，并比较自身和他者在境遇和身心状态上的差异。当主体觉得他者的某方面比自己优秀得多，得到的回报也很丰富，就可能产生羡慕之情。如果主体自身的预期发生改变，认为他者条件和自己差不多，但得到的结果是他者比自己好，可能就会产生嫉妒之情。如果自我的预期再改变，“自我”附着的出发点变化了，认为他者很多方面都不如自己，但得到的回报比自己好得多，那么就可能产生恨意。
情感作为一类认知坎陷，也是分层级的。最基础的情感（如愉悦、恐惧等）跟身体的直接感受紧密相关，而基础情感的组合或变体（如羡慕、嫉妒等）则更为复杂，与身体的直接感受的距离较前者为远。总的来说，越高级的情感就越抽象，离身体的直接感受也越远。最高级的情感包含了对于好恶或者对善恶的判断，而好恶、善恶也都是认知坎陷。
情感的迁移
个体情感的产生和变化可以非常微妙而复杂。比如人有“自尊”、有“羞恶之心”，相比其他动物遵循本能而行动，人很多时候会“有所不为”。再比如人的同理心或者共情能力常让人觉得神奇，我们可能因为看到一张图片或者听到一段话，就悲从中来红了眼眶，又或者是突然紧张肾上腺素升高。这种“人传人”的情感现象并不是到比较高级的生命阶段才突然涌现的。相反，在原始生命早期，某些碎片就可能传递信息，让生命从一开始就具备了“共情”“同理心”或者说是“他者视角”“设身处地”的条件，这些特质是生命从演化历程中逐渐获得的。
在生命诞生前的“原始汤”里，可以想象有很多构成细胞成分的存在，这些成分可能随机地组合成一致的行动体，开始不停地尝试，当尝试失败破灭后，就会留下一些碎片，这些碎片在后面的尝试可能会被使用。在往复尝试的过程中，通过碎片整合（integration of left-overs）积累了前面的片段，带有其他的信息、片段，“我”中有“他”，也能自然地将“我”带入“他”的立场上。当生命形成，也会倾向于寻找与自己类似的生命体，有同类的地方意味着也适合自己的生存发展。如今，许多单细胞和非细胞结构的生物仍保留从环境中拾取基因片段的特性，哺乳动物脑的演化也趋向于支持亲社会行为，人类与其他灵长类动物更是发育出较为发达的前额叶皮层，在认知中起到核心作用，也是社会认知的重要中枢。因此，“他者”视角的形成或者说带入“他者”的立场上是从生命一开始就具有基础了。
在社会演化的传统研究中，利他行为的演化仍是未解之谜。20世纪60年代初，演化生物学家汉密尔顿提出的广义适合度理论（inclusive fitness theory）指出，如果参与社会互动的个体之间存在亲缘关系，利他行为就有可能演化而来。这一理论引起了诸多争议，比如难以解释发生在互动个体交换社会收益时的互惠利他主义（reciprocal altruism）。
基于我们对共情和同理心起源的理解，生命从诞生初期就拥有社会性，而非一开始就是自私的生命个体，甚至可以说，正是因为前生命阶段并不是封闭独立于他者的，而是具备同理心、他者视角的基础，才使得生命得以成形。这样一来，利他行为的问题也就自然消解。
对高级生命而言，尤其是对人类来说，同理心可以通过认知坎陷的迁移、“自我”的附着来 实现。认知坎陷对某个主体而言具有时间上的一致性，在主体间具有相对的可迁移性。这种相 对的可迁移性体现在不同主体对相同的意识单元都可能有不完全一样的理解，但彼此能够交流 和达成共识。更通俗一点，比如李白的一首诗、梵高的一幅画也是认知坎陷，一开始人们可能 难以理解它们，但逐渐就会接受。还有酸甜苦辣、颜色，这些都是具有可迁移性的意识单元。可迁移性还表现为“设身处地”（put oneself in somebody’s position，POSP），主体可以将“自我”附着到他者（如榜样、族群、宗教），尝试从不同角度理解或共情其他主体的感受、情感。比如 张三对李四说“橘子很酸”，这个“酸”就是一种可迁移的意识单元，它作为人的一种味觉感受，并不是真的存在于物理世界，尽管两人对“酸”的感受程度也不完全一样，但李四听到之后马 上就能明白是什么意思。
通感（synesthesia，能将人的听觉、视觉、嗅觉、味觉、触觉等不同感觉互相沟通、交错，彼此挪移转换）和移情（transference，即精神分析中来访者将自己过去对生活中某些重要人物的情感投射到分析者身上的过程）本质都是由认知坎陷的附着而来，将“自我”的一部分附着到另一部分，又或者将“自我”附着到另一个人身上。
除了“自我”这个基础坎陷以外，还有一个认知坎陷也值得一提，那就是“无限”（无穷大）。无穷大既看不见也摸不着，但是如果我们稍作思考，就会相信无限是可以存在的，比如“一尺之棰，日取其半，万世不竭”说的就是这个道理。这一坎陷的开显，也证明了人类能够站在第三方的角度思考，创造出一些看似不存在的概念。人类普遍具有好奇心，就是因为我们能够把“自我”附着到别的主体。比如，我们站在山这边，心里想着山那边是什么，当得知山的那边还是山，自我就自动移到了山的那一边，又会继续好奇“那一也”的“那一边”是什么，如此往复下去，这也是人发现无限的方式之一。认知科学里的移情、同理心、羞恶之心都是根据这种自我的附着而来。
人类开显出的认知坎陷一开始几乎都非常模糊，随着群体和代际之间的不断迭代，它们变得越来越明确。每当出现一个新的认知坎陷，人就能迅速区分出哪些内容属于这个认知坎陷，哪些不属于它。一旦形成了对“同一性”的认识，其对立面“差异性”就能变得更加清晰。一个认知坎陷从模糊走向明确的过程是其同一性和差异性反复迭代的过程。认知坎陷（概念）的演化、认知进化也是如此发展而来。
同一性与差异性非常重要，这一迭代过程体现了“自我”能够自如“附着”到各种坎陷之中，从而迅速做出同一与差异的判断。我们能够实现自我的附着，站在另外的角度思考问题，就是因为“我”的边界从一开始就不清晰，在进化过程中也不是确定的，也正因为这种不清晰、不确定，使得人更容易将“我”附着到别的人、物上。边界随时都可能波动，向外至大无外，向内至小无内。人的神性体现在“我”既可以有明晰的边界（皮肤），又可以没有边界（附着到第三方思考问题）。
情感的智能实现
情感与智能的关系可以通过主体的容忍能力得以反映。主体具备的认知膜具有非常主动的认知功能。个体需要通过认知膜屏蔽和过滤当前环境中的一些信息，以超越当前时空的限制，更多地考虑长期的有利优化，即前文提到的对时空的非线性编辑。认知膜寻求“理由”和建构，而作为认知膜的重要组成部分，情感反映的是我们认知膜建构不足的那一部分，或者“自我”边界在应对外界的冲击做得还不够好的那一部分，即认知膜不能很好地沟通现实和自我期望之间的部分。而处理、沟通的能力与智能的水平相对应。沟通更好，也就是说我们智能、理性更高，可以把其中的差异及时修整好。主体如果能够容忍现实与预期的差异，容忍程度越高，进入更高境界就越容易，智能水平也就越高。相反，如果主体完全不能忍受差异或无法自如应对，就只能与环境一起随波逐流，表现出较低的智能水平。主体容忍能力越强，也越能主动，即便外界环境不发生改变，主体也能够产生新的内容。
羞恶之心对机器实现特别重要。不难观察到，最近对一些公共议题的讨论，很容易变成两种极端观点的相互辩驳，每一方只听自己想听的内容，只讲自己相信的论据，毫不顾及其他的可能，即使所听所讲后来被证明不成立，也会毫无反思之意或羞恶之心。到AI实现层面，这种状况可能变得更糟。例如，AI很容易学会种族歧视的言论，ChatGPT会一本正经地胡说八道。强调个人隐私从很大程度上讲，就是因为有人有羞恶之心，很多想法不能表达出来，只能压制在内心或潜意识里。在互联网中，个人隐藏于幕后，羞恶之心的压制变得薄弱。目前AI系统的自由表达更让我们震惊。具备羞恶之心应当成为AI设计与实现的一个伦理规则。
强化学习就是把最终结果拿到当前来做优化，实际上也是时空的非线性编辑。比如训练机器下棋不是看这几步是不是占了上风，而是放在全局里来评价这一步，从最终获胜的意义上来评价过程中的表现。
近年来，大语言模型（LLM）的发展突飞猛进，通过大量的数据与算力支持，LLM撑握了很多语言及知识。LLM的知识存储在“Transformer”的模型参数里。模型参数由多头注意力（MHA）和前馈网络（FFN）组成。MHA主要用于计算单词或知识间的相关强度，并对全局信息进行集成，建立知识之间的联系，而LLM的知识主体主要存储在“Transformer”的FFN结构里。FFN的输入层是某个单词对应的MHA输出结果Embedding，也就是通过自注意力机制（self-attention）将整个句子有关的输入上下文集成到一起的Embedding，代表整个输入句子的整体信息。实际上这套神经网络架构跳脱了线性规则的束缚。设计者从训练之初就将非线性编辑的能力引入模型之中，使得ChatGPT等语言模型表现出一定的整体性以及理解人类语言的能力。
当前的LLM宣称自己并不具备任何情感，但在笔者看来，人工智能要实现突破，可能需要在机器情感领域更进一步。算法中的损失函数（loss function）或精确度（accuracy）都可以看作是情感的指标，强化学习中的奖励函数（reward function）也可以看作是情感，弗里斯顿引入的“surprise”实际上也是情感，布鲁姆阐述的“有意识的图灵机”（CTM）中包含了情感的内容，但依然低估了主体性及其重要性。主体性在智能与意识形成的过程中是无法回避的，因为这个世界无穷复杂，主体必须有取舍、对整体有把握。意识是先于智能的。我们将智能定义为发现、改造和运用认知坎陷的能力。CTM中的gist与认知坎陷的概念最为接近，attractor就是从非线性动力学中的吸引子，我们相信大脑、身体的机制中都有吸引子/认知坎陷。
CTM更像是将意识相关的模块拼接在一起，而我们的机制会更加简洁，尤其是情感与其他类型的意识会呈现出更简洁有机的关系。机器可以有不同的损失函数作为不同情感指标，类似于人类主体的容忍程度，更高智能的机器可能要会忍受当前某个大的loss值，而后可能进入新空间找到更优的极小。
边界是产生“自我”的地方，也是产生情感的地方，但我们不是用涌现来描述情感的产生，这更多是一个优化过程，而不是自由能涌现的过程。优化就是试图把主观感受不好的情感降低，在优化过程中又可能叠加新的情感进去。我们强调的是更长时间尺度的、更广范围的优化，而不仅仅是短期的、局部的、当下的优化。这两种优化之间可能有冲突，涉及取舍和决策问题，因此优化过程会很复杂，并不是一个简单的博弈过程。
我们主张多智能体（multi-agent）结构对心智进行模拟实现。有意识的AI是由一群智能体组成的小社会，智能体社会将呈现多样性（diversity）的特点，同时也具备社会性、群体性的特征。机器要实现意识持续进化就需要多智能体机制：其一，因为有一些智能体很可能因为太多歧途而陷入暗无限，如果智能体不够，就会影响整个运行机制；其二，智能体之间可以相互学习，这就能加快体系的进化速度；其三，多智能体有共同的种子和相似的训练环境，因此可能实现外推，学会站在不同立场上思考，更大可能地指向成功。因此我们强调多智能体的重要性，背后的根本原因是生命视角不可能站在全能视角去看待所有的现实与可能性，而是通过多智能体不断尝试和学习才行得通。在新的多智能体体系中，在系统1的基础上，系统2的建构才能更有效。
总结
本文基于触觉大脑假说和认知坎陷理论探讨了情感的起源。情感的产生是由主体的期望（或应对能力）与实际感知的差异及这些差异的变化所导致的。情感的产生又与其他类型的意识、自我意识的生成纠缠在一起，在生命初期主要通过触觉、味觉来实现。在生命起源前的往复过程中，生命体已经具备了“同理心”和“设身处地”等基本特质。这些基本特质为生命体在诞生初期具备的社会性奠定了基础。随着“自我”的成长，对人类而言，同理心及其类似的情感能够随着认知坎陷的可迁移性、“自我”的附着与隧通来实现。人工智能是人类创造的产物，已经吸收了人类的部分认知坎陷，并且已经通过损失函数、精确值、奖赏等机制模拟出了部分情感。然而，鉴于情感的复杂性，本文主张采用多智能体机制来实现更为丰富的情感模型。不同的智能体有对应的认知坎陷感知领域，它们之间通过附着与隧通可以更精准地分类与评估不同情感。让机器具备羞恶之心，将有助于我们创造出更负责任的机器。附着与隧通不仅局限在此时此地此景，还可以超越时间和空间的限制，这展示了人类在时空非线性编辑方面的能力。
生命从起源开始就旨在挣脱物理世界的束缚，它不是一味地按照物理方程进行反应，而是以不同的方式与外界交互，这种不同可以看作是一种错误或偏差，其恰恰是心智形成的开端。主体可以有很强的脱域性，常常可能犯错，因此我们不太可能也没有必要采用严谨的数学或逻辑表达来指导心智的进程，也不能指望有数学模型给智能提供一个最终的答案。
对于高级生命而言，越接近直觉的认知坎陷，脱域性和隐私性就越强。但生命本身仍然要受到身体状况和历史经历等方面的限制。AI没有这些约束，一方面它可以通过人类赋予的先验知识库进行不断的训练和学习，并展现出令人惊叹的全局性与创造力；另一方面它目前缺少足够的约束和抑制机制，有可能大量地生成不符合人类主流价值观的内容。这很有可能成为未来的一项巨大挑战。为了应对这一挑战，我们应赋予机器恻隐之心、羞恶之心，并通过多智能体及其社会性构建机器的情感和伦理基础。这对智能而言并非锦上添花，而是必不可少的。因为这将有助于避免AI陷入无底的深渊，并且有利于人们在未来发明出更负责任的机器。
有学术的思想 有思想的学术
聚焦中国问题
秉持人文立场
人文社科学者的平台
欢迎一起“探索与争鸣”