刘伟 | 关于人机融合智能与深度态势感知的几点思考

作者 | 刘伟  北京邮电大学人工智能学院研究员、剑桥大学访问学者

转自 | 人机与认知实验室

0.引言

自古希腊人将欧几里得几何归纳整理成欧几里得公理体系，到牛顿编撰的鸿篇巨著《自然哲学的数学原理》，人类的现代数学和物理知识被系统化整理成公理体系。符号主义的主要思想便是应用逻辑推理法则，从公理出发推演整个理论体系 。但是符号主义思想面临四个主要挑战：

1. 知识的自动获取；

2. 多元知识的的自动融合；

3. 面向知识的表征学习；

4. 知识推理与运用。

符号主义虽通过模拟人的思维过程实现人工智能，但在以上四个问题难以有突破性的结果 。联结主义的基本思想则是模拟人类大脑的神经元网络，将人工神经网络设计成多级结构，低级的输出作为高级的输入。但该方法限制于在具有可微分、强监督学习、封闭静态系统任务下才会得到良好的结果，并且训练得到的结果也限制于给定条件的问题上。行为主义思想通过不断模仿人或生物个体的行为超越原有的表现来推进机器的进化，主要依赖具有奖惩控制机制的强化学习方法。然而该方法的缺点在于过于简化人类的行为过程，忽略人类心理的内部活动过程，忽略意识的重要性。

人工智能的优势在于庞大的信息存储量和高速的处理速度，但是无法处理如休谟之问，即从“是”（being ）能否推出“应该”（should ），也即“事实”命题能否推出“价值”命题；也无法处理情感的表征问题。人工智能尝试通过大数据与逐步升级的算法实现人的情感与意指依旧没有办法实现跨越。

1. 智能的产生

有关智能生成的机理，一直是许多领域关注的焦点问题，涉及面之广、深很是少见，初步梳理可能会与这样几个最基本的问题有关：认知生成的机理、知识生成的机理、意义生成的机理、情感生成的机理、情境生成的机理，甚至还避不开哲学的基本问题：世界的本源是物质的还是意识的？我是谁？从哪里来？到哪里去？认识世界的手段如何？语言是破解人类智能的钥匙吗？心灵与现象的关系如何？等等……

这个问题远不是几位数学家、哲学家、物理学家、计算机专家、自动化专家、社会学者、心理学学者、语言学工作者开几次研讨会所能解决的，历史已经证明，莱布尼兹、维特根斯坦、爱因斯坦、薛定谔、图灵、维纳、香浓、贝塔朗菲、冯诺依曼、西蒙、明斯基、辛顿等先驱大师的智能思想混合在一起并没有发生期待中的化学变化。这个问题有点像爱情生成的机理一样，有一千对罗密欧与朱丽叶、一万双许仙与白娘子的故事就有成千上万的解释和理解。对人类而言，这是一个永恒的话题，是世世代代追求的梦中情人和理想家园。无论如何，“没有人，就没有智能，也就没有人工智能”这个道理依然存在实用。

智能的生成机理，也许就像哲学中“我”的三个问题（谁？哪里来？哪里去？），本质是文化问题，智能也是多种文化交互作用的结果。其中休谟之问（能否从客观事实中推出主观价值来？即如何从“是”/being 推出“应该”/should 问题）可能是一个切入点，几乎所有的智能生成都将涉及到主观目的和动机（无论有意或无意），都会与情境中的客观事实变化相关。而解答休谟之问的关键则是各种显隐类比机制的破解（如潜意识就是隐类比），对此，侯世达在《表象与本质》一书做了很好的思考，但仍有一些问题值得商榷，譬如事物的表象与本质常常互为嵌套，表里不一，似是而非等。实质上，人类的理解过程就是在事实being 中寻找到了价值should 的过程。有词典解释为：to know the meaning of…… ，这个know 是主体的，这个meaning 也是个性化的。

所以，严格意义上讲，理解就是：自以为是；而智能则是：实事求是。智能是不分领域的，但是可以跨域迁移的，所以军事智能准确地讲应是智能军事，如同智能农业、智能交通、智能医疗等，这些都是智能在不同领域方向的应用，但在许多基本机理方面是相通的，如在输入端的表征方式、在理解融合过程中的推理机制、在输出端的决策辅助手段等。

智能，包括人工智能，都是复杂系统，其中的许多事情不是都能用逻辑思维解释清楚的，里面还有大量的非线性、非逻辑成分，可解释性、终身学习、动态表征、强弱推理都需要类比，但类比的机制机理远远不是单纯用科学技术所能解决了的，尤其涉及情感、情境、虚体等，更是如此！试图单纯用数学，尤其是用现代不完备的数学解决智能或人工智能的主要核心问题，无异于缘木求鱼、画饼充饥、水中捞月，如同拿着木棒、石头造飞机和火箭一般，原因很简单：定性的真东西尚都在遥遥无期中探索，定量的只能是自动化。

2. 何谓博弈智能

博弈智能不是博弈+ 人工智能，而是其中既包括机的自洽性过程计算也包含有人的矛盾性有向算计，博弈智能如生物进化一样不太讲究多强大、多聪明，而更关注任务执行中的恰当变通，它不是包治百病的神药，而是对症下的准药，最高境界是达到不战而屈人的目的。

当前博弈系统的自主化与弱通讯、无通讯条件下的高级自动化等价，而现代的博弈无人化侧重于统计概率下的机械化+ 自动化。即使科技发展出的装备再先进，其形成的产品或系统也只是机器计算，01 的数理基础仍然没有变，就像5G 、6G 、…NG 一样，若没有意向性和价值性出现，系统本质上还是机器。

博弈智能的本质是对抗性角逐，即要摧毁对方的博弈意志；人工智能的本质是服务性智力，满足对象的需求。 博弈智能以损人为本，民智以助人为乐。AI 作为计算的逻辑实质上是一种“主体转向”，“ 博弈智能的算计逻辑”是当仁不让地以人类为主体，研究的对象是对手的认知、思维、智能种种，强调应是什么应干什么等问题， 博弈智能不但涉及手段还包括意志和随机偶然性；AI 计算的逻辑则是将计算机作为信息处理的主体，侧重是什么干什么问题，研究的是计算机的处理方式以及人与计算机的互动关系。

未来的 博弈智能不是功能性的工具（锤子）而是能力性的软件 + 硬件+ 湿件，它不太讲究事实和形式，多涉及价值和意义。它会不断地超越军种、行业、领域的格局和前瞻的战略视野，是颠覆性技术创新的重要支撑。

在20世纪50年代末，美国军方的共识是，其指挥与控制系统不能满足日益复杂和快速多变的军事环境下快速决策的紧迫需求，1961 年肯尼迪总统要求军队改善指挥与控制系统。在该国防安全重大问题提出以后，国防部指派DARPA 负责此项目。为此DARPA 成立了信息处理技术办公室，并邀请麻省理工学院约瑟夫•利克莱德（J.C.R. ）教授出任首任主任。虽然是军方的迫切需要和总统钦定的问题，但是DARPA 没有陷入军种的眼前需求和具体问题，而是基于利克莱德提出“人机共生”的思想，认为人机交互是指挥与控制问题本质，并就此开展长期、持续的研究工作。此后，IPTO 遵循着利克莱德的思想逐渐开辟出计算机科学与信息处理技术方面的很多新领域，培育出ArpaNet 等划时代颠覆性技术，产生了深远的影响，直至今天。

博弈智能化不是无人化也不是自主化。自主化指自己作主，不受别人支配程度；无人化是指能在无人操作和辅助的情况下自动完成预定的全部操作任务的程度；而 博弈智能主要是实现更高价的觉、察并实施诈和反诈，是人机环境系统融合的深度态势感知，是人机融合的“钢”（装备） + “气”（精神）。

当前，许多人认为 博弈智能就是博弈 +AI ，还有人认为 博弈智能就是自主系统或者无人系统，大都是没有认清对抗博弈的实质使然。另外一个需要警惕的 博弈智能问题是：单纯机器计算的越精细、越准确、越快速，危险性越大，因为对手可以隐真示假、造势欺骗、以真乱假，有时候系统越强越脆弱，所以有专家参与的人机融合 博弈智能相对显得更重要、更迫切、更有效。

3. 人机融合智能

人、机、环境系统之间的相互作用产生了智能，这不仅是一个科学问题，也包含非科学部分的研究（如人文艺术、哲学宗教），其中，人是复杂系统，机是相对简单的系统，环境的涨落变化非常大，所以我们研究的人机环境系统既有“确定性”，又有“随机性”，就成为“复杂的巨系统”。钱学森先生认为针对“复杂的巨系统”人类目前还没有找到解决的一般原理和方法，人机融合系统的深度态势感知理论可能就是一种有益的尝试。

有人说：没有经过人机融合合作训练过的智能系统就是弱智系统。这句话的背后隐含着这样一个事实：当前，人与机是不同的，而且，两者之间是失调、失配的。其实，人机的职责分别在于准度和精度，准度涉及方向，精度关联过程。机器具有功能，产生不了能力，所以处理不了有意义有价值的联系，也没有形成默会的知识和常识。人与人沟通时，不说出的事物常常更重要，人机交互时则不然，主要是机器不了解这些潜在的前提和线索，只好左顾右盼，插浑打科，所聊非所聊，所答非所问，就像现在的聊天、问答机器人一样，没有主体性与客体性之间的理解揣摩，没有博弈性语言学，也没有主体间一对一的语义出现，只能够陈述有限的事实，不能够判断无限的价值。总之，人机中的时空、逻辑机制不一致是引发融合困难的关键，人机融合智能的瓶颈还是如何实现有理、有利、有节的节奏和韵律。

人机融合智能系统是一个资源调度中心，一个供给侧资源调度员，将人的湿件与机器的硬件、软件匹配起来，在任务环境中进行资源的分配和控制。就如同一个单位指挥调度机构，使得人、物、环境发挥更高的工效。即使同一个人在不同阶段的逻辑也不一定完全一致，机器最好能够在人犯糊涂时进行辅助矫正。人机系统要想充分发挥功能，就需要有相应各件的支持与配合。只有进行软硬湿结合，软件硬化，硬件软化，机件人化，人件机化才能最大程度发挥人机系统资源调度的作用，这就是适配性的问题。人的智能在于事前的无数据，机器的智能在于事后的有数据，而数据的价值和意义是由人确定的，所以是可变的，所以有机无人的数据是注定无用的。智能是一种虚实融合的非物质体，有实构，也有虚构，其中“非存在的有”就是虚构的重要组成成分。就像摄影、体育、科研、生活一样……这种“非存在的有”可以或诱发或唤醒出某种某程度理解之外的理解，并通过认知迁移、旋转变异出意料之外，进而形成一系列新的感、觉、受、动、察、知……

如果把人和机的智能都看成若干智能单元构成，那么人机融合则看成智能单元之间的交换，交换通畅无碍趋于稳定，则会形成稳定的融合价。需要强调的是，人、机的智能单元不同，人的是认知智能单元，机的是计算智能单元，认知包括感性和理性，计算主要与理性有关。认知是真实世界的反映表征，计算是符号系统的仿真模拟，而所有的仿真模拟都是近似的。如何把主客观有机统一起来，这就需要更深层次的探索和思考。

主观和意识都是一种心理性存在，而不是常规意义上的物理性存在，尽管它们依托在了动物物理性存在的高级形式——生理性存在平台上存在。但是，它们终究是存在，而不是非存在。人们通过使用它们不仅可以解释说明世界，而且还可以构建改变世界。所有的科学技术、宗教信仰、人文艺术都是通过这种心理性存在与各种物理性存在相互作用而衍生出来的。机器中的软件和硬件本身就是物理性存在，是为了被使用而存在着；而人及其智能永远不会为需要它的东西现存着，它被并入了利用它的系统存在者之中。机器总是具备某种功能，是If …then …do ；而人是具有某种能力，是For …then …do 。如果智能拥有做什么的能力，首先是因为人拥有能力。机器可用于制造，是being ，但机器本身不存在去制造的冲动，机器绝不可能先行把自己置于制造之中。与此不同，能力是“为了……”的能力，是should ，能力本身引导它做什么、如何做，能力自己把自身置于自己之所为。

故而能力提供了理解人及其智能的新思路。为什么会产生人的智能? 因为人的能力只有借助于智能才能实现；人为什么会有能力? 因为人在世界中的存在是通过人的智能实现的。机器只能在某一场景环境中执行功能，但永远不能在一个情境世界之内生成能力，而人可以。在情境世界中人们可以感知到一种“内在关系”，该关系存在于图画和一些对象之间，而非概念和概念之间。无论这种“内在关系”存在于语词、对象还是概念之间，它都不能简单地被还原为视觉性质，它超越了视觉等“感觉”的状态空间范畴，形成了联想等“知觉”趋势特征向量空间。

机器只能在某一场景环境中执行功能，但永远不能在一个情境世界之内生成能力，而人可以。在情境世界中人们可以感知到一种“内在关系”，该关系存在于图画和一些对象之间，而非概念和概念之间。无论这种“内在关系”存在于语词、对象还是概念之间，它都不能简单地被还原为视觉性质，它超越了视觉等“感觉”的状态空间范畴，形成了联想等“知觉”趋势特征向量空间。如图1 中展示的是“鸭头”或“兔头”？

图 1

在人机融合过程中，这些问题将会变得很重要：怎样进行人机功能分配？人机何时何处何方式进行何分配？当人、机速度不匹配时，以人速为准较好还是以机速为准较好？人机怎样融合学习？人机怎样融合理解？人机怎样融合决策？人机怎样融合推理？人机怎样融合感知？人机怎样融合意图？数据、信息、知识、智能、智慧之间究竟是如何相互作用并转化的？

算法的实质是建立在计算逻辑基础上的理性思维，缺少非事实或反事实想象过程，即面向事实中对象、属性、关系不断变换调整的认知动态过程。显性的（明）态势感知常常是可以计算的，隐性的（暗）态势感知往往很难形成算法，但是可以被认知的，事实上，在许多态势下，认知的价值（角度）可以改变计算的事实。

因果关系，除了有事实上的，应该还有价值上的！当前，语言（包括形式化符号语言）的作用被无限化了，比如人们虚构了所谓的自我意识这一概念，自我就是（个性）经历，意识就是（群体）经验。实际上，真实的知识、概念、意识不是来源于语言，而是人、物、环境之间的交互，语言就是一个工具，就像科学技术、人工智能一样，它们促进了人类的进步，也束缚着文明的进一步发展，所以人类的语言会有不断的突破和发展。

形式化的逻辑与意向性的逻辑不同，一个是being逻辑，一个是should逻辑，类比就是尝试把两张逻辑统一起来，而且should的“逻辑”常常是being的非逻辑。人机融合智能本质上就是处理这两种“逻辑”协同问题。即如何建立形式化计算+意向性算计混合模型。

4. 深度态势感知

深度态势感知在态势感知的概念里，“势”相对比较重要，如何从各种各样的状态变量空间里及时准确地推出“势”来，是众多智能领域研究者们梦寐以求的一件事，“有态无势”的评价结论实在是令人难以接受了! 针对这个跨越，有人用跨越神经科学与神学的界限之难都不为过。其实这与大多数人的学科背景有关：偏理工少人情世故！状态空间常常与客观事实有关，但大势所趋往往与主观价值相连，比如塞翁失马是态，焉知祸福则是势。也许态、势之间的转换不仅涉及归纳与演绎，而且还可能隐藏着主客观之间的类比关系。罗素曾这样来表述类比论证，“抽象的表述看来是这样的：我们由观察我们自己知道一种‘A 引起B ’形式的因果规律，其中A 是一种‘思想’，而B 是一个物理事件。我们有时观察到某种B 却不能观察到任何A ，我们于是推断出一个A ”（注：Rosenthal 编：《心之性质》，英国牛津大学出版社1991 年版，第90 页。）。反之呢？如果A 是一种‘物理’，而B 是一个心理事件……生活中，这些心物理转化的类比比比皆是：刻舟求剑、盲人摸象、望梅止渴、守株待兔等等。哈耶克曾说，“我们的结论必定是，对我们来说心智必然永远停留在物自体王国，在那里我们只能通过直接经验了解它，而永远不能完全解释或‘引申’到其它地方。即使我们可能知道我们经验的那种精神事件能够被运转自然其它部分的同样力量所生成，我们永远不能说，哪种特定的现实事件‘对应于’某一特定的精神事件。”于是，人类不可能完全认识这个宇宙及其各种事物。结论与康德类似，但用的是哈耶克自己的逻辑。他后来的经典概念就是：“理性不及”。司马贺（西蒙）也曾用“有限的理性”去解释正常的经济活动。尤其是用理性化方法去模拟仿真真实的人机环境系统，并且缺乏感性方面的辅助和引导，就像失去了语气和语用后的人类语言只剩下干巴巴的语法一样。

在态势感知中，态就像是符合各种逻辑的语法，而势更符合非逻辑的语义和语用。由态向势的转换，实质上就是由逻辑向非逻辑的转换，就是由客观实际向主观价值的转换。也是西方哲学中讨论的一个热点：他人何在（在我的意识中，还是在之外），亦即英美分析哲学主要关心的是他人之心的认知问题，简称他心问题，也就是我们怎样知道除我们自己之外存在着具有思想、感情和其他心理属性的人的问题。事物以数据、信息、知识方式进入主体，意义是主体基于经验对事、物的关系反应，给人们产生出各种关系模型和非关系框架，并以"情感->价值+事实->意义"模式来整合认知世界的过程，其结果表现为通情达理或实事求是，这也是从状态空间（内外）产生出趋势目的的过程。对这种意义关系变化的理解有两个维度。一个维度，凸显的客观的真实性，用“态势”一词。一个维度，强调的主观的意向性，用“势态”一词。

5. 结束语

在西方伦理学界一般认为伦理学的基本问题有两个基准：一个是我们应该如何行动？另一个是我们应该成为什么样的人？前者以行为为中心，属于规范伦理学研究范畴，也是休谟之问的should 问题；后者以行为者为中心，属于美德伦理学研究范畴，也是休谟之问的being 问题。这与智能生成的基本问题：“事实与价值能否相符”是一致的。

智能的生成将涉及到主观目的与行为动机，并与情境中的客观事实变化密切相关。产生智能不仅需要形式化的计算，更需要意识性的类比。掌握事实性与价值性的因果关系，深研人机融合智能，开展深度态势感知，将是智能研究的重大突破。

——END——

苇草智酷简介——

苇草智酷（全称：北京苇草智酷科技文化有限公司）是一家思想者社群组织。通过各种形式的沙龙、对话、培训、丛书编撰、论坛合作、专题咨询、音视频内容生产、国内外学术交流活动，以及每年一度的互联网思想者大会，苇草智酷致力于广泛联系和连接科技前沿、应用实践、艺术人文等领域的学术团体和个人，促成更多有意愿、有能力、有造诣的同道成为智酷社区的成员，共同交流思想，启迪智慧，重塑认知。

苇草智酷好文推荐