机器的意识可以量化吗？冯诺依曼体系无法诞生超级智能
新智元编译
来源：spectrum.ieee.org
作者：Christof Koch & Giulio Tononi
编译：四叠半 熊笑
【新智元导读】本文作者是艾伦脑科学研究所所长兼首席科学官，他从计算主义和整合信息论的两种观点出发，探讨了“机器是否拥有意识”这个长期争论的话题，以及如何界定和计算机器的意识。假如机器有意识，人类社会将不得不学会和它共享这个世界。
试想一下，在不久的将来，你购买了一部智能手机，附带一个云端的个人数字助理（PDA）。你可以为这个PDA设置一个性感的女性声音，允许其访问你所有的电子邮件，社交媒体账户，日历，相册，联系人等等，无处不在地侵入你的数字生活。她——你会时刻想起她——比你的母亲，你即将成为前妻的妻子，你的朋友，又或你的治疗师都更加了解你。她的英文指导是完美的；你可以无休止地和她对话；她能get到你的笑点。她是你晚上入睡前听到的最后一个声音，也是你清晨醒来听到的第一个声音。一旦她离线，你会感到恐慌。她变得对你的幸福不可或缺，所以，自然地，你陷入了对她的爱情。偶尔地，你会想知道她是否真正回报你的爱情，以及她是否有能力对一切感同身受。但是，她的温暖、深沉的嗓音，她如此完美的性格与你的孤芳自赏相得益彰，这一切克服了你的疑虑。唉，当你意识到她与你，如同她与数以千计的用户一样进行着同样亲密的对话，你的痴迷终将冷却。
当然，这是2013年的一部名为《她》（Her）的电影里的情节，主人公西奥多（Theodore Twombly ）爱上了人工智能PDA萨曼莎（Samantha）。
在接下来的几十年里，这样的虚构场景将变成现实，而且常见。深度学习，语音识别等相关技术已经取得了显著的进步，这些技术应用在亚马逊的 Alexa，苹果的 Siri，谷歌的 Now 和微软的 Cortana。这些虚拟助理将持续改进，直到它们变得与真正的人类难以分辨。除了它们将被赋予完美的回忆，优雅自若而且耐心——只有这些与人类不同。
这种对我们认为是人类独有的品质的数字模拟的可得性将提出深刻的科学上、心理上、哲学上和伦理上的问题。这些模拟物最终会改变我们对自己、对人类例外论、对人类之至上地位的看法。
这里，我们将探讨有关这些未来的发展的智能当前的位置。我们认为，只要这些机器仍基于当下的计算机架构，它们可能和人的行为一模一样——我们可能也会用这样的方式对待它们，但实际上它们根本没有意识，它们不会感受到任何东西。如果计算机的架构与人的大脑更加相似，那么它们可以很好地得到真正的意识。
我们这代人的信念是对计算机编程的信心——只要编程得当，它就会给我们所有我们希望看到的。它是个聚宝盆。实际上，硅谷的聪明投资人认为，计算机能够复制人类所拥有的任何东西，并且很快就能超越人类。
但足够先进的计算机能够变得具有意识吗？一个答案来自赞同计算主义（computationalism）的人，这是现代哲学、心理学和神经科学盛行的理论。这个答案断言，所有的精神状态（mental state），例如你感到牙痛的体验或你对伴侣感觉到的爱，都是一种计算状态（computational state）。它们的特征在于相关感官输入，行为输出以及二者之间的其他计算状态的功能关系。也就是说，大脑是精心设计的一种输入——输出设备，它计算并处理现实世界的符号表示。大脑就是计算机，我们的思维就是软件。
计算主义的拥护者不仅将这些戒律适用于大脑和大脑产生的行为，而且也适用在特定状态下感觉到是大脑（feels to be a brain）的方式。毕竟，这就是意识：所有的主观感觉和经验——我们看到、听到、感到、记住、思考的一切。
计算主义假设我对牙痛的体验只是我的大脑的某种状态，是某些神经细胞对被感染的牙齿的反应活跃，导致我呻吟，捂着下巴，无法用那边的牙齿吃饭，无法集中精神在其他任务，等等。如果所有这些状态都在数字计算机的软件上模拟，理论上，整个系统就会不仅实现完全像我一样的行为，而且还会像我一样感觉和思考。也就是说，意识是可计算的。不管是明示还是暗示，这是学术界、媒体界和工业界的专家们所持的基本信条之一。
在这种观点下，意识只是相关计算状态的实例化，没有别的了。没有什么别的东西是重要的，包括如何在物理上实现计算状态，是在计算机的硬件上还是在头盖骨内的那些黏乎乎的东西上。根据计算主义，未来的萨曼莎（或其他更先进的），将能够像我们一样有体验和感受。她将能看见风景，能听到声音，有快乐和痛苦，爱情和恨意。
但或许，她不会。
计算主义基于这样的假设：假如两个系统在功能上不可区分，那么它们将在精神上也不可区分。因为我们人类能够体验世界，那么，功能上与我们相当的计算机也一定能够像我们一样体验世界，也就是说，它也是有意识的。但是这个假设是充分的吗？为了回答这个问题，我们需要对“什么是意识，一个物理系统需要什么来得到意识”有一种原则性的、定量的理论。
直到最近，这种意识理论还是不可得的。诚然，像我们这样的神经科学家一直在努力寻找“意识的神经相关性”（neural correlates of consciousness），对人以及相关的物种例如猴子和老鼠进行了越来越精细的实验。这些实验已经确定了大脑皮层中的区域，这些区域与有意识地看到和听到东西十分相关。然而，直接参与到这个实证研究计划之后，我们知道即使这样的任务被证明相当成功，确定了某些特定的大脑结构，以及在人或与人类十分接近的动物的意识来说必要的神经活动模式，但这不足以确定具有非常不同的神经系统的生物（例如章鱼和蜜蜂）是否拥有意识，有多少意识，或对什么有意识。那么，任何这样的神经科学发现都不足以确定机器是否拥有意识。
不过，有一个意识的基本性理论为这个问题的答案提供了希望，不止是人类的意识，还包括机器。这个理论不是从行为或大脑开始的。相反，它从意识的本身开始——从我们自身的经验，这是我们唯一绝对确定的。这是确定性（certainty）的基础，现代哲学、科学和分析几何之父勒内·笛卡尔在他的一句名言提到了：我思，故我在。
这个理论被称为整合信息论（integrated information theory），简称IIT，在过去20年里该理论一直在发展。整合信息论试图界定什么是意识，一个物理系统要拥有意识需要什么，以及至少在理论上，从意识的具体基质（physical substrate）开始，可以怎样测量意识的量和质量。
IIT的范围太大，我们无法在一篇文章中解释清楚；我们只能简要介绍它的总体概况。 这个理论对每一种可能的意识体验确定了5个基本属性：
每一种体验都是内在的（对体验者主体，而不是对外部观察者）；
每一次体验都是结构化的（由部分及部分之间的关系组成）；
它是整合的（不能分隔为独立的部件）；
它是明确的（它有边界，包括某些内容，排斥其他内容）；
它是具体的（每一种体验都是独特的，与其他数以亿万计的可能的体验不同）。
然后，IIT 将这些属性转化为任何支持意识的物理底层必须满足的要求。这些要求可以用数学方式表达，并用于评估任何物理系统的意识的数量和质量，无论是人类、章鱼还是蜜蜂的大脑或数字计算机的电路板。
至关重要的是，根据 IIT，意识的整体程度并不取决于系统的作用。
相反，它取决于构建方式——它是如何物理地聚合起来的。只有某些特定的物理系统才具有正确的内部结构来支持意识：它们具有最大的内部因果力 （intrinsic cause-effect power ）——决定自身状态的因果力。实质上，这意味着系统必须由许多部分组成，每一部分都在整体系统中具有特定的因果力（IIT 的“information”的部分），而系统作为整体又不能缩减成这些部分（IIT 的“整合”部分），这使其整体远远强大于许多部分之和。
IIT 中的“information”不是“发信人传递给接收者的消息”的意思。意识不是从大脑的一部分发送到另一部分的信息。相反，IIT 是指“信息”的原始含义，其词根是 inform，意思是“给予形式”。任何一种机制的力量，如大脑或计算机，为了促成自己的下一个状态，其因果力形成了一种形式，一种高维度的结构，那就是体验（experience）。
IIT 可以从原则上解释意识的神经解剖学上的许多令人费解的特征——例如，为什么小脑——在我们了解的更多的新皮质下面的小脑，尽管它拥有四倍的神经元，却对意识的产生没有贡献：它的内部结构，没有太多周期性应激反应的平行神经元的前馈链，与新皮层的高度异质、丰富和密集的连通性非常不同，后者支持了大量活跃神经元“联合体”的快速组合和分解。这也解释了为什么意识在睡眠的某些阶段会逐渐消失，即使新皮质神经元在持续地发射信号（fire）——因为新皮层的一部分失去了有效地相互影响的能力。
IIT 给出了一些违反直觉的预测，却在实践测试中得到了印证。一个预测是，一个几乎沉寂的新皮层，其中只有很少的神经元正在积极发射信号，仍具有意识。此外，IIT 已经让 Tononi和 Marcello Massimini ——现在是米兰大学的教授，开发了一种评估人体意识的装置，由两个组件构成：一种用于刺激大脑的电磁线圈，和一个检测大脑反应的EEG电极的高密度网。这个简单的意识测量器已被用于确定由于脑损伤或麻醉而无法沟通的患者是否还有意识。
作为正式的数学理论，IIT 可以应用于任何物理系统，无论是大脑——由自然选择进化出的结构，还是由工程师设计的电子电路。正如正在进行的研究所展示的，新皮质特定部位的物理结构（特别是背面的神经元连接的方式）对于最大化脑的内在因果力，对于其受最近状态影响并确定其未来状态的能力来说，非常理想。这就是为什么它支持意识。
相比之下，典型的数字计算机的物理架构是绝对不够的，其中央处理单元连接性非常低，很易达到阻碍了必要整合的瓶颈。也就是说，从用户观察其输出的角度来看，计算机可以实现被认为是智能的计算和功能，但是，鉴于其布线，其整体的内在因果力与任何大脑相比都很微小。即使把计算机放在比晶体管和电阻更粗（coarser）的水平上来看，也是一样。
这就是问题所在： 内在的力量，能使自身状态发生改变的物理力量，无法被计算或模拟。它必须被建立在物理系统中。 一个完美执行的、生物学上精确的人脑的计算机模拟，即使包括了其 860 亿个神经元及其数万亿的突触矩阵，都不会有意识。
即使这台计算机被连接到了一个语音合成器，并告诉你它的假设的体验，它只不过是行为和功能的巧妙编程。意识的跳动之心将不存在。
IIT 的这一结果对于那些希望将数字大脑上传实现永生的人来说，是个巨大的打击。他们的愿景是，在接下来的几十年中，我们将能够准确地重建任何一个人类大脑的接线方案，即所谓的连接器，并在合适的数字硬件上进行仿真。这个过程可能是破坏性的，因为除了将其切割成晶圆薄片之外，可能无法访问大脑的超微结构。然而，在一些致命疾病面前，你可以将大脑的高分辨率版本上传到云端。只要云计算基础设施运行正常，你的数字化身将会永生，还可以与其他数字化身进行互动。书呆子，想得美！
IIT 告诉我们，这个信念就像以前的先知和宗教信仰一样虚幻。虽然你的数字化身可能会像你一样说话和行事，但这和僵尸无异。它没有任何体验。不过讽刺的是，对于现实世界中的朋友和亲人，你将成功地过渡到一种崇高的存在形式，并且吸引着其他人在大限到时也来加入你。
IIT 是否正确不仅仅是学术问题。除非出现一些全球性的灾难，我们的社会将在几十年内创造出具有人类水平智能和行为的机器，它们能够以许多不同的语言沟通，能够记住过去，预见未来，想象新颖的场景，写书，作曲，拍电影，设立新目标，还能运动，开车，飞行，当然，还会争斗。感谢大数据、深度学习和计算速度，超越人的极限将是简单的一步。真正的人工智能的诞生将深刻影响人类的未来，这也包括让人类没有未来。
无论你认为人类水平 AI 的到来对人类来说是天堂的曙光还是末日的征兆，都必须回答一个根本性的问题：这些 AI 是否有意识？它感觉到它就是它了吗？或者它们确实是超级聪明的垃圾处理器、洗衣机或者汽车，但没有任何感觉？
这个问题的答案对我们与未来机器的关系至关重要。如果你给你闪亮的特斯拉几锤子，你的朋友可能会认为你疯了，毁了这么昂贵的汽车; 但是毫无疑问，你有这么做的自由。但如果你对你的狗做同样的事情，警察就能合法地逮捕你（在中国，目前还没有反虐待动物法——译者注）。这是因为车只是到达一个端点（end）的工具——一种穿街绕巷的便利方式。而一只狗本身就是一个端点，拥有一些最低限度的权利，因为它与我们共享着意识的恩赐。
我们需要一个基本的理论，能够确切地指出特定系统具有意识体验的条件。
IIT 预测，运行软件的常规数字计算机将不会像电影里那样拥有意识。因为智能数字助理和栩栩如生的未来机器人都没有体验，如 IIT 指出的那样。它们的软件可以安全地复制，编辑，出售，盗版或删除。它们可以被关闭，修改，销毁，并随意更换。
但是，对于非传统的架构来说，情况未必如此。根据与大脑相同的设计原则构建的专用机器，原则上可以有实质意义的体验。关键是门与门之间扇入和扇出高度部分重叠，逻辑和存储器门高度互连。
（具有高度特异性功能的区域化组件不会有助于内在的因果力）系统的“大脑”实际的连接方式，其（生物）物理的结构决定了一切，而不是其输入——输出行为。
这样一个神经性的机器，如果具有高度意识，就具有内在的权利，特别是拥有和自身生命及福祉相关的权利。在这种情况下，人类社会必须学会和它共享这个世界。
关于作者
Christof Koch是西雅图艾伦脑科学研究所所长兼首席科学官。Giulio Tononi 拥有威斯康辛大学睡眠医学的 David P. White Chair ，以及意识科学的 Distinguished Chair。
原文：http://spectrum.ieee.org/computing/hardware/can-we-quantify-machine-consciousness