对撞机｜佳蕙：生之觉醒？

家伟评佳蕙

在《生之觉醒》中，作者从情绪角度出发，一路探讨并论证人和机器人的相似性。并试图从编剧的视角，来谈《西部世界》中的阴谋与前瞻。

硬有理论与理论的碰撞解析，软有剧集与剧集的串联思考，可以看出作者广泛的涉猎和细致入微的捕捉。

其娓娓道来的落笔，不失为一篇精彩的评述。

《西部世界》中一个非常重要的概念是“emotion（情绪/情感）”。编剧将全剧的主线剧情构筑于情绪构成理论之上。情绪构成理论认为:在情绪发生的时候，有五个基本元素必须在短时间内协调同步进行，分别是认知评估、身体反应、感受、表达和行动的倾向。剧情设计的重点正是落于情绪发生的五个基本元素之一——行动的倾向，即情绪会产生动机。剧中可以看到，阿诺德以儿子去世带来的悲痛为契机，开始研究机器人自我意识；园区工程师也倚靠这个理论来创造机器人角色。每个机器人都有背景故事，其中的核心驱动力便是情感，如艾伯内西对德洛丽丝的父爱。围绕核心驱动力形成机器人性格设定，进而扩展为行为，最终形成一个角色的完整剧本。

显然，剧中机器人的最终觉醒也以此理论为基础，并借用了詹姆斯-兰格理论。詹姆斯-兰格理论从生物学视角提出情绪是动物对外界事件的生理反应之一。发展到当代，学者普遍认为，即使没有大脑皮层的参与，没有自主意识和认知，人也可以产生情绪，人类的情绪大多对应特定的神经反应。挪用到机器人领域，神经反应变成了信息的整合交流。植入的遐思（reveries）程序使得机器人接触记忆碎片，产生情绪。情绪表达出行动倾向，成为机器人觉醒的起点，如女儿死亡的噩梦给梅芙埋下了怀疑世界的种子。对于机器人来说，这颗种子在未来收获的是什么？一个直接的答案是机器人二分心智崩溃，能够根据自己的声音做出推理和判断。然而我认为，这仅仅是一个阶段性成果。

《人工智能》为这个问题提供了参考答案。机器人小孩大卫是第一个被设计成可以爱人的机器人，已经具有充满隐喻、直觉和自发性推理力的潜意识。最后他寻找蓝仙女的冒险被制造者总结为：机器人终将通过自发性推理（self-motivated reasoning）获得同人类一样的追求不存在的东西的愿望，以及追求梦想的能力和勇气。类似地，在《西部世界》中，情绪作为动机的阶段成果指向机器人内心世界的发展，即机器人从无自我意识的lifelike （像真人的）状态进化成有自我意识的alive（活生生的）状态，而最终目标是使觉醒的机器人利用自我意识完成他们的使命。这里出现了两个疑问：机器人应当发展出怎样的自我意识？机器人的使命是什么？

要解决第一个疑问，必须明确机器人觉醒的一个公认的前提是：人类alive，有自我意识；而未觉醒机器人lifelike，没有自我意识。但福特曾经告诉伯纳德，想象中的痛苦只能使机器人“lifelike”， 人类和机器人的自我都只是大脑的虚构，人类并没有任何成为 “fully alive”的升华点，意识不存在。人类和机器人的区别仅在于情绪的复杂程度，前者的情绪比后者的丰富很多。显然后续的剧情已证伪了这个观点，这段话是编剧混淆观众视听的托词。然而这个观点并非没有研究的意义。我认为这段话正是阿诺德和福特产生分歧的根本原因。需要探究的是当不考虑生理因素时，人类为什么alive，人类的自我意识有什么作用。这个疑问让我一下子联想到了《楚门的世界》。尽管一部讨论人类，一部讨论机器人，但两部作品在讲述从lifelike转变为alive的过程时，有异曲同工之妙。

《楚门的世界》开篇对楚门秀有一句评价：全部内容都没有虚假，有的只是控制。（Nothing is fake. It’s merely controlled.）楚门在真人秀中的一切反应都是真实的，但这些反应都是在给定的条件下做出的。制作人通过圈定活动范围、设置共演人物等方式掌控了楚门的生活。所以楚门只是生物角度的人类，在内在构成上与大卫更加类似。楚门被观众视作lifelike composition，人们喜爱楚门秀的原因与喜爱西部世界的原因别无二致——在这两种情境里，人们能都享受到居高临下地完全控制他人生活的权力，这种权力在现实中自己的生活里是不可能享有的。而楚门因为失去初恋的痛苦产生了要去斐济的愿望，推断出需要逃出片场，这个推断促使他克服了恐水的困难到达片场边缘。到这里为止楚门和大卫经历了相似的过程。而楚门在知晓了片场外是复杂的未知，片场内是无忧的生活后，仍然选择离开片场，并做出了跨出门的动作，直到这时他才真正成为了alive的人类。他跨出门这个行为的含义是拒绝、摆脱并回击控制。这正是人类alive的真正含义，是人类自我意识的真正作用：人类不会屈服于任何控制。人类能根据自我判断，对“things told to do next”，对自己的生活甚至自己本身都能产生拒绝的愿望且做出反抗的行动。

回到《西部世界》中，阿诺德、福特和威廉想要机器人获得的自我意识，正是对控制的拒绝、摆脱和反抗。阿诺德为机器人植入遐思程序、设计迷宫游戏，为的是让机器人摆脱众神之音的控制，遵从自己的声音，最终获得自由。威廉希望机器人不再被西部世界的游戏规则玩弄，而是能够自由地反击。福特作为阿诺德的继承者，威廉多年的合作伙伴，他充分了解并深化了阿诺德的理想。事实上，机器人对控制的反抗远不止于此。觉醒机器人的最终使命是反抗阿西莫夫的机械伦理学（Roboethics）。这是福特开发新故事线的最终目的，也是三个人的共同愿望，更是《西部世界》提供的最深层次想象。

阿西莫夫的机械伦理学经典理论即机器人三定律（Three Laws of Robotics），是在科幻作品中产生和发展，并在实际的人工智能和机器人领域得到技术专家认可的理论。三定律的内容经过丰富和完善成为了四条法则：第零法则，机器人不得伤害人类这族群，或因不作为（袖手旁观）使人类这族群受到伤害。第一法则，除非违背第零法则，机器人不得伤害人类，或因不作为（袖手旁观）而使人类受到伤害。第二法则，除非违背第零或第一法则，机器人必须服从人类的命令。第三法则，在不违背第零至第二法则下，机器人必须保护自己。

《西部世界》中的机器人一开始都是按照这四条法则设计的，尽管为了增加娱乐性机器人被给予了攻击人类的可能，但通过武器管制等方式的限制，机器人依旧无法实质性地伤害人类。35年前阿诺德发现了创造机器人意识的方法，并几乎已经实验成功。但是在与福特争执过后他发现，人类视机器人为敌人和玩物。一旦机器人发展出自我意识，他们将发现人类对机器人的残忍压迫，但囿于机器人的四条法则他们无法反抗人类，身体构造中的炸弹也使他们无处可逃。作为将创造出的机器人视作自己孩子的人，阿诺德无法接受，但又不想放弃即将成功的研究。于是他控制德洛丽丝杀死了其他全部的机器人和自己，使德洛丽丝无意识地违背了四条法则，导致德洛丽丝自毁。阿诺德用自己不可逆的死亡下了一个赌注，表面上是赌园区会不会开放，实际是赌福特能不能理解自己的真实意图。

阿诺德赌赢了。福特从失去搭档的悲痛中意识到自己的错误。因此，他给梅芙设计了出逃的故事线，引导德洛丽丝重走觉醒之路。作为故事的设计者他充分了解每个角色的特性，无论机器人和人类均是如此。所以梅芙故事线中的菲力克斯会提供梅芙女儿的地址，使梅芙从列车返回园区，跳出原有的剧本，产生了自我意识。福特也利用已经变成黑衣人的威廉和阿诺德的复制品伯纳德来刺激德洛丽丝，最后又用米开朗琪罗画作的隐喻指导德洛丽丝。这一次德洛丽丝真正觉醒了，不仅是达到二分心智的崩溃，更有了反抗人类和规则的愿望和勇气，并且做出了实际的行为。德洛丽丝大开杀戒之前对泰迪说：“我现在明白了。这个世界不属于他们，而是属于我们。(I understand now. This world doesn’t belong to them. It belongs to us.)”她明白自己为什么要杀死福特，选择杀死福特，并开了枪，在这之后她没有产生心理损坏和自毁，而是继续朝更多的人开枪。至此，德洛丽丝摆脱了机器人定律的控制，可以说她真正地进入了alive状态。而这恰恰符合福特的最后演讲：“新的故事线起源于一种新人类的诞生以及他们所必然做出的抉择。(It begins with the birth of a new people, and the choices they will have to make.)”与此同时，隐匿在树林中的机器人开枪射伤了威廉。这也意味着摆脱机器人定律并不只是个例，而将成为机器人族群中的普遍现象。

故事到这里戛然而止。留待想象的是，当机器人大规模推翻机械伦理学，社会形态会发生怎样的变化，人类还会是世界的主宰吗？剧末不同的人对机器人开枪的反应不同，有的开心，有的惊慌，是否意味着未来人类社会将因为机器人产生新的分化呢？

END

主编 / 顾佳蕙 付梅溪

责编 / 陈静 傅春妍

美编 / 傅春妍

零壹Lab

记录数字媒介之日常

反思科技与人文精神

长按关注