唐映红：《西部世界》最大问号浮现

文 | 唐映红

果不其然，今年度HBO的热播剧《西部世界》（West World）终于在本周第8集中达到高潮。从一开始的机器人觉醒，到中段的公司政治与阴谋，到上一周就显示出编剧的野心决不仅仅是落入窠臼的烂熟主题，更是要探讨人类与类人的心理和伦理界限。

《西部世界》是一部根据1973年的同名影片改编的科幻剧集。剧集设定了一个供游人深度体验的机器人乐园“西部世界”，时间线设定在乐园开张的35年后。与第一代机器人完全由线路、零件构成不同，新一代的机器人与人类几乎没有什么分别，是由某种仿肌肉纤维精密编织制造的。有意思的是，这是第二次根据同一影片改编的剧集，在大约35年前的1980年也曾改编拍摄过《超越西部世界》（Beyond West World）的失败剧集。

▲ 《西部世界》剧照

随着人工智能技术的发展，以及人类对智能（Intelligence）的认识不断深入，《西部世界》剧集基本上反映了近20年来美国编剧对于人类与人工智能想象的集大成。剧集中的绝大多数重要设定都曾经在其他影片或剧集中表现过。

例如，关于删除机器人记忆，然后令其“死后复活”。这个设定并不是《西部世界》首创，早在2000年的影片《第六日》(The 6th Day)中，就有了类似的情节设定。在《第六日》中，一个人被杀死了，可以通过将事先存储下来的记忆灌入新的克隆人体中，那么这个人将如同复活一样地延续死者一直的人格和生活。

再例如，剧集中梅芙（Meave）和多洛蕊丝（Dolores）的觉醒和试图逃离人类的控制，也在去年的影片《机械姬》（Ex Machina）中有过精彩的演绎。

即使是剧集目前表现出来的主题线，人类与类人人工智能体的伦理关系问题，近20年来也被反复地探讨和表达。2001年的《人工智能》（Artificial Intelligence: AI）中，机器人宠物马丁如同匹诺曹一样渴望像真正的小男孩一样得到妈妈的爱；1999年的《机器管家》（Bicentennial Man）中的主角，一个机器人管家爱上女主人，并且采取改装方式让自己能像人类一样衰老、死亡，并最终获得法律承认的“人类”的身份。至于从1995年日本的动画剧集《攻壳机动队》（Ghost in the Shell）到龌龊司机（其实是沃卓斯基）兄弟（姐弟、姐妹）的《黑客帝国》（The Matrix），更是从反向探讨了人类在人工智能面前的彻底异化。

▲ 《西部世界》剧照

《西部世界》比此前出现过的任何一部科幻影片或剧集更加简单和粗暴。剧集里面的那些机器人接待员与人类之间几乎完全相似，人类所有的一切特质，机器人接待员也全都具有。不仅外在物质形式与人类的血肉之躯几无差异，受伤后会流血，会死亡，会痛苦；更重要的是，机器人拥有与人类一样的情感，兴奋、沮丧、骄傲、爱、自尊，等等。

如果说那些类人的机器人接待员与人类游客有什么分别，无非是机器人接待员的所有特质是受到工作人员操控的，可以通过遥控面板进行设置。每天机器人接待员按照事先设定好的“剧本”演绎各种角色，在人类游客面前互动、挑逗、互相残杀；然后被回收，清理、修补、删除记忆，然后又重新投入到循环的剧情需要中。不同角色的机器人接待员分别承担着不同的社会角色，警长、匪徒、妓女、酒保、路人，等等。

如果仅仅如此，那么“西部世界”的各种类人机器人接待员，不过是高度仿真的人工智能工具罢了。那些与人类高度相似的行为模式，不过是由不同的参数值控制刺激-反应模式。愤怒是由一个或一组参数值控制下的外显行为，包括表情、动作、言语以及与环境的互动反应；情欲也是由另一个或一组参数值控制下的，与环境高度互动的刺激-反应行为模式。从这个意义上说，机器人接待员们从设计和功能使用上就是供人类娱乐的未来版智能充气娃娃。

可是，从另一个意义上来看，人类的各种行为模式的心理和生理机制，本质上也是由一组复杂的参数值控制和支配下的外显行为，包括表情、动作、言语、感受以及与环境的互动反应是主要由睾丸酮以及血清素支配和影响下的一系列复杂行为反应，当然不仅仅是简单的刺激-反应模式。情欲也是由这些生化物质，睾丸酮、多巴胺、肾上腺素等等复杂作用的结果。与机器人接待员受到程序所设定的角色和各种参数的限制类似，人类也受到由基因决定的种种限制。

▲ 《西部世界》剧照

从上面两段的表述中可见一个高度智能和精密的机器人与人类之间，只差了一个“感受”。从一个人类观察者的角度，我们无法辨析未来版智能充气娃娃的“感受”到底如何，可以观察、体验的所有信息全部都是外显的行为反应。而我们自己很清楚自己的“感受”，这是构成自我觉知，自我意识的心理基础。

《西部世界》里的各种类人机器人接待员却有着自己丰富的感受，它们知道自己在干什么。这很重要。当人类所有的特质都能在那些机器人接待员身上反映出来，而且它们有着与人类一样的自我觉知以及自我意识，那么至少从伦理上他们，而不是它们，与人类之间的界限就会变得模糊起来。

在罗宾·威廉姆斯主演的《机器管家》里，机器人安德鲁原本设计出来只是一个提供家庭陪侍服务的高级机器人，能够从与人类的互动中学习，能够体会人类的情感并做出恰当和适宜的反应，分享人类的快乐，分担人类的痛苦。不过，这些都只是具有高度复杂和精密的刺激-反应模块，并不包含“感受”。直到有一天，安德鲁被一名疯狂的科学家安装了“感受”模块，从此他，而不是它，就能感受到爱、嫉妒、思念等等人类情感。影片最后通过人类法院的判决，安德鲁是一名“人”，而不是“机器人”；他得以与相爱的人厮守相伴，并在垂垂老矣后最终幸福地死去。

《西部世界》剧集超越了三四十年前最初的电影以及剧集，并有望成为年度热门剧集的地方就在于，从本季第一集开始，《西部世界》里的个别机器人接待员就开始了质疑，开始探究“我”到底是谁？“我”从何而来又将往哪里去？“我”置身的世界又是怎么回事？而到了本周第八集，剧集里面的机器人就已经不仅仅是游戏场景中供游人娱乐的接待员，而包括了整个公司中的高级管理人员，首席程序员。

在前面的情节演绎中，没有任何蛛丝马迹反映了首席程序员伯纳（Bernard）是一个机器人。他的同事一无所知，包括与他有过私情的同事；他自己也一无所知，他一直认为并且深信不疑自己是人类；观众也被蒙在鼓里。他就是“人类”，他记忆中的妻子、家庭生活、死去的孩子；他的感受如此真切，对女同事的爱情，对孩子的思念。

伯纳与剧集中其他“觉醒”的机器人接待员不同，他完全就生活在人类之中，不露任何痕迹。而事实上他与其他的机器人接待员又没有本质的不同，不过是所设定的程序性能参数更加高能，也更加精密。另一名“觉醒”的机器人接待员梅芙也发现控制和限制自己能力表现的只是可以设定、修改的程序性能参数，并且在“人类”工作人员的协助下修改、提升了自己的性能参数。可以对比的是，人类目前已经初步掌握可以通过修改基因来提升胚胎各种特质、性能的技术，在1997年美国影片《千钧一刻》（Gattaca）中已经有过探讨。

当意识到自己只不过是一名与接待员没有本质区别的机器人时，伯纳感到困惑，他能够理解自己是由一堆程序代码所构成，但却不能理解自己的感受。伯纳质问“西部世界”的创始人福特：“我的痛苦与你的痛苦有什么差别？”

福特说“我一直觉得答案很明显。并没有界限让我们超越零件的组成，或某个点让我们成为真正活着。我们无法界定意识，意味着意识并不存在。人类自以为我们知觉世界的方式很特别，但我们活在循环中，如接待员一样禁闭与封闭，很少质疑我们的选择，满足于听天由命。我的朋友，你完全没有缺少什么，我不希望你因此而困扰。”

▲ 《西部世界》剧照

细思恐极。我不会意外接下来有更多的“人类”角色在剧集中被设定为其实是机器人，包括福特。事实上，这也是《西部世界》不仅仅是一部肤浅娱乐剧集之所在。人类与类人智能体之间或许并没有逻辑上自洽的清晰界限。当剧集中的机器人开始质疑，他们开始具有人性；而生活中有太多的人不会质疑，他们与充气娃娃又有多少分别？

原标题：我的痛苦与你的痛苦有什么差别

【作者简介】

唐映红 | 腾讯·大家专栏作者，高校心理学教师。

【精华推荐】

 ·END· 

大家 ∣ 思想流经之地

 微信ID：ipress 

洞见 · 价值 · 美感

※本微信号内容均为腾讯《大家》独家稿件，未经授权转载将追究法律责任，版权合作请联系[e-mail]