李玥 | 论伊恩•麦克尤恩《像我这样的机器》中机器形象及人机关系
作者
李玥 德国海德堡大学跨文化日耳曼语文学系博士候选人,卡尔斯鲁厄工业大学德语文学系研究人员(Wissenschaftliche Mitarbeiterin)。主要研究领域为德国18世纪末19世纪初媒介史、观念史、歌德剧场理念及戏剧审美、文学与技术间关系。
(感谢作者授权发布)
本文原载《外国文学动态研究》2021年第3期;注释等在此省略,完整文章请参见刊物或知网。
摘要:通过剖析伊恩·麦克尤恩小说《像我这样的机器》对机器亚当在“学习”过程中的“身体”与“意识”的动态刻画,本文梳理了小说中人机区分在“去身”与“具身”、“有无意识”与“多元意识”间的切换,总结了人机关系超越传统主奴或对抗模式的复杂化趋势,并指出小说虽意在模糊人机边界从后人类视角反讽理性至上的人类中心主义,却未能摆脱机器对人的“模仿游戏”式的书写模式。这一矛盾贯穿小说始终,表现了后人类语境下虚构空间中的欲望与焦虑。
关键词:麦克尤恩、《像我这样的机器》、人机关系、人工智能、后人类、身体
麦克尤恩 (Ian McEwan,1948-)参与设计《像我这样的机器》封面
2019年4月,英国布克奖得主伊恩·麦克尤恩(Ian McEwan,1948— )出版小说《像我这样的机器》(Machines Like Me)。作品虽将背景设定在20世纪80年代的伦敦,却以当前炙手可热的人工智能技术为主题,分三个叙事层面展开讨论:人类观察层面、机器自述层面与图灵技术层面。彼时,非但生产拥有“自我意识”的机器并非难事,就连人机共同生活也成为现实。麦克尤恩一方面刻画机器亚当与恋人查理、米兰达共处一室的生活细节,为读者呈现人与机器之间的复杂关系与矛盾冲突,在日常生活的视角下审视人工智能的本质、人工智能与人类智能的区分、人类与人工智能的共处方式等问题;另一方面又引入“图灵”这一角色,突出其作为人工智能技术的开创者的身份并延长其寿命,借其口道出人工智能技术发展的历程与局限。有趣的是,麦氏笔下的图灵不仅讲述了达特茅斯会议、人机象棋、围棋对战等人工智能发展史上的重大事件,更将其在此过程中对身体、智能、伦理的认识转变娓娓道来。显然,作者并未试图提供唯一固定的答案,而是深入现实生活,在技术、哲学、社会层面上加以开放式讨论。本文以笛卡尔二元论为起点,从人类、机器、技术三个层面分析小说中的机器形象,考察人与机器之间的关系,梳理作者对上述问题的探索。
《像我这样的机器》封面封底
一、模仿游戏:
“去身”与“具身”的身体
在《谈谈方法》(Discours de la Méthode)一书中,笛卡尔借其身心二元范畴阐释人机区分,指出人类身体的物质属性(res extensa),并将其喻为“一台神造的机器”。这种去身的认识论否认心灵的延展性,凸显了身体书写在塑造人机关系中的关键作用,以此为题的文学作品常通过细致刻画机器的个别器官以凸显其非人特征,最具代表性的作品当属霍夫曼(E. T. A. Hoffmann,1776-1822)在《沙人》(Der Sandmann)中对机器奥琳匹娅眼睛的刻画。男主人公纳塔乃尔初遇奥琳匹娅时,并不知其是机器,但纳塔乃尔对其眼睛的观察却暗示了这位“身材匀称,穿得漂亮”的“女士”的反常之处:“她的眼神特别呆滞,我甚至想说,她没有视力,像在睁着眼睡觉。我觉得特别恐惑。”可见,机器类人的身材不仅不能掩盖其非人本质,在其“呆滞”目光的映衬下,反而会引发“恐惑”之感。
同样,《像我这样的机器》对亚当的身体描写也在人类观察层面集中展开,其中眼睛占据最多的篇幅,在麦氏笔下,眼睛似乎依旧是人机区分的重要标准:在与亚当生活一段时间后,远远看到同型号不同性别的机器走来,查理并未立刻察觉其不是人类,而那双“蓝色的带有黑色小细线的眼睛”却成为他辨认亚当的确凿依据。不仅如此,亚当突然断电后尚未合目的体征同样使查理“恐惑”不适,甚至于需要“拿布蒙上他”。
麦克尤恩看似全面继承了霍夫曼的非人身体书写传统,实则恰与其相反:首先,为查理提供了一双与人眼相仿的机器眼睛,其核心并非其不真实性,而是其与亚当眼睛的高度一致性;其次,《沙人》中奥琳匹娅那让人深感恐惑的眼睛,在《像我这样的机器》中仅会在意外情况——突然断电时——引发恐惑。结合《像我这样的机器》与《沙人》的这两点区别,不难理解小说第一章对机器人双眼进行大篇幅刻画的目的:充电过程中,亚当从“闭着眼”,到“眼神空洞,不带任何目的和情感,毫无生机,像商店橱窗里的人体模型”,充满电后,马上与主人公“眼神交汇,闪了又闪,机械似乎开始工作了,但好像有点太过从容不迫(deliberate)了”。机器获得人类生命体征的“慢动作”呈现,实则是文学史层面上机器形象从19世纪霍夫曼的机器人,到20世纪迪克的仿生人,至21世纪麦克尤恩机器在笛卡尔物质(res extensa)范畴内逐渐缩小人机差别的清晰概括。人机首次对视也因此极富隐喻性——亚当那在查理看来“过于从容不迫”的眼神,正显示麦克尤恩在小说开篇力图构建的后人类立场以及机器自信,也解释了小说以“machine(机器)”而非“robot(机器人)”为题,且全篇未用“robot”指代亚当的原因。此外,机器与人类的差别在物质范畴的“动态缩小”实则在开篇即透露出作者对人机关系超越简单的主奴模式,而趋于复杂的塑造尝试。主人公在听到女友与亚当发生性关系后与女友就亚当是人还是性爱玩具的争吵,恰为看似平等实则更为复杂的人机关系提供了有力例证。
《夜曲》首版封面
霍夫曼(E.T.A. Hoffmann,1776-1822)小说《沙人》(Der Sandmann)首次出版收录于小说集《夜曲》(Nachtstücke, 1816)中
除人类观察层面外,机器自述层面以直接引语形式穿插在小说的叙事中:亚当称自己的存在是“笛卡尔的错误”的产物,否认自身身体的存在价值,称其“身体可被升级或替换”。而小说第六、十章中的图灵叙述则沿两条相互矛盾的线索展开:一方面图灵在其对“人”的论述中明确将身心二分,并把身体比作机器,呼应机器对自身身体的认识,并确证了小说的二元理论基础;另一方面小说对图灵的架空事实(counterfactual)的塑造——放弃注射雌激素而选择坐牢,其依据正是图灵对其去身性本体认知的批判反思。更值得注意的是,小说对身体的讨论并未由此走向具身否认去身,而是就此终止,麦氏对笛卡尔二元本体论于文末“既证明又证伪”的做法当然为读者敞开了对二元本体论以及人机区分与人机关系的反思与畅想空间,同时也透露出麦克尤恩在身心二元论主导下刻画多元后人类人机器关系的艰难之处:虚构的图灵倡导人类接受不同材料构成的身体,这表明麦氏似乎在尝试建立海尔斯(N. Katharine Hayles)摆脱“特定身体(the body)”而由“各种不同身体(bodies)”构成的后人类具形/体塑场域。不容忽视的是,海尔斯场域的去标准化,是“嘈杂的差异”中各种“特殊的实例”的产物,是“通过个体进行表达的”,而不仅仅是许多具不同的身体。而小说中机器亚当的身体经验则是基于以人类身体经验为参照的“模仿游戏”:机器与人的性爱体验不仅是男女主人公争吵后“借性浇愁”的体验,也成为触发亚当对女主人爱情的关键一环——这几乎是人类身体经验的典型桥段。显然,亚当的身体实践并未使其获得海尔斯所言的“具现的知识”(embodied knowledge),小说中看似复杂的人机关系实则缺乏机器具身的经验,而未能进入后人类语境,这一点将在小说对机器心灵范畴的塑造中被进一步凸显。
二、机器学习:
“合理”却“不合情”的行为
在现实生活中,笛卡尔在心灵范畴(res cogitans)提出语言及理性(raison)这两点人机差异,而在虚构作品中,机器的语言能力早已远超现实科技水平。早在19世纪,弗兰肯斯坦已能通过学习掌握人类语言。20世纪以降,有关机器的小说也大多以机器能够与人类流利对话为前提。在《像我这样的机器》中,亚当最终也可对答如流,甚至出口成章,作诗抒情。值得注意的是,这并非其“出厂设置”——在小说第一章,亚当充电后与查理的对话尚不自然。纵观全书便可发现,小说对机器语言能力的刻画同样以“慢动作”呈现:从“不会主动讲话,除非听到问话”,到“模仿”,至创作俳句,再到针对莎士比亚作品的学术探讨,亚当语言水平的提高过程与笛卡尔提出的“回应发问”“与人交流”两个语言能力等级暗合。不难看出,在由笛卡尔定义下的机器语言状态靠近人类交流状态的过程背后,作者关注的是机器逐渐缩小与人类差距的核心动力——“机器学习”。该学习过程进一步推动人机关系变化,在机器亚当与查理、米兰达这对恋人共处一室的生活细节中展开,其原理由图灵道出,可溯源人机象棋、围棋对战等有关人工智能技术的重大突破性事件,而其结果则构成小说中人机区分的核心。
机器学习并未让亚当拥有其在物质范畴内一样“从容不迫”的能力:在小说前半部分,作者便埋下伏笔凸显机器学习过程中逐渐尖锐的人机差异。在第三章,主人公道出让亚当参与社交的必要性:他的“洞察领悟力(insight)虽合理(valid)”,却“不合情(socially inept)”。为加深读者印象,麦克尤恩刻画了一出让人忍俊不禁的场景:查理带亚当购物,老板担心查理无法够到货架顶端的杂志,问:“你自己(yourself)可以够到吗?”亚当闻言插嘴道:“你说你自己(your self),真巧,我最近也在思考关于自我(self)的问题。”在杂货店与人初遇便开谈本体论,无法凭上下文区分yourself与your self,实为“合理不合情”的生动诠释。不过此后,亚当的语言能力随学习不断提高,在第九章,亚当与米兰达的学究父亲谈论莎士比亚,展开对其作品影响来源的学术探讨。在有“理”可循的范围,麦氏笔下的机器学习进步之速远超人类,而一旦涉及“情”,机器学习的能力便显出其“局限性”,人机区分也就此凸显。
德米斯·哈萨比斯(Demis Hassabis,1976-),年幼时是国际象棋神童,在13岁便获得国际象棋大师的头衔。2011年参与创立DeepMind科技人工智能公司,研发创立了围棋软件Alpha Go。在小说底页的致谢辞中,麦克尤恩直言他在小 创作程中曾与哈萨比斯长谈
在处理与查理、米兰达的三角爱情关系时,亚当以理为先:虽爱米兰达,却恪守对查理的承诺,在与米兰达一夜情后从未“再越雷池”;出于对“真理”(truth)的坚守,亚当将米兰达本可隐瞒的罪行呈送法庭致其入狱。当查理试图感化亚当,提醒他米兰达有孩子要照顾时,亚当回应坚决:“真理是最重要的!”显然,在《像我这样的机器》中,机器的理性如笛卡尔所述:“不与感觉对立。”但其共“情”的能力始终停在“出场设置”,这从亚当拒绝领养受父母虐待的小孩马克的情节可见一斑。机器“智商”与“情商”的巨大反差为小说中主要的人机区分,也为人机冲突埋下伏笔。
亚当的“理”“情”差距从人类观察层面、机器自述层面随其学习过程展开,而其技术背景则由图灵再次分两条线索道出:一方面从技术史角度阐释机器之“理”高于“情”的学习原理,承认人机学习模式不同,并视之为技术局限,将之归结于心理学、认知科学对本体研究的不足;另一方面谴责查理“杀死”亚当的行为,否认人机差异导致人机冲突的必然性,呼吁机器平权立法。面对人、机在心灵范畴的差异,麦氏笔下的图灵再次“既证明又证伪”。作者以此畅想人机关系,倡导人机平等的后人类立场显而易见。结合其他机器人自杀的动机,则不难看出,小说的人机冲突实则是人性自私的结果——以整体人类(humanity)利益为出发点行事的机器因牺牲了人类个体(human being)的利益,“合法”翻转了主仆权力关系,立法可以保证机器的“权力”,却无法改变麦氏笔下人性的自私的本质。因此,当谈及避免人机冲突的具体方案时,图灵的提议“如果是我,我会”因电话打断戛然而止——人机关系若不导向冲突,便须归因于人本身。彼时,人类恐怕将面临“我们是否还需要这样的机器”的选择,而小说中纷纷自杀的机器便是最好的答案。
无论是以感知(sentience)、意识(consciousness)、自我(self)为依据指出机器有自我意识,还是以选宠物狗为例否认人类思维(mind)的独特性,作者看似试借图灵之口将人与非人的关系置于比后人类更开放的唐娜·哈洛维(Donna Haraway)式的“同伴物种”(companion species)网络中,戛然而止的电话则明确表明麦克尤恩无意探讨非人经验,也不关注非人“到底可能在做、在感觉、在思考什么,或者通过对他的回望到底想给予他什么”,而仅是将机器作为凝视“人”,引发人反思的他者。
三、图灵测试:
“未知”与“垂泪”的意识
不同于文学史中追求生命延续的非人类(如《仿生人会梦见电子羊吗?》),《像我这样的机器》中的机器虽仅有二十年“寿命”,却不求长生、不惧死亡:一方面,对自我意识(self-consciousness)的珍惜促使所有机器成功破坏死亡开关获得意识独立;另一方面,除亚当外的机器因其思维(mind)无法理解人类世界“如飓风般的重重矛盾”(男性霸权、环境污染、种族歧视)而自杀。显然,“意识”在小说中连接机器形象与人机关系,且不限于查理与亚当的个例(singly),而扩展到人类与非人(en masse)。针对机器意识的叙事首先使读者得以窥见“他是谁”,并旨在刺激读者反思“我是谁”,小说针对该问题的回答亦从机器、人类、图灵三个层面展开。
在机器自述层面,意识与思维、认知等认知科学概念,也与自我、身份等具有社会属性的概念伴随出现。亚当认为意识产生于实体物质,在物理层面可储存记忆,独立于身体长存,在社会层面可确立个人身份。亚当表示他很欣慰拥有未经设计从零开始的自我意识,再次确证其意识“独立”并确立其社会身份,进而确立其机器自信;同时,亚当又认为他“应该知道用这来做什么,因为有时一切显得毫无意义”——自我意识激发了他对本体存在的哲学思考。面对由机器抛出的“存在”之问,小说主人公同样手足无措:“不是你一个这么想。”这一方面与小说中查理无所事事,而亚当却勤奋好学的人机个例差异暗合,另一方面也是机器无法适应人类世界而自杀的人机群体区分的先兆:机器这一令自身“生机勃勃”却令人类“木讷无知”的“优点”并未助其扩展出哈洛维式的赛博格世界,反将其隔绝于人类世界之外。在机器视角下,“人”依旧是麦氏小说力图构建的后人类世界的主宰,机器的生存困境不言自明。
在人类观察层面,机器是否有意识是小说人类视角下人、机的核心差异:其标准时而从生物角度出发——如查理因自己与亚当的视觉遵守相同物理法则而深感“不安”,时而依据情感能力——如查理察觉到亚当不理解儿童的游戏天性而“黯然伤神”;更多情况下,则与“直觉二元论”(intuitive dualism)关于人类对灵魂(soul)的论述十分接近:“主观,无精确依据。” “主观”,因其多由人类先入为主的主仆关系投射而成,直接例证便是查理与亚当一同拜访米兰达的父亲时,查理的未来岳父错将其当成机器,并举出其行为中“明显透出机器特点”的例子;亚当在这场“图灵测试”的胜出,是作者以后人类立场反讽人类中心主义,旨在反思人类先入为主的人机关系。“不精准”,则缘于人类对自身意识认识的“未知”,这种未知也使人机关系具有多元的可能性或者说必要性——这构成了麦氏小说中人机关系平等的基础,也在图灵层面得到进一步验证。
2021年3月25日,英格兰银行悬挂彩虹旗,推出了印有数学家艾伦·图灵 (Alan Turing ,1912-1954)画像的50英镑新钞
图灵将对机器思维的开发概括为“复制人脑”,将该过程中解决P/NP问题概括为“突破闭合规则系统实现机器意识”的决定性步骤:“机器无需试错,能直接预测最佳答案。”显然,与机器自述层面相似,图灵对“意识”的定义也是去身的。值得注意的是,“预测最佳答案”联系着技术层面上对棋盘式闭合系统规则的突破,同时包含着哲学层面对“最佳”之“佳”的定义“未知”。这“未知”再次将机器自杀的矛盾核心从技术层面拉回对本体的哲学思考:一方面直接呼应人类观察层面人类对自身意识的“未知”,一方面试图回应机器自述层面机器由自我意识引发的存在意义的思考的“未果”以及大多数机器自杀悲剧的动因。
图灵将世界归纳为“充满矛盾”,又以维吉尔的“万物皆堪垂泪”(sunt lacrimae rerum)概括其形而上之内核,与叔本华的表象-意志论不谋而合:“生命意志一贯是自己在啃食(zehrt)着自己。”更有趣的是,图灵“以物观我”式的论证直接印证着叔本华“现象→(现象背后的力→客观无法解释力)→转向主观视角→再从主观拓展至宇宙”的思路。图灵将矛盾的“现象”归因于“矛盾的人性”本身,小说对于查理与米兰达之间的欺骗、背叛、爱恨的书写则为此提供了最佳例证。在这一过程中,麦氏巧妙地借图灵之口完成了从对机器智能技术的探讨到对人类本性的剖析的转换:“我们无法教给机器如何克服对矛盾世界的绝望。”“无法教”的原因,在技术上与修伯特•德莱福斯在《计算机不能做什么》中提出的“计算机启发式程序无法处理具形行为”暗合,而人类对“绝望”的克服能力则极具讽刺意味,更贴近叔本华的生命意志论:“我的肉身(Leib)与我的意志就是同一个事物。”其直接证据便是亚当关于俳句是未来的唯一文学样式的论述:“我们将栖身于意识社群,能直接读取他人思维,……文学再无须书写无尽的误解。”在机器看来,文学作品是人类因身体局限,思维无法沟通而误解重重的产物。
《作为意志与表象的世界》(Die Welt als Wille und Vorstellung, 1819)首版封面
人类创造了文学作品,作为“意志自身的被决定了的现象”,人类探索并书写“啃食自己的生命”的意志;机器却因乏“身”而无“力”,或如亚当,因无法体会世界作为意志那“不能被遏制的(unaufhaltsam)、盲目的冲动”而对存在产生怀疑,或如其他机器,因无法理解世界作为表象那“道德意义上”的“荒谬、矛盾、无理性”而甘愿放弃意识“自杀”。显然,麦氏小说中的人机之别依旧在于身体,在由笛卡尔的“神造的机器”转向叔本华意义上“兼具物理意义与形而上意义的身体”的过程中,麦氏为伦理讨论打开了空间。须注意的是,这个空间几乎是单向针对人的,而非针对人机关系的。
2018年10月麦克尤恩到访中国,发表了《如果有一天“人造人”写出了小说》的演讲,其中对人类思维的阐释几乎是叔本华对生命意志由我及彼的再论证:“每个个体都有和你一样……不言自明的精神生活(mental life)……你希望别人如何待你,你就得如何待人;你还得试图理解一个不同于你的他人究竟意味着什么。”谈及人机区分,麦克尤恩从文学出发,阐述了与《像我这样的机器》中亚当对文学如出一辙的理解:“要想进入别人的思想……小说依然是我们最好的途径……小说家是在他人的思想之海上扬帆的水手。”小说中,机器亚当畅想未来意识可交流而文学终将被技术淘汰,而麦克尤恩则畅想能够书写他人思维——能够进行小说创造的机器,并将其视作“有意识的造物”(a new kind of conscious),而非缺乏具身经验,仅靠“俳句”抒情的亚当。
将“文学”视为“人学”来畅想机器文学的麦克尤恩,与倡导人机平等却设计以人为参照物的“模仿游戏”的虚构图灵无异,《像我这样的机器》仍不是一元生成的“后人类”想象空间——看似开放的人机关系畅想实则始终以“人”为本。图灵的后人类立场也因为缺乏机器具身经验的描写而难以立足。在出发点与立场的重重矛盾中,机器成为亦灯亦镜的矛盾他者:享受并创作着“文学”,同时畅想着文学泯灭的未来;深爱并欲望着“人类”,却遭受被人类砍杀的结局。小说中的机器悲剧如昙花一现,它促使人类反思、立法、包容,在与人类对视的瞬间,机器那“从容不迫”的眼神依旧需要或不得不洞穿“何以为人”,那双眼虽不再如奥琳匹娅般空洞,却依旧是“镜”而非“灯”,试图反射“我是谁”,试图探问“那个时代终将到来”时,人类应以何种姿态迎接。
(本推文编辑:宴安)
相关文章
01 | |
02 | |
03 | |
欢迎扫码关注
机器人人文
本公号定位学术,不参与任何商业活动或合作。
图片作者提供,侵删。