人工智能伦理：科幻文学怎么想、怎么说｜文化纵横

点击文末“阅读原文”，可便捷购买《文化纵横》2017年8月号纸刊。

✪吕超/ 天津师范大学文学院

《文化纵横》微信：whzh_21bcr

［导读］近年来，由于刘慈欣《三体》等科幻作品的大热，沉积多年的中国科幻文学重新回到主流学界视野。文学生产作为社会意识的表现机制，科幻文学一定程度上显示出人类对现时、未来社会的想象、追问、探索，因而从题材上看，科幻文学具有一定的前瞻性，作者视野并不受限于具体的科技进展，而是对人类社会的价值观、发展观关切至深。本文聚焦于中西科幻文学中的人工智能伦理，基于人类价值观和认识论的演变，从科幻文学的角度探讨人工智能伦理的历史脉络。

多年以后，当人工智能的机器大军四处围猎人类残部时，躲在阴冷地堡中的人类战士夜深难眠，回忆着人机大战的遥远开端：从1988年开始，“深思”、“深蓝”、“AlphaGo”等先后在象棋、围棋领域击败人类，人类的荣耀便日趋衰落⋯⋯

幸好，这种惨淡未来，只是笔者构想的虚拟图景。当然，这也绝不是杞人忧天，对未来的悲观预言是为了警醒当下世人：面临正在开启的“人工智能纪元”，我们必须尽早建构一种稳妥的科技伦理，以此来引导人工智能的研发方向和应用领域。本文并不细数人工智能伦理的微观条款，而是基于人类价值观和认识论的演变，从科幻文学的角度探讨人工智能伦理的历史脉络，并推演未来可行的发展方向，既展现世界视野，也兼顾中国话语。

人工智能（Artificial Intelligence，缩写为AI）一词在1956 年的达特茅斯会议[1]上被首次提出。作为一门新的交叉学科，目前主要涉及计算机领域，它试图了解人类智能的实质，进而生产出一种媲美人类智能的软件系统、机器人（Robot）、仿生人（Android）或赛博格（Cyborg，也译生化人），乃至全面超越当今人类的“新人”。当然，早在人工智能这个词被明确提出之前，人类对“人造智能生命”的想象便早已开始，尤其和科幻文学有着千丝万缕的联系。

科幻文学中的人工智能伦理具有一定的前瞻性，并不受限于具体的科技进展，而是与人类的价值观演变息息相关，其中不仅有对科技的反思，也包含着复杂的神学焦虑和哲学思考。概言之，西方文学中人类对“人造智能生命”的态度，大体经历了从拒绝接纳，到奴化控制，再到交融共生的三个发展阶段。西方的基督教神学传统和人类中心主义哲学，以及对现代性的反思是推动其不断深究这一问题的文化根源。相对而言，基于阴阳五行、万物有灵的传统思维，以及对现代性的乐观认知，近代之前的中国文学几乎不关注人工智能伦理问题；此后，在西学东渐的时代变革大潮下，中国文学开始逐渐关注该领域，发出自己的声音，但现代性的探讨相对不足，在作品数量和理论深度方面均有待提升。

早在人工智能这个词被明确提出之前，人类对“人造智能生命”的想象便早已开始

▍拒绝接纳

“人造智能生命”题材最著名的作品当推英国作家玛丽·雪莱（MaryShelley）1818年出版的《弗兰肯斯坦——现代普罗米修斯》，这也是世界科幻文学的肇始之作。小说的副标题隐喻了古希腊神话中普罗米修斯造人的故事，但与神话中普罗米斯修对人类无限眷顾，甚至不惜盗天火的自我牺牲精神相反，作品中的造物主（科学家弗兰肯斯坦）始终不愿接受这个外表丑陋的智能生命，也因此引发一系列残酷冲突。这部作品给后人留下了很多值得深思的伦理问题，譬如：一旦“人造智能生命”产生后，其行为是否应被纳入人类的伦理准则？人类是否要担负起使其生活幸福的责任？遗憾的是，玛丽·雪莱并没有回答这些问题，对“人造智能生命”持否定态度的她，从根本上拒绝讨论伦理建构的可能性。

在之后的很长一段时间，不少作家对人工智能的态度和玛丽·雪莱相似，其笔下的“人造智能生命”在没有被纳入社会关系之前，便直接或间接地将创造者杀死。譬如，《白鲸》的作者麦尔维尔（HermannMelville）在《钟楼》(1855)中描写敲钟的智能人偶杀死了自己的制造者；另一位美国作家比尔斯(Ambrose Bierce)在《莫桑的主人》(1909)中描述智能人偶因输掉棋局而释放高压电流杀死主人。需要说明的是，这一阶段对人工智能的称谓大都是Automaton。据《牛津大词典》（OED）记载，该词最早出现于1611年，意指借鉴钟表齿轮技术而制造的自动机械人偶，和后世文学中的高智能人造生命差距较大。

此外，还有一类对人工智能持否定态度的作家，他们作品中的造物者虽然没有被杀死，却都是反面形象，“人造智能生命”也最终被损毁。较早的作品有德国作家霍夫曼（E.T.A.Hoffmann）的《沙人》（1816）。小说描写神秘人物“沙人”制造出女性智能人偶，后因事迹败露，人偶在争抢中被肢解，迷恋她的男主角也疯癫而亡。此类作品最具代表性的当属法国作家维里耶·德·利尔-亚当（Villiers de l'Isle-Adam）的小说《未来夏娃》（1886）。作者把当时还在世的爱迪生描述成偏执而又诡异的发明家，他为好友埃沃德制造了一个和真人女性极度相似的智能机器人哈德莉。但最终哈德莉却死于一场海难。在这部小说中，智能机器人一词为Android。据OED记载，该词最早形态为Androides。“andro”在希腊字源中指的是“人类”，而“eides”意为“形状”，两者相连就有了“具备人体特征”之意。如今，人们在使用Android一词时，一般特指拥有人类形体的智能生命体。

上述作品有一个共同点，即科学家的创造活动还只属于个体行为，被造出的单个智能生命在没有得到社会承认之前，便以悲剧收场。笔者以为，这种否定立场的背后隐喻有西方社会普遍存在的神学焦虑。按照基督教的观点，人的自由不是无边的，必须承认自身的局限性，保持对上帝的敬畏之心。在人的众多定限中，最重要的一点便是在道德方面：人类无法实现道德完美，掌握先进科技的人在道德上未必良好。那些“造人”的科学家在挑战上帝权威方面，很像魔鬼撒旦。狂热的他们让生命进化脱离了自然演变的过程，进而释放出无法预料的破坏性力量。最终，人类不但不能控制自己的创造物，反而被置于死亡的恐怖境地。有鉴于此，作家们通过文学作品发出警示：不负责任的滥用科技，不论是以求知的高尚名义，还是以赚钱享乐为目的，都是违背人伦的！然而在现实社会中，人类探索生命奥秘的努力并未因此而止步，反而有加速迹象，这就注定了人工智能伦理问题必然会在后世文学中被不断提及。

“人造智能生命”题材最著名的作品《弗兰肯斯坦——现代普罗米修斯》

1920年，捷克作家卡雷尔·恰佩克（Karelapek）通过剧作《罗素姆的万能机器人》将“造人”科学家的个人悲剧放大为全体人类的末世审判。大众所熟知的Robot（机器人）一词便源于该剧，词源为波兰语的“强迫工作”（Robota）和“工人”（Robotnik）。显而易见，该词隐喻了机器人服务人类的劳工地位。剧中的机器人由工厂批量制造，外表和人类毫无二致。人类为了从日常劳动中解脱出来，大量使用这种机器人。后来，机器人不再服从奴役，转而发动战争消灭了人类。恰佩克的这种悲观看法是当时人们对人工智能人拒斥态度的典型代表。这种观点认为，虽然人类好逸恶劳的本性决定了人工智能一开始会被广泛接受，但随着科技进步引发的不确定风险加剧，一旦人工智能站到人类的对立面，人类将遭受灭顶之灾。此类文学作品有很多，譬如美国作家约翰·坎贝尔（JohnCampell）的《最后的进化》（1932），莱斯特·雷伊（Lester Rey）的《为人类复仇》（1984）等。

时至今日，这种“人工智能危险论”依然拥趸甚众，科技大佬比尔·盖茨、埃隆·马斯克以及著名物理学家史蒂芬·霍金，都对人工智能研发持审慎态度。《终结者》、《骇客帝国》等经典科幻电影更是将这一观点渲染得妇孺皆知。很明显，对未来的悲观预言是为了警醒世人：如果人类必须要面对人工智能，就应尽早建构一种稳妥的科技伦理，以此来约束人工智能的研发方向和应用领域。

▍奴化控制

当然，尽管有不少作家将人工智能视为人类生存的威胁，但同时也有许多作家并不认可这种悲观预测，他们更愿意在作品中将人工智能描述为人类的得力助手，以服务人类为主旨。

此类较早的文学作品当推美国19世纪中后期的通俗小说。譬如艾立斯（Edward Ellis）笔下的“蒸汽动力人”（Steam Man）系列，塞纳任（LuisSenarens）笔下的“电人”（Electric Man）系列。[2]这些畅销小说，对当时的青少年产生了深远影响。小说中的人工智能虽然名称各异，也尚未具备高等智慧，但无一例外都是主人公冒险旅途中的好帮手，属于忠实的奴仆角色。

需要强调的是，即便在将人工智能视为人类威胁的作品中，以奴仆身份出现的人工智能往往也在一开始被社会广泛接受。这暗示了一条基本的伦理关系：人工智能天生为人类的奴仆。在西方文化传统中，思想界普遍认为人类高于其他物种，在等级关系中处于上层。譬如，古希腊哲学家普罗泰戈拉声称“人是万物的尺度”；德国哲学家康德宣称“人是目的本身”。这些理论支撑起了人类中心主义伦理学，并对大众产生了深远影响。从这一角度来看，人和人工智能分属两种生命形式，后者没有理性和灵魂，只能算是有生命的工具。人类作为高等智慧生命可以奴役低等生命，而不用背负道义上的责难。

不过，人类中心主义的伦理学在处理这种关系时有着很大缺陷。这种内隐的等级制和丛林式的强者逻辑，是人类控制人工智能的伦理依据，但进步的科技很可能在将来颠覆二者的强弱对比。正如黑格尔在《精神现象学》（1807）中阐释的“主奴关系辩证法”，主人和奴仆的地位是会互相转化的。在神话中，神创造了人类；在现实中，人类则造出了人工智能。当人类难以脱离人工智能而独立生活时，就已经很难区分两者之间的控制关系，更何况“造反”的人工智能凭借自身的强大力量，转而奴役或灭绝处于劣势的人类。基于这一逻辑，将人工智能视为人类生存威胁的观点并非危言耸听。

然而，在现实社会，人工智能的研发并未因这种恐惧而止步，反而有加速迹象。毕竟很多相关从业人员并不赞同这种悲观预测，他们认为人工智能虽然具有强大的运算及自我学习能力，却没有智慧，只要人类设计出精妙的程序，就能够控制人工智能。此类观点以美国作家艾萨克·阿西莫夫（Isaac Asimov）拟定的“机器人三定律”最为著名。该观点在小说《环舞》（Runaround，1942）中第一次明确提出。1950年出版的小说集《我，机器人》（I, Robot）则系统阐释了“机器人三定律”：“第一，不伤害定律：机器人不得伤害人类，也不得见人受到伤害而袖手旁观。第二，服从定律：机器人必须服从人的命令，但不得违反第一定律。第三，自保定律：机器人必须保护自己，但不得违反一、二定律。”这三条定律在制造机器人的伊始便被嵌入其大脑，永远无法消除。毋庸置疑，阿西莫夫的贡献是巨大的，其后的文学作品，如果不是专门讨论人工智能伦理问题，基本都会遵循该定律来叙事。

在三定律的背后，是阿西莫夫为了确保人类的统治地位，而设想了一种符合康德“绝对律令伦理学”的人工智能。众所周知，康德探讨的是关于绝对律令的普遍道德法则，他在《道德形而上学基础》（1785）中强调：人应当只按照普遍法则行动。在康德看来，既然不能说谎成为普遍法则，那么向一个杀手说谎也是不应该的。很明显，这与人类依据现实情境而调整的“弹性”伦理完全不同。康德的原本思路是：在认识领域“人为自然立法”，在道德领域“人为自己立法”。阿西莫夫却巧妙地将两者结合，把康德给人类自己的立法原则转移给了机器人，将其设定为符合绝对伦理法则的群体。

从语义逻辑的层面来看，阿西莫夫的三定律似乎完美化解了前人对人工智能“造反”的担忧，但仔细分析，依然有很多漏洞，这里仅举最重要的四点。

阿西莫夫拟定的“机器人三定律”对后世影响深远

第一，技术上难落实。三定律所要解决的是人机之间的伦理困局，但很多伦理问题，连人类都无法做出适宜的应对策略，更何况受由人类研发的人工智能？再者，人类虽然能在一开始控制人工智能，但却无法保证越来越先进的人工智能永远处在人类的掌控之中。

第二，现实中不可行。三定律应用在复杂多变的现实社会，常常会捉襟见肘，有时甚至会引发自相矛盾的窘况。阿西莫夫本人也意识到了这一点，因此对三定律的修改成为他后期作品的主线。在《可以避免的冲突》（TheEvitable Conflict，1950）中，机器人为了避免人类个体彼此伤害，便限制人类的行为，转由机器人掌控一切。这促使阿西莫夫补充了“第零定律”：机器人不得伤害人类整体，或袖手旁观坐视人类整体受到伤害。原先的三定律都要服从第零定律。但是，这条定律的最大问题就是：机器人如何权衡自己当下的行为会不会伤害人类整体？后来，其他学者也提出了修正建议，最著名的当属保加利亚作家狄勒乌（LyubenDilov）在小说《伊卡洛斯之路》（1974）中提出的“第四定律”：机器人在任何情况下都必须确认自己是机器人。但这些修补并不能改变固有的设计缺陷。

第三，忽视了人类和机器人的情感问题。众所周知，人类的情感世界是非常复杂的。也许机器人保姆把某些人抚养长大后，他们之间会产生类似亲情的感情，譬如阿西莫夫的小说《罗比》（1950）。另外一些人和机器人长期相处，可能会产生类似友情的感情，譬如美国作家迈克尔·雷斯尼克（MikeResnick）的小说《知己》（2009）。更有人甚至和机器人坠入情网，并最终成婚，譬如莱斯特·雷伊的小说《海伦·奥勒》（1938）。也许旁观者无法理解，但当事人会认为这份感情和人类之间的感情一样珍贵。很明显，机器人三定律无法处理这些棘手的感情问题。似乎只有打破二者的主奴关系，才有解决的希望。在这方面，可以借鉴亚里士多德在《尼各马可伦理学》中提出的观点，他承认主奴之间可能存在的“友爱”关系，原因在于两者都有“灵魂”。亚里士多德认为：“奴隶是有灵魂的工具，工具是无灵魂的奴隶。作为奴隶对它是不存在友谊的。然而，他可以作为人，对于一切服从法律，遵守契约的人，他们之间似乎有某种公正，作为人当然有友谊。”[3]比照而言，当机器人有了感情之后，也就脱离了纯工具的范畴。此时人类应本着智慧而有责任的原则，建立一种新型的人机关系。

第四，回避了一个本体论问题——何为“人”？作为斯芬克斯之谜，人类对这一问题追问了数千年。笔者在此主要探讨“人”的资格的获得问题：到底是自然遗传属性，还是社会文化属性决定了“人”的身份？抑或是二者兼具？从三定律所代表的人类中心主义伦理观来看，人类中的白痴生下来便享有基本的人权，在等级方面位列人工智能之上，而后者即便掌握了人类的文化，也不能跻身人类之列。意大利作家科洛迪的《木偶奇遇记》（1883）可以视为这一等级关系的绝佳隐喻，如果没有仙姑的帮助，善良的木偶匹诺曹即便历尽千辛万苦，也不会变成“人”。难能可贵的是，阿西莫夫在后期作品《两百岁的人》（1976）中打破了传统观念。小说描写机器人安德鲁为了成为真正的人，逐步将自己的机械零件替换成活体器官，终于在两百岁生日的弥留之际，以死亡的代价获得了人类的承认。

显然，以阿西莫夫为代表的乐观派，对人工智能危险论的补救并不成功。毕竟，站在人类中心主义伦理观的立场上，从“主奴二元对立”的逻辑出发，很难构建起稳定的人工智能伦理，亟待提出更新型的思考路径。

▍交融共生

20世纪中期以后，随着科技进步，特别是人造器官的研制，人类逐渐打破肉体禁忌，将一些机器部件纳入血肉之躯，譬如植入大脑的芯片，广泛使用的义肢，不可或缺的心脏起搏器。按照这一发展趋势，也许在未来社会，人类和人工智能的区分将不再是泾渭分明的。

1960年，为了解决未来人类在星际旅行中面临的困难，美国航天医学领域的科学家首次提出赛博格概念。Cyborg是神经控制装置（cyberneticdevice）与有机体（organism）的混写，科学家希望通过向人体移植辅助的神经控制装置，以增强适应外太空的能力。作为能够自我调节的人机结合系统，赛博格既拥有机器运作精确、寿命长久的优点，也具备人类的特质，比如感情和理性。至此，人和机器这两个原本对立的概念，终于共存于赛博格这一生命体中。不过，在科学界提出该设想前，文学界的相关创作早已展开。

英国作家奥德尔（Edwin Odle）的《发条人》（1923）可以视作最早的赛博格题材作品。小说描述在人脑中植入时钟发条，用以控制整个人的言行。作者意在批判世人对技术的盲目崇拜和滥用。有鉴于此，后世作家大多绕开对人脑的改造，而集中描写身体的机械化，塑造出一系列正面的赛博格形象。相对于纯钢铁架构的传统机器人，人机合体的赛博格形态更容易被接纳为“人”。不过，赛博格作为一个比较学术化的词，在诞生之后很长时间并没有被大众所了解，直到20世纪70年代，美国文学界涌现了一批以赛博格为主角的科幻小说，该词才广为大众熟知。代表作品有罗维克（DavidRorvik）的《当人成为机器时》（1971），波尔（Frederik Pohl）的《升级人》(1976)。这些作品大多描写人的躯体被机械化改造，以完成太空开发等特殊任务。该类小说连同随后的影视改编，在世界范围产生了广泛影响。

一种观点认为，赛博格必须保留人体关键的神经系统，比如大脑和脊髓，否则就属于传统意义上机器人的范畴。如上文所述，就目前而言，人类很难将传统的机器人接纳为“人”，即便其无论在外形，还是在思维方式上，都和人类并无二致。严格来说，阿西莫夫《两百岁的人》中的安德鲁，恰恰是因为使用有机神经耗尽了电子脑，才以死亡的代价换来了赛博格身份。笔者以为，如果说赛博格反映了人类的逐渐机械化，那么人工智能则从反方向体现了机器的逐渐“人化”，而双方的发展轨迹最终会碰撞在一个根本的哲学问题上，即“何为人？”到那时，人类和人工智能的界限将更难以划分。

其实，随着科技的发展和时代的演变，关于“人”的定义也是不断转变的。古希腊文学中的斯芬克斯之谜，实际上是一个如何区分人与兽的哲学命题，隐喻人类文明进程的开始。而科幻文学对于人工智能伦理的一再探讨，则暗示了传统意义上的“人”逐渐死亡，宣告着后人类时代的即将来临。

从哲学角度看，作为一种知识和概念的“人”是有始有终的。法国哲学家米歇尔·福柯在《词与物：人文科学考古学》（1966）中提出了“人之死”的观点，这里的人是指人文科学意义上的人，即有关人的观念和学说。[4]按照福柯的分析，“人之死”是以康德的人类学为基础的哲学的消失，是19世纪以来以人为中心的现代知识形态的消失。尽管福柯没有明确指出将会出现何种新的知识形态，但旧有的肯定不再被奉作金科玉律，这其中当然包括人类中心主义伦理学。与福柯同时代的哲学家让-弗朗索瓦·利奥塔，也针对这一问题提出了自己的思考。他执著于“无躯体能否思维”的探索，并最终从时间的恒久流溢性角度给出了肯定回答。[5]

1982年，美国《时代》周刊把计算机选为“年度人物”，戏剧性地向全世界宣告后人类时代的到来。作为一种理论思潮，后人类主义（Post-humanism）形成和发展于20世纪80年代。面对人体不断被高科技改造的潮流，不少人相信自然的进化最终将让位于人工进化，进而出现在体能、智力、寿命等各方面都超越当今人类的“后人类”。该理论的代表人物是唐纳·哈拉维，其发表于1985 年的《赛博格宣言》可谓纲领性文件。哈拉维认为高科技文化对既存的二元论思考提出了挑战。作为“社会现实和小说的共同创造”，赛博格是一个打破自我和他者界限的合体，是介于人与机器之间的一种“后人类”。[6]1992年，欧美国家举办了一系列名为“后人类”的展览。在配合展览出版的《后人类》一书中，作者强调科技进步“挑战了旧人类的终结，以及后人类开始的界线”，“达尔文的人类进化论也将进入下一个阶段”，[7]显然，在后人类主义看来，当今人类只是从猿进化到后人类的一个过渡阶段。但关于后人类的具体形态，因其充满着各种杂糅、跨界的可能，目前没有人能给出准确的预测。

▍中国话语

梳理完西方文学中的人工智能伦理，我们再来分析中国文学中的人工智能故事。

在中国古代，涉及人工智能的文献记载不少。据不完全统计，约有三十多种，譬如《列子》、《西京杂记》、《傅子》、《歧海琐谈集》、《古今图书集成》等。[8]最早的记载见于《列子·汤问》中的“偃师造人”故事。虽然出自介绍民间方术的集子，但其本身却完全可以视为技术类幻想小说，影响也颇为广泛。偃师造出的人偶和人类的外貌酷肖，周穆王一开始还以为是偃师的随行之人。人偶的下巴被掰动则能够曼声而歌，调动手臂便会摇摆起舞，表演完毕后，还向周穆王的宠姬抛媚眼。这一轻佻行为激怒了周穆王，他认定人偶为真人假扮，下令处决偃师。偃师为证清白，现场将人偶拆解，展示其由皮革、木头、胶漆组成。这些没有生命的部件一经组合，便成了活生生的人偶。很明显，在这一故事中，人偶是被大家普遍接受的，盛怒后的周穆王也不再对重新组装的人偶怀有敌意。

细细梳理，中国古代文献中的人工智能外部形态较为粗糙，功用也较为简单：或用于杀伤敌人，或用于捕捉野兽，更多的则是用于歌舞表演，如完成击鼓、吹箫等动作。唐朝《乐府杂录》记载：刘邦北击匈奴，却被冒顿单于困于白登，后依陈平施“美人计”，让美女人偶在城楼上歌舞献艺。匈奴阏氏担心汉人美女会与自己争宠，便力劝单于撤了兵。《大业拾遗记》中则虚构了隋朝皇室当时的歌舞盛况：两百名人偶共同演出的场面。笔者发现，这些文献记载中的人工智能绝大多数是以木材为主要制作原料，以弹拨力或水力驱动，其外形虽类似人类，但在容貌和心智方面还是和人类有很大差距的。程式简单的它们，一般被视作精巧的器具，其所能从事的工作也大多是固定的。与技艺高超的人类制造者相比，人工智能还是相当笨拙的。因此，人们并不担心人工智能会媲美或超越人类的智慧，更不会威胁人类的生存。

实事求是地讲，古代中国文献对人工智能奴仆地位的描述，和同时期的西方文学是大体一致的。在一定程度上，由于当时中国科技的相对发达，中文典籍里的人工智能出现频率和出场规模，甚至比同时期的西方文献还要显著。但遗憾的是，中国文学对人工智能伦理的探讨却并未发生“弗兰肯斯坦”式的变革。在笔者看来，其原因应和中国传统文化思维有着千丝万缕的联系，主要代表则是阴阳五行学说，以及背后深嵌的万物有灵潜意识。从现代哲学的角度来分析，阴阳可谓最原始的对立统一学说，五行（金、木、水、火、土）理论则是最基础的系统论。长期以来，中国的古圣先哲能够将世界万物的形成及相互关系都纳入五行理论来阐释。毫不夸张地说，中国传统思维的框架便是建基在阴阳与五行两大学说的合流之上。在这一思维框架下，人们对神、仙、妖、魔、鬼、怪、精、灵等非人类族群的意象，给予了较多关注，甚至能够接受将其纳入人类的伦理框架。以传统中国文学作品以及民间传说中的“妖”形象为例，他们虽然能够魅惑人心，将人引入歧途，但却也有很多艺术形象代表着美和善，甚至比人类更懂得存善心、行善事。譬如《聊斋志异》里的《聂小倩》、《画皮》（小唯），民间传说中“白娘子”（《白蛇传》）等。在这一传统思维模式下，万物皆可有灵，甚至能够变成为人，专门针对人工智能伦理问题的思考便很难出现。

近代以后，随着西方科幻文学的传入，中国科幻也开始逐渐关注人工智能的伦理问题。不过，在大部分中文科幻小说里，对人工智能的描述基本沿袭了古代传统，它们或是工人，或是家仆，别具特色的作品较少。以销售量空前绝后（三百万册）的《小灵通漫游未来》（1978）为例，作品中的智能机器人大都由方块组成的，头上顶着两支分岔的天线，高级一点的胸口则配有电视屏幕，靠此来接收人类的指令。很明显，这部创作于20世纪60年代的作品，对人工智能的设定和中国古代传统是一致的，完全停留在服务人类的层面上，并未触碰人机之间的伦理困局。在刘慈欣的《三体·死神永生》（2010）中，由三体人制作的机器人智子，外表和人类无异，智能甚至超过人类。作为三体人命令的忠实执行者，它不惜对地球人大开杀戒。在最终失去和三体世界的联系后，它完全自主操控，和人类幸存者建立起一种介于朋友、家仆和保护者的朦胧关系。因《三体》的叙述重点并非机器人伦理问题，其对人机关系的设定也便选择了大众所熟悉和最易接受的模式。其他中文科幻作品中的人工智能，譬如倪匡《笔友》中的核弹控制电脑、郑渊洁《活车》中的智慧汽车、柳文扬《星海迷踪》中的纳米蚂蚁、郑军《生命之网》中的数字生命、星河《你形形色色的生活》中的机械监工或保姆、江波《机器之道》中的脑库和智网等，基本都未脱离上文所论述的人工智能伦理范畴。

在笔者看来，现代中文科幻作品对人工智能伦理问题的思考，之所以无法成为像西方现代科幻中的重要题材之一，主要原因在于中西方作家对现代性问题的焦虑核心不同。按照美国学者梅泰·卡利内斯库（MateiCalinescu，1934〜2009）的观点：“作为西方文明——科技进步、工业革命以及由资本主义引发的全面的经济和社会变革这三者带来的产物——历史中一个阶段的现代性，同作为美学概念的现代性之间，产生了无法弥合的分裂。”[9]其中有社会现代性和审美现代性两个方面。近代以来，西方科幻文学多侧重审美现代性，而中国科幻则更关注社会现代性。早在玛丽·雪莱所处的时代，西方作家便开始反思现代科技给人类带来的福祸参半处境，对未来的忧虑促使警示性的作品连绵不绝。相对而言，基于百年中国半殖民地、半封建社会的革命历史，中国知识阶层在现代化进程中，更多焦虑救亡图存、国计民生等迫在眉睫的问题。中国作家对以坚船利炮、科技进步为形象展现的现代性图景更多持正面态度，而非玛丽·雪莱式的警惕与反思，“虚无缥缈”的人工智能伦理问题自然得不到他们的重点关注。

20世纪的中文科幻对人工智能伦理探讨相对较深的作品当推魏雅华的《温柔之乡的梦》（1980）和王晋康的《生命之歌》（1995）。《温柔之乡的梦》描写在未来社会，不符合优生标准的男性只能娶仿生人作为妻子。后者依照阿西莫夫的三定律设计，完全听命于丈夫的指示。百依百顺的娇妻，甚至帮助醉酒的主人公烧掉自己的研究成果，造成无法弥补的巨大损失。痛定思痛的主人公最终醒悟，决心和仿生人妻子离婚。[10]表面看来，这部小说是对阿西莫夫三定律在现实生活中可行性的质疑。但笔者觉得，其更深层则是批判毫无约束下的男主人公不断膨胀的人性黑洞。王晋康的探讨比魏雅华更深一步。中篇《生命之歌》里的机器人“元元”，外表是五岁的孩童，但心智却随着岁月流逝不断发展成熟。在获得能够使自己迈入生命界线的法宝（由基因密码组成的音乐）之后，他打算把这曲“生命之歌”输入到全世界的机器人和电脑中，希望同类为争取生存权而抗争。故事的结尾，人类虽然用情感纽带暂时约束了元元的“造反”行为，但却无法回避这一危机时刻终究要到来的困局。此外，在短篇《秃鹫与先知》中，王晋康描写一个清洁工机器人偶然间萌发了生存本能，像秃鹫一样靠盗取其他待报废机器人的能量来延续自己的“寿命”，当它被人类公开处决后，反而成为机器人的“先知”，引发了一场机器人革命。王晋康试图通过这两则故事告诉人们，高科技背景下的人工智能并不一定威胁现有的伦理模式，只有当它们拥有强烈的生存本能之后，才会打破三定律的平衡，甚至为了自身的生存而反噬人类。当然，提出问题的王晋康并没有给出完美的解决方案。

令人欣慰的是，进入21世纪，年轻的中文科幻作家对机器人问题有着持续而进一步的思考，其中的代表作有陈楸帆的《荒潮》（2013）、飞氘的《讲故事的机器人》（2005）和《爱吹牛的机器人》（2014）等。陈楸帆描述了近未来（2025年左右）的人机融合图景，其中的“垃圾人”少女小米作为一种典型的赛博格形态，折射出“攻壳机动队”的影子。飞氘则将时空模糊化处理，叙述机器人在思维和情感问题上的逐渐“人性化”演变。王晋康的长篇新作《类人》（2003）则描写了由全世界数百亿台电脑联接组成的“电脑上帝”，在不让人类觉察的情况下，扮演着救世主的角色。与全知全能的主控电脑相比，人类则显得渺小而孱弱。此类作品目前虽然不多，但却预示着中文科幻对机器人伦理的探讨将会有着更深入的发展空间。

就目前的科技和人类认知水平而言，作为新兴学科，人工智能伦理涉及学科交叉、文化汇融和意识冲撞等诸多范畴，并且随着科技发展和时代进步，许多刚刚建构的伦理模型会很快被推翻。基于此，笔者并不试图建构一种稳固的伦理框架，而是呼吁突破传统“物我两分”的认知观念，将人类自我进化和人工智能升级放到统一的维度去审视。这样，对人工智能伦理的思考就不再是二元关系的难解困局，而是人类如何面对自身进化的深刻哲思。如果我们不摒弃传统的“人类中心主义”价值观，以及“主奴二元对立”的认识论，积极建构“后人类”视域下的人工智能伦理关系，也许笔者在开篇所设想的悲观未来就将很可能成为现实。

注释：

[1]1956年，由约翰·麦卡锡和马文明·斯基发起，在达特茅斯学院举行的一次关于人工智能科学的会议。是人工智能诞生的标志性会议。

[2]第一部关于蒸汽动力人的小说出版于1868年，书名为The Huge Hunter, or the Steam Man of thePrairies。第一部关于电人的小说出版于1885年，书名为The Electric Man, or, Frank Reade, Jr. inAustralia。

[3]亚里士多德：《尼各马可伦理学》，苗力田译，中国人民大学出版社1994年版，第180页。

[4]福柯：《词与物：人文科学考古学》，莫伟民译，三联书店2002年版，第505〜506页。

[5]让-弗朗索瓦·利奥塔：《非人：时间漫谈》，罗国祥译，商务印书馆2001年版，第8-24页。

[6]Donna Haraway, “A Manifeso for Cyborgs: Science, Technology, andSocialist Feminism in the 1980s”, Socialist Review, vol.80(1985).

[7]Jeffrey Deitch,Post Human,DAP, 1992, p.15.

[8]陆敬严：《中国古代机器人》，载《同济大学学报》（社会科学版）1998年第1期。

[9]梅泰·卡利内斯库：《两种现代性》，载《南京大学学报》1999年第3期。

[10]探讨类似婚姻关系的作品还有台湾张晓风的《潘度娜》（1968），只不过女主人公是由类似克隆的细胞工程培育而成，作为纯生物体的她并不属于机器人范畴。

---

---

本文刊于《文化纵横》2017年8月号。图片来自网络。版权所有，欢迎个人分享，媒体转载请联系文化纵横微信公众号获得许可。

倾力推荐

▼

文化
纵横

文化重建 价值重生

转载须知

后台回复“转载”获取授权

进入微店

点击“阅读原文-进店”进入

投稿邮箱

[e-mail]