程 林 ||科幻的争议：赞许性赋能和“误导性”批评
原文刊于《天津社会科学》2021 年第3期，注释从略。
科幻的争议：赞许性赋能和“误导性”批评
——以科幻作品中的机器人养老讨论为例
程林
广东外语外贸大学阐释学研究院、西方语言文化学院德语系副教授
摘要 科幻作品能否用于预测未来或推理论证，这在国内学界并非自明。科幻作品有时会被过度赋 能，有时则被批评有误导性。科幻作品本是虚构艺术，其未来想象可能成为现实，但预测未 来和对应现实却非科幻的义务。与其批评科幻作品有误导性，不如合理挖掘它在推理论证中 的特点和潜能。通过《机器人与弗兰克》等作品的机器人养老讨论可看出，不同于应用伦理 学的规定性，科幻作品具象地预设伦理困境，展现机器人伦理问题的复杂性、争议性和悖论 性，为伦理学讨论带来启发。在推理中，科幻作品是故事性思想实验，需要读者或观众的理 性参与。无论如何评价科幻作品，都应以对其性质和潜能的合理认识为前提。
缘起：关于科幻的两种迥异态度
自刘慈欣2015年获得雨果奖以来，国内科幻作品在蓬勃发展的同时也面临着一些争议。例如 ，国内非科幻领域的学者关于科幻性质、功能或影响有着两种迥异看法：
其一，对科幻作品赞许性赋能，即高度认同科幻作品具有某些跨界或跨学科功能。例如，美国电影《机器人与弗兰克》（2012）讲述了近未来（near future）人机交互的故事。部分 失 忆的独居老人弗兰克虽然开始时十分排斥健康助理机器人，但后来逐渐接纳喜欢上了它。有 学人认为通过《机器人与弗兰克》可以看出“十年以后机器人的模样”，即赋予了科幻预测 未来的功能。在介绍某项新智能技术时，有人也指出，科幻中的某个未来图景似乎变成了现 实。此外，对人类发展人工智能是福是祸？人工智能会产生自我意识吗？人工智能会毁灭人 类吗？诸如此类的问题，有学者认为可“向科幻电影找答案”。
其二，对科幻作品“误导性”的批评，即认为科幻作品会产生误导人的影响，无法用于推理 性或论证性研究。近年来，以下观点并非个例：一些悲观主义者拿不出反对研发人工智能的 有力理论依据，而是基于猜想，用科幻作品作为论证材料，但实际上，用科幻作为佐证材料 基本没有说服力；国人被国外科幻作品所误导，对人工智能有很深的误解。此外，这类批评 有时不交代讨论语境，而是将所有科幻作品都纳入批评范围。
不同时代关于科幻作品的理解有差异，争议与批评在国内科幻史上并不少见。类似观点特别 是类似于“误导性”批评的观点并非近期才出现，而是在人工智能时代来临和中国科幻事业 蓬勃发展情况下，以新面目再次显性地浮现出来。从各自角度出发，以上观点均有其合理性 ；但从科幻作品本身的角度出发，赞许性赋能和“误导性”批评是否完全准确或公正还值得 商榷。此外，科幻的性质、它与未来和现实的关系以及科幻用于推理（例如伦理讨论）等严 肃研究的合法性和特殊性都有进一步讨论的必要。通过分析《机器人与弗兰克》等机器人养老为主题的近期科幻作品，虽无法全面回应以上谱系广泛和差异明显的论断，但可以说明科 幻作品的性质，特别是可以展现优秀科幻作品用于严肃论证和推理的特点和潜能。
案例：近期科幻作品中的机器人养老话题
目前，以机器人养老为主题的科幻作品日渐增多，除了《机器人与弗兰克》，在此仅举四例 ：《诗音翩然到来之日》是日本作家山本弘科幻小说《艾比斯之梦》（2006）中的第六个故事，讲述了2030年的护理机器人诗音在养老院学习、磨合与成长的经历；在瑞典科幻剧《真 实的人类》（2012-2014）中，类人机器人活跃于人机共存社会的每个角落，独居老人与旧 机器人的情感依赖以及与新机器人的情理冲突是剧中重要的故事线；马来西亚动画短片《换电池》（2013）描绘的是空巢老人与机器人相依为命的人生晚景；中国作家阿缺的短篇小说 《格里芬太太准备今晚自杀》（2013）同样探讨了老人与陪护机器人的感人故事。需要注意 的是，这些科幻作品描绘了看似与现实联系紧密的近未来画面，给人以真实感，但将其视为 未来会出现的现实仍有很大风险，机器人技术是否会发展到其中所呈现的状态也很难确定。 尽管如此，人们也不能因为这些不确定性就忽视它们所能带来的启发。通过分析《机器人与 弗兰克》与《诗音翩然到来之日》中的五个伦理问题，可以展现近期机器人科幻作品在推理 方面的特点和潜能。
（一）隐私威胁的具象化
人的生存危机一直都是机器人科幻作品中的常见画面，但物理学家泰格马克认为，“邪恶的 机器人拿着武器”是“我的人工智能同行们不会担心的情景”。从产生背 景看，机器人恶托邦叙事以夸张手法来警示人们审视技术的发展，是西方技术谨慎乃至悲观 姿态的艺术显影；从外在影响看，恶托邦叙事客观上影响了部分读者或观众对机器人的认知 ，使其产生了荧幕末世废土会成为现实的错觉，科幻文艺由此招致了不少批评。鉴于此，学者需要厘清这类科幻的成因，客观阐释这种文化现象，合理规避其可能出现的负面影响，受众则需要有甄别现实与虚构的基本判断力。在当代科幻作品中，机器人恶托邦叙事不再占据 绝对主流。目前，人们对机器人类人性和人机共存设想的兴趣在增长，作为帮手来到人身边 的机器人形象在增多。《机器人与弗兰克》和《诗音翩然到来之日》中的机器人即便受到老 人蛮横对待，也没有暴力反抗，而是理性应对。这就缓解了西方科幻作品中常见的世俗造物 主的焦虑。
在当今智能时代，机器人可以存储老人的数据及隐私，如果保护不当，老人的数据安全会 受到威胁。这是现实和科幻都关注的话题，《机器人与弗兰克》和《诗音翩然到来之日》等 将我们在日常生活中可能忽视的隐私风险融入令人印象深刻的故事情节中，从而让隐私问 题变得可视化，也更形象化。在《机器人与弗兰克》中，弗兰克保持思维活力的方式只剩下 盗窃，例如偷出珍藏图书献给心爱的人。机器人时刻陪伴在弗兰克身边，自动地记录了他的 所有信息。面对不愿认罪的弗兰克，警察希望检查机器人的“记忆”。机器人请求弗兰克将 自己格式化，以删除证据。在《诗音翩然到来之日》中，老人伊势崎想占诗音为己有，因为 他不想让诗音记录的不可告人的秘密外流。尽管现实中的机器人不见得会完全以《机器人与 弗兰克》或《诗音翩然到来之日》所演示的方式泄露老人隐私，但它仍然形象地展现了机器 人应用中的隐私威胁，增加了现实中相关探讨的紧迫感。
（二）赡养和性爱伦理的预设性
机器人养老意味着父母与子女的赡养关系转变为以机器人为中介的三方关系，甚至是三方单 向关系：父母抚养子女，子女购买机器人，机器人代替子女养老。这看似荒谬，但出于子女 无暇照顾老人或与老人无法顺利沟通等原因却有成为现实的可能性。此时，子女会有将老人 “丢给”机器人的自我伦理责备，特别是当老人如弗兰克刚开始并不喜欢机器人时，他对儿 子说：“我没有那么可怜！我不需要该死的机器人喂我吃饭！”两部作品中的机器人养老状 况在近期内都难以具有成熟的技术基础，它们所描绘的未来也未必会完全成为现实，但能启 发读者或观众思考如下问题：如果两部作品中的机器人养老未来以某种形式成为现实，会对 传统的赡养伦理带来哪些伦理挑战。
此外，在现实生活中，老年人的性爱需求往往因为他人目光而变得难以启齿。在《诗音翩然到来之日》中，老人伊势崎对女性机器人护理的侵犯虽未导致后者的反抗，但让同为女性的 叙事者强烈不满。这一矛盾可促使读者思考以下问题：养老院里的真人护理肯定不可侵犯， 但机器人是否可以承担护理和性工具的双重角色？一方面，不少人认为机器人有性爱潜质， 它仅是工具，为何不可？另一方面，如果它在为老人服务时被性侵，则在道义上难以令人接 受。这个伦理难题在应用伦理学中尚未被讨论。与赡养伦理一样，养老机器人所涉及的性爱 争议也展现了科幻作品中伦理问题的前瞻性、试验性和预设性。
（三）机器人定位的复杂性
从20世纪60年代起，国际学界就已有关于智能机器是否有权利的讨论。近十年来，国内学界 对是否赋予机器人权利问题众说纷纭。在《诗音翩然到来之日》中，伊势崎希望诗音能给他 陪葬，因为他认为诗音只是机器，烧掉它不需要背负伦理责难，但这引起了叙事主人公的强 烈反对。随着与机器人交往的深入，伊势崎才改变了对机器人的看法。在《机器人与弗兰克 》中，弗兰克逐渐有了机器人权利意识，并将机器人人格化。他严厉地纠正女儿说：“这个 机器人不是你的奴仆！”还宣称：“他是我的朋友！”——即便机器人多次强调它的非人身 份。用“它”还是“他”来指代机器人，这不仅是机器人的语法身份，也是伦理身份。
这种情况会令人陷入伦理两难：一方面，当机器人被定义为老人陪护者时，传统“奴仆论” 和工具论思维在科幻作品中已不再绝对适用。赋予机器人平等的地位能给弗兰克等老人带来 幸福感，尊重机器人是老人的诉求。另一方面，如果机器人未来可与人拥有某种程度上的平 等权利，将是对人独一性与自尊心的再次冲击。但《机器人与弗兰克》和《诗音翩然到来之 日》并未呈现一元价值，而是将机器人定位问题的复杂性直接摆在观众和读者面前。
（四）“机器理性”与人类感性的争议性
在当代养老机器人科幻作品中，人机冲突从人机存在之争转向“机器理性”与人类感性冲突 。康德认为人是“具有理性潜质的动物，并可以实现潜质、将自己训练为理智动物”。以动物为参照，人的确具备理性潜质；但以机器人为参照时， 更“理性”、甚至“绝对理性”的却是将人类理性能力内化的机器人。因为机器人是人类理 性的物化，可严格践行人类的理性规划，人自己却很难做到。诗音甚至认为，人类“无法正 确思考，搞不清自己在做什么、该做什么。一心认定违反事实的事是事实……人类欠缺 理解逻辑和道德的能力”。通过机器人，人们可清晰看到老人的生活偏好和重情薄理的一面 ，但这正是人之常情。
在《机器人与弗兰克》中，机器人旨在依照理性程序来改善弗兰克的健康状态，这与后者的 感性、尊严和不健康生活习惯不断发生冲突。如何应对老年人的非理智指令，是机器人设计 与应用要面对的现实问题。科幻作品表现“机器理智”和人类感性矛盾的手法是夸张的，但 也是形象的。如果以老人尊严和自由为优先原则，则需要机器人遵守老人的指令，包括可能 不利于老人健康的指令，因为不服从老人指令会“损害老人的自由和自主”，甚至产生“对 象化风险”；如果以老人健康为优先原则，则机器人不能服从老人不理智的 指令。但机器人可以因此违背其指令、限制其自由、令其感到尊严受挫吗？诗音认为，“明 显错误的信息不必相信，明显错误的命令不必服从”。 健康和尊严缺一不可，却难以兼顾，到底哪个优先？要解决这种难题，要 么需要完美的机器人伦理敏感性和灵活性设计，这从技术上讲难以实现；要么需要老人在人 机交互中自我反思甚至改变，这对老人来说并不容易。老人感性习惯势必会与以理性为根基 的伦理原则产生冲突，从而对单向度的伦理选择构成挑战与解构。
（五）情感欺骗与补偿之间的悖论性
人类情感会让机器人伦理讨论变得更加复杂。不管机器人是否有道德主体地位，即便人明知 它是人形异类，都可能将其作为生命体看待，将感情投射到机器人身上。老人尤其如此。尽 管机器人多次告诉弗兰克自己没有生命、只是执行程序，但在与机器人产生默契之后，弗兰 克仍将机器人主体化和人格化，视为亲人或朋友，非常珍视与机器人的友情。参考人对动物 投入的感情，这种人机伙伴关系并非不可想象，这对与家人沟通不畅的独居老人来说是一种 情感补偿。
机器人应用是否一定像人们担心的那样会减少老人的有效社交？保持正常的人际交往有益于 老年人身心健康，这已是共识，但机器模拟的和谐人机交往呢？一方面，在《机器人与弗兰 克》与《诗音翩然到来之日》中，在老人与儿女沟通存在问题的情况下，与养老机器人的交 往是老人唯一积极有效的“社交”，观众或读者看到的是人机真情感的和谐画面。这令人不 禁要问：机器人虚拟的“欺骗性情感”必然是负面的吗？但同时，影片开放性的结尾还促使 观众思考老人是否可将量产的机器人伴侣当作个性化挚友、能否将自己的感情安放在机器人 身上。《机器人与弗兰克》清晰地展现了问题的悖论性：机器人陪护既可能有益于老人的身 心健康，又可能减少老人真实的人类社交；既可能是值得信赖的情感依托，也可能是无法捕 捉的幻象。
回应：科幻的性质、特点与潜能
通过分析《机器人与弗兰克》等案例，结合关于科幻作品的已有研究，可解释科幻作品的性 质及其在伦理等严肃推理讨论中的特点与潜能，初步回应文章开头提及的两类论断。
首先，预测未来的赋能是科幻作品不应承受之重。作为一种文艺文类，科幻作品有着自身独 特的艺术形式与价值。以科幻小说为例，它“第一位的要素”是文学。科幻作品中的预言有可能成 为现实，但严格预测未来不是科幻作品的义务，即便是近未来想象也不是未来或现实的平面 镜，而是多棱镜。科幻作家勒古恩认为：“预测只是科幻小说的一个元素，并不是这场想象 游戏的全部意义。”有学者更是直言：“预测论观念是错误的。”利用科幻作品预测未来既是理解偏差，也可能是对科幻作品的实用性简化和矮化。而且， 预言未来也不应毫无保留地变成科幻宣言，赞许性赋能应该言之有物，否则它们可能成为科 幻作品无说服力论或误人论滋生的温床。《机器人与弗兰克》最“引人深思”之处并不在它 对未来机器人的预测，而在于它展现了近未来人机协存伦理的复杂性，在《诗音翩然到来之 日》中同样如此。
其次，科幻作品无说服力论或误人论是科幻作品不应单独背负之批评。认为科幻作品具有误导性是一种人工智能或机器人去想象化，但有时这种批评略显生硬。韩松指出：“具有一定 科学根据而以想象力为载体的科幻小说毕竟是文艺作品，不能与现实一一对应。”科幻研究者不会因为1984年未出现奥威尔式的未来世界或2019年未出现斯 科特式的洛杉矶而指责作者或导演，也不会减少对这些作品价值的认可。科幻作品的内容不 能直接用于推理，它被用作佐证材料的前提是符合逻辑、类比合理和言之有物。虽然《机器 人与弗兰克》和《诗音翩然到来之日》塑造了可想象性的、比恶托邦遥远未来更具真实感的 近未来世界，但这毕竟是虚构的“事实”，如果人们不假思索地将其视为未来现实，同样有 很大风险。一种幻想艺术的表现形式脱离眼前现实本无可厚非，而面对作为整体的科幻，批 评科幻作品具有误导性所引出的三种不当认识或姿态值得警惕：科幻作品的虚构性质和特点 未被正确认识，科幻作品未被合理地应用于推理，非科幻人以傲慢姿态面对科幻作品或者因 不赞成同行应用科幻作品所做的推理就直接或间接轻视科幻作品。
最后，科幻作品并非旨在预言未来、对应现实，但有些科幻作品是优秀的推理和伦理文本， 还有些作品的自我定位，就是“哲理科幻”，它们的推理潜能需被合理挖掘。英国科幻学者 罗伯茨认为：“所有的机器人小说从根本上讲，都是伦理小说。”机器人是人的 复制与镜像，当它扮演不同角色与人互动时，必然会产生各种伦理问题，因此机器人科幻作 品自带伦理属性。阿西莫夫机器人小说开启了机器人伦理的讨论，《机器人与弗兰克》和《 诗音翩然到来之日》等当代科幻作品仍在试验人机关系和伦理的新形态，但这种探讨有科幻 作品自身的限定与特点。在解释为何“向科幻电影找答案”时，有学者指出：“第一，虽说 只是幻想，但科幻作品中包含了很多聪明大脑对未来的深入思考。第二，虽然是电影，但电 影拍摄门槛很高，相当于进行了严格的层层筛选。第三，最终能进入公众视野并得到广泛关 注的科幻电影，确实能为我们提供新奇、独特的视角。第四，当电影成为大数据，就能发生 集体智慧的涌现。”但以上四条难以改变科幻作品基本无说服力或误导人等看法。此外，与其说我们可向“科幻找答案”，不如说我们应在科幻作品中寻启发。科幻作品作为素材用于 严肃的推理性研究绝非“荒谬”，关键是选择哪些文本、如何用它推理、推导出什么道理。 通过《机器人与弗兰克》和《诗音翩然到来之日》可看出，科幻作品在机器人推理或伦理讨 论中有以下限定、特点和潜能。
1.作为“如果-将会”（what if）叙事，科幻作品虽不总是预言未来，但有前瞻性或警示性潜能，并表现为对问题的预设、试验和形象化呈现。目前，科学家和公共知识分子在畅想人机协存的未来时，学界还没有现实案例。人文社科研究不能仅以现实中已存在的材料为素材。 科幻作品可以试验多种未来可能性，提供直观而具体的人机交互场景和机器人伦理悖论案例 ，具象化地模拟人性和人伦是否可以应对特定技术进步所带来的伦理挑战。《机器人与弗兰 克》和《诗音翩然到来之日》展现了希望与挑战并存的人机共存未来图景以及人类与机器人 的伦理纠缠，尽管这只是一种不确定的未来图景。鉴于科幻作品是试验性的未来想象，波顿 等学者认为，“任何提出有关计算机、机器人或计算机科学的重大技术或伦理问题的小说都 是科幻小说”，也就不足为奇了。而且，科幻作品多是对未来可能性的形象呈现 ，或能以更容易被感知的方式引人思考未来。例如，《机器人与弗兰克》中的机器人隐私 、养老伦理问题，《诗音翩然到来之日》中的机器人性爱伦理问题，都被融入有张力的故 事情节中。
2.作为推理性叙事，科幻作品可展现问题的争议性、悖论性和开放性，有时可能更贴近现实的复杂性和多种阐释可能。科幻作品情节虽是虚构，但优秀的科幻作品能够提出有探讨意义 的重要话题。尽管部分受众会因科幻作品的非现实性而视其为儿戏，但科幻作品在虚构的表 象下具有“符合科学原理和认知逻辑的‘真实性’”，这种认知和叙事逻辑为推理奠定了基础。《机器人与弗兰克》和《诗音翩然到来之日》展现了机器人养老伦理问题的多元性、开放性、争议性、悖论性以及更 多的个体差异性，甚至解构了已有伦理规范，可为应用伦理学讨论提供参考。
3.作为故事性思想实验，科幻作品并不提供伦理答案或范式，而是伦理讨论的“半成品”或 “原材料”，需要受众理性介入和思考。相比伦理学或法学的“硬推理”，科幻是一种“软 推理”。《机器人与弗兰克》和《诗音翩然到来之日》在人机情感交互、赡养与性爱伦理以 及机器人定位等方面提出多个开放性问题，然后将思考、判断或寻找启发的空间留给读者或 观众。此外，作为具有形象化和复杂性的思想实验，科幻作品中的伦理问题一方面需要读者 或观众的积极参与和理性介入，另一方面也适合推理训练，所以将科幻作品应用于伦理教 学在欧美大学课堂并不少见。
在用科幻作品作为案例进行推理时，人们需要正确认识科幻作品的性质、限定和特点，合理审视科幻作品艺术手法所描绘的非现实性表象，挖掘与思考其中具有启发性的核心问题。有人或许会指出，《机器人与弗兰克》和《诗音翩然到来之日》是与现实联系较为紧密的近未 来想象，更“误导”人的是《弗兰肯斯坦》（1818）等远离现实的恶托邦想象。但科幻叙事所谓的“误导性”与其虚构性不成正比。如果有读者或观众无法厘清恶托邦叙事与现实的显著差异，那么他是否能处理好近未来想象与现实的微妙差异或许也应被怀疑，因为近未来幻想有可能更考验人们的合理认知。不管面对何种虚构性或真实感的科幻作品，缺乏理性判断 力的人都可能会产生误判，问题的关键在于人们是否可以认清科幻的性质、特点与潜能。是 科幻“误导”人，还是人误读科幻？这是值得思考的问题。不管如何，提高普通民众对人工 智能和机器人的认知能力都很必要。
不可否认，也有不少科幻作品缺乏思想深度和创新性，其价值乏善可陈。但只要是优秀的科 幻作品，即便是远离现实的《弗兰肯斯坦》等恶托邦想象，人们都应在合理认识其虚构性的 基础上，透过表象发掘其推理潜能、凝练出核心价值。美国技术哲学家温纳在《自主性技术 》（1977）中对《弗兰肯斯坦》的解读即是如此。在《弗兰肯斯坦》中，科学家拼接尸块、 电击出怪物生命，这至今都没有现实技术基础。温纳严厉批评了好莱坞对这部小说的蹩脚电 影改编，因为这些“三流魔怪电影”忽视了雪莱夫人原著的精髓。同时，温纳并未纠结于小说故事的非写实性和夸张成分，也未认为它无说服力或误导人，反而从“弗兰肯斯坦难题” 中找到了一个重要寓言，即其技术失控学说的核心启示，因为这个故事“提供了关于如下主 题的有趣描述：创造、责任、疏忽以及接踵而至的后果”。在温纳看来，维克托“拒绝对其 发明的后果进行思索”，《弗兰肯斯坦》的“真正要害问题”是“已经被创造出来但并未受 到足够关注的事物的困境”，而且“维克托的难题现在已成为涉及整个文明社会的问题”。
余论：规避过度赋能与学科隔阂
可见，为科幻作品过度赋能或认为科幻作品有误导性时，都应谨慎。不管从哪个角度评价科 幻，都应以厘清和客观对待它的性质、特点和潜能为前提，因为不合理的赋能和理解只会导 向有偏差的认识。两类看法均值得学界全面审视：赞许性赋能虽是对科幻作品的认可，或会 提高科幻作品的一时热度，但也暗存隐患，即它是否是对科幻作品复杂性的简化、对科幻作 品本质的偏移？它是否会引发其它学科对科幻作品的逆反心理？“误导性”批评在何种程度 上是对科幻作品本身的误读，还是更多因为已有研究将科幻作品用于推理时不够严谨、导致 没有说服力？面对这种批评，科幻研究界和科幻创作界除了自我辩护，或许也应自问：以想 象力安身立命的科幻作品除了产出优秀的思辨作品，是否也讲述了过多夺人眼球且有雷同之 嫌的（悲观）故事乃至引发了科技界的批评？这些问题还值得进一步辩证思考。
在如何看待高新技术方面，人文社科与理工学科之间存在隔阂。而从不同学科对科幻的部分 判断，尤其是从“误导性”批评中可看出，学科隔阂也存在于人文社科学科之间，哲学和法学等学科内部关于科幻作品的看法也有很大差异。面对同样的科幻作品，不同学科（学者） 从各自角度阐释实属正常，但如果各方观点互为无法理解的“外语”，说明它们（他们）之 间存在因闭门造车而产生的隔阂。这种窘境再次提醒学界：一是跨学科对话不应只是走走过场，它应以破除学科傲慢、了解其它学科为前提；二是学科隔阂对认识事物的危害明显，破除学科隔阂需要客观、立体、多维度地认识事物，并对其做出恰当阐释。近年来，在误解科幻作品声音增多的同时，解读科幻作品、推理立论的国内科技哲学学者也开始增多，为相关 领域的跨学科交流做出了积极尝试。
本文系国家社会科学基金青年项目“德国文学‘早期机器人’书写研究”（项目号 ：20CWW018）的阶段性成果。
------------------------------------------------------------------------------------------------------------------------------------
本刊启事