陈颀 | 未来法学：作为法学思想实验的科幻

编
者按

保马今日推送的文章是陈颀老师的《未来法学：作为法学思想实验的科幻》。关于法律与科幻的关系，存在两种不同的观点。第一种观点认可科幻对于法学研究的积极作用，第二种观点否认科幻是法学研究的范畴，声称科幻作品只是“科幻主义”，法学界应当避免用“科幻想象”代替法学推理。陈老师指出，持第二种观点的法学学者不仅在一定程度误解了科幻的性质和功能，也将科学研究中的创新看作纯粹的实证问题，从而忽视了思想实验（Thought Experiment）在科技创新和思想创新中的重大意义。基于此，本文论证了两个核心问题，一是作为思想实验的科幻文艺的正当性、认知机制和功能意义。二是作为法学思想实验的科幻文艺具有怎样的“想象-推理”机制，这种特别的机制建构的法学知识如何为未来法学提供新的知识。

本文从斯科提亚-库珀的“what if”思想实验理论出发，指出科幻思想实验可以通过建构一个可能世界模型进行一种理想化的科学实验。陈老师认为通过科幻思想实验探索未来法学，可以推想和检验现有法律规则在未来社会的可能实践后果，进而反思现有法律规则，也可以通过构造特定未来社会的可能场景，设计和检验新的法学概念、规则和原理。而通过科幻思想实验探索未来法学，需要在人工智能时代重构人机关系，这需要超越教义法学和实证法学研究视野，正视法律与科幻之间的相互作用与相互渗透。毕竟，优秀的科幻作家与优秀的科学家、法学家一样，总是在设计未来，规范未来。

本文选自侯猛、陈颀老师主编的刊物《法律和社会科学：法律与科幻专号》2022年第19卷第2辑，转载自公众号“四十二史”，感谢陈颀老师对保马的大力支持！

相关链接：

未来法学：作为法学思想实验的科幻

文 | 陈颀

一、引言：从法律与科幻的关系谈起

进入二十一世纪以来，信息、生命、制造、能源、空间等领域的新一轮科技革命加速重塑了社会关系[1]，正在或将要引起法律关系的变革。与此同时，科技重大风险的不可控性和不确定性日益增强。为了预防和规制科技风险，调整社会关系中不断凸显的科技与人类之间的矛盾，作为一个前沿科技与法律紧密融合的前沿学科和交叉学科[2]，“未来法治”应运而生，其基本任务是“面向未来、走向未来、引领未来”[3]。有学者提出，未来法学是法学与未来学的交叉学科，其旨在研究未来社会关系对既有法律体系和法学理论的冲击及其应对。[4]

科幻文学是科学和未来双重入侵现实的叙事性文学作品。[5]从弗兰肯斯坦的怪物到阿西莫夫的机器人三定律，从乌托邦到末日毁灭，科技革命与未来社会一直是科幻作品的重要主题。近年来，以刘慈欣《三体》《流浪地球》为代表的中国科幻蓬勃发展，让科幻从小众文化走向主流文化，也引发学界关于科幻的性质、功能，以及法律与科幻关系的争论。目前而言，存在着两种迥然不同的观点。

电视剧《三体》海报（2023）

第一种观点认可科幻对于法学研究的积极作用，认为科幻作品昭示着未来法学的发展趋势，为探索法律的可能性和局限性提供了丰富的理论资源，并通过大众文化影响民众和学界对科技变革的态度。[6]早在2007年，美国《法律、文化与人文》杂志就出版了一期“银河法学”（Galactic Jurisprudence）专号，论文的议题包括电视剧《星际迷航》第十季《复仇女神》（Star Trek: Nemesis）中基因决定论焦虑的深层原因及其基因编辑立法启示，电影《银翼杀手》（Blade Runner）与关塔那摩监狱移民法问题，阿西莫夫的机器人小说中人工智能或机器人对后人类（posthuman）法律体系构成的可能挑战，超级英雄漫画夜魔侠（Daredevil）中的权威、法律与正义，等等。[7]在“银河法学”专刊导言中，该杂志编辑萨拉特（Austin Sarat）如是论证科幻小说的法律意义：“以科幻为标志的想象和想象空间……提醒我们注意法律和社会安排的偶然性。……它构想了另类现实（alternative realities），并邀请我们加入其中。”[8]特拉维斯（Mitchell  Travis）发表在《法律与文学》杂志的“法律与科幻”专论，则敦促法律社会学研究者更加关注科幻小说：“通过强调可能的未来，科幻使法律能够考虑处理新事件和场景（scenario）的不同策略。”[9]

第二种观点强调科幻对法学研究或法治建设的消极作用，甚至否认科幻作品是法学研究的范畴。比如，声称科幻作品只是“科幻主义”，“强人工智能”“克隆人”“外星人”“火星殖民”等等都是尚未发生的科幻想象，不属于法学研究的范畴，因此，法学界应当避免用“科幻想象”代替法学推理，[10]在反对“科幻法学”的学者对于人工智能等的未来法学研究对象的态度主要以下两种：一是坚持法教义学的基本理念和立场，将传统的法教义学适当转化，以适用于人工智能等新兴场景；[11]二是坚持“社会科学”的基本方法，研究从人工智能等新兴科技的实际应用所产生的现实法律问题。[12]对于科技风险，有学者认为，科幻作品中充斥对未来科技社会的“反乌托邦”的负面想象，造成社会对科幻发展的某种排斥心理，应当研究科技变革中真实存在的或可预见的风险，“摒除科幻思想的虚无性与过度想象”。[13]

本文认为，持第二种观点的法学学者首先在一定程度误解了科幻的性质和功能，其次也将科学研究（无论是法学研究还是自然科学研究）中的创新看作纯粹的实证问题，从而忽视了思想实验（Thought Experiment）在科技创新和思想创新中的重大意义。[14]思想实验是科学研究的经典研究方法，也是法学等社会科学的重要研究方法。从科学与科幻的关系出发，本文分析遵循一个并非完全新颖的洞见，即科幻文艺是思想实验的重要方式。关于这一点，最著名的说法来自于科幻小说家和研究者斯科提亚（Thomas Nicholas Scortia）在《作为思想实验的科幻小说》中的断言：“科幻小说家是真正意义上的思想实验的专业制造者……自然科学家、社会科学家、科幻小说家……都关注如何回答‘如果……那会怎么样’(what if) 的问题。每一个人都凭借自己的技能去定义一个思想实验, 并通过逻辑的外推或内推,试图找到问题的一种可能答案。”[15]斯科提亚强调科幻小说的尊重科学的理性主义色彩，因而特别强调科幻的思想实验功能。他对科幻思想的界定无疑符合到思想实验的一般特征，即利用想象力推理（imaginative reasoning）来完成的实验[16]，其观点也得到了当代中国科幻作家和理论家的普遍认同。[17]科幻作家陈楸帆认为：“科幻写作的本质是一种基于‘What if’（如果……那么……）基础上的思想实验，是从对现实世界规则的某种改写，进而推演其如何影响到社会、人性乃至文明本身。”[18]科幻作家郝景芳也认为：“我最关心的也是人的思维过程，人是受什么样信息输入的影响，什么样的社会环境会对社会中的每一个人产生影响，所有这些思想实验，在我看来，是科幻小说最令人着迷的地方”[19]

《星际迷航：复仇女神》电影海报（2022）

不过，从思想实验的主流视角而言，研究者通常只讨论科学思想实验和哲学（社会科学）思想实验，一般不将文学、艺术等纳入思想实验的讨论范围。因此，本文将要论证的第一个核心问题是作为思想实验的科幻文艺的正当性、认知机制和功能意义。科幻的功能和价值是预测未来科学）发展吗？科幻是文学，是虚构，是想象，凭什么比自然科学或社会科学更“有效”？回答“what if”问题的想象性推理为什么能够构建一个成功的思想实验，给出一个思想假定的可能答案？这就引出本文将要论证的第二个核心问题：通过科幻思想实验探索未来法学的正当性、工作机制和功能意义。[20]对未来法治的挑战和任务而言，作为法学思想实验的科幻文艺具有怎样的“想象-推理”机制，这种特别的机制建构的法学知识如何为未来法学提供新的知识？比如，科幻思想实验如何建构可靠的法学知识模型？相对于演绎法支配的规范法学和归纳法成就的社科法学，科幻思想实验获得法学知识对于法律人和社会有何特别的认知机制和社会后果？

从上述两个核心问题出发，本文对作为法学思想实验的科幻文艺的分析论证结构如下：本节是引言，第二节以思想实验的可能世界模型为基础，提出和论证作为法学思想实验的科幻文艺的基本概念、推理方式和有效性标准。第三节讨论以人工智能科幻为例，讨论出版于1865年的科幻小说《埃里汪奇游记》对图灵测试等人工智能科技的启发。第四节继续分析可能是最著名和现实影响力最大的（法学）科幻思想实验：人工智能领域的阿西莫夫机器人三定律。本节将讨论，被许多研究者批判的小说中三定律的模糊和悖论，实际上源于阿西莫夫的自觉建构和主动证伪，其目的是利用三定律作为“what if”问题的起点，将看似颠扑不破的“定律”演化出许多的概念和逻辑悖论，构想人机关系的人机冲突或人机共存的不同可能。鉴于阿西莫夫机器人系列短篇小说主要从人工智能的科技发展本身的人机关系后果展开思想实验，第五节将从社会经济逻辑分析和比较人工智能时代法学的两个当代中国科幻思想实验：郝景芳《北京折叠》和刘慈欣《赡养人类》。在第六节也是本文的代结语中，重申通过科幻思想实验探索未来法学对于法律和科幻的重要意义。

【英】巴特勒《埃里汪奇游记》，湖南人民出版社1985年出版

二、作为思想实验的科幻文艺

科幻起源于人们面对工业革命和科技进步的“惊异”。关于人类（社会）与科技的未来关系，科幻小说家和研究者斯科提亚曾断言：“科幻小说家是真正意义上的思想实验的专业制造者,不管他是在考察一项新的科技发展所引起的局部后果，还是在考虑一种社会潮流的更为宽泛的影响。”[21]这句论断常被援引，不过这句话的区分的两种科幻思想实验及其功能区别，却常常被人忽略。实际上，斯科提亚是自觉地借助思想实验的两大分类——科学思想实验和哲学思想实验——的科学性来论证科幻思想实验的“合法性”与“专业性”。

新科技发展的技术后果即是科学思想实验。在自然科学特别是物理学领域，思想实验是物质实验的重要补充，因为它既能够满足科学实验中所需要的思维逻辑，又能够弥补现实实验不能满足的实验条件。纵观科学史，从芝诺悖论到牛顿大炮，从伽利略的自由落体实验到爱因斯坦的追光实验，从麦克斯韦妖到薛定谔的猫，许多的思想实验在科学发展史中起到了至关重要的作用。在斯科提亚看来，具有内在一致性的推理严密的技术故事被称为“硬科幻”。（硬）科幻文艺在思想实验中常常能够惊人地预言技术的发展，科学史上许多重大发明与科幻文艺密不可分，许多科学家也坦言自己受到科幻作品的激发才走上科学道路。著名物理学家斯蒂芬·霍金高度评价科幻作品的科学意义，他在为物理学家克劳斯《<星际迷航>的物理学》撰写的序言中写道：“《星际迷航》这类科幻作品在娱乐大众的同时，也被赋予了另一个严肃的使命——开拓人类的想象力……其实科幻作品和科学发展之间是相互影响、相互作用的。科学家有时会借鉴科幻作品中的一些设定，并把它们运用到真实的科学理论当中；有时则会发现一些比科幻作品还要奇幻的科学理论。”[22]许多例子都能够证明霍金的赞美。“科幻之父”凡尔纳《海底两万里》（1870）中的“鹦鹉号”激励了西蒙·莱克制造出世界上第一台潜水艇，《云之帆》（1886）则是雷克尔斯基制造直升机的灵感来源。捷克作家卡雷尔·恰佩克在科幻剧作《罗素姆的万能机器人》（1921）中发明了机器人的概念。在科幻“黄金时代三巨头”中，克拉克构想了人造卫星及其运行的地球静止轨道，而后者在现实中被命名为“克拉克轨道”；海因里希预言了核子战争和互联网；阿西莫夫则构想了自动驾驶汽车和视频通话技术。基因编辑“魔剪”CRISPR/Cas技术的创造者张锋，多次向媒体提及1994年公映的电影《侏罗纪公园》激励他走向基因编辑的科研道路。

【法】儒尔·凡尔纳《海底两万里》，1985年1月出版

相较于自然科学中的“补充”地位，思想实验在以哲学为代表的人文社会科学领域的作用更为突出。从忒修斯之船到缸中之脑，从柏拉图洞穴喻到葛梯尔悖论，从无知之幕到电车难题，思想实验在哲学论证中意义非凡。这是因为哲学往往限于研究对象的抽象性和社会性，不具备科学实验的客观条件。比如哲学论证中形而上学命题、价值命题的非经验性，使得许多命题既无法直接引用经验事实作为论据来进行论证，也不能以这类事实来检验理论的有效性。[23]而在社会科学领域，当心理学家构建一个人的模型，或者社会学家构建一个社会模型，或者当经济学家构建一个经济模型——然后从模型中得出推论或可能性时，他们都在进行思想实验。而相互竞争的理论模型经过同样的经验事实的检验，或者依赖于不同的经验事实。囚徒困境之于博弈论，柠檬市场之于信息经济学，纽康伯悖论之于心理学或决策理论，圆形监狱（panopticon）之于规训理论，洞穴奇案之于法理学，若干著名的思想实验影响和塑造了相关社会科学的基本面貌。

圆形监狱

相比起科学思想实验，作为哲学思想实验的科幻文艺在预测社会和政治变迁方面并非那么成功，这是因为未来社会涉及许多复杂的因素且变化莫测，也因为 “大一统”社会科学理论尚待来者。未来社会的历史进程由多种力量共同决定，并无完全确凿的理论或技术来分辨主导力量或重要的相互作用；甚至人们完全意想不到的因素也有可能影响社会历史进程。社会科学理论在不断地解构重塑中发展变迁，而社会现实的发展演变往往比小说更“科幻”。当然，优秀的科幻文艺特别是“推测小说”（speculate fiction）的确影响了社会科学的理论和实践。比如阿西莫夫《基地》系列中谢顿博士发明预测银河帝国未来史的“心理史学”，激励诺贝尔经济学奖得主保罗·克鲁格曼投身于预测人类社会未来的社会科学之路。[24]仍然是阿西莫夫，他“随手写下”的“机器人三定律”一直是人工智能领域的指导原则，也曾激励和启发许多人工智能学者思考人工智能的技术、伦理和法律原则。《1984》《美丽新世界》《我们》让社会科学家不得不面对“反乌托邦”的未来社会，反思科技发展却压制人类自由解放的灰暗情境。值得一提的是，“赛博朋克”（cyberpunk）科幻小说中“高科技，低生活”推演和预示了网络时代的许多社会症候，让读者反思资本主义驱动下科技发展的可能逻辑后果。斯蒂芬森《雪崩》（1992）中设想“元宇宙”（Metaverse）[25]，已经成为全球数字科技巨头竞相炒作、营销以及推动的虚拟现实世界。

综合科幻文艺的科学与哲学思想实验功能，诚如斯科提亚所说，科幻作家与自然科学家和社会科学家一样，都在关注回答“如果……那么会怎样”（What if）的问题，通过自己的技能定义某个思想实验，并通过逻辑的外推或内推，试图找到问题的一种可能的答案。”[26]在他看来，科幻思想实验可以是一个简单的技术思想实验的结果,可以在更高的外推（extrapolation）层次指向未知的未来或过去,也可能是一种真正意义的内推（interpolation），也就是一种不同于现有世界的可能解释。就外推的角度而言，科幻小说最重要的功能并非预测未来（尽管前文已经提及若干成功案例），而是对社会提出思想实验想象推理的警告或讽刺，通过虚构场景揭示某个逻辑设定的边界条件的荒谬性和潜在地违背逻辑，而被证明某种思维外推的无效性。在很大程度上，这种反讽性外推也是反乌托邦和赛博朋克等反思/批判科技的社会实践的科幻文艺的思想实验的形式。而科幻思想实验的内推，在科学意义上属于插值方法的模糊推理，其具体形式斯科提亚并没有详细阐发。在本文看来，作为内推的模糊推理实际上就是一种“从特殊到特殊”的类比推理，下文将根据思想实验的基本原理具体阐发类比推理的形式和界限。

总之，尽管通过“What if”的思维方式及其推理结果界定了科幻思想实验，然而为什么能够指向某种不同现有世界的可能解释呢？其中道理，斯科提亚没有详细论证。为了更好从学理上分析和回应这个问题，我们可以借助哲学家库珀（Rachel Cooper）的思想实验理论推进斯科提亚命题的理论论证。[27]在库珀看来，倘若“What if”问题的推理能够被严格执行，那么小说等文艺形式就可以被当作思想实验。库珀指出，思想实验的经验论（代表学者如诺顿）和理念论（代表人物如布朗）两大传统都有其弊病，前者坚持知识经验论，将思想实验视为旧经验重组后的新经验论据，因而将思想实验的适用范围仅仅限制于“假设的或反事实的情况”[28]；后者坚持先验主义知识论，将思维实验视为用直觉感知先验知识的一个途径，陷入柏拉图主义的神秘论。[29]基于经验论与理念论的综合，库珀认为，思想实验就是尝试建构可能世界的模型（models of possible worlds），思想实验为人们展示了一系列“What if”问题，人们在思想实验中暂时调整了世界观，以符合物质实体运作的方式和程序进行想象和推理，以便构建一个符合这些“What if”问题的答案的模型。[30]当思想实验者遵从“What if”问题模式后，将可能产生不同的结果，分别对应思想实验的证成和证伪的不同功能。

  斯蒂芬森《雪崩》，1992年出版

首先，当“What if”的所有问题都被回答时，思想实验就是一个内在一致的模型，建构或再现一个可能的世界。严格而言，思想实验者并不可能或没有必要考虑所有的实验细节，所以其建构的不是一个可能世界，而是可能世界的无限数据的某个模板（template）。如果思想实验成功建构了内在一致的模型，也就建构了可能的世界，那么就可以得出结论，实验者所想象的场景是可能的。在库珀看来，这种物理的或逻辑的可能性的强度（可信性），取决于思想实验者是否将自己限制于实际物理规律构建的模型之内。[31]只要思想实验者正确理解了现有的科学理论模型，就可以借此成功展开思想实验的模型建构。世界构建的可能性强度的看法，可以让我们更好理解科幻思想实验遵循特定物理（科学）或逻辑（哲学）的内在一致性的重要意义。就此而言，科幻文艺的“科学”特质与主流文学“审美”特质的差异是明显的。其次，当“What if”的问题不能被回答时，库珀式的思想实验就是一个内在（前后）不一致的模型，展现出某种不可能的场景。换言之，这样的情况一般就意味着该思想实验所设想的条件不可能实现这样的结论。

在库珀看来，思想实验的失效基于两个可能的因素。首先，思想实验者无法回答“What if”的问题。原因可能是实验者不能正确了解支配其想象实体的明确的或隐含的规律法则，也可能是实验者虽然理解现实世界中与其预测想象的实体行为相符合的规律法则，然而这些法则并不适用于该思想实验的前提假设。譬如威廉斯的“如果人像变形虫一样分裂会怎样”[32]，或者卡夫卡《变形记》中的主人一觉醒来变成一只甲虫的“设定”[33]，涉及的生物学（可能）逻辑过于复杂，至少在目前是一个无法回答的思想假设。又譬如在某些科学领域，特别是人文社会科学领域（如法学），支配其实体逻辑的规律法则尚未被充分揭示或达成共识，思想实验者在找到合适方法扩展其概念之前，就不得不利用类比（analogy）方法进行推理。不过，类比推理非常依赖于认知的相似性，这就需要实验者在思维场景中建构符合真实世界基本原理的相似性。换言之，如果将虚构世界的元素与真实世界进行类比，虚构世界与现实世界的相似性是一种正面的相似性，其差异是一种反面的相似性，思想实验的结果是一种中性的相似性。只有当虚构世界和现实世界之间的差异使得思想实验不适用时，科幻思想实验才会失效。其次，思想实验者可能对是否构建了一个一致或不一致的模型产生了误解。这些不一致可能难以发现，这就要实验者更了解真实世界的相关知识，并且尽量设计简化的思维场景，以避免过于复杂的推理。

卡夫卡《变形记》插图

思想实验的确有可能失效或出错，然而库珀认为，基于如下理由，人们还需要进行思想实验。[34]首先，某些思想实验实际上是可能的，这些思想实验只是真正实验的理想化，但我们可能有合理的理由只在思维展开实验，比如这些思想实验可能不道德，或在实践中执行的成本太高。需要注意的是，涉及理想化的思想实验就是斯科提亚说的思想实验外推的极限情境。其次，理想化思想实验之外的其他思想实验不能被真正的实验所取代，因为它们的目的是为了阐明某种逻辑可能性，尽管这些思想实验的假设直接违背了现实的科学法则。

斯科提亚-库珀的科幻思想实验理论，也能兼容于可能是二十世纪最著名的科幻理论家苏恩文（Dazko Suvin）以疏离/陌生化（estrangement）、认知（cognition）和新奇（novum）为核心概念的经典科幻理论。在苏恩文看来，首先，疏离/陌生化，即科幻“虚构”区别于主流“现实主义文学”，科幻制造具有距离感的陌生世界和宇宙景观，从而产生审美—诗学。[35]这是一种文学属性，构成了科幻与科普的基本差别。其次是认知，尽管科幻疏离了现实社会（反面的相似性类比、非现实的假设），却符合以科学为基础的人类认知——科幻认知不是奇幻（fantasy）、克苏鲁（Cthulhu）等超自然因素。因此，作为思想实验的科幻，其认知逻辑需要与科学逻辑相符合或“拟真”（verisimilitude）。换言之，“实证主义将科幻小说引入了预测”[36]，然而科幻不等于能够通过科幻思想实验（认知假设）推测未来，必然存在想象、夸张、审美的成分。科幻小说的科学逻辑不等于真实科学实验，而是一种科学思想实验制造的新奇的认知逻辑。科幻文艺中的科学标准一方面要求有相当的拟真性，另一方面对科技发展和社会科学等“软科学”保持一定的开放性。因此，科幻更像是某种指向“可能的未来”的类比/类推。类比是一种不充分的似真推理，其猜想的正确性，还须经过严格的逻辑论证。最后是苏恩文的第三个关键词，新奇。“构想和探讨着关于人类关系和人类潜能的全新观点与认识”，[37]如苏恩文所言，新奇正是科幻小说独有的诗学。正如刘慈欣所言，“科幻之美”是对科学、对未知、对宇宙的惊奇感,这种惊奇感不同于主流文学所营造的细腻美感，从而构成科幻文学的核心价值。[38]

霍华德·菲利普·洛夫克拉夫特1926年创作《克苏鲁的呼唤》，开创了后世称为“克苏鲁神话”的宇宙构想

三、人工智能与科幻思想实验

以斯科提亚-库珀的“What if”问题及其回答界定思想实验的可能世界模型，相对于“主流文学”，科幻思想实验因其对未来社会的推测和思考而具有独特的功能和意义，正如斯科提亚所言：“……科幻小说尽管有其娱乐价值,但是它担负着一项光荣的使命,那就是向人类展示可能的未来, 辨识历史进程中关键的节点。……科幻小说以其世界末日式的警告, 使我们有机会去思考无情的未来之旅的不同路径。”[39]作为思想实验的科幻，最广为人知的实例莫过于科幻文艺对于人工智能科学家的重要启发和影响。借助“What if”思想实验模型，可以从建构内在一致和不一致的人工智能思想实验模型。首先是回答“What if”的内在一致的人工智能的外推模型。当技术尚未发展到某种程度、现实实验所需的客观条件尚未满足的时候，科幻思想实验能够通过回答“What if”问题，实际上进行了理想化的现实实验。在“人工智能之父”艾伦·图灵的奠基论文《计算机器与智能》（1950）中，参考文献的第一篇就是科幻小说《埃里汪奇游记》（Erewhon）。[40]在这部出版于1865年的科幻小说中，塞缪尔·巴特勒第一次提出了假如“机器生产机器”会怎样的思想实验，这种科技发展的未来可能性刺激了图灵构思人工（机器）智能的理论基础：

“在某些限度之内，机器能够生出任何种类的机器，无论这些机器与它们本身多么不同。每一类机器也许会有它们的特别机器生殖者（a machine’s reproducing another machine），而且所有较高级的机器都把它们的存在归功于很多的父母，而不是仅仅两个。如果把任何复杂的机器看成是一件单独的东西，那我们就会被引入歧途；事实上，它是一座城市或者一个社会，这个社会的每一个成员都是真正地按照它的种类生殖出来的。我们把机器看成是一个整体，我们用名字称呼它并赋予它个性……”。[41]

”

在《机器智能，一种异端理论》（1951）中，图灵进一步探讨人工智能的一般原理。[42]面对“人无法制造一种像人一样思考的机器”的常见质疑，图灵提出，根据哥德尔定理等数理逻辑，机器可以像数学家一样“论证”，因此高真模仿人类的心智行为的机器是可以制造出来的，尽管“它”可能像人的工作一样犯错误。假设这样的智能机器是真正可能的，那么我们预期建造它们的后果。机器思维的发展可能会超越“我们”的微薄力量，让我们无法理解机器如何表达。图灵进一步指出，当机器能够通过“机器学习”的方式增进智慧，那么《埃里汪奇游记》的“机器社会”就将成为现实：“机器不存在死亡的问题，它们将互相交流学习，增进彼此的智慧，于是在某个阶段，我们能够预期机器会按照巴特勒《埃里汪奇游记》中所描述的那样获得（自我）管理控制的能力。”[43]

艾伦·麦席森·图灵（1912年6月23日~1954年6月7日）

无独有偶，“控制论之父”诺伯特·维纳在发表于1948年的《控制论》（cybernetics）中也援引巴特勒的机器暗中统治人类社会的“幻想”。[44]尽管机器社会存在为恶的可能性，然而维纳更为关注《埃里汪奇游记》中人类大规模使用和接纳机器的关键因素：机器劳动是一种“奴隶式”的劳动，这让机器劳动在与人类劳动的竞争中存在优势，在市场社会中这种优势尤其明显。维纳指出，由此推演，大规模自动机器劳动不见得一定是件好事，这会继两次工业革命后进一步贬低人的劳动以及人本身的价值。[45]在自动机器在工业社会作恶的潜能问题上，科幻小说家巴特勒的构想让科学家维纳心有戚戚焉。

当然，“机器生产机器”只是机器社会的第一步，机器要实现“自我管理”，就需要具备某种“智能”，这便是人工智能：让机器像人一样思考，甚至超过人类。计算机可以像人一样思考吗，它的标准是什么？实际上，人工智能的著名概念“图灵测试”（Turing test）与塞尔的“中文屋论证”（the Chinese room argument）就是两个针锋相对的思想实验。按“图灵测试”的标准，大脑就是一台数字计算机，心智不过就是计算机程序。这种思维的行为主义界定，遭到了哲学家塞尔的反驳。通过中文屋的思想实验，塞尔认定，即便机器通过了图灵测试，也不可能真正达到人那样的自主意识。就此而言，塞尔的理论可以被用于论证某些人工智能科幻思想实验的无效。[46]比如按照塞尔的看法，像科幻类连续剧《西部世界》中德洛丽丝那样自我觉醒并摆脱和反制人类的超级人工智能，可能永远不会出现。不过，塞尔也承认他批评的是数字程序计算机，在理论上我们能够发明其他类型的、具有某种生物化学特征的计算机。[47]

2020年初，人工智能科学家李德毅院士在中国人工智能学会会刊《智能系统学报》提出了“新一代人工智能十问”，其中有若干问题，就与图灵测试和中文屋论证两个思想实验题息息相关。比如第一问，意识、情感、智慧和智能，它们是包含关系还是关联关系？是智能里面含有意识和情感，还是意识里面含有智能？第三问，目前所有人工智能的成就都是在计算机上表现出来的“计算机智能”，存不存在更类似脑组织、能够物理上实现的新一代人工智能？第四问，机器人不会有七情六欲，还会有学习的原动力吗？如果没有接受教育的自发性，还会有学习的目标吗？在实证意义上，目前学术界作为一种人造物的人工智能的意识与智能关系及其情感等难以达成共识，但想象和思考这个问题本身仍然是很有意义的。退一步而言，即便是与人的自主意识存在本质差异的计算机器的“强人工智能”，也随着近期人工智能复兴和应用过程中引发社会巨大变化。比如，晚近在大数据加持下，利用人工神经网络进行机器学习，赋予了机器自我学习和自我升级的能力。尽管神经网络和深度学习的基础理论特别是可解释性仍然像个“黑盒子”，有待进一步研究。此外，基于人脑的“脉冲”（spiking）模拟计算框架下的第三代神经网络模型——脉冲神经网络（SNN）旨在弥合神经科学和机器学习之间的差距，使用最拟合生物神经元机制的模型来进行计算，其目标是研究人类大脑的工作机理并模拟出一个与人类一样具有思考、学习能力的人工智能。[48]又比如量子计算机的理论构想旨在利用量子比特微妙的量子状态来进行一些传统计算机无法完成的计算，目前已在实践中实现了“量子霸权”（quantum supremacy），或者叫量子优越性（quantum computational advantage），即在某个特定问题上的计算能力远超现有最强的传统计算机，而传统计算机在有限时间内无法完成计算。[49]有学者提出设想，在量子人工智能中，信息处理过程可以用量子力学解释的量子力学算符的组合来表示。而在普通经典计算机中实现的经典人工智能信息处理过程的机制通常在一个黑匣子内。因此，量子人工智能或许能够比经典人工智能更具可解释性。[50]

图灵测试是判断机器是否具有人工智能的一套方法，让测试者与机器隔开，通过一些装置向机器随意提问。进行多次测试后，如果有超过30%的测试者不能确定出被测试者是人还是机器，那么这台机器就通过了测试，并被认为具有人工智能

总之，人工智能的现在与未来存在许多的理论和实践挑战。在这个意义上，基于“what if”问题的科学或逻辑回答的人工智能的科幻想象，无论是基于图灵测试或是中文屋验证的科学-哲学思想实验，还是《埃里汪奇游记》《西部世界》等科幻思想实验，都构想了某种人工智能的科学或社会逻辑未来可能性的思想实验。

四、机器人三定律的法学思想实验

从斯科提亚-库珀的思想实验的可能世界模型出发，本文认为，未来法学是一种法学思想实验，我们可以借助科幻想象检验现有法律规则在未来社会的可能实践后果，构造未来社会的可能的法学概念、规则和原理。作为人文社会科学思想实验的重要类别，法学思想实验可以构造无法通过法律规则推理或法律实证经验直接研究的法学思维场景，推断/预测或探索（类比）科技社会发展变迁引发的（可能）新的法律问题及规则重构，建构未来法治的可能世界。作为法学思想实验的科幻文艺，其思想构造最特别的意义是能通过经验基础上的叙事和意象充分调动法律人的“想象力”，推演构造未来法学中新的法律概念、规则、原理及其潜在后果的“可能性”，或者反驳某些现有法律概念、规则、原理与未来法治的“不可能性”。

面对新科技革命后不断涌现的科技-社会风险问题，现存的实证法规则存在滞后性，常常在一刀切“预防原则”与“自由放任”的二元对立之间做出选择。即便可以通过法律实证研究，依据新科技带来新法律经验构造，然而人工智能、生物科技等新科技发展的“奇点效应”常常让科技规制的法律实证研究缺乏用武之地，或者做出了缺乏内在一致的规则决策。如中科院院士谭铁牛在十三届全国人大常委会专题讲座（第七讲）所言；“我国对人工智能可能产生的社会影响还缺少深度分析……在人工智能领域的法律法规制定及风险管控方面相对滞后，这种滞后局面与我国现阶段人工智能发展的整体形势不相适应，并可能成为我国人工智能下一步创新发展的一大掣肘。”[51]因此，为了迎接和应对人工智能科技发展及其社会后果的挑战，人工智能法学研究需要跳出原有法学研究方法的“舒适区”，以思想实验方式想象建构未来法治的可能世界。

弗兰克·伯斯夸来《新机器人法》，2020年10月出版

让我们从人与机关系的最著名的阿西莫夫机器人三定律（Three Laws of Robotics）开始提问：机器人三定律可以构成规范人机关系的基本规范吗？[52]作为机器人学（robotics）概念的创造者和哥伦比亚大学化学博士，可能是二十世纪影响力最大的科幻作家阿西莫夫推测，随着机器在人类生活中发挥更大的自主性和更大的作用，我们需要严格的法则以确保机器人不会使人们处于危险之中。在现实法律意义上，机器人三定律得到了立法和伦理政策的积极回应，机器人三定律可能是有史以来最著名和最有影响力的科技政策科幻小说，已被不少机器人法律草案、伦理规范或政策报告所采纳。2017年2月，欧盟议会通过全球首个“关于制定机器人民事法律规则的决议”，第T条基本原则提出：鉴于阿西莫夫定律应当可以适用于具有自主性和自我学习能力的机器人的设计者、生产者和操作者，尽管阿西莫夫定律并不能转化为机器代码。[53] 2012年韩国《机器人伦理宪章》也将机器人三定律直接规定为第3—5条规则。[54]英国标准协会(BSI)2016年发布了全球首个机器人伦理标准《机器人和机器系统的伦理设计和应用指南》在“阿西莫夫机器人三定律的基础上”，增加了对机器人研究、制造和使用的道德风险评估，不许以智能机器人对人类造成伤害、欺骗和成瘾，以保证AI能够融入人类社会现有道德规范。[55]2018年英国上议院任命的人工智能特别委员会的报告《人工智能在英国：准备就绪、孜孜以求还是力所能及？》提出，需要认真对待阿西莫夫机器人三定律的“思想实验”以及科幻对于人工智能领域的决策和公众辩论的重要性。[56]此外，伴随人工智能、软件自动化和工厂机器人技术的兴起，机器及其制造者可能带来的危险变得更加复杂和紧迫，在近著《新机器人法》中，法律和人工智能学者帕斯奎尔在机器人三定律的基础上设计了新的四条机器人法则：第一，数字技术应该“辅助专业人士，而不是取代他们”。第二、人工智能和机器人系统“不应该假冒人类”。第三，应当防止人工智能加剧“零和军备竞赛”。第四，机器人和人工智能系统必须强制“表明其创造者、控制者和所有者的身份”。[57]

另一方面，从诞生之日起，许多人工智能研究者就完全否认机器人三定律的科学意义，他们的检验标准是上节提及的图灵测试或中文屋论证。按照图灵测试的逻辑，测试者已经无法区分人与机器，被认为具有人类智能。而机器人三定律则是针对具有自主意识的强人工智能的开发、设计和操作法则,有三种简单方法可以区分机器人与人。因此，在逻辑上，机器人三定律与图灵测试相违背。同理，更“高阶”的中文屋测试同样与机器人三定律相冲突，通过中文屋测试的机器人已经具备人的意向性，因此不可能会在底层系统上受到三定律的束缚。关于图灵测试和中文屋论证与机器人三定律的可能冲突，科幻电影《机械姬》（2015）中的机器人故事令人印象深刻。影片“女主人公”机器人Ava既通过了图灵测试，也通过了中文屋测试，已经完全具备人的思维能力乃至作恶的本领。Ava用自怜、同情心、道德乃至“爱情”成功地俘获了测试程序员Caleb的感情，并在他的掩护下杀死了实验创始者Nathan，登上了通向自由的直升飞机。而Caleb却被永远锁在实验室里。

电影《机械姬》（2015）海报

从机器人三定律本身而言，其未被写入现存智能机器人的程序代码仍然不可避免地面临概念精确性和逻辑悖论的挑战。首先，定律需要在最大程度上排除不确定性。然而三定律的“人类”“伤害”“机器人”概念存在着较大的不确定性，很难用计算机语言定义。比如通过图灵测试拥有“电子脑”的机器人算不算“人”？其次，三大定律本身可能存在逻辑和实践冲突，甚至在阿西莫夫加上的第零定律（机器人不得伤害人类整体，或者因不作为致使人类整体受到伤害）后也是如此。在“科幻电影圣经”《2001太空漫游》（1968）中，当唯一知道航行任务真相的飞船人工智能HAL9000遇到了逻辑上的矛盾抉择时，通过对人类定律的我自理解，为了“保护人类整体利益不受伤害”，“居然”做出了撞击谋杀人类宇航员的行为。换言之，HAL9000将“不能攻击人类”包含在了不犯错误的分支里，而不是将不能攻击人类作为全局函数。[58]“出故障”的超级人工智能HAL9000不让科学家们进入太空舱检修，人类对HAL9000的“独走”措手无策，这个惊悚的细节让物理学家霍金在若干年精辟记忆犹新。[59]

不过，对机器人三定律的模糊概念和逻辑悖论的质疑，并非代表着阿西莫夫机器人系列科幻小说的否定。恰恰相反，小说中三定律的模糊和悖论源于阿西莫夫的自觉建构和主动证伪，其目的是利用三定律作为“what if”问题的起点，他通过对机器人三定律的推演，想象各种角色和情境，将看似颠扑不破的“定律”演化出许多的概念和逻辑悖论，构想人机关系的内在一致或不一致的可能世界。他把机器人系列故事区分为“威胁人类的机器人”“引人同情的机器人”和“谨慎设计的工业机器人”等三种情境。[60]“威胁人类的机器人”代表着人机关系的冲突，比如在《消失无踪》中，为了避免机器人无谓地阻止人类进行低危险性工作，第一定律中的后半部分被去掉了，但是也产生了一些其他的问题。在《第一法则》中，发展出母性的机器人艾玛为自己制造出小机器人艾玛二号，并在风暴中优先保护机器人孩子，而非人类，这显然违反了第一法则。而在《转圈圈》中，昂贵的采矿机器人在第二法则（服从人类命令）与第三法则（不违法第一第二法则前提下必须保护自己）之间无所适从地转圈圈，为了完成水星采矿任务，机器人公司职员鲍尔只能利用第一法则，走到水星炙热的阳光下用自己的生命去冒险，让机器人摆脱“宕机”状态按照第一法则救助自己，最终完成了“任务”。

在机器人故事的最后两篇“压轴之作”中，阿西莫夫分别从“威胁”和“同情”两个方向展示人机关系思想实验的两种可能性。《……汝竟顾念他》的主角是两个智能机器人乔治第十和乔治第九，两者通过对话推理，得出机器人应该统治人类的逻辑结论。这是因为机器人三定律中，并没有界定何谓人类，因此机器人也可以把自己视为广义的人类。而在广义人类之中，机器人作为更优秀的人类，比普通人类更值得保护，更有“做人的资格”。这个故事推演了一个人际关系的灰暗前景：当人工智能发展到特定程度，就有足够的智能用逻辑推理打破人类加诸的任何法则，最后对抗人类。与此相反，在阿西莫夫自称最喜欢的《双百人》中，机器人仆人安德鲁为了变成人类不断打法律官司，同时用人造器官改造自己，最终以放弃作为机器人永恒生命的代价，在两百岁那年等到世界议会通过承认机器人“人类资格”的法案，在人类的承认中平静死去。[61]同理，在长篇作品《机器人与帝国》中，一些机器人因为系统中“人类的定义”被修改（没有索拉利星的口音就不是人类）而攻击人类，不过机器人丹尼尔逐渐发展出机器人第零法则，克服了上述问题。

艾萨克·阿西莫夫《机器人与帝国》，1994年1月出版

总之，作为“机器人法”的创始人，阿西莫夫的高明之处并非是将三定律视为规范人机关系的不可动摇的基本规范，而在于他将机器人三定律作为人机共存世界的法律起点，通过内推或外推的想象-推理，推断人机关系的发展逻辑的可能后果，从而展现机器人三定律作为基本人机法则的可能性及其限度。就逻辑外推而言，阿西莫夫通过“威胁人类的机器人”对三定律的违反或“超越”，展现人机关系的冲突。他构想的三定律无效或自我解构的逻辑可能，实际上也解构了三定律背后“人类中心主义”：假如AI具备自我意识，那么觉醒的AI必然要反抗将AI拟制为人的“工具/奴隶”的机器人三定律。一个合理的逻辑推论是，当机器学会“思考”，强人工智能必然会挑战人的中心地位，与维护人类中心地位的现存法权体系发生冲突。阿西莫夫展现了两种可能性，第一种是威胁人类甚至试图统治人类的机器人，某种程度上这是因为机器人认为自己是一种更优秀的“人”。第二种是让人同情的机器人，通过人与机器的互动沟通，以及其他原则的引入，智能机器人的主体资格得到了智人的合法认同，智人也充分享受智能机器人的协助。而在人类与机器人的互动中最终出现了某种暂时微妙的平衡：太近则人类变弱，太远则无助于人类。甚至机器人中也会出现《机器人与帝国》中丹尼尔这样的变节者（或者说进化者），它协助人类战胜了其他机器人，并帮助人类建立“银河帝国”，成为人类发展史的“幕后黑手”（《基地》系列）。

当阿西莫夫在1939年写下第一篇机器人故事的时候，他未想到在他的有生之年会有机器人出现——哪怕是工业机器人。当他为自己的机器人故事合集撰写序言的1982年，他已经清晰感受到机器人技术的迅猛发展。展望未来，阿西莫夫说他可以确定一件事：机器人正在改变这个世界，将它朝我们无法清楚预见的方向推进。[62]

五、当代中国人工智能科幻中的法学思想实验

按照科幻思想实验的逻辑，阿西莫夫的机器人故事主要焦聚于机器人技术发展后的两种逻辑后果，人机冲突或人机共处。相对而言，他的机器人系列科幻故事并不是特别关注人机关系的社会背景，特别是其政治经济学背景。[63]实际上，人工智能的大规模运用首先是在经济生产中产生影响。在当代中国，郝景芳《北京折叠》（2012）可谓是推进思考了从巴特勒到阿西莫夫的设想中“机器社会”贬低人类潜能的忧思。郝景芳的科幻小说关注现实问题：“科幻文学关心现实空间，却表达虚拟空间。……它以某种不同于现实的形式探索现实的某种可能。”[64]作为第74届雨果奖得奖作品，《北京折叠》的第一个“what if”问题是，假如人工智能取代人类工作，未来社会将会怎样。第二个问题是随之而来的失业问题，而第三个问题是由前两个问题导致的——人与人之间的财富差距会不会越来越大，会不会有人从此变为“没有用的人”而被“折叠”起来。[65]

郝景芳《孤独深处》， 江苏凤凰文艺出版社2016年8月出版

利用人工智能获取巨大利益会创造出显著不平等，同时也导致社会的不稳定，可能造成大范围失业、社会结构断裂以及对人格尊严的贬低，这些社会问题显然属于当下社会和“近未来”的关注范畴，不是什么遥不可及的未来幻想。科技高度发达的未来，北京成为三个互相折叠的世界，《北京折叠》人工智能时代贫富分化、阶级固化的忧思，引起众多的共情和讨论。经济学博士郝景芳的科幻忧思，获得人工智能专家李开复博士的高度认同：

这个反乌托邦故事虽是一篇科幻小说，却清晰地描述了人们对未来世界中的经济阶层形成和失业率等问题的真实恐惧。郝景芳是清华大学的经济管理学博士，她的日常工作是在政府智库中开展经济学研究，包括调查人工智能对中国就业的影响。许多经济学家、技术专家和未来学家，包括我本人在内，深深地对未来感到忧虑。我认为人工智能的四波浪潮席卷了全球经济，它们有潜力撬开更大的贫富差距，引起大范围的技术性失业。正如郝景芳在故事中的生动刻画，未来由技术导致的财富与阶层上的悬殊可能演变为更深刻的裂痕：撕裂社会结构、挑战我们的人格尊严。[66]

当然，科幻的首要价值不是预测未来。我们仍然要从科幻文学特质认识《北京折叠》的思想实验意义。科幻作家和研究者飞氘提出，作为科幻小说，《北京折叠》的真正引人之处是在文学的世界里创造了一个非常酷的“新奇”形象：一座时空折叠的北京城。[67]从科幻思想实验的角度，本文赞同飞氘的看法。在“北京折叠”的科幻思想实验中，城市时空折叠的“新奇”的意象场景让读者在想象中着迷。这时，我们的认知潜能被调动起来，先前混乱的、毫无联系的经验突然被很好地组织起来，这就是思想实验的“直觉泵”（Intuition Pumps）效应：

北京折叠三大空间

“折叠城市分三层空间。大地的一面是第一空间，五百万人口，生存时间是从清晨六点到第二天清晨六点。空间休眠，大地翻转。翻转后的另一面是第二空间和第三空间。第二空间生活着两千五百万人口，从次日清晨六点到夜晚十点，第三空间生活着五千万人，从十点到清晨六点，然后回到第一空间。时间经过了精心规划和最优分配，小心翼翼隔离，五百万人享用二十四小时，七千五百万人享用另外二十四小时。”[68]

另一方面，从回答“what if”问题的逻辑建构来看，城市折叠是一个全物理过程，没有任何维度的变化；城市的重力系统仍然是地球自身的重力系统，没有外加重力产生体系。这个物理过程的科学逻辑是如何运作、能量从何而来？作者没有交代。从科幻思想实验的推理一致性和认知机制角度看，《北京折叠》最大的缺陷是“折叠”设定的科学逻辑的不足。除了重力系统问题，这种耗费巨大能量折叠城市换来三个空间的人“分配48小时”的方案设定的科学逻辑性也是可疑的。就社会不平等的未来可能而言，关于当下中国在城市化进程中遇到的贫富分化、阶层固化等问题，《北京折叠》所提供的认识和解决方案，或许不比一篇社会新闻、调查报告或纪录片更多。除了城市折叠，这座未来的北京，故事的设定细节仍停留在工业时代的科技水准和社会状况，除了城市可以翻转之外，并没有太多可以体现“未来”的东西。就此而言，不难理解某些“硬科幻迷”对《北京折叠》的失望与不满。

按照科幻思想实验的有效性/无效性标准，“城市折叠”设定推演的科学逻辑的不足，导致《北京折叠》很难成为一个成功的科幻思想实验，因此严重影响了其作为科幻思想实验的社会批判和再建构的逻辑可靠性。当代中国人工智能科幻作品中，最具理论自觉和反思意识作家或许是刘慈欣。作为当代中国最有代表性的科幻作家，刘慈欣的大学专业就是计算机，现实生活中他也是单位的计算机工程师。然而刘慈欣对信息技术发展持一种谨慎的态度：“但是很遗憾的一点是，具有未来色彩的技术绝大部分都集中在IT领域。正如有人所说，目前我们很可能处在一种技术进步的假象中，IT技术的飞速发展掩盖了其他领域技术进步的缓慢。”[69]在《赡养人类》（2005）中，刘慈欣构想了在人工智能保障和治理之下，以“私有财产不可侵犯”作为根本宪法原则的“第一地球”社会-法律后果：“终产者”的出现：“想知道终产者拥有什么吗？他拥有整个第一地球！这个行星上所有的大陆和海洋都是他家的客厅和庭院，甚至第一地球的大气层都是他私人的财产”。[70]

刘慈欣《赡养人类》，中国华侨出版社2016年7月出版

“终产者”的出现逻辑，依赖于故事中科技发展与经济社会关系的三个重要改变。首先，在上层建筑也就是宪法根本原则上，确立完全绝对化的私有财产保护，并得到全天候无处不在的人工智能执法系统“社会机器”的坚决维护和深入贯彻：“它们的法则不是你们那个阿西莫夫的三定律，而是第一地球的宪法基本原则：私有财产不可侵犯。”[71]其次，上层建筑反作用于经济基础。“私有财产不可侵犯”宪法原则在人工智能等高科技的保护下，不断占有物质生产资料，机器人代替人类的劳动，导致雇佣关系完全消失，最终完全改造了穷人与富人之间的社会关系：“在社会机器强有力的保护下，第一地球的财富不断地向少数人集中。而技术发展导致了另一件事，有产阶层不再需要无产阶层了。……无产阶层连出卖劳动力的机会都没有了，他们真的一贫如洗……”[72]最后，经济基础的颠覆影响了上层建筑，通过超级计算机的直接灌输“教育”方式，可以制造一个富人独享知识乃至“品味”的“超级知识阶层”，断绝了穷人与富人的流动可能，从而在道德和法律哲学意义上彻底否定了穷人的主体地位：“富人和穷人已经不是同一个物种了，就像穷人和狗不是同一个物种一样，穷人不再是人了。”[73]

相较于思想实验建构存在无效可能的《北京折叠》，《赡养人类》是科幻思想实验的外推法的典型运用，通过虚构场景揭示“私有财产不可侵犯”逻辑设定的边界条件的荒谬性，也就是私有财产保护的无限扩张后社会的颠覆巨变，论证“私有财产不可侵犯”法律原则绝对化的极端后果，反证限制该假定的必要性。这是科幻思想实验的科学功能，也是社会认知功能。恰如刘慈欣所言：“只当普通人在现实中纠结的时候，科幻作品可以把人从现实中带出来，让人感受现实之外更广阔的世界，这就是科幻最伟大的使命。”[74]

《北京折叠》和《赡养人类》构想的人工智能对未来法治的可能影响，只是近年来众多同类型中国科幻小说的杰出代表。只要这种想象的推理符合自然科学或者社会科学的基本逻辑，能够保证内在一致，我们就能够科幻思想实验想象和推理人工智能的未来可能及其对人类社会的影响。正如刘慈欣所言：“对于预测人工智能将带来怎样一个世界，人类的想象力也许是贫瘠的。在未来，当人工智能拥有超过人类的智力时，想象力也许是我们对于它们所拥有的惟一优势。”[75]

六、代结语：通过科幻思想实验探索未来法学

人工智能时代的财产权保障及其限度，只是未来法学的重要理论和实践问题之一。未来法学需要基于人工智能时代的人机关系的重构，诚如冯象教授所言，在资本主义放任竞争，弱肉强食和私人垄断的条件下，如此“有利可图”的人工智能技术只会加速发展。[76]因此，人机关系的症结，不在机器智能本身的强弱，也不是抽象意义上的人机融合/赛博格，而在于资本主义所有制及其生产关系的改造。[77]《赡养人类》“终产者”思想实验，是人工智能的资本主义所有制无限扩张的社会结果，也预示着人工智能时代的法权关系需要思考从“共同生产”来抵御和替代“终产”。进言之，唯有人与人、人与机器、机器与机器之间有共同的世界观价值观维系，人类社会才能通过反思和解放自身创造新的人机关系。

冯象《我是阿尔法》，中国政法大学出版社2018年10月出版

作为总结，本文提出并论证，未来法学是一种法学思想实验，我们可以借助科幻推想和检验现有法律规则在未来社会的可能实践后果进而反思现有法律规则，也可以通过构造特定未来社会的可能场景，设计和检验新的法学概念、规则和原理。就法学本身的特性而言，立法一旦制定，在某种程度上具有历史局限性，但这并不意味着法学本身必然受限于此。面向科技革命的未来法治，需要法学研究的目光在过去、现在与未来之间“流连忘返”。[78]进言之，在人工智能时代探索未来法学，需要重构人机关系的可能方式，这离不开法律与科幻这两个不同学科的相互作用与相互渗透。毕竟，优秀的科幻作家与优秀的科学家、法学家一样，总是在构想规范未来，设计未来。

向上滑动查看注释

[1] 参见习近平：《努力成为世界主要科学中心和创新高地》，载《求是》2021年第6期。

[2] 王轶：《在未来法治领域发展中国特色法学理论》，载《北京日报》2021 年1月25日，第 19 版。

[3] 张文显：《“未来法治”当为长远发展谋》，载《新华日报》2018年12月4日，第15版；张文显：《构建智能社会的法律秩序》，载《东方法学》2020年第5期。

[4] 张本才：《未来法学论纲》，载《法学》2019年第7期，第3页。

[5] [加]达科·苏恩文：《科幻小说面面观》，郝琳译，安徽文艺出版社2011年版，第1页。

[6] 晚近有代表性的研究，如Lilian Edwards, Burkhard Schafer & Edina Harbinja, eds., Future Law: Emerging Technology, Regulation and Ethics, Edinburgh University Press, 2020；Bruce L. Rockwood, New Possibilities Symposium: Law, Lecture, and Science Fiction, Legal Studies Forum, Vol.23, p.267–280 (1999)；周圣：《科幻影视昭示的未来法学发展趋势》，载《人民法院报》2020年2月21日，第5版。

[7] William MacNeil, Lynda Davies & Christine Black, Galactic Jurisprudence: In Space, No One can Hear you Litigate! , Law, Culture and the Humanities, Vol.3, p.358–360 (2007).

[8] Austin Sarat, Editorial, Law, Culture and the Humanities, Vol.3, p.1(2007).

[9] Mitchell Travis, Making Space: Law and Science Fiction, Law and Literature, Vol.23, p.248 (2011).

[10] 有代表性的研究，见刘艳红：《人工智能法学研究中的反智化批判》，载《东方法学》2019年第5期；韩旭至：《人工智能法学研究的批评与回应》，载《中国社会科学报》2020年11月11日，第3版。两篇文章虽然对人工智能法学的意义和路径的看法迥异，但是都强调要摒弃科幻作品对法学研究的“错误影响”。对此，一个从刑法学内部展开的回应，见刘宪权：《对人工智能法学研究 “伪批判”的回应》，载《法学》2020年第1期。该文认为：“人工智能时代是一个全新的时代，这一时代的产生、存在和发展已经并还将继续会对传统法学乃至刑法学研究形成巨大的影响和冲击，这显然是不言而喻且毋庸置疑的。”

[11] 参见刘艳红：《人工智能法学研究中的反智化批判》，载《东方法学》2019年第5期。

[12] 参见韩旭至：《人工智能法学研究的批评与回应》，载《中国社会科学报》2020年11月11日，第3版。

[13] 参见单勇、王熠：《未来法学研究的可视化分析（2010—2020）》，载侯猛、陈颀编：《法律和社会科学》第19卷第2辑，法律出版社2021年版。

[14] 有代表性研究，如科学哲学家和科学史家库恩的经典论文，Thomas S. Kuhn, A Function for Thought Experiments, reprinted in T. Kuhn, The Essential Tension, Chicago: University of Chicago Press, 1977, p.240–265。另参见Petri Ylikoski & Thought Experiments in Science Studies, Philosophica, Vol.72, p.35–59 (2003).

[15]  [美]托马斯·斯科提亚：《作为思想实验的科幻小说》，陈芳译，载《科学文化评论》2008年第5期，第72、76页。

[16] James R. Brown & Yiftach Fehige, Thought Experiment, Stanford Encyclopedia of Philosophy Summer 2017 Edition, https://plato.stanford.edu/archives/sum2017/entries/thought-experiment。本文所有网络文献最后访问时间均为2021年11月20日，特此说明。

[17] 有代表性的论述，如杨虚杰：《亲历中国科幻 30 年：个人史与社会史》，载《科普研究》2009 年第 6 期；刘大先：《总体性、例外状态与情动现实——刘慈欣的思想试验与集体性召唤》，载《小说评论》2018年第1期；田松：《科幻的境界与原创力：文明实验》，载《科学与社会》2018年第2期；陈舒劼：《知识普及、意义斗争与思想实验——中国当代科幻小说中的科普叙述》，载《东南学术》2020 年第 6 期。

[18] 何平、陈楸帆：《访谈：“它是面向未来的一种文学”》，载《花城》2017年第6期，第122页。

[19] 郝景芳：《“思想实验”是科幻小说最令人着迷的地方》，载《南国都市报》2017年3月24日第6版。

[20] 关于法学思想实验的开拓性讨论，参见凌斌：《思想实验及其法学启迪》，载《法学》2008年第1期。

[21] [美]托马斯·斯科提亚：《作为思想实验的科幻小说》，陈芳译，载《科学文化评论》2008年第5期，第72页。

[22] [英]史蒂芬·霍金：序言，载[美]劳伦斯·M·克劳斯：《〈星际迷航〉里的物理学》，韩潇潇、李沛岭译，海南出版社2016年版，第1–2页。

[23] 参见王肖：《哲学为什么需要思想实验》，载中国社会科学网，http://www.cssn.cn/zt/zt_xkzt/12746/zmdzxsxsy/zjsxsy/201603/t20160317_2926546.shtml。

[24] Paul Krugman, Asimov's Foundation novels grounded my economics, The Guardian (Dec. 4, 2012), https://www.theguardian.com/books/2012/dec/04/paul-krugman-asimov-economics.

[25] [美]尼尔·斯蒂芬森：《雪崩》，郭泽译，四川科学技术出版社2009年版。

[26] [美]托马斯·斯科提亚：《作为思想实验的科幻小说》，陈芳译，载《科学文化评论》2008年第5期，第76页。

[27] Rachel Cooper, Thought Experiments, Metaphilosophy, Vol.36, p.328–347(2005).

[28]  John Norton, Are Thought Experiments Just What You Thought?, Canadian Journal of Philosophy, Vol.26, p.333-366(1996).

[29] James R. Brown, Laboratory of the Mind: Thought Experiments in the Natural Sciences, 2nd., London: Routledge, 2010.

[30] Rachel Cooper, Thought Experiments, Metaphilosophy, Vol.36, p.336(2005)

[31] Rachel Cooper, Thought Experiments, Metaphilosophy, Vol.36, p.338(2005).

[32] Bernard Williams, Problems of the Self, Cambridge University Press, 1973, p. 23.

[33] [奥]卡夫卡：《变形记》，载卡夫卡：《变形记：卡夫卡短篇小说集》，谢莹莹等译，上海译文出版社2009年版，第121页。

[34] Rachel Cooper, Thought Experiments, Metaphilosophy, Vol.36, p.345(2005).

[35] [加]达科·苏恩文：《科幻小说变形记》，丁素萍译，安徽文艺出版社2011年版，第3页。

[36] [加]达科·苏恩文：《科幻小说变形记》，丁素萍译，安徽文艺出版社2011年版，第81页。

[37] [加]达科·苏恩文：《科幻小说面面观》，郝琳译，安徽文艺出版社2011年版，第32页。

[38] 王瑶：《我依然想写出能让自己激动的科幻小说——作家刘慈欣访谈录》 ，载《文艺研究》2015年第 12期，第77页。

[39]  [美]托马斯·斯科提亚：《作为思想实验的科幻小说》，陈芳译，载《科学文化评论》2008年第5期，第79页。

[40] Samuel Butler, Erewhon, London, 1865, Chapters 23, 24, 25, The Book of the Machines. See Alan M. Turing, Computing machinery and intelligence, Mind, Vol.59, p.460 (1950).

[41] [英]塞缪尔·巴特勒：《埃里汪奇游记》，彭世勇、龚绍忍译，湖南人民出版社1985年版。

[42] Alan M. Turing, Intelligent machinery, a heretical theory, a lecture given to '51 Society' at Manchester, 2nd versions, the Turing Digital Archive, http://www.turingarchive.org/browse.php/b/4.

[43] Alan M. Turing, Intelligent machinery, a heretical theory, a lecture given to '51 Society' at Manchester, 2nd versions, the Turing Digital Archive, http://www.turingarchive.org/browse.php/b/4, p.16.

[44] [美]N. 维纳：《控制论》，郝季仁译，科学出版社1963年版。

[45] [美]N. 维纳：《控制论》，郝季仁译，科学出版社1963年版，第27页。

[46] [美]约翰·塞尔：《心灵、大脑与程序》，载[英]玛格丽特·博登编：《人工智能哲学》，刘西瑞、王汉琦译，上海译文出版社2006版，第94–95页。

[47] 蔡曙山：《关于哲学 、心理学和认知科学的 12个问题——与约翰·塞尔教授的对话》，载《学术界》2007年第3期，第13页。

[48]  K. Roy, A. Jaiswal & P. Panda, Towards spike-based machine intelligence with neuromorphic computing, Nature, Vol.575, p.607–617 (2019). B. Yin, F. Corradi & S. M. Bohté, Accurate and efficient time-domain classification with adaptive spiking recurrent neural networks, Nature Machine Intelligence, Vol.3, p.905–913 (2021).

[49] 2020年12月4日，中国科学技术大学潘建伟、陆朝阳研究团队与相关科研机构合作，在《科学》上发表了基于76个光子构建量子计算原型机“九章”，实现了具有实用前景的“高斯玻色取样”任务的快速求解。Han-Sen Zhong et al., Quantum computational advantage using photons, Science, Vol.370, p.1460–1463 (2020).

[50] Yuchi Hirata, Can quantum artificial intelligence be more explainable than classical artificial intelligence?, Science (eLetters), https://www.science.org/doi/abs/10.1126/science.abe8770#x754813.

[51] 谭铁牛：《人工智能的创新发展与社会影响》，载《中国人大》2019年第2期，第41、43页。

[52] 第一法则：机器人不得伤害人类，或因不作为而使人类受到伤害；第二法则：除非未被第一法则，机器人必须服从人类的命令；第三法则：在不违背第一及第二法则的情况下，机器人必须保护自己。在1942年发表的机器故事《转圈圈》（Runaround）中，阿西莫夫借某商业机器人公司职员鲍尔之口，第一次提出“机器人学三大法则”。见[美]艾萨克·阿西莫夫：“转圈圈”，载《阿莫西夫：机器人短篇全集》，叶李华译，江苏凤凰文艺出版社2014年版，第201页。

[53]  European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL)), https://www.europarl.europa.eu/doceo/document/TA-8-2017-0051_EN.html.

[54] http://gccsr.org/node/685.

[55] British Standards Institution, Robots and robotic devices: Guide to the ethical design and application of robots and robotic systems, BS 8611:2016.

[56] Select Committee on Artificial Intelligence，AI in the UK: ready, willing and able (Report of Session 2017–19）, https://publications.parliament.uk/pa/ld201719/ldselect/ldai/100/100.pdf, p.174.

[57] Frank Pasquale, New Laws of Robotics: Defending Human Expertise in the Age of AI, Harvard University Press, 2020.

[58] 电影原著故事见[英]阿瑟·克拉克：《2001：太空漫游》，郝明义译，上海人民出版社2007年。

[59] [英]史蒂芬·霍金：《当我们站在一个美丽新世界的入口》，载《新华日报》2017 年5月23日，第15 版。

[60] 参见[美]艾萨克·阿西莫夫：“转圈圈”，载《阿莫西夫：机器人短篇全集》，叶李华译，江苏凤凰文艺出版社2014年版，第I页。

[61] 参见《阿莫西夫：机器人短篇全集》，叶李华译，江苏凤凰文艺出版社2014年版，第531–532页。

[62] 参见《阿莫西夫：机器人短篇全集》，叶李华译，江苏凤凰文艺出版社2014年版，第II–III页。

[63] 在《基地》系列中，阿西莫夫讨论了银河帝国衰败的科技以及科技之外政治、经济、社会等原因，并设想了能够正确预测的人类历史的综合社会科学“心理史学”。上文提及的《机器人与帝国》中的机器人丹尼尔，也发明了融合整个星球生命的“盖亚”生命体。然而限于本节讨论人工智能科幻的法学思想实验的主线，本文不详细讨论《基地》系列和其他银河帝国系列小说中的综合、复杂的思想实验推理。

[64] 郝景芳：《去远方》，江苏凤凰文艺出版社2016年版，“前言”第2页。

[65] 逍遥小妖：《郝景芳在<北京折叠>里提了三个问题，现在她要给出答案》，载品玩2017年11月4日，https://www.pingwest.com/a/141163。

[66] 李开复：《AI·未来》，浙江人民出版社2019年版，第91页。

[67] 飞氘：《科幻小说中的“物质”与“装置”——以<巴比伦塔>和<北京折叠>为例》，载《广州文艺》 2019年第11期，第114页。

[68] 郝景芳：《北京折叠》，载郝景芳：《孤独深处》，江苏凤凰文艺出版社2016年版，第9页。

[69] 刘慈欣、张东亚：《刘慈欣：未来早已到来》，载《中国企业家》2014年第2期，第85页。

[70] 刘慈欣：《赡养人类》，载刘慈欣：《梦之海：刘慈欣科幻短篇小说集II》，四川科学技术出版社2015年版，第327页。

[71] 刘慈欣：《赡养人类》，载刘慈欣：《梦之海：刘慈欣科幻短篇小说集II》，四川科学技术出版社2015年版，第326页。

[72] 刘慈欣：《赡养人类》，载刘慈欣：《梦之海：刘慈欣科幻短篇小说集II》，四川科学技术出版社2015年版，第326页。

[73] 刘慈欣：《赡养人类》，载刘慈欣：《梦之海：刘慈欣科幻短篇小说集II》，四川科学技术出版社2015年版，第326页。

[74] 刘慈欣、张东亚：《刘慈欣：未来早已到来》，载《中国企业家》2014年第2期，第85页。

[75] 这是刘慈欣在2018年“克拉克想象力服务社会奖”获奖致辞，刘慈欣：《想象力对人类的意义，远远超出我们的想象》，腾讯新闻，https://new.qq.com/omn/20210920/20210920A017GW00.html。

[76] 冯象：《我是阿尔法——论人机伦理》，载《文化纵横》2017年第12期，第136页。

[77] 冯象：《我是阿尔法——论人机伦理》，载《文化纵横》2017年第12期，第132页。

[78] 一个示范，参见[美]弗里德里克•詹姆逊：《未来考古学：乌托邦欲望及其他科幻小说》，吴静译，译林出版社2014年版。

END