【智能与法】陈敏光，善假于物与审判异化：司法人工智能的辩证思考

B D A I L C 

欢 迎 关 注 

登高而招，臂非加长也，而见者远；顺风而呼，声非加疾也，而闻者彰。假舆马者，非利足也，而致千里；假舟楫者，非能水也，而绝江河。君子生非异也，善假于物也。

——荀子

他在自己的劳动中不是肯定自己，而是否定自己，不是感到幸福，而是感到不幸，不是自由地发挥自己的体力和智力，而是使自己的肉体受折磨、精神遭到摧残。  

——马克思

Dan Schultz

善假于物与审判异化：

司法人工智能的辩证思考

文 / 中国应用法学研究所助理研究员 经济法学博士 陈敏光

摘要

目前的人工智能在本质上系基于大数据、算法和算力的机器智能，并非有机智能。针对“司法人工智能热”，应立足于工具主义的定位，辩证地理解司法人工智能的两面性——“善假于物”和“审判异化”。在司法公正、效率、管理和服务公众方面，司法人工智能可以最大限度地解放“司法生产力”，但与此同时，司法人工智能应服从于法官主体能动性、止步于司法根本属性，避免不平等的固化和扩大。相应地，对司法人工智能应持拥抱和审慎的态度，要在理论极限和现实基线之间探索出司法人工智能的应用之路。

一、工具主义：人工智能并非有机智能

根据人工智能的由来和发展情况，立足司法应用而不是科幻创作的立场，应对人工智能做工具主义的定位。

（一）人工智能的由来和发展

据学者的考证，人工智能这一概念系数学家约翰•麦卡锡、计算机与认知科学家马文•明斯基、IBM系统设计师纳萨尼尔•罗切斯特和信息论创始人克劳德•香农等在举办“达特茅斯夏季人工智能暑期研究会议”时提出，在会议策划书中载明：“我们提议1956年暑期在新罕布什尔州汉诺威城的达特茅斯学院举办一场为期两月、十人参加的研讨会。本次研讨会将以这样一个猜想为基础而展开：学习的每一环节以及智力的其他方面原则上都可以得到如此准确的描述，以至于我们可以制造出一台机器对其进行模拟。我们将尝试发现如何让机器使用语言、提出抽象命题和概念、解决某些目前留给人类去解决的难题以及实现自我改进。我们认为，只要一群经过精挑细选的科学家在一起工作一个夏天，我们在这些方面就可以取得一项或多项重大进展。”随后，围绕着以上核心问题，人工智能的发展经历了三次浪潮，并在技术和产业上逐步走向成熟。第一次浪潮发生于20世纪50年代末至20世纪80年代初，以符号主义或逻辑主义为核心，出现了奠基性的算法模型（如深度学习模型的雏形贝尔曼公式），用机器去证明和推理一些知识，但基于数学模型、手段的先天缺陷和计算复杂度的指数级增长，人工智能也随之步入低谷。第二次浪潮发生于20世纪80年代初至20世纪末，以连接主义为核心，即“出自大规模连接的命令”（order emerging out of massive connections），出现了多层神经网络（1986）和BP反向传播算法（1986）等数学模型，专家系统也得以应用，但限于高成本、难维护，产业应用不足，人工智能还是归于沉寂。第三次浪潮发生于21世纪初至今，随着信息技术快速发展和互联网的快速普及，大数据资源已然成形，加之脑计算、深度学习、强化学习等一系列的技术突破、资本和产业的高度融合，人工智能最终迎来了第三次高速成长。其中，基于大数据的深度学习可谓本轮人工智能最重要、应用最广泛的技术。

可见，从人工智能的提出和发展历程来看，其核心无非是机器如何模拟可以准确表达的学习或智力的某个环节，目的在于以机器的方式实现人脑能够实现的价值或作用，尚不涉及机器将来是否具有自主意识。

（二）工具主义的定位

与上述工具论意义的理解不同，有些未来学家、产业人士、媒体设想人工智能将经历弱人工智能、强人工智能和超人工智能三个发展阶段。在超人工智能阶段，机器将具有自主意识，从而威胁人的生存。霍金在近期的BBC节目中称：“如果现在我们不遗余力地发展人工智能，这可能导致人类的灭绝。”科技狂人埃隆·马斯克（Elon Musk）也坚信这一点，他甚至为此提出了解决方案——人机融合，其逻辑是：与其人类将来被人工智能消灭，不如将人类和人工智能融为一体，不分你我。为此，马斯克专门成立了神经科学公司Neuralink，专门研究如何给大脑里植入芯片等脑机对接技术，为人机融合做准备。至于媒体的报道，则不乏夸大或夺人眼球的因素，诸如将人工智能在围棋领域的胜出不当地扩大至各个领域、授予机器人国籍等。

在本文看来，关于超人工智能的设想和应对主要是未来学家的事，目前而言，可能过于遥远了。从上文关于人工智能由来和发展历程的梳理中可以看出，人工智能仍然停留在工具层面，其主要应用领域也仅限于理性计算。Alphago之所以能够在围棋领域胜出，在于机器对于可能棋局和落子胜算概率的精准计算，而并非在主体性上优于人类。更准确地说，是人发明利用机器打败了人，而不是机器本身打败了人。此外，这种人工智能并不能在各个领域中通用，如在“叠衣服”的测试中，机器人到现在还不能做到像人类一样从容不迫地把衣服从洗衣机拿出来，分门别类，一件件叠好。DeepMind联合创始人哈萨比斯（Demis Hassabis）在《经济学人》创新峰会上也谈及深度学习尚不足以解决通用人工智能问题，“大脑是一个综合系统，但大脑的不同部分负责不同的任务。海马体负责情景记忆，前额叶皮质负责控制，等等。你可以把目前的深度学习看作是相当于大脑中的感觉皮层的一样东西：视觉皮质或听觉皮质。但是，真正的智能远不止于此。你必须把它重新组合成更高层次的思维和符号推理，这是80年代经典AI试图解决的问题。”也就是说，在人类尚不能理解自身大脑和认知如何发生的情况下，过于担忧人工智能的自主意识及其可能产生的威胁并无必要，将来是否会出现超人工智能有待于计算机科学和生命科学等学科的进一步研究和发展。

事实上，本轮人工智能之所以复兴，关键在于大数据的突破性进展。一方面，平台经济的发展融合了线上线下空间，推动了各种设备的互联互通，使人们在“嵌入”以互联网物联网为技术基础的社会网络体系的同时，时时刻刻产生和留存着大量的可供分析和产品化的数据，个人在某种意义上也成为了“量化自我”。另一方面，支撑这些海量数据存储和运算的算力条件也不是问题，正如摩尔定律所表明的：当价格不变时，集成电路上可容纳的元器件的数目，约每隔18-24个月便会增加一倍，性能也将提升一倍。也就是说，信息技术的加速度发展使得数据处理成本日益低廉，人工智能的发展基本上不存在硬件上的瓶颈。在这样的条件下，就有可能在海量的大数据中发掘出多维度的信息，从而在知识应用领域发生量变到质变的飞跃。吴军在《智能时代——大数据与人工智能革命重新定义未来》一书中，将人工智能的定义分为狭义和广义两种。狭义的人工智能专指20世纪五六十年代特定的研究机器智能的方法（也即人工智能1.0版），坚持机器人要像人一样思考才能获得智能，并形象地称之为“鸟飞派”。广义的人工智能（实际是机器智能），则还包括通过数据驱动、知识发现或者机器学习来实现的机器智能。在书中，吴军还以语音识别和智能翻译为例，阐释模拟人脑的传统人工智能（也即人工智能1.0版）的困境和通过数据驱动发展机器智能的历史性突破，并指出，机器智能最重要的是能够解决人脑所解决的问题，而不在于是否需要采用和人一样的方法。事实上也如此，本轮人工智能在本质上系以大数据、算法、算力为基础和动力的机器智能，并非有机智能。其中，大数据是核心，无论是算法的开放设计、算力的提升强化都围绕着这一“基础资产”而展开。同时，这也意味着，本文摒弃了按照仿生学的思路来探讨人工智能及相关司法应用问题，诸如机器人人格、机器人法官之类的提法均不应在讨论之列，而是从工具论意义上审视人工智能的司法应用。

二、善假于物：司法人工智能的内在冲动

人类一直有借助外力或工具延伸自己的冲动。早在春秋战国时期，荀子就意识到了这一点，《劝学》篇对此作了精辟的总结：“登高而招，臂非加长也，而见者远；顺风而呼，声非加疾也，而闻者彰。假舆马者，非利足也，而致千里；假舟楫者，非能水也，而绝江河。君子生非异也，善假于物也。”只不过，那时生产力落后，人类主要依靠自然力、车马船等工具来替代或延伸自己的体力。尽管后来也有算盘等工具来辅助人的简单运算，但这是极为初级的，不仅局限于“加减乘除”，也谈不上自动化处理。在人工智能时代，这种“善假于物”则全面扩展至脑力方面，并体现在法律和司法实践的各个领域和层面。

（一）司法人工智能热之呈现

根据学者的考证，早在1950年代起，国外就有将人工智能技术应用到法律信息归类、检索、咨询和裁判等领域的设想和尝试。Lucien于1958年提出法律科学的信息化处理，Buchanan于1970年在《关于人工智能和法律推理若干问题的考察》一文中探讨法律推理模型的可行性。此后，基于规则和案例的法律推理模型或专家系统大量涌现，如用于分析公司税务法的TAXMAM系统（1977年）、用于处理工人事故补偿的IKBALSI系统（1989年）、用于处理离婚财产分割的Split-Up系统等（1995年）。在本轮人工智能热潮中，国外司法实务也在积极利用信息化手段开展网上立案、电子送达、在线审理等诉讼活动，如在美国纽约州，已经有了相对健全的网上立案、送达系统NYSCEF，并允许在个别刑事及家庭法院的案件中，对一方当事人进行网上视频沟通；也进一步发展出了为我们所熟知的协助处理破产案件的人工智能律师ROSS、辅助法官量刑的风险评估软件COMPAS、PSA和LSI-R。

国内研究的起步则要略晚些。根据检索，龚祥瑞、李克强在1983年发表《法律工作的计算机化》，前瞻性地提出要将正在兴起的计算机技术全面地应用于法律工作，克服人的偏见、冲动，并实现法律定性分析向定量分析的转型等。钱学森将法学作为现代科学技术的一个部门，坚信现代科学技术完全可以为法学研究和法制建设服务，在1985年全国首次法制系统科学讨论会上，他从系统工程的角度阐释了法制建设中的现代科学技术，并将主要设想归纳为六条：建立法制信息库；在省、市、自治区一级建立法律咨询的电子计算机处理中心；运用人工智能、知识工程和专家系统，把人的经验传给电子计算机；系统辨识（其实是大数据分析）；用逻辑推理检验法律系统是否周密完善；建立法制和法治系统和体系。现在回过头来看，实践确实沿着他们的设想在发展。自上个世纪80年代起，就陆续有了一些值得肯定的探索和实践。例如，北大法律系留美回国教师张力行等人在1985年开发了“涉外法规查询系统”，后来这一产品演化为著名的中国法律信息检索系统“北大法宝”，此外还有上海法学研究者朱华荣、肖开权主持的“量刑综合平衡与电脑辅助量刑专家系统”课题（1986年）、武汉大学法学院赵廷光教授领衔开发的实用刑法专家系统（1993年）等。至于法院方面，最早的报道可能来自山东省淄博市淄川区法院，其在2006年研制并使用“电脑量刑”软件系统。

近年来，随着信息革命的深化，人工智能已经成为新一轮信息技术革命的重心和“风口”，加之中国在人工智能的资本、市场、技术、人才等方面的优势，顶层设计也希冀借此实现“弯道超车”。2016年7月出台的《国家信息化发展战略纲要》将建设“智慧法院”纳入国家信息化发展战略，2017年4月最高人民法院随即印发《最高人民法院关于加快建设智慧法院的意见》，周强院长更是在多个场合强调“信息化建设和司法改革是人民法院工作的车之两轮、鸟之两翼”。在前期信息化建设的酝酿和铺垫下，如审判流程公开平台、中国裁判文书网、执行信息公开平台、庭审直播平台、诉讼服务网的逐步建成和开放，法院人工智能建设开始进入“爆发性增长”阶段，并朝着“全业务网上办理、全流程依法公开、全方位智能服务”的方向发展。其中，最全面最直接的莫过于杭州互联网法院、北京互联网法院、广州互联网法院的成立，将部分案件从线下审判搬到了线上，贯彻全程在线审理原则，健全和完善了互联网案件审判格局，以及最高人民法院司法案例研究院、司法大数据研究院的设立运行和有中国人自己的“万律（ Westlaw）”之称的最大法律知识与案例应用平台——法信的上线。地方性的典型如江西收转发E中心，集中于网上送达；北京睿法官、“上海刑事案件智能辅助办案系统”（上海206），集中于智能裁判；苏州中院依托语音识别、语音合成、语音转换等技术支撑电子卷宗和数字法庭的发展，集中于庭审的同步留痕；江苏法院12348公共服务平台，集中于为群众提供公共法律服务（如法律咨询智能问答、法律服务智能导航、典型案例智能推送、法律风险智能检测、服务热点智能感知等）；深圳市福田区法院的融平台、以“余杭模式”为代表的道路交通事故损害赔偿纠纷“网上数据一体化处理”，集中于多元化纠纷解决机制和社会治安的综合治理。与此相映照，各高校、科研单位也纷纷成立了相应的研究中心等，如中国人民大学的未来法治研究院、北京大学的法律人工智能实验中心、中国政法大学的大数据和人工智能法律研究中心、西南政法大学人工智能法学院等。

（二）“善假于物”的几个方面

按照马克思主义的观点，劳动或具体地说制造和使用工具是人类区别于动物的根本标志。而工具始终要和主体及其目的联系在一起，方能获得真正的理解。故分析司法人工智能热，必然要触及深层次的司法目的、价值和需求，尽管对此人们可能尚未有清晰、准确的体认。在本文看来，司法人工智能热背后的“善假于物”既体现在对传统司法价值旨趣和实际需要的回应，也体现在全新的司法思维方式的变革和发展。

1.促进司法公正

从司法公正这一维度来看，规范或限制法官自由裁量权、努力做到裁判尺度的统一一直是司法的难题，它反映了人们根深蒂固的心理习惯和期盼。“如果有一组案件所涉及的要点相同，那么各方当事人就会期待有同样的决定......如果不同，我胸中就会升起一种愤怒和不公的感觉；那将是对我的实质性权利和道德权利的侵犯。”而反映这种期待的思考和努力也由来已久。培根饶有深意地提出“擅动界碑者必受诅咒”和“污染水源”的警示，孟德斯鸠则更形象地形容：“判决是法律的精确复写，法官只需要眼睛，他只不过是宣告和说出法律的嘴巴”，他们的思考源自西方政治权力分权制衡的理念和实践，内含着政治架构层面的技术方案。拉伦茨则从法学方法论角度提出他的方案：“使法官的决定空间（于此范围内，他只需要作决定）尽量缩小，这也是法学的任务之一。”申言之，经过严格的方法论训练，按照特定方法对实在法进行思想的诠释和领悟，法官能够很大程度上摒弃个性、避免恣意，确保裁判的客观性。

在人工智能时代，这种期盼似乎被落在了“机器人法官”身上。这是因为，相较于人，机器不具备情感、意志，因而有望被用于克服人的偏见和情绪，严丝合缝地按规矩和程序办事，从而满足了法律稳定性、可预期性的要求，彰显出司法公正。早在2006 年，山东省淄博市淄川区人民法院就有“电脑量刑”相关司法实践。据称，只需将被告人的犯罪情节输入电脑程序中，计算机就会根据储存的法律条文，对被告人做出适当的量刑，量刑结果可以精确到日，从而实现量刑的数字化精确化。时任刑庭庭长王红梅直言道：“我们搞这套系统的目的就是防止出现量刑畸轻畸重的情况。”按照工具论的逻辑，“机器人法官”并不现实，且目前官方和学界也仅仅将人工智能定位为“辅助裁判或量刑”。尽管如此，司法人工智能还是开辟了实现司法公正的另一条路径。如上所论，人工智能是基于大数据、算法、算力的机器智能，根本在于大数据。从海量性（Vast）、多维性（Variety）、及时性（Velocity）的大数据所发掘出来的信息，既让法官摆脱了小数据的局限经验和认知上的盲点，更让当事人、公众能够在最大样本范围内评判司法裁判，进而将司法与社会紧密的勾连在一起。如果说培根、孟德斯鸠从分权制衡的宏观政治理念、原理论证了法官裁判的规范性、公正性，拉伦茨从法学方法论这一中观角度来对法官做出指引和规训的话，不妨说，司法人工智能将基于司法大数据（可以体现在法律规则、各种案例、审判流程、社会评价等各方面），从微观角度提示、敦促落实裁判的具体过程和细节，进一步丰富和实现了宏观的理念原理和中观的法学方法论。另一方面，这也反过来助力了法院的科学化、精细化管理，强化了法官为被问责监督的可能性，让司法责任制的落实有了更有力的“抓手”，这就从另外一个层面间接地促进了司法公正。

2.提升司法效率

相较于公正，司法人工智能的效率导向逻辑显然要更为强大。这是因为工具和效率本身就是“孪生”的，效率本身并无价值倾向，其实现和测量就要直接和容易得多。相反，司法公正更为复杂多元，且其与社会还保持着动态的、内在的博弈和平衡，是否可能、如何能够将公正转化为相对精确的、可供计算的参数，法官如何作为变量参与其中，均是未解的难题。诚如有学者所言：“造成这种现象，显然并不是因为法律人在价值观上存在着高下之分，而是因为对于人工智能而言，去把握如何提高司法的效率，要比去把握如何实现司法的公平更容易。”

在我国目前的实践中，司法人工智能也确实主要用来替代一些事务性工作，如法官助理或书记员的诉讼材料的接收、通知送达、身份核验、笔录记录、卷宗的整理归档等，或者是在某些诉讼环节有所应用，如网上立案、特定涉网案件的在线审理等，严格意义说，这些替代只是体现了智能化的元素，并不涉及复杂的脑力劳动。更进一步的智能服务是类案推送、智能裁判，即为法官推介相关的办案参考或根据既往的大数据分析提供初步的裁判方案。在人案匹配失衡、法官超负荷工作的背景下，这种效率导向的司法人工智能应用确实能够有效地替代一些事务性工作或辅助一些复杂的判断，从而让法官的精力集中到更重要的分析和判断中。更深入地看，因滞后于技术的传统规则所带来的效率困境也要靠技术本身予以化解，也即形成技术对技术的“降维打击”。以消费者起诉网络交易平台经营者的网络购物纠纷的管辖权为例，如依消费者住所地确定管辖法院则将抬高网络交易平台经营者的追偿成本，如依平台内经营者或网络交易平台经营者住所地确定管辖法院，则又将抑制消费者维权、不合正义，跳出既有的管辖规则，确定涉网案件在线审理或许是值得探索的路径。此外，如果我们对司法的理解不限于定分止争层面，而是将其置于社会治理能力和治理体系中加以理解，就会获得关于司法效率方面“善假于物”的更高维度的认知。根据笔者对北京高院的调研，主管副院长和有实务人士就认为：北京地区民事法官年人均结案400余件，其中相当一部分集中在供暖合同纠纷、物业服务合同纠纷等法律关系相对简单的案件，不堪负重。而通过大数据和人工智能的技术分析，此类纠纷集中在特定的区域，与物业管理、房屋产权状况等密切相关，如能据此进一步分析成因，推动政府、法院参与协同治理和源头治理，则可以从根源上减轻法官工作负担，将其从“案海战术”中解放出来，腾出更多更宝贵的司法资源处理其他更为重要的纠纷。不止于此，司法大数据分析和人工智能的相关推送等，也可以较为客观中立地帮助当事人预测自己的诉讼，并寻找到最佳的利益平衡点，从而化解纠纷和减少社会运行成本。以大数据和人工智能支持的调研、新闻通报等也更好地延伸了法院的司法职能，指导相关行业、个人作出有利于自身和社会和谐的行为方式，如最高人民法院信息中心和最高人民法院司法案例研究院近期联合发布的关于《网络约车与传统出租车服务过程中犯罪情况》的司法大数据专题报告就有可能较好地用理性的声音来缓解行业和公众的焦虑。

3.优化法院管理

在推动法院科学化精细化管理方面，司法人工智能也可以有所作为。在以往的研究中，学界多聚焦于审判本身的公正、效率，而对于法院管理如何影响裁判等则缺乏应用的关注，这与法院管理相对密闭、开展相关性分析的数据不足等因素密切相关。

伴随着信息化的留痕，法院管理方面的大量实时性数据不断生成，通过恰当的算法，完全有可能通过人工智能技术分析出法院管理是如何影响案件裁判效果的，从而更方便法院管理者、公众更深切和清晰地认识其中的内在机理。例如，利用大数据和人工智能技术，可以科学而方便地计算出案件的成本收益。当然，这种本益分析并非经济学意义的，而是司法资源的投入（包括法官的办案时间、警力物力的投入等）与社会效果（包括个案纠纷的解决、对社会的示范意义、对裁判规则的深化细化等）的内在关联。在司法本益分析可视化可量化的基础上，不仅能有助于法院管理者做出更科学有效的决策，重新优化配置司法资源，亦有利于司法责任制的进一步落实。又如，司法本益分析可以作为法官绩效考评体系设计的重要基础和依据，相关具体指标（如调解撤诉率要求）与案件裁判效果的比对分析可以被管理者用来科学地设计绩效考评体系。此外，基于本益分析的大数据验证（如错案率）也更为客观实在，从而可以反过来促进法官提高裁判水平。正如有学者指出的：“通过实证研究对法官的裁判行为进行研究非常重要。构建一种纯粹、客观反映法官裁判水平的评估体系，对提升法官裁判水平，具体落实司法责任制非常重要；同时，建造一个辅助系统，使法官裁判具有实时参照物，使同案同判可以在一个被论证了的客观标准中进行。”

4.形成系统思维

最后，需要特别指出的是，人工智能的司法应用还具有突出的认识论意义，特别有助于法官形成系统思维，有机地融合以上三个层面的考量，更好地贯彻落实司法为民、公正司法的精神，努力让人民群众在每一个司法案件中感受到公平正义。

在马克思看来，科学的认识过程是从“模糊的整体表象”（感性具体）到“抽象的片面规定”（理性抽象）再到“诸多规定的综合”（理性具体）。相对于个体经验而言，人工智能可以延展和处理更多的数据来获得更全面、更丰富的信息，从而扫清认识的盲点、消除不确定性，其所获得的是系统的认知，而不是片面的深刻。故可以说，司法人工智能是助推司法判断从“抽象的片面规定”（理性抽象）迈越到“诸多规定的综合”（理性具体）的重要利器。借助司法人工智能有利于跳出法院自身立场进行换位思考，从而获得更全面的认识：电子诉讼的广泛开展以及网上诉讼服务中心的建设，使得当事人或者代理人在使用法院提供的各种诉讼服务的同时，其自身参与诉讼的各种信息记录被存储，将这些数据再一次与这个案件自身的数据相结合，将有助于我们在动态过程中去预测诉讼行为的走向，或者是从某一个方面去审视人民群众在每一个司法案件当中是否感受到公平正义。可以合理地设想，借助于司法人工智能，司法过程的内在机理可以展现地更为清晰和细致，司法的“法律正确”和司法与社会的契合度也将获得更为精准的认知和评判，贯穿司法过程的案件审理、法院管理、公众评判也将因此得以聚合和升华，司法功能也将获得更高层次的质的飞跃。

三、审判异化：司法人工智能的主要隐患

作为工具，应用司法人工智能能够达致以上各个层面的“善假于物”的效果。但人在用工具改造世界的同时，自身也被工具型塑着，并始终存在着被异化的风险。正如马歇尔·麦克卢汉所言：“我们自身变成我们观察的东西……我们塑造了工具，此后工具又塑造了我们。”马克思则从劳动角度提出异化理论，按照他的观点：劳动是人的本质力量对象化的一种活动，在本质上是自由自觉的，通过劳动，人的智慧和体力都得到了发展，并由此而获得幸福和愉悦。但异化劳动的结果却是，人自身的工具化或由于过于依赖于工具而丧失了主体的自由自觉。而人本身的异化又必然导致人与人之间的异化，并加速了经济不平等和阶级上的分化对立。以上关于马克思异化理论的两个方面——主体性的丧失和人与人之间的异化，颇具启发和警示意义，同样可以适用于司法人工智能的应用。

（一）技术主义对司法的俘获

目前的司法人工智能热主要是技术主义，体现为科技服务司法（网络办公等低层次的信息化建设）、科技支撑司法（以网上留痕为例的静默监管）、科技引领司法（以文书网上公开为例的服务大众）、科技驱动司法（为司法改革赋能）等，但如缺乏基于司法自身属性的反思和规训，则易走向技术俘获司法这一极端。

司法决策层认为，司法体制改革与法院信息化建设是并驾齐驱的，将其形象地比喻为“车之两轮、鸟之两翼”，并希冀通过“科技+司法”来实现中国模式的司法公正，如依托大数据的“类案推送”“类案类判”相当于产生了一种“现代新型判例法”，从而有可能超越西方既有的法治模式，为全球治理探索和贡献中国方案、中国经验。这种技术主义的探索和努力值得肯定，但“并驾齐驱”式的预设，容易忽略掉更为根本性的命题——司法与技术的体用关系，以及由此而衍生出的一系列具体的问题。季卫东在宏观意义上批判指出：“各地、各机关介绍经验的重点其实已经在不经意间从司法体制革新悄然转向司法技术革新。”从前文工具论的立场出发，人工智能技术最终要服膺于司法的根本属性。这是因为，司法功能、司法程序的精巧设计体现了人类的政治文明和智慧，在相当长时期内应是相对稳定的，人工智能技术只有在尊重和满足于司法责任制的核心要求——让审理者裁判、由裁判者负责，并在总体上契合司法程序意义上的被动性、公开性和透明性、多方参与性、亲历性、集中性、终结性时，才能发挥更大的正向作用。应当看到，技术权力与司法权力在具体层面将存在着长期的冲突和博弈，特别是片面的技术主义导向容易出现算法权力绑架司法权力、算法黑箱固化或放大司法不公等问题。如我国现在的互联网法院主要是依托互联网公司建立的诉讼平台来运行的，在网上诉讼中，当事人各类信息（包括身份信息、证据信息）乃至审判秘密（如网上合议信息）为互联网公司所监控、不当操作或泄露就不再是危言耸听，至少这也应是理论上的风险隐患。又如，我国法院主要依靠技术公司来合作开发司法人工智能，而技术公司的营利取向与法院的公共属性并不完全兼容，对技术公司而言，求大求多求快消耗开发司法人工智能的公共资金反而是其正常的商业逻辑，加之法院缺乏既懂办案又懂技术的复合人才，制约了一线法官难以将其司法需求真实、准确、有效地导入到技术层面。幸运的是，学界对此已有所呼吁，王禄生指出：“需进一步唤醒对技术驱动型的司法现代化建设的危机意识，遏制不断膨胀的片面技术理性主义，从而更加合理、谨慎地在司法场域中运用新技术，更加理智地看待和规约不断扩张的技术权力。”而如何在实践中对片面的技术主义导向进行纠偏，将是今后面临的重要任务。

（二）对法官主体能动性的侵蚀

如果不能对人工智能和司法过程的性质有正确而真切的认识，就容易走向“善假于物”的反面，导致司法人工智能对法官主体能动性的全面侵蚀。这种侵蚀源自其在应用中的人机错位和过度依赖，并体现在司法的各个领域和环节中。

法暨法治实践是人类有意识的自觉活动，法的目的决定法律的生长方向，这是耶林对法学理论的重大贡献。按照亚里士多德的“四因说”，正是居住目的本身（目的因）驱使图纸设计（形式因）和工匠盖房（动力因），使木料（质料因）成为房子，而不是别的桌子或椅子。如果把法律规则看做法治工程的“基本质料”的话，包含了价值考量、政策诉求之法的目的则决定着法治工程的基本面貌。根据这一前提，承载法律适用之司法则是规范性和能动性相统一的过程。规范性要求法官以事实为依据、以法律为准绳进行裁判，不得随性地“擅断界碑”，且裁判的过程应符合基本的程序要求、满足逻辑一致性的要求。能动性则意味着裁判不仅仅是理性的计算，而是蕴含着一定的政策取向和价值诉求，形象地说，司法是有温度的。两者的统一性在于，司法温度要借由法律适用得以呈现和保证，而在法律规范性的背后则“站着”司法予以支持和保障的政策要求、伦理道德等。相比人类而言，人工智能擅长于处理海量数据并进行理性计算，对于具体情境的代入、情感感知、价值判断等其反而显得“很低能”，上文关于人工智能并非有机智能的分析已对此作出了阐释。故不能片面地聚焦于人工智能超过人类智能之处，也要认清人工智能的背后是人，而且有些事情人工智能自身或许永远无法做到，比如情感、意志、价值、意义等。故司法人工智能的关键就在于人工与智能的有效叠加，形成优势互补，达致“善假于物”。相应地，类似于智能裁判的命题就非真正的命题或者说应对其进一步加以限定，要在总体上让其服膺于司法的根本属性和法官的主体能动性，而在司法过程中涉及到的理性计算，如新的关联性的发现、关于裁判要素的分析报告等，则不妨交给司法人工智能，并由法官过滤、监督后参考使用。

根据我国司法实践的现实情况，对于司法规范性的强调要超过能动性。法官多秉持司法克制主义的一面，信奉培根的名言：“为司法官者应当记住他们底职权是jus dicere而不是jusdare；是解释法律而不是立法或建法......移界石者将受诅咒......一次不公的判断比多次不平的举动为祸尤烈。”这是从立法权、司法权分权制衡意义上理解法官办案的规范性，意在强调法官不得代替立法者擅做决断以“污染水源”。但时代在变化，现代法治形态已从“法秩序的法治”“法统治下的法治”发展至“良序善治的法治”，且社会关系呈网格化、立体化之趋势，社会连带、社会合作之需求愈烈，法律的滞后性、不完备性等特征也日益突出。故从司法与社会互动的角度来看，法官在某种情形下应当像立法者一样思考，以社会职责为本位，立足司法与社会互动的立场，运用司法智慧、法律原则“赋能于法律规范”以诠释法治之“良善”，而不是局限于案件本身或“死抠”个别机械的条文。早在20世纪20年代，卡多佐就在其著作《司法过程的性质》中专辟一讲——社会学方法和法官作为立法者，指出普通法系、成文法系中司法的这种相同倾向：法官在发现法律时必须进行的研究过程与立法者自身职责所要求的研究过程非常类似，要通过恰当的规则来满足正义和社会效用的要求；当正式的法律渊源沉默无言或不充分时，法官应当服从立法者自己来管制这个问题时将会有的目标，并以此来塑造他的法律判决。只不过，不同于立法的抽象性，司法过程要通过具体境况而启动。当然，为了摆脱危险的恣意行为，法官的司法决定应当矗立在客观基础之上。尽管限于政治体制、成文法传统等因素，我国司法、法官的主体能动性空间有限，但这种趋势是明显的、相同的，而现代大数据、平台经济、人工智能的发展则更强化了这一点，要求司法在个案裁判的基础上，通过主体能动性回应转型期经济社会发展的需要，并在社会治理体系中发挥出更大的作用。法官的这种主体能动性确是时代所需，其该如何与规范性兼容也有待于司法各方面的探索和实践。如法官审判思维要从纯粹的规范法学升华到法社会学、法经济学层面，在大数据和人工智能时代，则还要积发展和运用法统计学这一新型实证方法去落实规范性和服务能动性。又如法官绩效考评体系要从“泰罗制”“科层制”的模式中走出来，不能仅仅满足于法院内部管理效率的要求，而是要上升到接受社会评判和检验的高度，而且，这种评判和检验要融价值和实证于一体，避免泛化和虚无。让不具备情感意识、尚无迁移学习能力的司法人工智能担当此任，恐怕是不切实际的幻想。相反，它有可能进一步挤压法官“司法劳动”所带来的愉悦创意、社会认同，从而让人惊讶于“机器的人化和人的机器化”，这是应用司法人工智能所要着力避免的。从实体意义上看，这种人机错位将造成法官、陪审员、法官助理、书记员的关系定位的紧张，甚至也在悄然改变上下级司法机构之间的独立关系——既然司法人工智能导出来的是科学的、严格的客观正义，那么，那些心存偏见和冲动的法官等又为何不能靠边站呢？基于审判独立的上下级法院的裁判也完全可以整齐划一，从审级制度的必要性和价值也将被撼动。从程序意义上看，司法被动性、公开性和透明性、多方参与性、亲历性、集中性、终结性等特征[xii]也受到了威胁。如算法歧视会隐蔽地渗透到司法裁判中，并系统性、规模化地运作起来，司法的被动性或中立性也就在无意中被销蚀了；算法的不可解释性或算法黑箱则直接与司法的公开性和透明性相冲突，它削弱的不仅仅是法官的主体能动性，也包括诉讼各方的积极参与，从而使“看得见的正义”因为专业门槛或不可解释性而存在被架空的风险；在很多情况下，网上审理或异步审理所接触到的证据并非原始证据，而是经过信息化处理后的传来证据，非物理空间上意义的现场性也削减了当事人之间的对抗性，从而在很大程度上背离了裁判者的亲历性或直接言词原则；区别于法官的连续性、集中性审理，司法人工智能“分有”了法官的主体性，可能造成法官人工与机器智能的分离而不是融合，从而减损了司法的集中性；基于司法人工智能的裁判如异化为机器判案，那么，当事人和公众无疑会对司法的终结性产生强烈的质疑。此外，即使是在司法的某些理性计算领域和规范环节，司法人工智能也未必完全可靠。基于数据取样的偏差所得出的结论往往有一定的适用条件，对此，司法人工智能并不会自动告知，仍要依赖于法官的判断、择取和一定程度的加工。

（三）不平等的固化和放大

正如赫拉利所担心和描述的，人工智能将进一步扩大主体间能力不平等，这已表现在辅助学习、研究、智能投顾、涉网行业与传统行业等各个方面。人工智能的背后是人。人的主观偏见会通过算法设计等融入和固化到人工智能中，并很难在短时间内予以调整。从域外司法人工智能的应用来看，这一问题已经浮现。在威斯康星州发生的（State v. Loomis）一案中，法官使用COMPAS 作为量刑过程中的一个因素，被告和学者则批判法官本身并不真正理解和掌握此种AI和算法，而这可能导致种族歧视等社会问题。这样的担忧不无道理。在法官未能真正理解人工智能的数据来源、算法设计时，其自然无从参与其中，这样，司法权的中立判断、平等保护职能也悄然地从法官手中转移到了技术开发者那里。资本暨技术优势者也就可能利用此契机，自觉或不自觉地将有利于本群体或本阶层但未必有利于整个社会的价值观，溶解到“司法公器”中。不止于此，它还将经由司法人工智能得以放大。与人的犯错不同，人工智能的犯错是大规模的、系统性的，而非个案的或局部的。在金融领域，这早有呈现。为确保在股市暴跌中第一时间止损，相应的人工智能被设计出来。然而，这种不加思索地快速的自动操作往往导致更多的抛售，从而呈现出雪崩式股灾。在1987年11月的“黑色星期一”，纽约证交所就出现了上述情况，最后所有计算机操作都被迫改为人工操作。后来，尽管各大券商更新了智能程序，2001年911后的股灾、2008年金融危机的股灾、2010年金融危机后一次莫名其妙的股市暴跌，都被认为和智能炒股有很大程度的联系。对此，司法应引以为戒，要充分意识到机器犯错的特点，注重那些“致命的细节”，防止出现“失之毫厘、谬以千里”的被动局面。

这种偏见或不平等不仅仅内嵌于司法判断中，也体现在司法的具体过程中。当某方当事人利用司法人工智能主张诉讼请求、组织法律理由时，其所获得的“庭审杀伤力”至少在外观上要明显强于传统的另一方当事人，对其而言，司法人工智能是除法律知识之外的另一专业门槛。法官如不能在其间统筹衡量、平等保护，抗辩的空间将很容易被压缩甚至于扭曲，一些原本可能凭借社会生活经验即能得出准确判断的简单问题，反而被搞成貌似复杂的专业问题，使当事人和公众无从参与，司法民主也就被挡在这种专业门槛之外了。这显然不是我们期待的司法。作为复杂的活动，司法在总体上是专业化的，特别是裁判理路、法律适用方面的专门技能，但这绝不意味着司法是与世隔绝的“概念王国”。相反，就案件中所涉及到的善良风俗、交易习惯、社会生活常识和某些专门性、地方性知识等，法官的判断未必就优于公众或相关专业人士，特别是在一些家事纠纷、相邻纠纷案件中，此时，法官恰恰要俯下身来求教论证、敏锐地捕捉到“事实的原委”，并将裁判建立在这一坚实的基础之上。此外，司法与生俱来的政治社会烙印又决定了法官的裁断要契合主流正义、国家政策、价值共识乃至于抽象的人民情感，此时，不应用陷入“专业化的偏执”，而是要以司法民主为格局和导向，将司法专业嫁接其中。从这个意义说，司法人工智能本身需要“去魅”并加以普及化，专业性膜拜、不当的扩大化应用反而会妨害司法民主价值。在善假于物的大规模司法应用中，司法人工智能实际上是公共品，自然要接受合法性审查和公众的评判，特别是算法编程等要转化为可以理解的自然语言。而法官也要有意识地平等地武装当事人，让司法人工智能理性地止步于司法民主的领地。

四、结语

技术和劳动工具的变革带来经济基础暨上层建筑的变化，是社会进步的重要因素。司法人工智能并非有机智能，在本质上尚属于工具，它能够很好地满足“善假于物”的种种内在冲动，最大限度地解放“司法生产力”，这体现在司法公正、效率、管理和服务公众等各个方面。但同时也要意识到司法人工智能这一工具所引发的异化风险，特别是对法官主体能动性的侵蚀、不平等的固化和放大等。在司法人工智能这一技术“快变量”的冲击之下，尤应着眼于人性“慢变量”和其所延伸的司法根本属性的反思，努力达致技术与思维的最佳耦合状态。就总体设想而言，应研究和厘定司法人工智能的理论极限和现实基线，提高基线、迈向极限。在理论极限方面，要在探索司法和人工智能契合点、全面系统梳理司法场景的基础上，让人工智能介入到其所擅长的理性计算领域，并服从于法官的主体性思考和价值判断，消除算法歧视、算法黑箱所带来的不平等。在现实基线上，则要大力发展司法大数据、积极转变裁判思维，在数据互联互通的基础上，注重大数据维度的多样性、质量的可靠性、获取的便利性，让裁判的基础从有限视野、残缺经验上升到更全面、更充分的新型法律实证层面，并在善良和公正的照耀下散发出新的更亮的光芒。概言之，在大数据和人工智能时代，要拥抱和审慎地对待司法人工智能，这将是法律和技术合作发展的重要课题。

参考文献

[1] John McCarthy, Marvin Minsky, Nathaniel Rochester and Claude Shannon.A Proposal for the

[2]     Dartmouth Summer Research Project on Artificial Intelligence.[EB/OL]（2017-02-21）[2018-09-26].http://raysolomonoff.com/dartmouth/boxa/dart564props.pdf.

[3] 李恒威,王昊晟.人工智能威胁与心智考古学[J].西南民族大学学报(人文社会科学版),2017(12):76-83.

[4] Hannah Osborne.Stephen Hawking Warning: Artificial Intelligence could destroy

[5] civilization.[EB/OL].（2017-07-11）[2018-11-11].https://www.newsweek.com/stephen-hawking-artificial-intelligence-warning-destroy-civilization-703630.

[6] Nick Statt.Elon Musk launches Neuralink:a venture to merge the human brain with AI

[7] [EB/OL].（2017-03-27）[2018-10-13].https://www.theverge.com/2017/3/27/15077864/elon-musk-neuralink-brain-computer-interface-ai-cyborgs.

[8] Google DeepMind founder Demis Hassabis.Three truths about AI. [EB/OL].（2018-09-24）[2018-10-13]. https://www.techrepublic.com/article/google-deepmind-founder-demis-hassabis-three-truths-about-ai/.

[9] 郑戈.人工智能时代的主权、安全与自由.信息时代：国家治理与权利保障——第五届中法宪法论坛论文集[C],2018: 1.

[10] 吴军.智能时代[M].北京:中信出版集团,2016:46-4.

[11]  [美]约翰·布罗克曼（John Brockman）.如何思考会思考的机器[M].黄宏锋,李骏浩,张羿译.浙江:浙江人民出版社,2017: 60-62.

[12] 同注7,2016: 46-85.

[13] 同注7,2016:37-74.

[14]  张妮,杨遂全,蒲亦非.国外人工智能与法律研究进展评述[J].法律方法,2014(16): 459-460.

[15]  Janet Di Fiore.Electronic Filing in the New York State Courts (2018): Report of the Chief Administrative Judge to the Legislature, the Governor, and the Chief Judge of the

[16]  State of New York.[EB/OL].（2018-06-18）[2018-10-24].http://ww2.nycourts.gov/sites/default/files/document/files/2018-06/18_E-File_Report.pdf.

[17]  龚祥瑞,李克强.法律工作的计算机化[J].法学杂志,1983(3):16-20.

[18] 钱学森.现代科学技术与法学和法制建设[J].政法论坛,1985(3):6.

[19]  季卫东.人工智能时代的司法权之变[J].东方法学,2018(1):125-133.

[20]  刘进.山东在争议中推广电脑量刑 刑期可望精确天.[ EB/OL].(2006-09-12)[2018-10-21].

[21]  https://news.qq.com/a/20060912/000102.htm.

[22]  中国社会科学院法学研究所法治指数创新工程项目组.中国法院信息化发展报告（2018）[M].北京:社会科学文献出版社,2018: 7-18.

[23]  [美]本杰明·卡多佐.司法过程的性质[M].苏力译.北京:商务印书馆,1998: 18.

[24]  [英]培根.培根论说文集[M].水天同译.北京:商务印书馆,2013: 197.

[25] [德]考夫曼.法律哲学[M].刘幸义等译.台湾:台湾五南图书出版公司,2000: 55.

[26] [德]卡尔·拉伦茨.法学方法论[M].陈爱娥译.北京:商务印书馆,2003: 177.

[27]  [德]卡尔·拉伦茨.论作为科学的法学的不可或缺性[J].赵阳译.比较法研究,2005( 3):144-155.

[28] 同注16.

[29] 李晟.略论人工智能语境下的法律转型[J].法学评论,2018(1):98-99.

[30] 余斌.论大数据人工智能时代司法裁判层级的适用——以商事裁判为例[J].学术研究,2018(3):75-81.

[31] 中共中央马克思恩格斯列宁斯大林著作编辑局.马克思恩格斯选集（第1卷）[M].北京:人民出版社,2012: 701.

[32] ［加］马歇尔·麦克卢汉.理解媒介——论人的延伸[M].周宪,许钧译.北京:商务印书馆,2000:2.

[33] 中国人民大学编.马克斯恩格斯论人性、人道主义和异化[M].北京:北京人民出版社.1984: 130.

[34]  刘品新.法律与科技的融合及其限度[J].中国检察官,2018(297): 78.

[35]  刘品新.大数据司法的学术观察[J].人民检察,2017(29-31).

[36]  同注15.

[37]  王禄生.大数据与人工智能司法应用的话语冲突及其理论解读[J].法学论坛,2018(5):144.

[38] 苗力田主编.古希腊哲学[M].北京:中国人民大学出版社,1989:407.

[39] 同注19.

[40] 陈敏光.综合配套改革背景下的法官绩效考评体系的完善——基于司法属性的管理学思考[J].法律适用,2018(19):99-106.

[41] 同注18,1998:74-75.

[42]  左卫民.一场新的范式革命？——解读中国法律实证研究[J].清华法学,2017(3):45-61.

[43] 陈瑞华.司法权的性质[J].法学研究,2000(5):30-58.

[44] 李本.美国司法实践中的人工智能：问题与挑战[J].中国法律评论,2018(2):54-56.

[45]  Kinsey Grant.A Storm That May Cause the Next Stock Market Crash Is Brewing –

[46]  Even at Dow 23K.[EB/OL].（2017-07-11）[2018-10-30].https://www.thestreet.com/story/14335451/1/what-could-cause-the-next-stock-market-crash.html.

仅作学习交流之用

Dan Schultz

往期荐读

编辑：韩雨硕