李超 李旭颖｜人工智能嵌入司法领域的向度、症结及其化解

李超  李旭颖上海市长宁区人民法院法官助理

要目

引言一、考究：人工智能嵌入司法领域的三重向度二、症结：人工智能嵌入司法领域的非理性表征三、纾解：人工智能嵌入司法领域的体系优化
结语

人工智能技术发展，极大推动了司法体系的现代化。通过理论、历史、实践三个向度的考察，更清晰明确了人工智能嵌入司法的辅助性特征。司法人工智能技术发展过程中，存在着案件图谱构建“卡壳”，法律大数据被证伪，算法内部体系结构性失衡，司法亲历性有限等问题，对此，要注重系统与数据、制度与科技的融合创新，推动司法人工智能一体化发展；摆正“技治主义”位置，以辅助性为功能定位做好风险防范；厘清算法边界、推进算法公开来、防范算法权力异化，并构建事前事后双向监督机制，来实现人工智能在司法领域的规范、有序发展。

引言

2015年最高院首次提出“智慧法院”概念，2016年2月25日，最高院发布人民法院信息化3.0版本，更加清晰具体的描绘了人工智能司法嵌入的蓝图。随后地方各级法院智能化、信息化建设大幕拉开，人工智能技术在司法领域内的嵌入也逐步向纵深发展。人工智能技术作为一种新的生产工具，在推动社会现代化转型发展的同时，也在不同程度的取代人力资源，进行“机器智能操作”，比如大量的手工工人被机器人替代而下岗。于是，法官等专业人员的身份危机增加，强人工智能的出现是否会取代法官职业成为一种隐忧。

不过，依当前的发展态势，人工智能技术在司法领域内的应用也只是辅助法官办案的工具，包括梳理基本案件事实、收集整合案件证据、整理案件卷宗等。法官司法职业的亲历性、案件中的价值渗透性等特征决定了人工智能无法取代法官职业。那么，当前人工智能在司法领域内嵌入的现实文本如何，有怎样的实践表征，既有的嵌入模式存在哪些问题，我们又应该如何解决？遵照此逻辑，本文作出相应思考，以期对人工智能的司法嵌入研究有所助益。

一、考究：人工智能嵌入司法领域的三重向度

理论向度：司法人工智能的理论溯源

1.人工智能的符号主义观

在人工智能研究过程中，人居于主体地位，始终是人工智能研究的重心。人工智能研究在于探索和发现人类智能，不能超脱“人的智能”本身。而智能研究根本上是思考人类是如何认识世界的，也就是说并没有超出现代哲学范畴下“认识”的讨论。通过认识过程的角度来分析智能，人们一般会根据“认知观与认知结构”来判定认知的“认识”及其性质，并在此基础上得出何为智能。换言之，对“智能”的追问离不开“认知观与认知结构-知识-智能”的整体性分析。符号主义秉持着“内在心灵认识外在实在”的认知结构来解读认知过程。通常来说，演绎和归纳是获取知识的重要方式，也即只有经得起逻辑推理的知识才是确定无疑的，而“智能”就是此类知识，故符号主义人工智能科学家们主张用物理符号系统模拟智能行为，符号主义的这一研究影响深远。有学者认为符号主义可以归纳为，方法上偏重于知识推理，借助数学逻辑把世界形式化，把求解问题作为体现智能的工作范式。

而法律作为一种符号，虽然是以国家强制力为后盾保障实现，但这个过程不是实现法律本身，只是法律符号系统运行的结果，换句话说，是我们先构建了法律符号，再赋予其强制力。由于法律具有严密的规则体系，使得其结构性的表征更为明显，从而决定了法律为人工智能技术所处理的可能性。当然，人工智能的推演并不是对法律形式逻辑的简单替代，而是致力于实现更高水准的人工智能与法律的可交互性。同时，法律人工智能的运用，还能助推法律符号系统的发展，这是因为将法律符号引入智能技术中，能促成法律符号系统内部的自我演进，从而为实际的法律应用提供借鉴。

2.司法过程中的框架理论

框架理论是具有心理学和社会学起源的理论。从心理学上看，美国心理学家格雷戈里·贝特森最早提出“框架”的概念，他认为“框架”是一种元传播，通过将信息规定在框架中，不论信息表述是否被理解，它都根据事实本身，将指导和帮助传递给接收者。当“框架”的概念提出后，逐渐被引用到社会科学领域。从社会学上看，最早将“框架”概念引入社会学的是加拿大学者戈夫曼，他认为“框架”是指人们用来分类、组织和阐释生活实践的解释图式，使人们能够定位、感知、标签化事件或信息。“框架”是意义产生的积极过程，人们通过框架来建构意义。由上可知，尽管心理学、社会学中对于框架理论的定义并不一致，但是从语义背后的蕴涵来看，反映出的本质是相同的，即框架理论是一种思维活动结构，这种结构限定了思维的方式及其输出。在司法领域，也存在着框架理论的身影。一种是法律概念、法律原则、法律规则等构成的语义网络，构成法律思维框架。另一种是不具有刚性约束的道德、风俗、习惯等构成的规范框架。针对第一种框架，由于其相对比较明确，行为人能够根据相应的法律定义获知较为明确的法律内涵，并能预期自己的行为所获的法律评价，因此，人工智能技术是可以模拟的，而第二种道德规范框架，其本身并没有明确的权利义务内容，故无法进行技术模拟。在人工智能技术与司法不断融合的今天，通过法律思维框架，能够为人工智能技术的司法嵌入提供可供参考的坐标，使人工智能技术的运用最大程度契合法律原则、法律规则本身包含的法律理性，从而避免生硬技术嵌入带来的未知领域风险。

历史向度：推进司法治理能力现代化

1.策源：信息化基础设施架构阶段

人工智能司法嵌入，肇始于上世纪90年代中期的法院信息化建设，在我国，最高院组织召开的“全国法院通信及计算机工作会议”被认为是法院信息化开始的标志，这种信息化建设一直持续到2013年左右。在这数十年间，法院信息化建设主要包括以下几个内容：一是在法院信息化有关的硬件设施建设不断推进。比如办公自动化设备、机房等基础性的设施。二是在法院信息宣传的媒介载体上不断推进，比如法院局域网、微信、微博等司法政务公开与展示平台。三是在法院工作的业务内容上不断推进，既包括开拓审判、执行等专业化信息系统，还涵盖了行政办公等综合系统的开发。概言之，信息化基础设施架构阶段，在法院信息化建设上开辟了道路，为人工智能司法的进一步嵌入做了准备。

2.升级：司法大数据系统集成阶段

人工智能嵌入司法在经历了初级的基础设施架构阶段后，改革的重点突破口被聚焦于司法大数据的生产与收集。当然，智能司法并不简单满足于此，而是将司法大数据的有效利用作为这一阶段的主要目标，从而推动实现司法大数据的系统集成，因此，可以说这一阶段主要是围绕司法大数据建设展开的。2013年最高院组织法院信息化工作会议，提出要以信息化推动司法公开，建设审判流程、裁判文书、执行信息三大公开平台，让公平正义以人民群众看得见、摸得着的方式实现。在司法大数据建设阶段，要求裁判文书上网是重要举措之一，裁判文书上网是对法院内部数据体系一项重大革新，作为一项司法产品，打破了案件仅限于案件当事人知晓的局面，让社会公众成为司法的有力监督者，例如借助裁判文书网上公开，给予了公众一条新的认知司法的途径，对于提升司法公信力、推动社会诚信体系建设具有重大意义。同时，对于法律研究者，通过已公开的上网文书能够直接了解司法个案，方便深入开展司法研究。

在完成司法大数据生产和收集后，对其进行分析利用是实现系统集成的关键步骤。2013年伊始，最高院进行大数据集中管理平台建设，并在2015年实现了法院、案件、司法统计三方面的全覆盖。2016年根据《最高人民法院信息化建设五年发展规划（2016-2020）》安排，构建法院大数据管理与服务平台，部分地方高院也在最高院指导下，组织开展数据分析平台建设。在这一阶段，法院逐渐认识到数据作为一种宝贵资源，在主动对接人工智能技术过程中，有广阔的发掘空间和应用潜力。司法大数据的系统集成，不仅实现了各项业务信息的记录、保存和跟踪，还能够用于相应的统计分析，从而为司法管理决策提供科学参考。简言之，司法大数据的系统集成能够激活法院整体资源的分配体系，为智能化转型奠定基础。

3.赋能：司法全领域智能化铺开阶段

在这一阶段，人工智能借助前两轮的优势资源，进入高智能的机器学习阶段，法院也逐步实现与技术更高水准的深度融合，实现司法信息化水平系统性提升和全领域智能化推开，正如周强院长所说，要以信息化建设促进审判流程再造。当前阶段，司法全域智能化既要实现司法人工智能成果的固定和推广，又要在司法人员和诉讼参与人行为的智能化背景下，对相应的司法行为和诉讼行为予以回应，从而赋能法院管理体系，提升智能化智慧化管理的能级水平。为实现上述司法全域智能化的目标，法院在司法的建设上主要进行了以下任务。一是在法院主责主业上，持续提供智能化的诉讼服务，最大限度地发挥司法科技的便民最优解，减轻当事人诉累。比如在线诉讼平台、网上执行平台、一站式诉讼服务中心、涉诉信访管理平台等设施建设，能够有效降低当事人诉讼成本，保障公平正义。二是在事务性工作的处理上，借助智能化技术，简化办事流程，提升司法效率。比如通过小额诉讼程序、要素式审判模式，为审判瘦身，并能够精准聚焦当事人诉求。当下适用较多的电子送达模式，具有速率高、成本低、绿色环保等多种功能。三是在法律适用的释法统一上，能够实现司法知识辅助、消解法律适用分歧，实现司法公正。智能化技术在审判机制中作用的发挥，并非单纯的表面应用，其实质性的功能在于能够将司法实践中反复适用的共性技巧，通过技术的呈现和表达，传递至更多的诉讼场景和裁判模式中，并借助此手段来统一某一问题的司法认识。例如同案同判、类案检索机制的运用。四是在实现法院监督管理的科学决策与评估上，智能化手段的运用，将大数据作为自动、实时的抓取手段，经过分析，来促升决策的科学性。比如通过司法大数据研究热点问题，分析诉讼行为，总结司法规律；还可以通过司法大数据来监督审判和执行工作中的质效，确保司法质效均衡发展。简而言之，司法全域的智能化铺开，既是总结前两阶段的有益经验，更实现了人工智能在法院司法工作全领域全要素全流程的深度赋能。

实践向度：重塑司法服务流程

1.智能化：审判辅助运用

审判辅助是人工智能技术嵌入司法领域的关键环节，既可以帮助疏解基层法院案多人少的窘境，也可以进一步推动司法的现代化。审判辅助工作的有效开展，打破人们传统思维中只能由人办案的观念。上海法院的“206系统”就是在推进审判为中心的诉讼制度改革中的成果。“206系统”借助图文识别、自动语义分析、语音自动识别等自动化智能技术，检察机关利用语音唤醒功能，可以准确调取刑事案件中的物证、书证、证人证言等各类证据，用视频传输的方式与法庭内部信息化视频系统相连接，供庭审法官、控辩双方及时查阅观看，极大缩短庭审证据展示时间，提高庭审效率。

2.透明化：司法公开系统

全方位推进司法公开是打造阳光司法机关，提升民众司法参与感、提高司法公信力的重要举措。随着裁判文书上网、审判流程信息公开、执行信息公开、庭审公开等四大平台投入运行，每个司法案件的立案与受理、审判与执行，全流程全节点实现信息公开、全过程案件可视。截止目前，网上生效裁判文书共有五千多万件，访问量突破100亿人次大关。此外，执行信息网上的被执行人信息一目了然，企业失信执行情况点点鼠标即可知晓，实现公众全流程参与执行监督，执行难问题的解决更进一步；便捷的互联网技术实现线上庭审，足不出户即可观看庭审直播。当事人可以从司法大数据公开过程中获得解决纠纷的稳定预期，通过检索类案，亦可了解到类案中法院是如何裁判、当事人诉讼主张如何恰当提出等诉讼中关键要素。

3.电子化：全流程在线诉讼

法治是最好的营商环境。随着优化营商环境的司法保障持续落实，北京法院将打造互联网法院、智慧法院作为法院建设的重要目标，2018年全新的线上电子诉讼平台亮相，线上诉讼一体化步入快车道，推出的“移动微法院”“天平链”使当事人足不出户就能实现争议解决。2020年，市高院发布《北京法院网上立案工作办法》，规定对于符合条件的起诉，要予以网上直接登记立案，实现立案无纸化，提升立案工作质效。尤其是在新冠疫情防控期间，常态化的在线诉讼不仅高效满足多元化纠纷解决需要，也为疫情期间复工复产提供有力的司法保障。

4.可视化：智能管理体系

人工智能技术嵌入司法领域不仅在于助力智慧审判、在线诉讼，也为法院智能化管理提质增效。以法院安全管理为例，智能人脸图像识别构建的全新安全风险防范体系，提升了诉讼服务中心配套管理设施设置的层次和水平。验证当事人身份无需人工反复核验，只需放置身份证便可轻松完成人证识别，实现个人安全风险排除，有效管控潜在危险。再如OCR图文转换技术，在纸质证据材料电子化之后，能够自动实现对证据材料中的关键信息进行实时抓取，并回填相关系统。可以说，这种可视化的智能管理不仅推动个案争议解决，还优化了整个司法运作体系。

5.战略化：司法智库平台

建立新型高端司法智库，是推动审判体系和审判能力现代化的重要举措。人工智能技术嵌入司法领域催生的司法现代化，不仅需要依托智能技术，更关键的是发挥人才的智力智库作用。凭借司法智库智囊团的溢出效益，推动整个司法决策更加站在一种战略化的视角进行谋划，因此，人工智能技术的司法应用在决策高度上实现了某种程度司法智库的战略化。早在2015年，上海法院依托智能技术，整合各级法院司法智力资源，建立了上海司法智库，有效服务司法改革。

二、症结：人工智能嵌入司法领域的非理性表征

当然，技术作为一把双刃剑，既能产生推动力，也会带来发展阻力。人工智能技术在司法领域内的嵌入也不例外，其在助推智慧法院建设、促进司法现代化的同时，也带来了堵点、痛点和难点。

堵点：技术与数据面临的双重窘境

1.案件图谱构建中的技术瓶颈

所谓知识图谱，即用符号形式描述现实世界中的概念内涵及其相互关系。它的架构包括图谱自身的逻辑构成和形成图谱所采用的技术架构。按照此定义，案件知识图谱就是用符号的形式描述案件中各要素的内涵及其相互关系。以刑事案件为例，整个案件知识图谱的构成包括犯罪构成、量刑意见、事实要素、法律政策等，通过图谱的构建，技术自动分析案件，实现法律逻辑与技术逻辑的有机结合，为审判要素的智慧化提供动力。但是实践中，知识图谱的构建远未到达智能化、自动化的程度，人工智能在案件基本信息的抓取上无法实现准确、高效识别，这就导致后续图谱构建遇到阻碍，只能借助人工方式，人为建构语义规则，来完成知识图谱构建。然而案件的案由纷繁复杂，寄希望于人工操作来推进显然会阻隔司法人工智能的发展效能。

2．法律大数据被证伪

大数据时代，万物互联，数据是最宝贵资源，有数据才会有智能，而法律大数据是司法人工智能有效运作的前提。如果司法人工智能获取的数据是虚假的，在真实性上禁不起考证，那么司法人工智能的输出结果也不值得我们信赖。由于当前我国法律领域的信息存在“表象性”，即信息是公开的，但不一定是真实的。司法领域内的“表象性”主要表现为外界掌握的信息用以证明司法决策正确，但其无法反映法官决策时采纳的实质信息。所以我们必须清楚的认识到表面上形式正确信息与实质上内容真实信息间的巨大差异，知晓法律人工智能也只是一种技术手段，附着固有的局限性，无法真正代替法官归纳裁判时的真实意旨。概言之，法律大数据在被证伪的情况下，数据进入智能系统得出的结论也不一定真实。

痛点：算法内部体系的结构性失衡

1.算法黑箱威胁司法程序的透明性

黑箱是计算机领域的专业词汇，它的意思是指专业技术人员对计算机系统进行测试时，无法知晓系统内部运行情况，使得出现问题后无法定位问题代码的具体环节。算法的深度学习能力是对传统机器学习模式的彻底颠覆，通过剖析事物特征进行归纳，获得更高程度的认知。正是这种从原始出发的认知范式，存在无法洞悉的隐层，即算法黑箱。算法黑箱并不仅仅意味着我们无法洞察，也说明了即便能够发现运行代码，也无法理解其晦涩含义。例如，通过人工智能技术在作出智能裁判时，我们得知的仅是最终结果，至于机器在运算时如何考虑，对于复杂的法律关系、政策背景等要素如何筛选、抉择，我们都不得而知，仅能通过结果来评判。在当前司法公开背景下，要求审判执行工作透明化、司法大数据公开化，让当事人在诉讼程序中享有更多的参与权，这些都对算法黑箱问题的解决提出了更高的要求。

2.算法歧视挑战司法决策的公正性

传统法官决策模式中，人作为决策主体起到决定性作用，而随着人工智能技术在司法中应用的推广，法官决策的范围随着技术不断地扩张而逐渐缩小，决策更多依仗算法通过对法律大数据分析后统筹运算而得出，这样自主的、机器的、程式的决策使算法歧视存在天然的基因缺陷。一方面，内置性编码凝视嵌入算法。编码凝视是指算法受外界影响，被掺入固有偏见。算法研发者在制作、研发算法时，难以避免的会加入自身主观意向，比如算法的设计理念、算法的输出标准等，这些在一定程度上形成歧视性意见被注入算法。另一方面，作为算法训练的法律大数据也存在歧视性。算法在进行训练时，需要抓取大量的法律大数据作为“原材料”，而数据数量庞大、种类多元，算法在抓取时做不到每个数据都能辐射到，就会产生“技术逃避”问题，此外，预先存在的数据也存在被证伪的可能，如果被算法抓取的数据本身都是真实性存疑的，那么以此为基础的算法运算，得出结论的科学性就会大打折扣。以上两方面都会造成算法歧视，以公正为核心的司法决策也会受到极大挑战。

难点：智能技术嵌入的功能受限

1.法律方法的人工智能化无法代替司法的亲历性

司法亲历性是司法工作的重要原理，是指司法人员应当亲身经历案件审理全过程，直接接触和审查各种证据，听取当事人主张，其内涵包括法官身到与心到的统一、法官亲历与人证到庭的统一、审案与判案的统一。在技术辅助阶段，智能化系统能够模拟法官进行案件分析和类案推理，使司法辅助办案的效益最大化。而人工智能介入司法之后，将会赋予传统的法律方法以人工智能化，以涵摄为基本架构，通过“案件信息输入—裁判结果输出”的简单涵摄模型来构筑司法三段论，显然机器这样的简易推理有诸多显而易见的缺陷。人工智能技术通过对审判经验的总结、外化为智能化审判辅助应用的方式，只能实现对共识性审判经验和普遍性适用规则的总结，无法结合实践中具体的个案以及个案背后的深邃法理、社会政策、价值观念来考量。而这些只有人类法官经过司法亲历的淬炼，才能实现法律方法的精准运用。

2.司法决策的自动化无法实现自由裁量的秩序性

从强意义上讲，自由裁量权是指官员在决策过程中，不受权威机关准则约束的权力。而司法领域内的自由裁量权则是法官对于既有立法规定语焉不详时，按照立法精神，在法律框架内进行解释说明的权力。法官运用自由裁量权裁判时，意在实现法律规则确定的统一秩序，对秩序诉求价值更加突出。由此可知，秩序性成为自由裁量权行使的关键目的。因立法技术的固有局限，使得立法机关不可能面面俱到，将所有事项都列入立法条目，这样一来，法官自由裁量权便有存在之必要。人工智能技术在司法决策中的应用，并没有限缩法官自由裁量的空间，相反，其构筑了一道技术无法介入的屏障，凸显自由裁量的价值。人工智能时代社会的迅猛发展，个案的裁判往往需要法官运用自由裁量权作出符合主流价值秩序的合理法解释，这种秩序性包括裁量权的行使符合社会公平正义、符合民众诉求期待的要求。显然，当前的自动化辅助决策还远未到达自动、合理行使自由裁量权的程度。

三、纾解：人工智能嵌入司法领域的体系优化

融合创新：树立新发展理念，推动司法人工智能一体化发展

1.系统与数据的融合创新——以标准化和数据共享为抓手

鉴于当前人工智能的发展状态，在短期内，想要获得颠覆性的突破还比较困难。为此，需要转变观念，将人工智能嵌入司法领域的建设重点放到系统与数据的融合创新上。一方面，对内要注重实现系统的标准化，也就是说要注重系统的整合。其中标准化是信息化的关键，在标准化上达不到统一，法院的信息化建设就会受到阻碍。可由最高院出台相应的法院信息化标准，各级地方法院以此为指南，将法院的信息化建设，纳入法院建设的整体规划和顶层设计中，不断提升标准化水平，同时突出标准编制的重要作用和地位，将其作为基础性、前瞻性的工作来抓落实，从而推动法院信息化建设。此外，要注重加强技术学习、信息联动，为关键信息基础设施建设、系统集成助推发力。另一方面，对外要实现数据共享，坚决杜绝数据封闭。数据是司法审判中辅助各项技术的原材料，当前，电子化证据平台、智能语音、专业测谎等技术都应用到了司法审判各个环节，这些技术若与数据脱钩便会成为无源之水。法院作为司法机关，是承载关于审判信息、执行信息、争议焦点信息等数据的重要主体，也是影响数据在司法内流动模式、机制的关键。这些数据作为关键资源，往往会出现“阻塞”，堆积于法院，外部主体对于数据的陌生，也在一定程度上与法院司法公开的要求所不符，为此，对外要实现数据共享。就实现路径而言，主要的疑难在于要打通法院数据阻塞，撬动司法数据流动，而区块链技术正好可以实现这一目的，通过区块链技术，利于技术的无法篡改性、稳定性等特性打造移动微法院，为全流程在线诉讼机制保驾护航，以数据的真实性为突破口，打破司法数据阻塞，实现数据共享，促进纠纷多元化解。

2.制度与科技的融合创新——以构建在线纠纷解决机制为突破

当前，各地人工智能嵌入司法领域的应用进一步拓展，功能进一步全面多元化，有百舸争流之势，但各地法院的实践大多集中于技术应用的范围拓展上，对于纯技术上的突破很少，因此，想要深化人工智能技术在司法领域内的应用，必须切实将制度与科技融合作为智慧法院建设的重要突破点。诚如周强院长所言，“智慧法院建设已上升成为人民法院组织、建设、运行和管理形态”，人工智能在司法领域内的应用不仅仅是信息技术部门的工作，而是关涉智慧审判、智慧执行、法院管理、审判监督、纪检监察等各方面。换句话说，在深化技术的司法应用，打造司法人工智能过程中，绝不能落入“唯技术”的窠臼，而应当跳出技术看技术，以技术与制度的融合为视角，加强司法人工智能的辅助推进。法院作为司法机关，定纷止争是其核心职能。各级地方法院在智慧法院建设过程中，要逐步探索智慧化的多元纠纷化解平台，建立在线纠纷解决机制（Online Dispute Resolution，简称“OCR”）。人工智能技术代表一种新的经济形态，即充分发挥人工智能技术在优化生产要素配置中的作用，将技术与制度的创新融合成果应用于实践，形成更为广泛的基础设施和实现工具的新发展形态。而人工智能技术所具有的跨界融合、创新驱动、重塑结构等特征，与司法相结合而兴起的电子调解、电子仲裁、电子复议等功能，也为在线纠纷解决机制提供新的标准和视角。

风险防范：以辅助性为功能定位，警防被技术边缘化

尽管人工智能技术作为一种颠覆性的技术，给人类社会政治、经济、文化等方面带来革命性变化，但是技术同样是一把双刃剑，其本身极强的专业性也存在着极大风险性的可能，比如改变就业结构，或是运用过程中人的主体地位被削弱，人成为被边缘化的工具等。因此，人工智能在司法领域内的嵌入必须牢牢把握其作为辅助性的功能定位，来实现各类风险的防范。

其一，司法现代化推进过程中，要摆正“技治主义”进路的位置，充分知晓其利弊，坚决杜绝唯数据主义和片面技术理性主义，也就是说，不能把人工智能技术和司法大数据的实现作为司法现代化本身，不能直接与司法改革画上等号，而应当将技术进行辅助性的定位，在辅助性、工具性层面进行价值展开。

其二，形成对辅助性的人工智能技术价值的合理预期。人工智能技术在司法领域内的嵌入并不是全能的，也有本身的技术瓶颈，司法改革任务的推进也不能单纯寄希望于先进科技，需要充分认识到技术的有限性，尤其是辅助性技术的有限性。比如司法知识谱系中的自动化难题，法律概念的解释等，这些都构成对人工智能技术应用的限制。因此，具体应用场景中，要对其辅助性价值匹配合理预期。

其三，人工智能技术在司法领域内的嵌入要注意回避不确定领域的风险，挖掘司法人工智能最大的辅助性价值。当前人工智能还难以应对在意识领域内的各种问题，换言之，对于一些比较复杂的司法案件，尤其是出现法律与道德严重冲突时，面对各类价值矛盾，如何法益衡量，人工智能并无法解决。机器简单的数据分析只能代表机器的推算，不能直接与背后的社会关系画上等号，否则将会抹平地区差异，也同样无法取代法官在个案中的自由裁量和自由心证，司法经验和结果式实用主义思维比单纯依赖数据作裁判更可靠。这些人工智能技术盲区形成的不确定性领域的风险，也不应单纯的通过数据模型化来解决。

算法控制：加强算法监管，防范算法权力异化

人工智能技术在司法领域内的嵌入，并不是简单的技术附加，而是通过作为算法的规则进行深度学习，而算法的不透明性和自主性产生了算法黑箱、信息茧房等问题，算法也逐渐成为调配社会资源的新兴力量，它能够直接变为行为规范，辅助甚至代替公权力，作出具有法律效力的决策。而司法作为守护公平正义的最后防线，在推进司法现代化的过程中必须要加强对算法的控制。

其一，厘清算法的应用条件与边界。一方面要注重算法决策的适用范围，遵守既定法律法规的要求，例如我国立法法中规定限制公民人身的处罚只能由法律进行设定，这属于绝对的法律保留，算法决策涉及时就应当保留。另一方面，要限制预测性算法决策的应用边界。人工智能技术在司法领域内的应用，尤其是在辅助裁判做出决策时，是伴随着较多不确定风险的，因为预测性算法所依赖的是数据与最终预测结果的相关性，这是一种认知方式，但在未来的不确定环境中，这并不是唯一的认知，与之相伴的还有诸多社会、文化等因素，例如量刑中采取的相关性预测，就与无罪推定原则相背离。

其二，推进算法全方位公开。针对算法黑箱的不透明性问题，有必要建构算法公开制度。就算法的公开来说，不应当是一般性的代码公开或者数据架构公开与，而想要实现实质性公开，就应当把公开的重点放在有特定指向的算法决策体系的公开和解释上。具体而言，就是说要坚持以主体为中心的解释，即某个应用算法与数据会对主体带来哪些影响，这种影响是否可以借助某些手段消除，主体数据的变化会给决策带来哪些方向性变化等。此外，不同的算法拥有主体，要承担不同的算法责任。对于法院等公权力主体，应以公开为原则，不公开为例外，来打破可能通过算法不透明导致的腐败问题。

其三，保障个体拥有针对算法的救济权利。其中不仅有要求获得算法解释的权利，还包括相应的数据修改权、拒绝算法决策适用的权利等。有权提出救济的主体应当是受算法不利影响的个人，比如其受人工智能辅助裁判而在量刑上遭遇不公等情形，若算法搜集的司法大数据存在前置性错误，个人同样有主张相应的数据修改、更正的权利，来实现算法上的救济。

双向监督：遵循司法规律，加强对人工智能司法决策的运行规制

随着技术迭代，智能机器在算法的加持下进行司法决策是能够实现的。从人工智能嵌入司法后司法权的运行逻辑来看，一方面，这种技术性的嵌入是智能机器对法律信息处理的表达，能够实现司法资源配置的更新升级。在主体性支撑的现代社会中，强调个人和社会的理性，突出公民个人权利、尊严的保障，因此在这种社会秩序下就要求运用理性来设计一套权责和救济相统一的法律规则系统。作为社会关系调节器的法律，在具体制度和价值安排上必须充分尊重主体性支撑的现代社会的基本原则。司法是对既有法律文本的适用，以达到救济目的，当然要受到上述原则的指引，同时也不可避免的陷入法律逻辑内在的困境之中。司法人工智能的出现，就是希望通过技术手段来解放司法信息处理效能中的生产力，当前的主要任务是如何促进释法统一及优化司法组织体系，来实现司法资源配置的优化升级。另一方面，人工智能嵌入司法过程中对裁判方式的调整，也是优化司法权运行的体现。司法公正的一个重要内容就是要实现法律适用的统一，“类案同判”和“不同类案协调裁判”可作为适法统一的标准。在传统审判中，裁判方法主要围绕审判中心环节，而人工智能嵌入司法模式，则是一种全新的视角，着重疏通传统裁判方式中各种信息处理不畅的问题，比如在立案环节中繁简分流的指标设计环节。通过技术优化，能够使法律信息的处理更为精准化与精细化，从而为优化司法权运行扫清阻碍。

尽管如此，人工智能司法决策作为一项新兴技术，虽然带来极大的科技感与进步感，却颠覆了传统人类法官裁决个案的认知体系，且可能会造成人类法官主体性危机、权力合法性危机、程序正义危机等问题，因此，加强对人工智能司法决策的规制确有必要。对人工智能司法决策而言，需要严格遵循司法规律，按照法治思维和法治方式进行运转，并要打造以审判权为核心、以审判监督权和审判管理权为保障的审判权力运行机制，具体而言就是要保证这种技术决策在事前受到监督，在事后有明确的责任机制，借助前后两种双向的监督手段来确保人工智能司法决策不偏离司法基本的价值取向。

结语

在人工智能日臻完善的今天，将其应用于司法的原动力最直接体现在司法系统面临“案多人少”的压力方面，因此，人工智能并不是简单的模拟，背后具有深刻的现实需要。作为服务国家治理体系和治理能力现代化建设的重要一环，我们没有理由去回避司法人工智能，而是更需要在拥抱风险中前行，警惕并修正其中的非理性因素，只有这样，司法才不会唯技术论，法律的正义才不会困囿于技术的牢笼之中。

往期精彩回顾

上海市法学会官网

http://www.sls.org.cn