查看原文
其他

李超 李旭颖|算法司法的扩张:基本框架、制度逻辑与权力调适

李超 李旭颖 上海市法学会 东方法学 2024-01-11

李超上海市长宁区人民法院法官助理李旭颖

上海市长宁区人民法院法官助理

要目

引言:作为权力的算法一、算法司法扩张的基本框架二、算法司法扩张的制度逻辑三、算法司法扩张的权力调适结语

以大数据、云计算等为代表的新一代人工智能技术迅猛发展,催生出算法司法这一新的司法形态,并且呈现出运用空间上泛化、运行成本上高额化、作为治理能力和治理体系评判指标化的扩张趋势。算法司法扩张的制度逻辑包括司法发包制下的权力紧缩、互联网技术对司法权力的解构和工具治理中的非理性行为这三层诱因。为防止算法司法无序扩张,有必要进行算法权力调适,可将实现算法司法正义作为调适的方法论,扎紧算法司法权力运行监督制约之笼,推进司法领域算法公开,让算法守法,并通过外在框架与内部体系的联合矫正避免由技术支持嬗变为技术依赖,从而实现算法善治和未来法治。

引言:作为权力的算法

社会的发展总是离不开技术的推动,历史上三次工业革命就是最好的例证。作为智能化时代最活跃的生产要素和技术禀赋的算法,亦是如此。算法源自于技术领域,指的是指导机器完成特定工作的一系列指令。一方面,算法作为数字时代的技术核心,为人类生产生活提供了高效的运作路径。从私人领域到公共空间,都可以窥见算法之身影,可以说,个人的衣食住行和国家的现代化治理,都在某种程度上受益于算法。另一方面,算法也是一把双刃剑,不可避免地带来负面影响,比如信息茧房的出现、商家大数据杀熟行为、算法歧视等,给正常的社会秩序带来了冲击。正是由于算法的这种影响力,学界也敏锐地观察到这一点并开展了大量的研究,探讨算法与权力之关系。有的学者认为是一种可以影响社会秩序的软权力,也有学者认为其属于社会权范畴,还有学者概括了算法的权力基础与特征,将算法置于权力理论的解释框架内进行探讨。同时,算法作为一种规则,似乎与法律也存在着千丝万缕的关系,于是有学者认为算法权力就是法律权力,将算法等同于法律,因为算法有能力通过技术来规范人的行为,据此得出算法权力下法律功能消亡的结论。从应用来看,算法庞大的控制权逐渐延伸,在司法领域内呈现出不断扩张的趋势,算法司法成为提升司法人工智能应用水平的必由之路。本文以此为着眼点,分析算法司法扩张的基本框架,明晰其内在制度逻辑,并提出针对算法权力调适的可能路径,以保障算法司法的良性发展。

一、算法司法扩张的基本框架

正如研究者海德格尔所言,数学作为一种可通达性的知识,是现代自然科学、现代数学和现代形而上学产生的同一根源因素。数学绝妙之处在于拥有最简洁明了的方法,同样,算法也是如此,算法是对复杂表象进行抽离而得出问题精简答案的方法,核心是按照预先设定的步骤获得期望结果的指令,因此全部价值就体现在它的运算速度上。当算法介入并在司法领域不断扩张,在“推理不过是计算”的观念影响下,算法给司法带来的速率与高效非常明显。因此,有学者将算法在司法领域内的应用统称为算法司法,即司法过程中用算法来解决司法问题的司法。

算法司法扩张的实践样态

当前算法司法的扩张表现为范围广、影响深、涉及利益主体多等表征,对其进行界定能有效区分算法在司法领域内适用的范围及其边界,为之后运行模式的控制提供有效的逻辑前提。具体样态展开如下:

其一,算法司法在运用空间上泛化。当前算法司法运作在法院审判、执行和司法管理等各个领域,从证据审查到风险评估,从庭审记录改革到类案推送,从辅助裁判到智慧执行,都能发现新技术对传统司法模式的塑造与升级。算法权力延伸到法院职能结构中,关涉民众立案、诉讼、执行等多方面,其中都有算法技术赋能的身影。具言之,算法技术因其本身固有的实用主义优势使得其在司法体系内部运用广泛,在当前各级法院提升司法人工智能水平中效用明显,且往往会直接对当事人诉的利益实现产生影响。一般来说,司法决策经由算法参与后,自动化生成的决策往往具有终局性,压缩法官自由裁量的空间,当事人此时寻求救济往往较为困难。

其二,算法司法在运行成本上高额化。在算法司法运作过程中,需要投入大量的人力物力财力,这就带来技术本身运用和维护产生的高昂成本问题。与此同时,技术的升级换代在法院内部人员结构上、内设机构资源整合上甚至是职能转变上都提出新标准,而法院为配合这种技术变迁,也会进行内部资源的重新分配。因此算法司法在采集收据、处理数据、分析数据和结果输出上,都要纳入相关的社会公共资源,同时通过决策影响各类资源整合,总体运行成本较高。

其三,算法司法作为治理能力和治理体系评判的指标化。算法司法的扩张,并不完全是司法机关主动拥抱新技术的结果,其中还存在被动接受的现实。我国不同地区的经济、科技、社会发展水平并不一致,这也导致法院在现代信息化水平上高低不一,但当前较多地方都把司法人工智能技术作为衡量司法现代化的重要标准,在这种考核指标的压力下,不乏出现“面子工程”现象。此外,法院本身在人工

智能等极度专业化的技术方面,与专业公司相比并不占优,因此相关算法司法的平台几乎都是由大型科技公司创建,法院通过与互联网企业合作外包来构建诉讼服务平台。其中不可避免地会涉及企业是否存在滥用技术权力、窃取公共数据的问题。

算法司法扩张的潜在影响

其一,“技术利维坦”对司法公信力的侵蚀。算法司法运用的初始目的仅仅是服务司法的一种基础手段,但随着算法自我学习能力的不断优化,算法权力得到明显增强,智能化的算法决策甚至在某些场合取代了人工决策,算法的这种智能行为类似于将传统的委托代理关系异化为依托智能化技术的合理化决策,而我们接受算法输出的结果很有可能就是算法自主选择的“最优推荐”。需要注意的是,虽然算法具有自主学习、持续优化能力,但仍无法改变其作为技术的辅助性地位,从技术本质上来说,它就是二进制的计算程序,它的系统运行和自动化决策都是执行代码指令的结果,呈现显著的“代码决策”特征,因此对于决策的结果如何、会带来何种影响都无法准确地预料。此外,如果司法工作人员如何屈服于算法霸权,困顿在算法的“囚笼”之中,那么会愈发依赖算法司法的自动化决策行为和决策结果,本身的独立性地位、公共性代表的角色就会不断被虚化,进而导致责任主体不明晰的问题,这将会对司法的公信力带来重大损害,司法的权威也会受到挑战。

其二,算法权力异化对公共属性的消解。司法活动致力于实现社会公平正义,具有明显的“公共性”属性,而算法司法则试图在理论上构建超脱人类主观情感因素实现绝对公平的智能社会,但现实是算法的固有缺陷如算法黑箱、算法歧视等问题也在不同程度上带来冲击“公共性”的隐忧。一方面,算法的介入改变了权力结构布局。算法作为一种衍生性的技术权力,技术公司是操作其运行的责任主体,而这些技术公司正通过借助技术手段变相承担部分法院的司法职能,更有甚者可以径直绕过司法主体直接由机器作出司法决策,这种私权力直接对公权力造成隐患。另一方面,面对算法异化对“公共性”的包围,人作为社会主体的话语体系地位被不断削弱,人类话语权也逐渐被算法精准推演的结论所替代。在算法司法中,司法主体与司法客体之间连接超脱了传统场域限制,更多是以人机交互的形式存在。正如有学者所言:“身体的直接交流让位于通过数字化编码的虚体的中介进行交流。”简言之,在算法情境下,人类可能会陷入公共话语权被压缩的境地。

其三,数据公正性缺失对公平正义的减损。“计算机还完全不理解公平这个概念,程序员不知道该如何为公平编码。”诚然,人类文明几千年的历史中,对社会公平正义的追求就从未停止过。何为公平以及如何实现公平,在不同国家、不同社会都有自己不同的理解,作为一种价值层面的观念,它没有“1+1=2”的绝对标准,算法司法作为新兴技术,也必然无法将此概念具象化、标准化。同时,设计者在建构算法司法模型时,会将个人主观情感和价值倾向加入算法中,当数据、算法并不客观时,算法输出的结果也很难保证客观,既会侵害个体权利,也会损害公共利益,造成社会公平正义的失衡。

二、算法司法扩张的制度逻辑

算法司法的迅速扩张不仅是因为其相较于传统司法治理模式,在治理成效上的突出优势,更有赖于当前司法中存在的行政管理职能结构,即借助制度手段来加码算法司法扩张。为此,有必要透过算法扩张的表象,剖析内部的运转机理,来实现对功能弱势上的补充,激发数字司法治理的效能。

司法发包制下的权力紧缩

发包制起初是行政领域的名词,所谓行政发包制是经济学者周黎安提出的分析我国政府间关系和行政治理的理论分析框架,强调“以任务下达和指标分解为特征的行政事务层层发包”,“行政发包制也可用于解释行政机关的活动,或可以认为存在一种行政化的司法发包制模式”,在司法发包制语境下,上级法院将部分行政任务发包给下级法院,要求其在规定时间内完成相应指标,并以此作为重要的考核依据。

其一,地方在政策执行过程中存在主体行为偏差。我国各级法院在进行司法人工智能改造过程中,呈现出较为明显的自上而下特征。党的十九大报告中指出“科技是第一生产力”“发展新一代人工智能”,党的二十大又鲜明提出“加快建设网络强国”。最高人民法院2022年审议通过了《2023年最高人民法院信息化建设需求》《智慧法院评价指标体系(2022年版)》等文件。上述都表明中央层面号召地方法院不断提升司法人工智能的应用水平,发挥大数据、算法等智能技术作用,提升司法服务的效能,中央层面的方向指引也为地方智慧司法生产机制提供了充分的正向激励。然而,尽管中央在顶层设计上擘画了智慧司法的转型方向,但建设智慧法院的目标仍未得到明确厘定,在司法发包制下也较容易出现因理解偏差而出现偏移目标的情况。同时,由于算法技术的化约性,针对司法领域中某一具体问题进行的相关数据收集、算法运算、结果输出,技术往往也较难进行客观界定,算法将疑难问题简约化的处置也会因考虑不全面而使得结果与目标相背离。如此一来,算法司法在运用的本质上仍体现的是个人的价值偏好。算法司法作为服务司法治理的工具,追根溯源还是要受制于社会权力结构和司法的本质目的,否则会加剧算法司法运用过程中的算法偏见、算法歧视等不公平不公正的问题,导致算法司法的异化。

其二,地方治理碎片化导致数字形式主义。在行政领域,中央与地方的委托代理问题是我国行政组织架构中的固有难题。在司法领域也同样如此,如何在保证中央集中统一的前提下最大限度地发挥地方治理的主动性与积极性是需要解决的问题。就算法司法的应用成效来看,算法司法实现了对传统司法模式的革新,缩减了地方法院治理的边际成本,拓展了法院对于疑难复杂案件的认知能力,进一步强化了决策者的理性思维与决策效果,例如在疫情期间,当事人无法到庭,通过互联网在线诉讼足不出户便可以完成整个诉讼过程,既突出司法便民的宗旨,也为法官高效审理案件提供空间。当然,算法司法的自动化特征与追求效率的迅捷性,也抑制了法官在司法过程中的自由裁量空间,产生司法运作过程中的治理碎片化特点。与此同时,拥有丰富经验的法官让位于自动化算法决策和算法项目化治理,会加剧这种碎片化的趋势。试想当法官陷入各种纷繁的考核指标和报表核算中时,算法司法带来的反而是一种累赘,此时算法技术的运用不仅没有给基层减负,还容易导致数字形式主义的压力。

互联网技术对司法权力的解构

“互联网技术的发展,带来了互联网治理的变迁”,随着互联网司法的兴起,网络空间规则体系也在国家法的推动下不断健全升级。在变迁过程中,代表国家意志的互联网司法展现出新形态,不断提升在互联网领域的规范能力,并通过不断强化与智慧司法的理念融合,进一步拓宽了智慧司法的广度与深度。尽管当然智慧司法的运用还仅停留在辅助层面,暂没有带来颠覆性的技术主导功能,但通过在审判执行和司法管理端不断发力进行技术更新,技术对司法权力的解构已经在司法运行的各个细节中逐渐体现。

更深的一层逻辑是,因为技术仍需要依赖现有的互联网企业基础,而恰好这种基础又能对司法本身运作的机理施加影响,故互联网技术极有可能重构司法权力,催生出新权力的萌芽。法院在司法治理能力和治理体系现代化背景下,将自身建设的目标定位于智慧法院时,必然离不开互联网平台先进技术的加持,两者之间存在内在的互动关联。随着智慧法院建设深入推进,司法公共数据开放超越传统“司法信息公开”范畴,打破了平台数据交易壁垒,将海量数据汇集。数据作为一种战略资源,是新时代人工智能技术的原动力,数据基础越牢固,运用数据进行运算、分析得出的结论也更精准科学,应用的效益也会最大化,技术转化为权力才会有更广泛运用空间。此时,国家通过公权力形成的数据向社会开放后,开放的对象不仅仅是单一的数据,更是展现数据背后的权力框架体系,若技术平台能提升数据的抓取能力和剖析能力,那么解构公权力就不会是一种奢望。

值得注意的是,当互联网技术与司法权力存在耦合时,市场主体更易利用耦合基点衍生出新权力。从技术研发的平台和基础设施来看,互联网司法和智慧法院所依托的全部技术,都是在互联网市场经济发展充分的前提下,将互联网平台技术予以吸收的结果,而非国家将另一体系中的互联网技术嫁接到市场中。所以从互联网司法到算法司法、智慧司法,都表达出国家权力的一种面向,即倾向于借助市场技术发展的成熟性标志成果予以运用。换句话说,互联网平台在国家法规范“伸出手”之前就已经在市场中大浪淘沙,存在建构技术权力黑箱的可能,而国家无法通过公权力实现对数据的垄断,只能依托商业主体进行相应的数据分析。

工具治理中的非理性行为

在内部司法发包制和外部技术解构的双重挑战下,地方法院在运用算法技术进行司法治理时,受制于多方面因素,治理形态上呈现出非理性化的特征。具体而言,包括对于算法技术的强依赖性、对于收集海量信息的无休止性、算法司法效能的后期羸弱性等。

其一,对于算法技术的强依赖性。在智慧司法建设过程中,如果说技术主导是指技术逐渐从司法中的辅助性角色成为推进司法改革的重要力量,那么技术依赖则是指在角色转变过程中,法院、法官与技术之间形成特定的依赖关系。当前对于司法技术的强依赖性主要包括司法决策中的技术依赖和平台系统建设中的技术依赖。从司法决策中技术依赖这方面来看,传统司法组织和司法官的判断力及控制力在逐渐下降,算法司法中,数据自动化决策、专业技术技能等成为司法实务运作的重要方面,虽然具有高效和简洁明了的优势,但也不可避免地使人类加大了对技术的依赖,人的主观能动性意愿为此也不断降低。技术依赖具体体现在算法决策对人类自主决策的侵蚀,我们知道算法司法以追求同案同判为目标,但与其说是同案同判,还不如说是算法司法倡导者主张将决策权力让渡或委托给算法系统,迈向“法治”的建设方向。故算法与司法相结合产生的算法司法,内在的目的之一就是限缩法官自由裁量的空间。另一方面,法院平台系统建设也形成了对技术的强依赖。法院不仅需要从网络平台购买司法服务技术,还需要网络服务平台长期提供运营和维护工作。可以说,在算法技术领域,网络服务平台形成与实施了强有力的算法司法垄断,并且这种垄断会随着平台以商业秘密为由拒绝公开相关算法代码而进一步强化。

其二,对于收集海量信息的无休止性。基础数据的不完整将直接导致算法结果的科学性。对个体信息的收集是算法司法运行的首要步骤,建立数据庞大、全面准确的信息数据库,能够提高算法司法预测结果的科学性和有效性。然而,如果信息收集的方式不当,存在违法可能,或是收集的信息存在原始性的数据错误,就会存在侵犯公民个人信息权和隐私权、输出错误结果的问题。同时,在信息收集过程中,信息收集的边界往往也较难界定,使得逾越边界收集信息、过度收集信息等情况屡见不鲜,“重收集利用轻管理保护”的价值偏颇也会带来一些次生问题,造成算法司法扩张与公民权利弱势的矛盾。

其三,算法司法效能的后期羸弱性。当前,算法等人工智能技术在司法中的运用,大都集中在法院自上而下提供司法服务或者进行司法管理等环节,这就造成了信息的收集和使用单一传输模式,即注重法院如何运用算法司法技术提升司法人工智能的治理效果,忽视了公民个体通过技术表达诉求、民主参与的可能渠道,出现“公权力—私权利”的二元失衡局面,算法司法的潜力还没有完全发挥,面临后劲不足的窘境。另外,受司法组织结构影响,由于司法发包制的存在,算法无法激发出其在资源整合和系统集成上的优势,加重了法院各部门、不同法院之间的信息壁垒,出现数据孤岛现象,使条块分割、碎片化治理的情况更加突出,阻碍了算法司法效能的长远提升。

三、算法司法扩张的权力调适

算法司法的扩张不能无序任其生长,需要进行相应的权力调适,来增强法律与技术之间的理性契合。

调适前提:作为方法论的算法司法正义

就算法技术本身而言,其最大的价值是效率,但当算法与司法相结合后,效率将不再承载着最大价值的使命,在算法司法语境下,正义成为贯穿其中的基本价值。因此,必须将算法司法正义作为方法论上的主线,并以此作为核心展开合法性、正当性调适。

其一,技术层面的正义价值必须是在算法司法中具有最高位阶的价值。美国学者Cathy O`neil认为算法没有“道德想象力”,所以必须将更好的价值嵌入算法中,创造符合我们道德标准的大数据模型。从算法与司法结合的角度来看,算法司法作为两者有机结合的产物,其所具备的属性必然带有复合性,比如算法作为新兴技术具备的高效率,必然会体现在算法司法中,体现为可以依托海量的司法数据进行犯罪预测,这些在域外国家有相应的预测模型并已付诸实践。同样的,司法作为维护社会公平正义的最后一道防线,算法司法中也不能缺位,缺失正义的司法就不是真正的司法。此外,算法司法中还存在规范价值、程序价值、权利价值等多种价值,在多元的价值体系中,算法司法必须将正义作为最高位阶价值。

其二,算法司法正义应定位为有边界的最优化正义。从算法理论来看,算法的研究范畴就是界定和搜索完美数据,算法本身也追求“完美”。然而,算法的特征之一就是有界最优化,即强调有界性。也就是说,在算法的技术中是存在边界意识的,实际上是一种关于有界可测函数的理论,同理,算法司法正义也应当是有边界的,即存在一种有边界的最优化正义,可以通过有界可测数据去定位它,并给出其最优性条件。当然,不能对算法司法中的正义进行“完美”式想象,否则可能会异化为无边的自由冒险。

其三,现实世界中的算法司法正义也只能是最满意解而非最优解。在司法实践中,算法通常出现在辅助法官办案过程中,算法司法作为一种技术决策手段,追求是预测正义,输出的结果也只是在算法场景中的最优解,但回到司法场域后,法官借助算法司法完成决策,将目光在算法司法最优解、司法体系下的事实、规范间流转,综合考虑多种价值冲突,进行衡平,并做出彰显社会公平正义、人民满意的裁判,从而达致实现算法司法正义的最终目的。

调适方向:算法司法扩张的调适路径

算法司法的扩张依赖特定的制度体系,因此当然地受到制度的限制与框定。技术与司法在相融过程中,如果规范权力的制度结构会发生作用,就会对技术治理的效果构成很大影响甚至是阻碍。因此,要真正发挥算法司法的内在潜力,助推司法治理能力现代化,就必须从制度上进行调适,以引导算法司法的良性发展。

1.从技术赋能到技术赋权:扎紧算法司法权力运行监督制约之笼

算法社会算法权力日益显著,在互联网2.0时代,已均衡的私权利、公权力、私权力的关系更加失衡。当前,我们正处于弱人工智能时代向强人工智能时代的起步阶段,算法易成为背后侵犯个体权利的主体,同时算法本身存在的崩溃失灵问题也会对算法司法造成不利影响,因此,对算法权力进行规制实属必要。

其一,构建国家主导的算法机构。人工智能时代的到来加深了社会各领域对技术的依赖,科技作为第一生产力具有强劲的发展优势和广袤的发展空间,谁掌握了大数据、算法,谁就有可能在新一轮博弈中占据主导权和优势地位。法院机关在大数据占有和算法利用上总体起步较晚。对于大型互联网企业来说,由于在前期市场开拓过程中积累了大量用户,通过对用户消费活动分析、消费行为研判挖掘了海量数据。国家司法平台大都以合作形式呈现,对此应当构建国家主导的专门算法研究机构,将研究到应用的整个过程都纳入国家自主掌控范畴,确立国家在算法等核心技术领域的控制权,为提高算法司法决策能力奠定基础。

其二,建立算法司法合理应用领域清单制度。在人工智能早期,人工智能在司法领域内的应用也仅仅集中在辅助司法决策上,是作为司法的一种辅助手段出现的。但随着二十大提及的网络强国概念不断深化,人工智能等新兴技术全方位嵌入国家治理是必然趋势,在司法领域同样是如此,最高人民法院也多次在工作中强调发展司法人工智能的重要性和必然性。因此,不管是限制自动化决策型的算法司法,还是自由裁量型的算法司法,都需要建立算法司法应用领域的清单制度,清单既需要列明适用范围,还需明确不得适用范围,通过正面和负面双向权责清单来构筑算法司法合理应用的场域。

其三,建立风险实时监控机制。从网络关键信息基础设施完善角度来看,对合作研发的互联网企业,应要求其建立算法司法系统失灵、崩溃的应急处理机制。同时,对于应用广泛、涉及利益主体大的算法司法应用系统,应加强实时跟踪、监测,对于异常结果频繁出现的,应及时进行评估,若是因为主观恶意造成损失的,应查明责任主体并依法追究,若是因客观原因造成,需及时对互联网企业进行警示,并予以纠正、补救。

2.从算法黑箱到算法透明:推进司法领域算法公开,让算法守法

“司法公开是我国司法改革的重心”。在传统司法理论研究中,司法公开主要指审判公开,包括立案公开、庭审公开、执行公开等环节。通过司法领域算法公开,增强算法司法的透明度,“有助于营造一种信任的气氛,引导大家接受算法的结果”。

其一,周期性制定和发布算法参与司法决策的清单,确保算法司法的可见性。司法公开是满足公众知情权的现实需要,而如何有序推进司法公开,法院作为公开主体应当积极作为,主动公布并适时更新在哪些司法决策中、司法管理行为里吸纳了算法参与,或是直接由算法进行自动化决策的场景。将上述算法参与的事项借助清单式公布的方法,进一步让公众明晰和预估算法司法是否会对自身合法权益带来影响以及受影响的程度和方式,并以此来决定是否行使针对算法的抗辩权和救济权利。

其二,公开算法参与司法决策的基本规则和多因素权重。算法的运行有其内在规律,同样的,算法在司法中的应用也有基本的规则。作为一种新型技术,算法的高度复杂性或许对一般公众来说并不能理解,即使将算法运行的代码公开,仍然会给非专业人士带来困惑,可以说,直接在代码层级上的算法公开并不能直接满足公众的公开要求。但相应地,可以通过公开算法参与司法决策基本规则的方式来达到公开目的。算法司法中算法的参与并不豁免司法主体的信息公开责任,司法主体仍需要公布算法在司法行为和司法程序作出过程中起到的作用和影响程度,来保障当事人的利益。

其三,正视算法逐利,平衡司法信息公开与算法商业秘密保护。互联网企业是算法的设计和推广者,在算法运行中掌握着当然的主动权。“算法权力是数字平台企业获取利润强有力的工具”。在算法权力运行过程中,依托数据提供基础保障,海量的数据源来自千千万万的信息主体权利的让渡。因此,相关企业应兼顾商业利益和社会责任,主动进行算法公开,增强算法的可解释性。当然,会存在一些企业以算法属于商业秘密为由而拒绝公开,这就涉及算法是否是商业秘密以及是否优先于公共利益的判断。由于公共利益的特殊属性,在选择互联网公司进行算法司法系统合作开发时,法院就应当预测到信息公开的必然性,通过事先约定的方式,要求研发企业作出相应承诺,通过必要的算法公开提升整个算法司法系统的透明性。

3.从外在框架到内部体系:避免从技术支持嬗变为技术依赖

要在司法决策中避免人类对机器算法的过度依赖,就需要将司法决策作为社会系统的一部分进行考察,而不能单纯地看作是人类决策与算法决策的关系问题。技术的运行、维护等手段离不开人的参与,纵然是算法司法决策的作出,也同样有人为的踪迹。因此,要解决技术依赖,必须从信息收集、系统建构、系统运行等全流程视角展开。

其一,算法司法系统的设计需注重信息收集的全面性、科学性,防止信息疏漏减损算法司法的运行实效。算法司法研究处理社会事实争端、法律问题的基点,是算法系统通过添加标签、系统分类等信息化处理的方式,将社会真实抽象为具体的统计数字和代码。这种机械化的信息处理方式会扩大现实世界与算法系统内部环境的隔阂,使两者无法达成一致甚至导致偏离,而技术由此产生的强制性要求会通过系统内部各要素逐渐得到强化。正如有学者认为标准化的发明是官僚主义的构建,它不仅摧毁具体现实中细枝末节,还需要我们填充各类空格,只允许数量有限的非个性化信息。当前,原始数据、重要元数据的缺失是我国算法司法建设过程中的短板。在数据剔除和筛选中,需注意避免过度去除信息,以最大限度发挥算法司法利用数据的效能。

其二,算法司法系统的设计需加入人本主义价值理念,以充分彰显人的主体性地位预防算法的机械化偏差。算法司法虽然强调高效率,但仍应当突出机器内嵌理念。法律问题并非单纯的数理计算问题,其中涉及复杂的道德情感、社会观念问题,需要将人作为主体实质性地参与设计过程,即将人与算法不同的道德、心理等因素融入算法输出的过程中。从域外国家实践来看,已经有部分国家进行了尝试。比如美国利用算法预测儿童是否需要福利机关照顾时,就曾咨询伦理学专家。我国个人信息保护法要求对个人信息处理活动进行事前风险评估,鉴于此,可考虑将算法司法系统作为处理信息的高敏感系统,对其进行专门事前评估,以消解算法的机械化表达问题。

其三,算法司法系统需实现完善架构设计与强制更新的并重。一方面,在系统的架构设计上,要为人类参与决策预留足够空间。即使架构不是为了实现特定目的,也会潜移默化地影响人们抉择。例如,在案件管理系统中送达文书信息时,若系统上没有对应的文书类别,此时必须勾选“其他”选项,并单独填写文书名称,法官为了不额外增加工作量往往会选择相近但不完全准确的选项,因此,系统的架构不能架空人类的主体性。另一方面,算法司法系统必须保持实时的强制更新。法官岗位调整、人员变动、司法需求增加等意味着法官队伍结构、司法环境等外部因素在不断发生变化,也需要系统内部作出及时回应,这就要求系统要保持更新频率,避免法律系统的固化。

结语

算法的影响是现实而广泛的。不可否认,算法权力日益显著,是人类社会结构和生产生活中一次深刻的革命。本文从算法在司法领域内的应用展开,重点剖析了算法司法能够不断扩张的制度因素并进行回应。由于算法和司法交融的复杂性以及算法在司法领域内影响的特殊性,本文试图从一般原理入手,既认识到算法给司法带来的巨大助益,也充分注意到其对司法带来的冲击。在技术与司法相和谐的命题背景下,单纯的防止技术扩张并非明智之举。相反,我们需要从新事物本身进行反思并回应时代需求,在做到尊重算法价值及其特性的同时,也实现法律与技术相融通,以实现更高水平的数字正义。

往期精彩回顾

杨崴  虞浔|市域社会治理视野下的检察荣誉制度完善研究
李晓霞|场景理论下侵犯公民个人信息罪印证模式的融贯性补足
陈璐 闫治郅|法定数字货币的刑法规制路径研究
姜兴智|赋能型法治:破解营销号问题的体系性框架
张祖增  邸卫佳|ChatGPT模型在数字图书馆建设中的嵌入:风险挑战与法律防范
仇欣欣|新型互联网不正当竞争司法审查范式构建



上海市法学会官网

http://www.sls.org.cn


继续滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存