观点丨司法人工智能的核心禁区：案例规则及其调整

本文为“刑事司法人工智能的负面清单”一文节选

来源：探索与争鸣2017年10月

作者：黄京平，中国人民大学法学院教授、博士生导师。

国家社会科学基金项目“刑事政策实现效果评估体系研究”(15BFX085)

转自：检察百科

刑事司法人工智能是否需要设置禁区？对司法人工智能的具体应用范围实施政策性调控，首要的条件就是，必须阐明特定司法领域或特定司法判断的独有规律。就刑事司法而言，对人工智能技术应做适当限制的领域。

刑事司法的常态，包括两类有所区别的司法判断活动

准确适用既有刑事规则判断案件相关问题，或者严格依据实体性和程序性规则对具体案件作出判断，是最为常见、占比最高的刑事司法类型。其中的重要特征是，所适用的全部规则是既有的，对案件作出司法裁判的依据，均具有超稳定的属性。

第二类常态的刑事司法活动，是以较低位阶规则的调整为特征的。此种类型的刑事实体性判断，必须符合罪刑法定原则，所依据的基本规则即立法规范明确，通常还有司法解释、规范文件、指导性案例作为裁判依据，但其所依据的最直接、最细化、位阶最低的规则，是调整而成或创制而成的。换言之，这种刑事司法判断，既是生成新的细化规则的过程，也是以新的细化规则作为裁判依据的结果。

禁止人工智能在案例规则调整领域应用，主要是由案例规则的基本特征所决定的

（一）作为刑法规则体系中最为活跃的规则，案例规则的首要特征，自然是多样性。

多样性主要表现为，对相同的事项或者相同的问题，存在着不同的案例规则。其相应的适用结果是，对同一案件，依据不同的案例规则，可能出现不同的司法裁判。例如，对“扒窃”的对象，虽然司法解释已经明确规定为“他人随身携带的财物”，但是在实际操作层面，依然存在着财物贴身说与财物近身说的不同司法主张，与之相应，也存在不同的案例规则。

须知，案例规则的多样性，是上位规则细化的重要方式之一，也是孕育更新上位规则或相同位阶制定规则的重要途径之一；多样性符合罪刑法定原则，是司法官依据刑法规定、司法解释行使自由裁量权的体现；与相同位阶的制定规则（如创制型地方规范）相比较，很大程度上，多样性是由规则的载体形式所决定的；不能以适用某种具体规则的案件多寡或主张某种规则的司法官比重，判断案例规则的对错。所以，在案例规则层面，“同案同判”或“类案同判”的要求是欠妥当的，违背司法规律。

某种意义上，司法官对不同案例规则有选择适用的权利，甚至可以依据对法律规定的正确理解，在既有案例规则之外，创制新的案例规则。但是，当前刑事司法人工智能的研发目标或设计标准，却趋势明显地意图消除这种多样性。对这种不区别刑事规则领域的人工智能技术，应当有适当措施予以必要限制。

（二）观察刑事实务可以发现，案例规则，除较长时间处于稳定状态的以外，部分案例规则，会升格为更高位阶的规则；部分案例规则，会转化为位阶相同的制定规则。这是案例规则与上位规则、相同位阶其他形式规则相互关系的实在状况。这种状况，就是案例规则的暂时性特征。

某种程度上，当案例规则升格之后或转化之后，以案例为载体的规则，不再具有价值，但原案例规则的裁判理由，可以作为理解新规则的司法文献，或者间接作为适用新规则的说理依据。

需要注意的是，更高位阶的规则（司法解释、规范文件的内容和指导性案例的要旨），适用效力当然高于案例规则；位阶相同的制定规则，虽然效力等级与案例规则相同，但司法官几乎没有适用与否的自由裁量空间，它对司法判断的事实约束力，明显高于案例规则。所以，升格之后或转化之后的规则，当然排斥原案例规则的适用。

作为案例规则的重要特征，暂时性着重用于揭示新的裁判规则或更高效力的新裁判规则的生成规律。这一规律的核心是，只有相应层级的司法机关才有权或实质上能够制定新的裁判规则。换言之，它不是司法官可以行使的权力。

基于深度学习（Deep Learning）、迁移学习（Transfer Learning）的人工智能，如果应用于刑事司法领域，极有可能自己生成新的裁判规则，改变规则提供主体的性质。也就是说，刑事司法判断，有可能以人工智能提供的裁判规则作为依据。对此，理应设置严格的禁区，防范可能的风险。

（三）如果不是探讨人工智能的应用问题，案例规则的公开性几乎可以略去不提。

公开性首先是规则本身的公开，以及多样的案例规则内容的公开，只有如此，司法官才可以比较判断并选择适用，行使自由裁量权。其次，公开性是指案例规则升格为上位规则或转化为相同位阶的制定规则的路径、理由等，从中，司法官可以知晓新规则的渊源，便于司法官把握新规则的说理依据。换言之，公开性是案例规则适用，以及案例规则升格、转化后的规则妥当适用的必要条件。

如果人工智能应用于案例规则调整的领域，由“黑箱”算法而导致的算法决策的高度隐蔽性、极难被设计者控制的特性，会屏蔽对既有案例规则、案例规则调整轨迹及内容的知悉可能，造成司法官无法掌握规则调整的状况，甚至可能使司法机关失去对规则整理、规则发展、规则细化的控制。更何况有关实验已经表明，人工智能技术已经具有了躲避人类监管的企图和能力。

（四）无论多么细化的裁判规则，都丝毫不能偏离公正的基准。公正性，是与多样性关联的、有必要单独强调的特征。一定意义上讲，案例规则的公正性，是以遵循罪刑法定原则，符合立法规范的明确规定为标准的。对同一事项或同类问题，并存两种以上案例规则，是因为司法判断需要保持适当的弹性，以适应类案的复杂性。多种案例规则，凡是在法律规定的含义之内，都符合公正性的要求。但是，这种多样的案例规则与明确的立法规定之间的平衡，或许由于人工智能技术的介入而受到破坏，且很难被察觉。例如，迄今难以消除的算法歧视，会形成“自我实现的歧视性反馈循环”，使歧视得到巩固，进而以算法决策的方式损害规则适用的公正性，甚至扩大刑事司法的不公正。

往期精选

检察技术与信息化

传播和分享检察技术与信息化工作热点新闻、各地工作经验，以及检察技术及信息化领域原创或深度文章。

微信公众号ID ： jcjsyxxh2013