李训虎：刑事司法人工智能的包容性规制
编者按
《中国社会科学》2021年第2期刊发中国政法大学证据科学研究院李训虎教授的文章，题为《刑事司法人工智能的包容性规制》。
李教授指出当前我国刑事司法人工智能处于世界前列，但存在着出数据垄断、算法黑箱以及应用场景设置随意等问题。面向未来，我们如何对刑事司法人工智能进行规制，文章提出了“包容性规制”的观点。
这里尝试梳理本篇论文，以求向读者简要呈现本篇论文的主要内容。
阅读原文，请点击：刑事司法人工智能的包容性规制
引言部分，文章指出，人工智能对刑事司法产生一定冲击，逐步发展出“发展优位的中国模式”“严格监管的欧盟模式”和“渐进规制的美国模式”。
在现有模式下，我国的刑事司法人工智能走在世界前列，但监管缺位，可能陷入“想控制却难以有效控制”的科林格里奇困境。
第一部分，文章对中国刑事司法人工智能的现状与发展进行了充分的考察。
首先，文章认为我国刑事司法人工智能走在了世界前列。当前欧洲主要国家仅在审前阶段个别应用人工智能，审判阶段几乎不会应用。
但我国各地司法实务机关积极研发，并逐渐发展出四种类型的刑事司法人工智能应用：智能辅助决策应用系统、智能辅助支持系统、案件管理应用系统和诉讼服务应用系统。
其次，文章对上海、北京、贵州、山西等地的智能辅助办案进行实地调研，发现应用过程中存在诸多问题，且没有相应的责任追究制度。辩护律师也表示普遍的担忧。
最后，文章进一步指出，实践中出现的问题应该从数据、算法和应用场景三方面分析：其一，数据壁垒、数据缺失、数据垄断等问题严重制约刑事司法人工智能的发展；其二，算法黑箱造成不透明、不准确、难以审查等难题；其三，应用场景设置过于激进，给人以随意、缺乏规制的印象。
第二部分，文章指出刑事司法人工智能不仅需要规范的合法性，还需要法理层面的正当性，以克服潜在的伦理风险。
首先，刑事司法人工智能面临合法性挑战，一方面事实认定领域的人工智能应用将侵犯事实认定者的法定权力；也会侵犯被追诉人的部分法定权利；另一方面，人工智能可能会加重偏见，甚至对审级制度造成严重冲击。
其次，刑事人工智能存在正当性隐忧，会对既有刑事诉讼法律关系、刑事诉讼体系造成冲击：其一，人工智能可能让三机关之间“配合有余，制约不足”的现状进一步强化；其二，其很可能让辩方更加弱势，加剧辩审冲突；其三，刑事案件智能辅助办案系统透明度仍待加强，不利于司法公信力的提升；其四，监督和问责机制难以建立，权责统一难以实现。
最后，除此之外，刑事司法人工智能系统还存在潜在的伦理性风险：一方面，人工智能通过自我学习，可能具有自主意识，自主决策能力，对既有刑事司法伦理构成挑战；另一方面，“算法迷信”很可能无助于司法公正的实现。
第三部分，文章提出包容性规制成为最佳选择，而其出发点和着力点为维护司法正义、保障基本权利和补足既往基本权利。
具体而言，应当树立以人为本与权利保障统一的技术赋权理念；同时对传统正当程序概念进行改良，设立“技术正当程序”理念，强调透明、准确、可问责、参与等核心要素。
在“技术正当程序”中，一方面要推动司法数据公开与算法的透明，另一方面要推进算法可解释性从而构建相应的问责机制。
第四部分，文章简要阐述了刑事司法人工智能的规制路径：
首先，要科学设定刑事司法人工智能的应用场景；
其次，要建立刑事司法人工智能应用负面清单；
最后，应该完善刑事司法人工智能应用的审核机制和责任追究机制。
结论部分，文章回顾科技对刑事司法的影响，提出大数据、人工智能时代下机器已非单纯的工具，“人机协同的司法治理新模式”逐渐形成。
但面对未来，我们应该充分研判，坚持以人为本的司法正义理念，对刑事司法人工智能进行包容性规制。
以下点击可读：
裴 炜：论刑事电子取证中的载体扣押
新媒体首发 | 谢登科：电子数据真实性审查规则的反思与完善
韩 旭 | 认罪认罚从宽案件中有效法律帮助问题研究
宋缜言：智慧法院背景下智能辅助系统的价值、问题及完善
张芹妮：电子数据取证软件取证的程序法控制
编辑 | 南开大学法学院研究生 秦泽文