苏宇 | 数字时代的技术性正当程序：理论检视与制度构建

数字时代的技术性正当程序：

理论检视与制度构建

✦✦✦

全文转载自微信公众号“法学研究”，苏宇，数字时代的技术性正当程序：理论检视与制度构建，原文刊载于《法学研究》2023年第1期。

作者：苏宇，中国人民公安大学法学院副教授

苏宇

（图片源自百度百科）

✦  +内容提要

伴随数字时代信息技术的高速发展和自动化行政的广泛应用，行政法中的正当程序模态正面临全方位的挑战。通过一系列制度方案，对包括行政相对人在内的社会公众予以全过程、全方位的赋能，是确保人在自动化行政过程中充分享有正当程序保障的关键。以赋能为核心旨趣，以提升人的信息能力和行动能力为出发点，技术性正当程序的既有实践和理论主张可被重构为一套理想化模型，这一模型具体包含全程参与、原理公开、充分告知、有效交流、留存记录、人工审查六方面内容。我国立法实践中已有不少能够体现技术性正当程序内在价值的制度设计，未来还需探索建立层次化的原理解释机制、标准化的记录留存机制、结构化的人工介入机制，形成技术性正当程序的完整制度方案。

【关键词】技术性正当程序；数字政府；自动化行政；智能决策；程序正义

✦  +目录

一、引言

二、数字时代正当程序的危机与变革

三、技术性正当程序的基本主张与赋能取向

四、技术性正当程序的理想模型

五、技术性正当程序的实定化：立法现状与完善路径

六、结语

（图片来源于百度）

一、引言✦  +

数字时代的信息技术正在深刻影响行政过程。从行政处罚的电子取证到行政许可的智能审批，从对重点人员的“智慧管控”到对网络违法交易的智能监测，行政活动自动化乃至智能化的趋势日益显著。在行政机关大规模运用算法辅助决策，甚至利用算法进行自动化决策的情况下，行政法越来越难以回避来自现实的追问：在自动化、智能化的行政过程中，如何充分保障相对人及利害关系人的权益？面对冷冰冰的机器，个人能否进行有效的陈述和申辩，机器又应如何听取人的意见并对人作出解释和说明？传统的正当程序理念和原则，在数字时代能否充分发挥其应有作用？在当下的中国，回答上述问题亦颇具时代意义和战略意义。党的十九届四中全会通过的《中共中央关于坚持和完善中国特色社会主义制度、推进国家治理体系和治理能力现代化若干重大问题的决定》，明确提出“推进数字政府建设”，要求“建立健全运用互联网、大数据、人工智能等技术手段进行行政管理的制度规则”。在政府的数字化转型过程中，如何创新发展行政程序法治理论，使之契合数字化行政程序的特点，成为数字行政法研究亟需回应的重要议题。

面对自动化行政对于程序正义的迫切需求，21世纪初，席特伦提出了“技术性正当程序”的概念和一系列相应的程序法机制，试图通过向相对人、利害关系人和公众赋能，使他们有机会和能力知悉、理解乃至挑战自动化系统的决定。随后，席特伦和帕斯奎尔明确了技术性正当程序所追求的程序价值目标，并将技术性正当程序的适用范围扩展至基于预测性算法的规则设置和个案决定。这一理论创见启发了一系列学者进一步思考，衍生出一些新的理论构思。例如，克劳福德和舒尔茨以“通知”“听证机会”“不偏不倚的决定者及司法审查”三项关键词构造了数据正当程序模型，提出行政机关应承担披露算法预测目标义务、披露数据来源义务，并确立专业中立的数据仲裁者调查机制等理论观点。维拉森诺和福果提出，人工智能刑事司法正当程序应遵循可审计性、透明性、一致性三项原则。随着技术性正当程序理论声誉日隆，我国学界也涌现出一批具有代表性的研究成果。例如，刘东亮对技术性正当程序的基本原理和主要内容进行了专门的梳理和阐述，从排除偏见、听取意见和说明理由三方面概括了技术性正当程序的核心诉求，并为人工智能决策系统设计了算法评估、算法检测、算法解释、算法透明等具体机制。胡敏洁、张凌寒、马颜昕等学者，对自动化行政、算法自动化决策的法治化问题进行了探讨，张欣对算法解释权的意义进行了深入阐述，谭俊针对大数据技术风险的预防提出了系列建议，这些研究均不同程度地借鉴了技术性正当程序的理论主张。

然而，与迅猛发展的实践相比，技术性正当程序理论的发展稍显迟缓，相关原理在实践中亦颇难落地。究其原因，以席特伦为代表的国外学者的理论主张，虽然充满问题意识和现实批判性，但未能及时跟进自动化行政技术的最新发展趋势，且所提对策建议略显单薄，缺少系统、可行的制度方案。国内学者虽然已将由人工智能算法支持的自动化行政过程纳入研究视野，但未能深刻意识到技术性正当程序的要旨是实现对“人”的赋能，而是试图在传统正当程序的框架内作零敲碎打式的填补，这导致理论建构和制度实践的系统性、前瞻性不强，难以对自动化行政的未来发展予以规划和引领。

要使技术性正当程序在当代行政法治实践中“落地生根”，理论研究必须从批判走向建构，尤其需要提出一套完整的理论框架及模型，来应对日益丰富多样的自动化、智能化行政活动。如果说，在自动化行政急速发展的当下，导致传统正当程序陷入危机的根源在于“人”的缺席，那么，通过一系列制度方案，对包括行政相对人在内的社会公众予以全过程、全方位的赋能，就是确保“人”在自动化行政过程中充分享有正当程序保障的关键。为此，本文将着力阐发，面对自动化行政给传统正当程序带来的现实挑战，为何需要重视技术性正当程序理论中的赋能取向，以及如何构建技术性正当程序的理想模型并完善相关制度，从而在自动化行政过程中实现对人的全面、充分赋能。

（图片来源于百度）

二、数字时代正当程序的危机与变革✦  +

在现代公法理论与制度中，正当程序是人的尊严的重要保障，正当程序理论在现代行政法中占有不可替代的重要地位。正当程序有实体性正当程序和程序性正当程序之分。实体性正当程序主要立足于保护宪法中未列举的公民权利，程序性正当程序侧重从司法审判的模式中提炼出某些基本的公平程序要求。各国行政法中的正当程序多为程序性正当程序，旨在确保行政程序的公平公正。正当程序既可被视作一种原理，也可以具体体现为法律原则或法律规则。在中国行政法的理论与实践中，正当程序的基本含义是：“行政机关实施行政行为，可能影响公民、法人或其他组织合法权益的，应当在作出行政行为之前向当事人和利害关系人告知事实并说明理由，听取公民、法人或其他组织的意见。行政机关应当告知公民、法人和其他组织享有陈述意见的权利，并为公民、法人和其他组织提供陈述事实、表达意见的机会。”理论上通常认为，正当程序在中国行政法中已具有基本原则的地位，此种地位“源于它从根本上承载了现代行政程序的基本价值追求——程序正义”。

近年来，自动化系统在行政过程中的应用日益广泛，正当程序所面临的挑战和冲击持续凸显。实践中，自动化系统作出行政决定的过程，往往缺少告知、听取陈述和申辩、说明理由等程序性要素，导致正当程序原则无力发挥应有作用，相对人的权利也难以得到充分保障。例如，美国的禁飞系统通过自动匹配相关数据筛选涉嫌恐怖活动的人员，并将这些人员列入禁止乘坐民航客机的人员名单。由于数据挖掘算法及其依赖的基础信息存在缺陷，大量旅客被误判为嫌疑人。美国政府部门则站在“宁可信其有”的立场上，任由错判一再发生。再如，美国联邦政府采用的定位服务系统，频繁对父母抚养子女的情况作出误判，美国的一些州政府则基于系统误判，错误发放了大量的医疗补贴。在我国，2005年的“杜宝良事件”，曾经引发社会广泛关注，也使学界意识到，在正当程序缺失的前提下，将自动化系统应用在行政执法中，可能造成对公民合法权益的侵犯。十余年来，随着声呐电子定位系统、征信评级系统、车辆卫星定位系统、驾驶行为监控系统等自动化系统或程序的大规模运用，从调查取证到作出判断或决定的整个过程，都可能脱离相对人的视野。这些过程对公民合法权益有重大影响，甚至可能产生限制人身自由的结果。但是，在自动化行政过程中，相对人难以参与和知晓系统作出决定的过程，只能等待限制权益的后果发生之后再寻求有限的事后救济。自动化系统一旦判断失误而又未被及时纠正，或者因人为干预而偏离既定的运算逻辑，公民就有可能在毫不知情的情况下陷入无门可进、无钱可贷、无从申辩的境地。

实践中，自动化系统作出错误决定的风险，可能源于系统程序的设计缺陷，也可能源于参数配置、训练数据、现实数据中的错误。例如，儋州一位老人曾连续4个月未领到政府补贴，经查询和调查发现，原因可能是因上传数据不完整或系统出错而被系统误判为已死亡。即便系统本身没有问题，系统的运行也可能因工作人员不当使用或受其他人为因素干扰而产生错误结果。例如，山东某镇大量村民的医保账户中出现“脑中风”的医保结算记录，但这些村民本人并不知情；一所职业高校的大学生尚未毕业，但当地政府部门的信息系统显示，“他已在2家建筑公司的工地上开了6个月塔吊”，甚至还有企业为他缴纳职工社保，每月发放工资，尽管他从未收到过。

即便是在理论上能够机械执行人类预设条件、实现精准判断的自动化系统，也不能避免误判。在机器的深度学习方法出现以后，由于大量人工智能系统在精确率与召回率上存在不足，误判更有可能大量发生。行政机关并非不知晓自动化行政系统可能发生误判，但他们依然倾向于信赖自动化系统，这背后的深层缘由也许在于：自动化系统的运用往往严格遵循某种内部工作流程或机制的要求，在一定程度上能够防止偏私的发生。“一切以系统认定结果为准”，有利于行政机关工作人员摆脱人情关系的干扰，在某些情形下，还有助于减轻或免除行政机关的法律责任。当然，也不排除个别行政机关工作人员利用自动化系统进行“暗箱操作”，甚至从事逐利执法等违法违规活动。种种复杂的行为动机，都有可能使自动化系统的缺陷被熟视无睹，导致行政相对人的权益频繁受损且难以得到及时补救。

由于传统正当程序机制难以面向机器及算法发挥作用，要使对相对人及公众的程序权利保障贯穿自动化行政的全过程，就必须对正当程序理论进行革新。根据杰里·马肖的梳理，正当程序的法理基础可概括为适当性模型、能力模型和尊严利益模型。其中，尊严利益模型的理论内核，被近代行政法的正当程序理论广为接受。尊严利益理论主张，之所以要遵循正当程序，主要不是为了遵守某种常规次序或增强作出正确决策的能力，而是因为程序（过程）本身具备道德直觉上的重要性；一个人的程序权利是否受到了保障与其实质性的法律主张无关，而是取决于受到挑战的程序（过程）对人的尊严的维持或削弱是否恰当。人的各种权利都可以被视作具体化的尊严，正当程序理论所强调的，正是参与权、辩护权等一系列程序权利背后的尊严价值。从尊严的视角出发，各种交互程序和程序性权利的价值根基，都在于维护人在行政过程中的“体面存在”，避免损害人的自主性和人格。然而，在自动化行政过程中，机器隔断了人与人的程序内交往并日益成为实际上的决断者。一旦人在自动化决策过程中被对象化和工具化，人的交互和全面参与就将彻底无法实现，人的体面存在也将难以维持。因此，必须重塑正当程序理论，使人有能力在自动化行政过程中恢复其主体身份，找回“看得见的公平正义”。

在自动化行政过程中实现“人”的回归，并不意味着要削弱信息技术在自动化行政中的作用，因为信息技术也可以为相对人程序性权利的实现提供便利和支持。理论上，如能实现全程可留痕、可回溯且规则透明的自动化决策，即有机会为人与人之间的互动提供更高效的保障。在一些场合中，机器得出的处理结果可能比全凭人脑认知得来的结果更为精准、公平，有助于人的尊严在行政过程中得到更加全面的维护。自动化处理过程在技术上可以实现对证据采集、证据处理、证据判断的全面记录，有助于清晰展示行政思维过程，这将迫使行政机关全面公开其裁量依据，从而间接助力相对人实现权益救济。

（图片来源于百度）

二、技术性正当程序的基本主张与赋能取向✦  +

数字经济发展速度之快、辐射范围之广、面对信息技术的运用对正当程序带来的冲击，理论与制度的革新可谓势在必行。对此，许多国家已有所回应。早在20世纪末，德国行政法学界就意识到，自动化行政在保障相对人程序性权利方面有所不足，存在听证和说明理由程序缺位等诸多问题。近年来，德国修订了其联邦行政程序法，其各州也纷纷制定了“电子政府法”，试图为自动化行政过程中的相对人提供专门的程序保障。这些立法中的一般性程序理念，如必须充分考虑自动化程序所未能考虑的个别情况，或自动化决定遗漏个案信息时须转为人工单独决定等，已经进入德国的法学教材中。随着学术探索和制度实践的积累，技术性正当程序理论的出现有其必然性。整体上看，技术性正当程序的主要任务在于，确保人在自动化行政过程中充分行使其程序性权利，其基本主张植根于传统正当程序，但面对自动化行政中的新问题和新挑战，技术性正当程序彰显了更加鲜明的赋能取向。

（一）技术性正当程序的基本主张

席特伦等学者在弗兰德利等学者所作相关研究的基础上，以程序性正当程序的内容为基础，对技术性正当程序的价值目标、制度设计等进行了系统阐述。技术性正当程序所追求的价值目标，包括透明、准确、负责、参与、公平等，覆盖了自动化决策规则的制定和基于算法预测的个案决定。这些价值目标是对传统正当程序价值目标的进一步延伸，其中蕴含的尊严保障理念一以贯之。“诸如维护程序公平、保障人性尊严等，具有超越时空的特性，它们在新技术条件下也不会过时。因为人工智能技术的服务对象是人，只要人的主体性保持恒定，对人性尊严的尊重之要求亦不会改变。”

为实现上述价值目标，技术性正当程序将自动化系统的建设也纳入观察视野，使正当程序保护的介入节点大幅提前。技术性正当程序理论对自动化系统的设计提出了三方面要求：（1）在系统应用的前提条件方面，必须区分“规则”和“标准”。适用规则的决定可以由自动化系统作出。适用标准的决定不宜由自动化系统作出，但可以由自动化系统发挥某些辅助功能，如提示决策者需要考量哪些因素、要求决策者输入考量因素和权重等。（2）系统设计必须以透明性和可问责性为主要导向，此种导向又包含若干基本要求，如公开源代码、严格测试系统软件、允许公众参与建设自动化决定系统等。（3）用于作出行政决定的系统，至少应能生成和保存“审计轨迹”。审计轨迹的作用在于辅助行政机关向相对人告知决定并说明理由、增强系统决定的可解释性，以及帮助行政机关及时发现并修正偏差。

在上述系统建设要求的基础上，技术性正当程序以确保个人能够预先获得“有意义的通知”和有“被听取意见的机会”为基本要义。前者意味着自动化系统应保留每一项决定的审计轨迹，以辅助行政机关向当事人说明理由；后者意味着听取意见的人员应受过专门培训，有能力了解自动化决定的偏差，能够详细解释行政机关如何依靠自动化系统的决定而行动，并能列明相关决定所依据的事实和法律。在行政过程中负有关键职责的人员（如听政官），可能会盲目相信自动化系统的准确性和公正性，这种偏见容易误导其作出不公正的判断。为此，技术性正当程序理论主张在听证程序中增加两种消除偏见的机制：一是行政机关应向听政官明确表示自动化系统是可能出错的，听政官也需要接受这方面的专门培训，以了解自动化系统可能发生的错误；二是听政官应具体说明其所做决定如何受到自动化系统的影响，或依据了自动化系统生成的哪些事实和法律发现。由此来看，技术性正当程序不仅旨在对相对人的尊严利益提供充分保障，也意在强化行政主体一方在自动化行政中的主体地位。

为确保相对人获得正当程序的保障，使相对人有能力挑战自动化系统的决定，技术性正当程序理论对自动化系统提出了如下要求：（1）自动化系统的审计轨迹应有防篡改之功能，以满足相对人可查阅、保密条件下中立第三方专家可审查、司法救济可覆盖的基本要求，使相对人有机会和能力对自动化系统的错误判断与处理结果提出质疑。（2）要增强人工智能系统算法的可解释性，通过算法评估和软件测试等确保算法设计的程序一致性，聘请独立的第三方算法审计机构对算法进行定期检测。如果相对人不具备质疑系统判断和处理结果的能力，则通常需由专业人员协助审查算法模型及其运行结果，以及时发现和纠正系统错误。

技术性正当程序理论的基本主张蕴含了多元的法律价值。该理论的形成源于这样一个基本判断：自动化行政有可能“使参与者丧失理解行政过程的能力”，弱化行政行为的可问责性，因而有必要着力恢复自动化系统的可问责性和透明度。技术性正当程序为保障自动化行政的程序公正提供了丰富的建设性意见。在这一系列理论主张中，始终贯穿着一个核心理念：面对人与机器在能力上的日益失衡，必须充分增强人挑战自动化决定的能力，避免人的命运被机器主宰。

（二）技术性正当程序的赋能取向

为实现人在自动化行政过程中的回归，捍卫被“四处蔓延的、秘密的、自动化的”系统所威胁的尊严价值，技术性正当程序理论紧密结合自动化行政的实践，对当代行政法中的正当程序作了重新诠释，力求通过相关制度的完善，实现对相对人及社会公众的充分赋能。

在个案裁决层面，技术性正当程序理论主张通过规范审计轨迹来发挥赋能作用。首先，该理论对审计轨迹提出了很高的要求，要求审计轨迹必须能够展示每一个“微决定”所适用的规则，并在此基础上展示计算机决策过程的“详细地图”；其次，该理论主张，行政机关必须确保审计轨迹遵循业内最佳实践，确保相对人能够获得“有意义的通知”，必要时还可以引入独立的专业第三方，帮助行政机关从审计轨迹和相关系统测试数据中发现自动化系统存在的错误或偏见。不仅如此，席特伦还力主突破美国司法系统在正当程序之成本收益分析方面的认知局限，主张当事人应有检视自动化系统源代码之渠道，这一渠道与留存及查验审计轨迹的要求相结合，有助于清晰查证系统作此决定的具体原因。实践中，如果有人试图干预自动化决定过程，只要有效建立了审计轨迹的自动化留存和防篡改机制，所有“暗箱操作”都将无所遁形；如果并非人为干预，而是发生了系统运行或数据方面的差错，对源代码和审计轨迹的检查也有助于找出问题根源，防止发生进一步的危害后果。

在规则制定层面，技术性正当程序设想的赋能机制，主要包括向社会开放自动化决定程序的源代码和允许公众参与构建自动化系统。自动化系统通常不会直接制定规则，但可以产生相当于规则制定的效果。程序员将法律规范转换为计算机代码时，有可能扭曲规则的原义，引发影响不特定相对人切身利益的后果。代码开源和公众参与能够发挥向相对人及公众赋能之作用，能使各方主体有机会深入认识自动化系统的缺陷和风险，有助于及时发现和解决系统设计和运行中存在的问题。在有关算法黑箱、算法解释、算法透明度的讨论中，学界对于应否公布源代码存在争议。考虑到自动化行政系统涉及重要的公共利益，且这些系统多是利用公共财政资金开发或采购的，向公众开放源代码的必要性足以压倒对商业利益的考量，法律甚至可以强制要求部分自动化系统开放源代码。公众参与构建自动化系统，主要是指由利益相关各方派出有能力的代表参与自动化系统的建设与完善。政府也可以建立由多方代表参与的信息技术审查组织，为公众参与系统建设与调试提供更多机会。

总体而言，技术性正当程序的学理主张与各国行政法制的前沿发展相呼应，有望成为数字行政法的重要理论组成部分，但客观而论，其与系统性的行政程序法治实践之间仍有一定距离。究其原因，当前技术性正当程序的研究对象还局限于简单的自动化决策，而未扩展至基于深度学习的智能化决策；研究者因担忧自动化系统可能引发权利侵害等法律风险，而对自动化系统甚至信息技术本身过于警惕，没有充分意识到信息技术对于实现公平和克服偏见亦能发挥正向作用。更重要的是，技术性正当程序理论目前还停留在概念提出和就事论事的阶段，这种零散的理论主张和制度实践，难以适应自动化行政的规模化发展趋势，也难以为自动化行政的参与各方提供稳定的制度预期。因此，若要借鉴技术性正当程序指导我国的自动化行政实践，理论研究不能止步于观点梳理和原理分析，还必须结合我国各方面的实际情况，对技术性正当程序的核心理念予以深入挖掘，进而形成一套完整的、体系化的理论框架，为不同场景、不同技术发展阶段下的自动化行政提供统一、可行的制度建设方案。

（图片来源于百度）

三、技术性正当程序的理想模型✦

传统正当程序的理念和自动化系统的技术条件，是构建技术性正当程序理想模型的基础，但如果只是将技术性正当程序的学理主张笼统地填入传统正当程序的理论框架，就显然低估了赋能理念所具有的独立价值。尤其是在智能化决策发展势头迅猛的当下，赋能是技术性正当程序发挥其权利保障作用、充分维护人的尊严的关键。通常而言，社会主体要获得某种社会行动能力，既有依赖于行为规范的保障，也需要有充足的信息支持。这意味着，技术性正当程序对人的赋能，既应着眼于行为规范的构建，也需着力提高人的信息能力。由此，技术性正当程序可展开为一套体系化的赋能机制：在系统建设赋能层面，要保证社会公众知悉自动化系统的设置情况及运行原理，以实现他们的有效参与；在传统行政程序层面，要确保相对人获得有意义的通知，使他们能够进行有效的陈述和申辩；在个案救济赋能层面，需要围绕增强相对人的信息能力来设计审计轨迹，以便对自动化行政行为开展有效的审查。技术性正当程序的完整内涵可以具体展开为原理公开、全程参与、充分告知、有效交流、留存记录、人工审查六个方面。据此，从自动化系统的建设维护到系统支持行政机关作出决定的每一环节，均充分包含相对人及社会公众的有效参与、表达和沟通，人在自动化行政过程中的体面存在和行动能力便可得到切实保障。

（一）原理公开

自动化行政系统的技术原理应当向社会公众公开。由公共财政支持、面向公众使用，且能对公民权益产生实质影响的自动化系统，有别于一般的商业算法应用，在不涉及国家秘密的前提下，其算法应当充分透明，以使处理过程的技术原理可以为一般理性人所理解。尤其是对于面向社会运行的政务类、公共服务类算法应用，更有必要满足算法透明的强制性要求，原因在于其一，算法不透明会增加公民寻求法律救济的难度。如果公众无从质疑算法，算法决策作为一种实质意义上的公权行为，就很难受到约束。实行算法透明能够丰富监管框架，从而有效评估和解决数字政府环境下算法应用的可问责性问题。其二，实行算法透明并允许算法运行的结果接受专家和公众的全面检验，能够强化系统的可靠性与安全性，有利于及时发现和修补系统漏洞，减少系统决策侵害公民权益的风险。其三，为政府部门提供算法服务和维护算法系统的私营企业，有可能会排斥算法透明的要求，如果不将算法透明作为强制性义务，公众对自动化系统监督缺位的问题就无法得到根本解决。

对处理公共事务的自动化系统提出算法透明的强制性要求，也许会面临许多质疑或实践困难。有不少学者认为，公众对算法的理解能力有限，实行算法透明对算法漏洞的修补助益不大；相反，这样做可能会泄露软件提供方的商业秘密，算法的相关知识产权也有可能受到侵犯。事实上，上述质疑大多都不难驳斥。即便公众对算法的理解能力有限，这一事实也不足以否定算法透明的合理性。能否享有和行使知情权，关系到人的尊严，能力上的不足并不构成剥夺知情权的理由。在现代社会中，公众参与的大量公共事务都具有专业属性。在公众参与的过程中，不同层次的专业人士之间、专业人士与社会公众之间，会逐渐形成“专业知识—公众认识”的传播结构。这种传播结构不仅具有竞争性，而且是多层次的。只要不刻意阻断专家知识的多元化传播，社会公众就有机会提升其理解、判断和理性选择的能力。在商业秘密保护方面，由于公共部门的自动化系统承载着重要的社会公共利益，行政部门可以在进行政府采购时明确要求相关企业承担算法透明义务，企业可以自主决定是否放弃部分商业利益以换取同政府合作的利益。在这些方面，域外司法实践已形成较为明确的判断：对于公共机构的算法决策，防止商业秘密泄露不能成为阻碍正当程序保护的理由。此外，随着技术的发展，算法透明与数据安全、商业秘密安全等，已日渐能够并行不悖，算法透明的实现路径也正在不断优化。例如，在一定的技术条件下，无需开放系统的源代码，只需要引入可验证的算法解释机制，以一定精度刻画各种输入变量与最终输出结果之间的相关性，就可以生成满足公众知情权的量化透明度报告，这种做法并不会危害到算法模型中的商业秘密。

（图片来源于百度）

（二）全程参与

除涉及国家秘密或可能危及数据安全的少数特殊情形外，用于支持行政机关作出行政行为的各种自动化系统，必须处于全过程的公众监督之下，在采购、安装（设置）、使用、维护、评估，以及任何可能影响自动化系统运行的方面，均应有一定形式和程度的公众参与。在自动化决策的全流程中实现公众参与，有助于从信息分享、信息交流、信息纠错三方面克服自动化决策的信任危机。

公众参与的方式是灵活多样的，行政机关可以根据实际情况，在“公众参与阶梯”中选择恰当的参与方式。为使参与者具备必要的专业背景，行政机关在采购、安装（设置）、使用和维护系统时，应对系统的用途、配置、性能、技术原理等作必要的公开说明。对于可能影响相对人或公众合法权益的关键运行过程，可以在行政机关发布公开说明材料的基础上，鼓励具有专业资质的第三方机构或人员开展各种形式的科普解说，实现对公众的充分赋能。有条件的地方还可以设立制度渠道，鼓励社会公众实质性地参与自动化系统的选择、建设、优化与维护等事项的研究和决策。

（三）充分告知

行政机关通过自动化系统作出行政行为，或者采纳自动化系统的判断或处理结果作为行政行为之关键事实依据的，应当在作出行政行为前向相对人告知拟作出的行政行为及其事实依据和法律依据，如果作出的是裁量性行政行为，还需要向相对人说明裁量理由。告知的方式，可以根据实际情况确定，既可以是系统根据相对人预留的有效联系方式进行格式化告知，也可以是由工作人员告知。在履行告知义务的同时，行政机关还应当允许相对人通过一定方式查阅系统用以支持其结论的原始证据材料内容及计算过程，系统可采用数据或算法可视化技术满足上述查阅请求。

一切受到算法影响的人都有“知其所以然”的尊严性权利，这是技术性正当程序的核心要义。在当代政策制定和司法审查的实践中，“说明理由”制度的地位日益重要，诸多程序保障机制功能的发挥，都要以“说明理由”制度的存在和运行作为前提。因此，相对人及利害关系人不仅有权知悉行政机关拟作出的决定，还应有权知悉相关决定的依据和理由。当然，自动化系统运行过程中留存的原始信息，可能是相对人及利害关系人难以识别的计算机文档，为使“说明理由”具有实质意义，行政机关需对这类文档进行可视化处理，形成可被非专业人士清晰认知的内容。

（四）有效交流

传统正当程序对尊严的保障，归根到底是通过人与人之间的有效交流实现的。在技术性正当程序中，真正离不开人的介入的，是告知和说明理由后的听取陈述和申辩环节。在该环节，行政机关可以进一步解释说明其作出行政行为的理由和依据，并与相对人进行交流。理论上，在系统形成拟作出的行政决定并向相对人发送通知后，以下几种人工介入的交流模式均可采行：一是到场处理模式，即通知相对人前往行政机关办公场所或其他指定地点接受处理，相对人可以当面向工作人员提出陈述或申辩；二是人工客服模式，即相对人可以通过网络或电话与行政机关的工作人员联系，进行陈述和申辩；三是上门服务模式，即在特殊情形下赋予相对人联系工作人员上门听取陈述和申辩的权利。当然，如果法律规范明确了相对人有申请听证的权利，相对人亦可在听证程序中与行政机关进行有效交流。不论采取何种交流方式，行政机关的工作人员均应充分了解自动化系统的运行状况及技术原理，以便全面解答当事人合情合理的疑问，并切实考虑当事人的陈述和申辩意见。

人工智能技术也在向着模拟人类情感和价值观的方向发展，但即便到了强人工智能时代，人也应对行政过程有整体上的掌控。一般性的陈述和申辩可以由强人工智能负责听取并初步回应，如果相对人对强人工智能的回应不满，则仍应安排行政机关的工作人员亲自听取相对人的陈述和申辩，确保个人权益不被机器单方面处置，为人的尊严提供底线性保障。

（五）留存记录

系统保留的原始记录，可以用于检视系统作出判断或决定的实际过程，证明系统的运行状况，检验原理公开、充分告知、有效交流等环节涉及的内容是否准确。因此，工作人员进行的所有系统操作和系统运行的全过程，均应在自动化系统中留下清晰的原始记录，且行政机关应将这些记录备份并妥善存储，以便接受各方监督。根据《国务院办公厅关于印发政府网站发展指引的通知》（国办发〔2017〕47号），政府网站“留存网站运行日志不少于六个月”。在国家法律作出明确规定前，自动化系统中原始记录的存储时间，可参照上述通知，确定为至少六个月。如果相对人已经提起行政复议或行政诉讼，则系统应当继续完整保留相关记录，直至相关法律救济程序进行完毕。此外，法律还应授权相关主体针对特定行政活动制定有关留存记录的具体标准，根据场景的不同对留存记录的完整程度和技术细节等作出详细规定。

在系统的安全性、准确性等尚未得到严格保障的情况下，为防止不法人士精准攻击或恶意利用系统漏洞，上述原始记录可以不公开或只公开一定时期内的统计数据。在监察活动、行政复议和行政诉讼等监督与审查工作过程中，监察机关、复议机关和人民法院可以依法调取系统的原始记录，核对作出行政行为的事实依据是否充分、公开与告知的内容是否准确，以及是否存在其他违法或明显不当之处。必要时，监察机关等有关部门还可以对原始记录进行数据审计，以确定系统的运行是否存在误差或漏洞。

（六）人工审查

在自动化行政程序中，不能将人的命运完全委诸机器，相对人应当始终保有回应和挑战机器所作决定的能力，而人工审查是维护这一能力的底线。为防止自动化系统作出错误判断，行政机关应当为相对人提供人工复查的机会。在作出重要的行政决定之前，行政机关应主动对自动化系统的判断和处理结果进行人工审查，而不宜由自动化系统直接生成决定。当然，面对不断增长的行政任务量，要求行政机关对每一项自动化判断和处理结果都主动进行人工审查，或许并不现实。即便如此，行政机关至少应在实行依申请审查的同时，对符合一定条件的重要决定进行依职权的主动复查，并且定期对所有自动化判断或处理结果进行随机抽样复查，以尽可能及时发现自动化系统出现的偏差或失误。为确保人工审查的客观全面和精准高效，行政机关应对从事人工审查的工作人员进行必要的技术培训，使其通晓相关自动化系统的技术原理、了解系统既存的问题（如已发生的操作错误或判断偏差）和潜在的风险。

将上述六方面要求予以整合，即可得到技术性正当程序的理想模型（如下图所示）。其中，充分告知和有效交流，是传统正当程序理论与实践关注的焦点；原理公开、全程参与、留存记录、人工审查，是技术性正当程序在系统建设赋能和个案救济赋能两个层面对传统正当程序的拓展。这六方面要求均回应了自动化行政的特点，有助于充实人在自动化行政过程中的信息基础和行动条件，而基于赋能机制的不同，它们又可分为两类：（1）原理公开、充分告知和留存记录，侧重于为个体提供必要的信息渠道，从而提升个体的信息能力，保障其理解、判断和行动的能力；（2）全程参与、有效交流和人工审查，侧重于在行政程序中为个体创造行动空间，为其理性选择和行动提供机会。

技术性正当程序理想模型的整体架构

理想模型之所以称为理想模型，就是因为它同现实之间难免存在一定差距。如果要将技术性正当程序的理想模型完完全全地转化为制度实践，可能需要付出高昂的成本，且操作过程也会异常复杂。并且，这套理想模型实际上建立在对自动化行政的一般化、抽象化的理解之上，因而也只能在立法理念的意义上指导制度实践。在行政法的具体实务中，并非在所有情境下都有条件适用技术性正当程序的理想模型。尤其是，不同领域的行政活动在程序上会有一定差异，实践中需要充分考虑相关信息技术条件和行政场景的特殊性，对理想模型中的个别要求作适当调整或变通。

四、技术性正当程序的实定化：立法现状与完善路径

随着电子政务（府）、数字政务（府）、智慧政务（府）等建设持续推进，“一网通办”“秒批秒办”“政务超市”“互通互认”等实践逐渐铺开，自动化行政的制度实践也不断提速。尽管行政机关采用自动化系统往往只是辅助而非替代人作决定，但自动化系统所扮演的角色正日益关键。对于“秒办”“秒批”的行政确认或行政许可而言，计算机已经可以广泛替代人工完成作出羁束性行政行为的具体操作，或通过“参数化裁量基准”等方式预作裁量。这两方面的电子政务活动，都需要技术性正当程序提供相应的规范指引。在我国各地、各领域的政务实践中，能够体现技术性正当程序内在价值的实例正陆续出现。例如，交警非现场执法的平台操作流程，已经基本符合技术性正当程序中的充分告知、说明理由、允许相对人陈述和辩解等要求，如果当事人对平台记录的违法事实或行政处理的初步决定有异议，还可以自主选择将自动化行政模式切换为传统模式。总体来看，当前我国的行政法实践已初步具备了引入技术性正当程序的现实基础，已然能够基于技术性正当程序的理想模型，将分散的立法实例整合为较为完整的实定法要求，从而为数字时代的行政程序法治打下基石。

（一）规范自动化行政程序的既有立法实践

近年来，随着电子政务等的不断发展，在道路交通管理、水上交通管理、社会信用管理、环境保护、商事行政许可等领域，旨在规范自动化行政程序的制度举措不断涌现。尽管这些制度主要存在于地方立法层面，但足以为技术性正当程序的普遍应用奠定基础。

为了在自动化行政过程中实现公众参与和监督，不少省市都结合具体领域的行政管理需要和实际条件制定了相关规则。一些地方立法针对自动化设施的安装和设置提出了公示要求。例如，《哈尔滨市数字化城市管理办法》（2010）第11条规定：“市监督中心应当将备案的新建视频监控系统点位设置部位向社会公示。”《浙江省水上交通安全管理条例》（2021）第14条第1款规定：“海事管理机构、交通运输主管部门可以对监管水域实施水上交通安全技术监控。水上交通安全技术监控应当纳入社会治安监控系统。实施技术监控的航段应当公示。含有测速等计量装置的技术监控设施，应当经法定计量检定机构检定合格。”《邯郸市货运车辆超限运输非现场执法规定》（2018）第6条第2款规定：“实施非现场执法利用的技术监控设备，在正式投入使用15日前，应当向社会公示。”也有地方立法明确规定应当公开系统运行的结果。例如，《北京市实施〈中华人民共和国道路交通安全法〉办法》（2018）第109条第1款规定：“公安机关交通管理部门对交通技术监控记录资料确认的交通违法行为，应当向社会公示，公众有权查阅。”还有一些地方立法要求特定执法系统的检查和维护状况应当公开。例如，《江苏省水污染防治条例》（2021）第22条第2款规定：“生态环境主管部门应当对水污染物排放自动监测设备运行情况进行检查，检查情况公众有权查询。”类似规定还出现在《无锡市水环境保护条例》（2021）等多部地方性法规中。

有关行政机关告知义务的规定，在道路交通安全管理领域的法规中较为常见。例如，《深圳经济特区道路交通安全违法行为处罚条例》（2019）第57条规定，公安机关交通管理部门应将交通技术监控设备记录的道路交通安全违法行为情况录入互联网系统，以供机动车所有人、管理人查询，并且应在违法信息录入系统后两个工作日内，向机动车所有人、管理人发送违法行为处理的通知信息。这不仅为公众提供了便利的违法信息查询途径，也对行政机关的告知义务提出了时限上的要求。《贵州省道路交通安全条例》（2020）第59条除了规定公安机关交通管理部门应当通过互联网、新闻媒体、手机短信、邮寄等多种方式及时履行告知义务，还进一步明确了告知的费用不得转嫁给相对人负担。

在有效交流方面，不少地方性法规将相对人提出异议和行政机关及时复核规定为自动化行政的必要环节。例如，《苏州市道路交通安全条例》（2022）第44条第3款规定，“当事人对交通技术监控设备记录或者录入道路交通违法信息管理系统的道路交通安全违法行为提出异议的，公安机关交通管理部门应当及时复核”，并具体列举了应当消除违法记录的情形。此种制度设计不仅常见于道路交通安全管理领域，在社会信用管理、政务数据管理、电子证照管理等领域也已屡见不鲜。例如，《湖北省电子证照管理暂行办法》（2018）第16条第1款规定：“电子证照应用机构或者电子证照持证主体对电子证照信息有异议的，可以向电子证照签发机构提出核查申请。”此外，该条还针对不同原因造成的信息差异规定了不同的处理机制：对于非技术原因产生的信息差异，由行政机关核查并更正确有错误的信息，对于因技术原因产生的信息差异，则由电子证照库系统管理机构核查处理。在这种分类的处理机制之下，相对人与行政机关之间的交流，不仅能够发挥保障相对人权益的作用，也有助于行政机关和系统管理者及时发现系统运行与管理中的漏洞。

关于人工审查，目前立法侧重规定的是行政机关应对自动化系统记录或生成的信息数据进行审核，发现错误数据应及时纠正，或不将其作为执法依据。并且，从许多条文的内容来看，此种审核并不必然以相对人提出异议为前提。例如，《广东省社会信用条例》（2021）第44条规定：“发现公共信用信息错误、失效或者发生变更的，公共信用信息提供单位应当在三个工作日内进行修改，并向公共信用信息平台提供修改后的信息。发现市场信用信息错误、失效或者发生变更的，采集信息的单位应当依法依约修改和处理。”根据《江苏省生态环境监测条例》（2020）第31条，“污染物排放自动监测设备的自动监测数据，由生态环境主管部门按照国家环境标准、技术规范审核后，可以作为监管执法工作的事实依据”。

在留存记录方面，现有规定大多针对的是内部行政程序或电子政务建设。例如，《贵阳市政府数据资源管理办法》（2020）第22条规定：“行政机关应当对本机关提供和获取的政府数据建立日志记录，日志记录保存时间不得少于6个月，确保数据使用过程可追溯。”明确要求外部行政程序留存记录的制度规范虽不常见，但此类制度的雏形已经形成。例如，无锡市行政审批局印发的《电子行政许可案卷管理办法（试行）》（锡行审发〔2020〕51号）第11条规定：“建立电子行政许可案卷管理利用日志记录，实现电子行政许可案卷利用全过程留痕、可回溯管理。”这其中便包含了类似于留存审计轨迹的要求。2018年，国务院办公厅印发《关于全面推行行政执法公示制度执法全过程记录制度重大执法决定法制审核制度的指导意见》（国办发〔2018〕118号），提出要全面推行“三项制度”。根据这一部署，不少地方都结合具体执法领域的实际情况，对行政执法的全过程留痕和可回溯管理作出了相关规定，河北省还专门就行政执法的全过程记录制定了地方政府规章。

（二）技术性正当程序规范体系的构建和完善

尽管我国的行政法理论和实践尚未正式采纳“技术性正当程序”的概念，但在我国的地方立法实践中，已有大量制度举措与技术性正当程序的原理和要求相契合。对照技术性正当程序的理想模型，未来我国技术性正当程序规范体系的构建和完善，可在吸收借鉴既有制度安排的基础上，补充以下三种机制，以提高相对人和社会公众对自动化行政的理解与判断能力，强化相对人与行政机关进行沟通的能力，从而更好地维护人在自动化行政过程中的主体地位。

1.层次化的原理解释机制

要确保相对人和社会公众对自动化行政具备必要的理解和判断能力，必须要求行政机关对自动化系统的技术原理进行必要的解释说明。但是，有关自动化行政的现有立法，尚未对此作出明确规定。由于自动化决策系统的适用场景多元，且不同系统的技术复杂程度存在巨大差异，立法难以针对技术原理的解释问题作统一规定，而只宜提出层次化、场景化的要求。以最为复杂的人工智能算法解释为例，理论上讲，如果一个算法模型自身的决策逻辑足够清晰（如朴素贝叶斯模型、决策树模型等），或者可以被顺利转换为含有清晰的决策规则的模型，这种算法就属于可以实现“自解释”的算法，要让人理解其技术原理，只需要进行直接的文字说明或规则可视化表达即可。而一些包含“黑箱”机制的算法模型，往往会超出人类常规思维的理解限度，要使人理解其技术原理，就需要进行算法解释。机器学习的算法解释方式非常丰富，既可以是仅包含文字说明的“软解释”，也可以是依托计算机程序输出数量关系的“硬解释”；后者可以通过特征重要性分析、敏感性分析、激活最大化等多种“可阐释解释器”，以不同方式和精度展示算法的内在逻辑，或者揭示不同输入变量对输出结果的相关性乃至影响的过程。确实需要兼顾公民知情权保障、商业秘密保护、算法安全等多重目标时，也可以采取局部代理模型等并不必然要求打开“算法黑箱”的解释方法。

一般情况下，自动化行政所应用的程序，如果不包含深度学习等带有“黑箱”性质的算法，只需要披露算法的基本原理即可；立法也可以对算法设计的可解释性作出要求，促使行政机关在合理条件下，更多地选择自解释的算法达成行政目标。确需对包含“黑箱”机制的算法作解释时，立法可以要求行政机关根据应用场景及权益保障的实际需要选择算法解释方案，也可以规定不同场景下算法解释所适用的标准，或根据相关行政事项的重要性及算法模型的特性，确定不同的算法解释精度要求。在涉及相对人或社会公众重大权益保障需求时，还应在确保数据安全的前提下实现算法公开，并辅之以优化算法透明度的其他机制（如提供算法透明度报告），充分满足为相对人及社会公众赋能的要求。此种算法原理层面的解释义务，可以在自动化系统招标或采购时即明确要求参与单位承担，通过市场机制实现程序公正价值与知识产权保护的平衡。

2.标准化的记录留存机制

标准化的记录留存机制是自动化行政监督与救济制度必不可少的部分。目前我国相关立法对留存记录的规定，大多限于内部行政程序，且内容较为原则化；有关行政执法全过程记录及可回溯管理的规定，主要针对的是文字和音像记录，不能完全满足自动化行政条件下权益保障的现实需求。此外，审计轨迹可以作为标准化记录留存的有益参考，但并非所有自动化系统都带有审计轨迹的功能，且审计轨迹的设计未必服务于权益保障和法律监督的需要。因此，未来立法需要结合自动化系统的应用特点，引导或鼓励相关组织制定具体的技术标准，明确规定自动化系统应在一定时限内留存便于读取的日志，记录与相对人或社会公众合法权益有关的所有系统活动及参数。如有必要，系统记录还应附带防篡改的真实性验证机制（如用单向函数加密，并将加密运算的结果写入区块链），使之能够满足刑事诉讼或行政诉讼的证据标准。

通常而言，要制定这方面的技术标准，需要结合不同自动化系统和算法模型的特性，充分考虑数据埋点和参数自动化提取方案，保留主要计算过程中的操作记录、关键参数和处理流程，确保专业人员能从系统留存的记录中基本准确地还原系统的判断依据及处理过程。具体的技术指标，可以根据自动化系统的技术原理及系统的应用场景来选定。此种要求亦可以使公众逐渐形成对自动化系统运行规律及相关数据的深入认识，并加强公众面向算法和自动化系统进行理性思考的能力。

3.结构化的人工介入机制

既有制度实践尽管已经在听取陈述和申辩、核查数据或信息、核对证据、审查处理结果等方面规定了人工介入机制，但这些规定较为分散，且大多立法都只是规定了个别环节的人工介入，难以在自动化系统出现偏差或错误时为当事人提供及时行使程序性权利的机会。对此，有必要针对不同的自动化行政场景设计结构化的人工介入机制，通过条件、方式、时间节点、介入深度等方面的不同安排，形成适合于电子政务的人工交流、审查与救济体系。除为当事人提供人工听取陈述和申辩、人工审核自动化系统判断结论或处理结果之途径外，行政机关还应当主动对自动化系统的运行准确性与可靠性进行抽查，形成依申请审查与依职权审查相结合的双重人工保障。在依申请审查方面，行政机关应任用充分了解自动化系统运行原理和记录含义的工作人员，由其根据相对人的申请检查自动化系统中涉及争议执法活动的全部记录。相对人也应有权请求相关行政决定由人工而非机器作出。在依职权审查方面，立法应要求行政机关根据特定自动化行政活动所涉法益的重要性、行政活动的规模大小、人工抽查与审核的成本等，决定主动抽查审核的密度和频次。

随着我国自动化行政应用领域的不断拓宽，人工干预的范围还需要进一步延伸至对行政机关作出行政行为有重大影响的、由企业提供的技术服务，人工审核、复查等介入机制须深入到所谓的技术标准之中，以确保不因企业提供的技术服务出错而侵害公民人身自由等重要合法权益，避免人在行政程序中的命运由传感器、计算机程序和算法模型等主宰。

（图片来源于百度）

五、结语

作为传统正当程序在数字时代的重大理论发展，方兴未艾的技术性正当程序日益受到公法学界的密切关注。数据和算法越深入到行政过程之中，公民的人生际遇和企业的兴衰沉浮，就越有可能受机器左右。隐藏在机器背后的人，如果不需要承担原理公开、充分告知、有效交流和人工审查的义务，不需要接受有关部门和公众的全过程监督，也不需要承担责任，将不可避免地造成权责失衡并严重侵蚀行政法治及程序正义的基石。为此，必须在电子政务及自动化行政活动中系统性地实现程序正义，并致力于维护行政程序中人的体面存在和尊严价值。

相比于传统正当程序，技术性正当程序更加强调赋能，也试图通过一系列精细的制度设计，全面增强相对人等主体参与行政程序、挑战违法或不当行政决定的能力，这正是该学说能够有效回应自动化行政挑战的关键所在。对人之尊严的维护，离不开对人之能力的赋予与培育。唯当法律制度尊重且有助于发挥人的实践理解能力、自我控制能力、自我监管能力以及自我调节能力，以人的主体性引领法律实践全过程的持续完善，人的尊严才能在法律实践中得到充分保障。若要在自动化行政过程中充分保障人的尊严，就需要为人提供充足的信息和必要的参与机会、交互途径、技术支持等行动条件，使人在信息技术面前具备足够的理解、判断、思考和自我调整等能力。这些能力不仅有助于维护人在机器面前的自主地位和体面存在，也会对自动化系统及其背后种种复杂的人为干预形成有效制衡，从根本上确保自动化决定的公平公正。

正当程序是现代行政法中义理粲然的篇章，承载着行政法学者及实务工作者对程序正义的不懈追求。当正当程序的法治实践面临机器与算法的挑战，唯有深入到自动化行政过程中探寻技术性正当程序的理路与进路，才能在信息技术浪潮中守卫程序正义的堤防。信息技术的未来发展不可估量，技术性正当程序的发展与完善亦难计日程功，如何使行政程序的发展紧扣时代的脉搏、有效应对技术发展和社会变革带来的新挑战，是行政法学人长期承担的使命，对程序正义的价值追求亦将由此薪火相传。

（图片来源于百度）

#

往期回顾

排版：黄淑婷

审核：张瑞 罗有成