域外采风（III） | 自动化行政国家的合法性危机（埃默里法律杂志2021年第70卷）

域外采风（III） | 自动化行政国家的合法性危机（李芹编译）

文献来源：Ryan Calo & Danielle K. Citron, The Automated Administrative State: A Crisis of Legitimacy, 70 Emory L. J.797 (2021).

作者简介：

Ryan Calo，华盛顿大学法学院Lane Powell and D. Wayne Gittinger讲席教授、华盛顿大学计算机科学和工程学院、信息学院客座教授；

Danielle K. Citron，弗吉尼亚大学法学院杰斐逊学者基金会杰出讲席教授，网络公民权利创议行动副主席。

译评者：

李芹 编译缩写

（河北大学法学院讲师，法学博士）

 行政国家的合法性在于我们对行政机关专业知识的笃信，行政机关在复杂、演进社会中具有重要作用。近来州和联邦机关开始运用自动化行政，利用软件和算法来执行授予其的职责。答案不是拒绝行政机关利用自动化技术，本文以实证的方式审视行政国家，指出自动化行政国家应增强而非削弱行政合法性基础。

在二十至二十一世纪之交，联邦和州行政机关资源的匮乏，使行政机关转向自动化行政。很难质疑自动化决定，因为系统很难通过稽核追踪，来评判决定背后的理由，国内税务局、证券交易委员会、美国邮政局及其他诸多联邦机构在运用算法和自动化来实施行政任务，几乎一半行政机关在使用或在调查人工智能的使用。2019年发布的第13859号总统行政命令要求所有联邦行政机关都要去探究利用人工智能的可能性。

很多学者对自动化行政发表了忧思，例如2017年发表的《可问责算法》即指出，“历史上由人做出的重要决定现在是由计算机系统做出的，”作者写道，“支配决策过程的问责机制和法律标准没能跟上技术的步伐。”行政机关运用自动化时，可能放弃了自己的专业知识，排除了裁量、个性化和理由说明。我们的建议是，行政机关应当清醒地选择技术，来强化而非削弱作为支撑行政国家基础的理念。

本文主要分为四部分：第一部分主要是梳理有关自动化行政的法学文献，剖析现有文献在问题分析进路上的局限性。第二部分在回顾行政国家演进过程的基础上，探究了行政国家的正当化根据。第三部分考察了近年来因自动化行政引发的诉讼。相关诉讼表明，针对自动化决策系统，行政机关欠缺专业知识，且回应性和灵活性明显不足。进而得出结论，认为自动化行政不仅削弱了宪法与行政程序方面的保障，而且削弱了行政国家的正当化根基。第四部分则为技术驱动下的行政机关重构正当化根据。作者认为，如果审慎利用不断革新的人工智能技术的话，可以完善行政机关的决策与规划，进而借助技术来满足日益提高的公正性和回应性需求。

一、弥合受损的价值

机器不断嵌入人类决策过程，尤其是过去由行政机关工作人员和陪审团承担的任务如今也交由机器来完成，人们愈发感到不安。过去十年间，法学者纷纷对此展开研究，揭示了自动化带来的种种消极影响：削弱正当程序保障，固化种族、阶级和性别偏见，欠缺保障措施等。Schwartz在1991年就指出，计算机和基于数据驱动决定阻碍了诸如隐私、正义和自治之类的价值。作者之一在2008年也提出了“技术性正当程序”， Kate Crawford 与Jason Schultz在2014年探讨“程序性数据正当程序”。 Crawford在与Schultz合作的论文中，在讨论人工智能系统是否构成“政府行为者”。

算法和人工智能技术之所以令人着迷，正是因为它们具有替代人类的潜能。法律假定人类会开车。如今机器人也可以。当越来越多的事物开始像人类一样行事时，必定会引发各种歧义，包括我们在内的学者们尝试探究如何重构法律、市场、规范或技术，来应对这些潜在的歧义。现有研究通常遵循如下逻辑，即实践中的新做法挑战了现有的法律假设，应当通过改变代码或法律来恢复原状。

我们力图挑战这种由来已久的研究进路。现有研究进路存在两方面的问题。一方面，由于着眼于新技术所取代的特定价值，现有研究难免会错失重新审视行政国家首要原则的机会。算法决策的批评者往往会假设，通过改变法律和技术设计来恢复原状，而不是将更为广泛的合法性问题放在首位。另一方面，结合新技术的潜能来看，原状是否足以令人满意呢？这一点现有研究也没能考虑在内。或许人工智能的崛起意味着，行政机关应当遵循更高的标准，追求更为广泛或是不同的价值。

二、行政国家的正当化根据

（一）回应对行政机关的质疑：复杂世界中的治理

美国行政机关从建立之初便不断遭受种种质疑。其中，贯穿始终且最为强烈的质疑之声是，行政机关行使的权力兼具立法权、行政权和司法权属性，这有违宪法文本和宪法精神。

对此，行政机关的拥簇者给出了有力的回应。最重要的理由莫过于，现代世界比制宪者想象的要复杂得多，且变动不居。单凭国会的能力难以胜任现代世界的治理任务。因而，必须允许国会创建一系列实体，由每个实体掌握特定领域的专业知识，赋予其充分的灵活性和相当的裁量权，以根据实际情况作出明确的决策，回应现代世界中层出不穷的问题。从直觉上看，这种功能主义立场很有吸引力。

尽管行政机关的行为要接受司法审查，但事实上，法院给予行政机关相当程度的尊重。司法尊重的缘由与允许国会授权行政机关立法的理由，以及整个行政国家的正当化根据是一脉相承的，即行政机关具备专业知识。法院假定具体政策领域的专家是行政机关，而非法院。

（二）对算法的尊重？

大量文献质疑行政机关利用算法作出的行为的合法性。但目前很少有研究去探究自动化行政国家的正当化根据是否充分。我们在此前关于技术性正当程序的文章中指出，行政机关将国会授予的权力转授给计算机程序员，这类自动化行为本不应获得法院的尊重，但实际上却很可能免受司法审查。

相反，Cary Coglianese 与 David Lehr的研究认为，某些场景下，行政机关使用技术性工具的行为并不违反《联邦行政程序法》，在他们看来，算法并不主张自身利益，因此授权给机器与授权给私主体有所不同。

从规范层面上来看，仅有的几项研究均在探究自动化行政决策是否符合法定要求。我们力图梳理更为充分的论据和证据，来剖析自动化行政国家是否面临着合法性危机。

三、迫在眉睫的合法性危机

（一）来自诉讼的经验教训

实践表明，自动化系统并未实现行政机关所宣称的提高效率、消除偏见、确保公平等积极效果。相反，自动化系统带来了诸多负面影响，错误地分配资源，在未告知的情况下作出影响个人权利义务的决定，令决策变得更为僵化等等。社会保障、就业、儿童福利、航空旅行和量刑等领域的自动化决策行为引发了一系列的诉讼。

阿肯色州公共服务部的自动化决策系统对残障人士造成了严重的影响，但在诉讼过程中，行政机关工作人员和第三方系统开发者均无法说明如何调试不断出错的系统。爱达荷州健康和福利部门的自动化决策系统也大幅削减了医疗补助接受者的家庭护理时长，在被要求作出解释说明时，却主张算法属于“商业秘密”。在得克萨斯州，用来评估教师绩效的算法系统被法院称为“纸牌屋”，其中存在大量难以纠正的错误。教工协会以正当程序为由对学区提起诉讼，论证教师无法对算法加以检视，无法质疑算法的准确性，他们请求永久性禁止学区利用评分系统，来做出终止教师合同或不再续签合同的决定。法院指出，“当公共机构采用了一项与最低限度正当程序不相容的秘密算法，做出高风险的雇佣决定时，适当的补救措施是推翻该政策，但对商业秘密仍加以保留。”

在密歇根州，欺诈检测系统的失误率高达85%。联邦层面同样存在类似的现象。典型例证当属“禁飞”名单，包括政府官员、退伍军人在内的许多人被系统误认为恐怖分子。

（二）功能主义的弱化

立法机关之所以向行政机关授权，正是因为行政机关具有治理复杂多变的现代世界所需的专业知识和灵活性。然而，由自动化行政决策引发的诉讼却表明，利用自动化系统来执行任务的行政机关工作人员并不了解这些系统的运行原理，更无法在法庭上给出任何解释说明。

行政机关所掌握的专业知识均转化为他们自身并不了解的软件语言。通过编程将行政规则嵌入自动化决策系统之后，行政机关也无法再像过去一样行使裁量权来回应变动不居的实际情况。

行政国家的自动化趋势与民营化现象不同。针对民营化现象，争论焦点在于委托哪位专家来执行公共意愿。尽管过度依赖私人主体的力量也会危及宪法保障，存在合法性争议，但私人承包商依旧能够作为行政机关的专业知识库。在自动化行政时代，问题不在于哪位专家更为合适，而是缺乏专业知识是否会削弱行政国家自身的合法性。因为随着各种自动化决策系统的设计、使用和部署，行政机关几乎不再具备专业知识方面的优势。

行政国家的自动化程度越高，对其正当性根基的影响越大。研究者和社会不仅要质疑程序保障充分与否，更应质疑行政国家的正当性根基。在自动化行政汇总，行政机关同时自动地扔掉了专业知识和裁量，自动化行政还有碍于行政程序法和有意义司法监督的展开。需要质疑的不仅仅是程序保障是否充分，还有整个自动化行政事业整体上是否具有正当性。

四、迈向行政国家的新图景

面对行政国家的合法性危机，主要存在两种回应方案：其一，通过法律和技术设计，逐步修复因使用自动化系统而受损的公民权利和价值。对此，我们表示赞同，但认为这并不能彻底解决问题。即便可以设计出法律和技术体系，足以确保自动化决策遵循正当程序，但越来越多的自动化行政决策依旧可能架空行政机关的专业知识和裁量权，进而危及行政国家本身的正当性。

其二，大力削弱行政国家。至少在实践层面上而言，我们并不赞同此方案。在相当程度上，正是由于行政国家的财政资金和权力遭到了系统性的削减，才迫使行政机关借助自动化决策系统来满足民众的需求和期望。

我们力图提出一种更为积极的方案，即行政机关应当审慎的利用技术性工具，来积累自身的专业知识，提高自身决策能力和回应性，进而捍卫行政国家的正当性。

尽管我们谴责行政机关使用自动化决策系统的行为，但不可否认，在二十一世纪，技术的确可以为政府赋能。实践中不少例证表明，行政机关可以借助不断革新的信息技术来应对错综复杂的规制与治理任务。但不应将需要专业知识和裁量的行政机关职能外包给第三方，软件和硬件的第三方提供者也不具备专业知识和裁量。就确证未登记公民偏好而言，机器不一定比人更出色；机器也需要人来选择输入和目标。

技术革新带来的变化之一在于，行政机关可以利用技术性工具建构模型，了解复杂环境中政策干预带来的影响。政治经济学家Charles Lindblom在1959年发表的经典文章《渐进调试的科学》中指出，由于人类无法确定和处理校准“最佳”政策所需的全部信息，因而实践中政策的形成往往是艰难渐进调试的过程。与上世纪五十年代相比，如今的人工智能技术在模拟多维度的行为和影响方面取得了根本性革新。这意味着，联邦和各州的行政机关可以借助更为广泛的技术性工具来模拟特定规制环境，提高应对复杂问题的能力。或许，可以设想成立一个跨学科的机构，作为建模本身的知识库，为政府提供技术援助。

但也要认识到，通过将某些非核心的工作自动化，行政机关可以释放出资源和人力，来以更为个性化的方式，满足公众需要。行政、民事、刑事乃至宪法程序都有效率层面的要求，在资源稀缺的世界，更高效率转化为更多接入。采用新技术，不能剥夺公民自由。行政机关应当探寻技术方式，来增强专业知识、裁量与个别化处理的能力。除了正当化根据之外，行政机关还应考虑，自己使用的新软件和算法是否会强化社会期待。行政机关也不应当放弃二十世纪本来固有的管理方式。 

【本文由李芹对原文进行了缩写和评述，由宋华琳增补审定】