欧盟的人工智能立法里程碑式突破：多方妥协的“微妙平衡”

* “中美友好互信合作计划”是由复旦发展研究院和丰实集团共同打造的中美关系研究的学术平台

引言

根据欧盟的官方通稿，经过历时三天的激烈谈判，欧洲议会、欧盟成员国和欧盟委员会于布鲁塞尔当地时间12月8日晚就《人工智能法案》达成了“历史性”的协议，这项法案被预期会成为世界上第一部全面监管人工智能使用的法规。虽然这份被称为“达成了极其微妙平衡”的法案仍受到各方群体的一定质疑，但欧盟立法者对这份法案均抱有积极态度。不过，在更多立法细节披露之前，这份法案的长期影响还有待观察。

今年6月，立法者在欧洲议会讨论了《人工智能法案》。

图源：美联社

01

立法回顾：

欧盟《人工智能法案》的提出与发展历程

近年来，对人工智能技术的监管一直是欧盟的中心政策之一。欧盟的政策制定者为确保欧洲人能从中受益，承诺了一种“以人为中心”的人工智能开发路径。从2019年开始，欧盟就开始布局人工智能监管领域，于当年发布《可信赖人工智能伦理准则》 （Ethics Guidelines for Trustworthy AI ），并在2020年出台《人工智能白皮书》（White Paper on Artificial Intelligence）。然而，《可信赖人工智能伦理准则》并不具有法律效力，《人工智能白皮书》中也只是写道“促进人工智能的采用，并应对与使用人工智能相关的风险”。简而言之，欧盟理事委员会在监管前期采取的是“软法”，并不能运用欧盟和成员国强制手段保证监管落实。

由于监管力度不够，欧盟方面一直致力于出台一部有关人工智能的综合法案。为此，欧盟理事委员会从原有的“软法”转向立法，期望采用统一的法律原则来规范人工智能的开发、投放市场和使用。为此，欧盟委员会于2021年4月提出了关于欧盟人工智能监管框架的建议（A proposal for an EU regulatory framework on artificial intelligence AI），同时提出了《人工智能法案》（AI Act）提案的谈判授权草案，此后，欧洲议会和欧盟理事委员会针对该草案进行了多轮修订和讨论。这份草案中较为重要的部分包含对“人工智能”的定义以及基于人工智能系统对用户构成的风险而对其进行的分析与分类，分别为：不可接受的风险、高风险、有限的风险、无风险或最小风险，针对不同的风险分类，欧盟理事会将制订了不同的监管方法（详见后文）。欧洲议会也强调了其首要任务是确保欧盟使用的人工智能系统安全、透明、可追溯、非歧视和环保的。人工智能系统应该由人而不是由自动化（automation)来监督，以防止有害后果。

作为全球第一份综合性的人工智能立法，本次通过的草案的重要性得到了全球科技界人士的一致认可。Facebook政策和传播副总裁尼克·克莱格（Nick Clegg）直言道：“立法者在未来几个月和几年内做出的决定将对互联网、国际联盟和全球经济产生深远影响。”欧盟委员会负责数字政策的执行副主席玛格丽特·维斯塔格（Margrethe Vestager）也在其演讲表示：“随着数字平台力量的增长，越来越明显的是，我们需要更多的东西来控制这种力量。”

2023年6月，欧洲议会以499票赞成、28票反对和93票弃权，高票通过了《人工智能法案》谈判授权草案，其目标是在今年年底前达成协议。本次谈判全面禁止了人工智能用于生物识别监控、情绪识别与预测性警务，同时也规定了像ChatGPT这样的生成式AI系统必须披露内容是人工生成的，另外，在选举中用于影响选民的人工智能系统被认为具有高风险。这些规则旨在促进以人为本、值得信赖的人工智能的应用，并保护健康、安全、基本权利和民主免受其有害影响。同时也能确保在欧洲开发和使用的人工智能完全符合欧盟的权利和价值观。

在投票结束后，联合报告员德拉戈·图多拉奇（Dragos Tudorache）说：“《人工智能法案》将为全世界的人工智能发展和治理定下基调，确保这项技术通过其所能提供的巨大利益从根本上改变我们的社会，并按照欧洲民主、基本权利和法治的价值观发展和使用”。

这份谈判授权草案推动了该法案进入立法程序的最后阶段，即举行欧洲议会、欧盟成员国和欧盟委员会的“三方会谈”，以确定法案的最终条款。投票当天欧盟的三大机构就立即针对法案展开了第一次“三方会谈”，在此期间，三大机构都概述了他们在谈判中的优先事项，其主要目的是尽量解决关键问题，促使机构间达成协议；7月18日，第二次“三方会谈”举行，三大机构就提案中争议较少的部分达成了一致，并就支持创新措施一章的大部分内容达成了妥协；10月2日和3日，在斯特拉斯堡举行了第三次“三方会谈”，在此期间，各方就提案中争议较少的部分达成了一致，但在即人工智能系统高风险分类机制、人工智能高风险使用案例清单等议题上并未达成任何结果。

10月24日和12月8日，第四、第五次“三方会谈”举行，经过比较顺畅的第四次会谈和近三天的马拉松式的第五次会谈后，欧盟立法者于2023年12月9日就人工智能第一套全面监管规则达成了政治协议。他们将在未来几周内讨论最终立法的细节，该立法预计将于明年初生效并于2026年实施。在协议达成后，联合报告员布兰多-贝尼菲（Brando Benifei）表示：“虽然本次谈判的过程漫长而紧张，但努力是值得的。”

2023年12月9日，欧洲议会联合报告员德拉戈什·图多拉什与布兰多-贝尼菲在布鲁塞尔举行的《人工智能法案》三方会谈后的新闻发布会上的初步讲话。

图源：欧洲议会新闻网

02

历史上第一个AI全面法律框架：

欧盟方案塑造何种框架

首先，在对AI的定义和法律适用范围上，欧盟的临时协议采用了较宽泛的定义和较狭窄的适用范围：在定义上，为区分AI系统和其他普通计算机软件，该协议沿用了OECD对AI的定义，即AI系统是一个“基于机器的系统，为了或明确或隐含的目标，通过其接收到的输入信息来生成诸如预测、内容、建议和决策等输出内容。”而在适用范围上，这份法案不适用于欧盟法律不适用的范围，也不适用于单纯为了研究和创新目的研发的AI系统，而诸如国防安全领域的AI应用场景也完全排除在这一法案的适用范围之外。

虽然适用范围并不算宽，但在适用范围之内，欧盟的这份临时协议对AI监管采取了较为严格的姿态。具体来说，AI的风险管控是欧盟这份解决方案的目的，也是这份方案的基础，欧盟将人工智能风险从高到低分为四类，它们分别是：

1. 不可接受的风险（Unacceptable Risk）：被认为会威胁人们的生命、安全和权利的AI系统，包括公共部门使用的社会评分系统、鼓励或辅助自杀等危险行为的系统等等。

2. 高风险（High Risk）：可能会影响关键基础设施（如交通）、教育和社会福利等公民权益的AI系统，包括在手术中应用的AI辅助系统、信用评分系统中的AI系统等等。

3. 有限的风险（Limited Risk）：指特定的具有对用户透明度义务的AI系统，例如聊天机器人。

4. 最小风险（Minimal Risk）：指已经被广泛运用的AI系统，包括垃圾邮件过滤器、电子游戏中的AI系统等等。

对于以上四类风险，除开几乎不需要讨论的第四类之外，第一类顾名思义被完全禁止，欧盟立法者对面部识别系统和所有远程生物信息识别系统极为警惕，将 AI在这方面的应用全部列入第一类风险，可能会“剥削弱势群体”的AI和可能会操纵人类情感、阻止人类贯彻其自由意志的AI也同样在禁止之列；第二类的应用则需要开发者在进入欧盟市场前作出一系列的风险评估并为用户提供公开数据来减少相关风险，第三类风险相比而言受到的监管较轻，开发者只需要确保用户知道自己得到的内容由AI而非真人生成（比如ChatGPT这类的聊天机器人），第四类风险则基本不需要在现行法律下采取额外的监管措施。

值得注意的是，被划入了“不可接受的风险”的AI系统在这一法律框架下仅有一类应用是可探讨的（或者说是例外情况），即执法机关利用相关技术打击犯罪，比如通过生物信息识别技术寻找被拐卖的儿童、捉拿重罪犯人等，这一情况在法院授权的情况下可以被允许。某种意义上，这一例外情况反映了欧盟立法者和成员国政府的博弈：据美联社报道，立法者最初希望对AI生物信息识别进行完全禁止，但成员国政府在协商过程中争取到了执法权的例外。

AI系统风险分级示意。

图源：欧盟委员会

由于ChatGPT的横空出世引发的各方对AI的关注，这份临时协议比起最初的提案多出了部分内容。除了能实现具体功能的“产品”之外，临时协议还对通用AI（General Purpose AI, GPAI）以及会造成“重大影响”的AI基础训练模型（譬如GPT模型）的风险进行了分类。虽然大语言模型等AI基础模型本身并未被纳入“高风险”之中，但法案要求开发者对其透明度义务负责。根据美联社的报道，立法者把透明度义务拓展到模型本身上意味着开发者必须公布他们训练模型时使用的内容细节、同时确保他们的训练材料遵守了欧盟的知识版权法律。同时，欧盟在未来将引入更严格的安全审查和风险削减措施来审核那些具有“系统性风险”的AI模型。截止本文写作为止，欧盟尚未公布这类“更严格的措施”具体包括哪些内容，加上部分成员国对此仍保有反对意见，这类监管的具体发展，仍有待进一步观察，预计在未来数周内会有更多立法细节和监管细节被官方披露。

在AI产业蓬勃发展的情况下，欧盟在该领域也需要设立新的机构。根据临时协议，欧盟委员会将下设一个AI办公室来监督最先进的人工智能模型、制定相关标准，一个独立的专家委员会将为这个办公室提供专业意见。除此之外，目前由欧盟成员国组成的“人工智能委员会”（AI Board）也将作为咨询、协调平台被继续保留，而具体的对监管条款的执行将主要依赖于成员国的执法机构。 

最后，临时协议对违反监管的情况如何处罚进行了规定：对违法应用“被完全禁用”的AI软件的公司处以3500万欧元或公司全球营收7%的罚款，对违反AI法案透明度等义务要求对公司处以1500万欧元或公司全球营收3%的罚款，对应用支持虚假信息的公司处以750万欧元或者全球营收1.5%的罚款（以上三类罚款均以更高额为准）。

03

“极其微妙的平衡”：

欧盟人工智能法案的争议与长期影响

根据欧盟官方公布的议程，这份人工智能法案将在未来数周完成对更多立法细节的讨论，并在明年年初交付欧洲议会和欧洲理事会正式表决通过。由于各利益相关方已经对法案达成了较高的共识，明年两大机构的表决投票将会大概率只是流程性。而在投票通过之后，这份法案最早将于2026年正式生效。

欧盟的立法者对最后各方达成一致的法案非常满意。西班牙数字化与人工智能大臣卡梅·阿蒂加斯（Carme Artigas）称这是“历史性的成就和迈向未来的重要里程碑”，并称在立法过程中“我们成功保持了极其微妙的平衡：在整个欧洲促进人工智能的创新和应用，同时充分尊重我们的公民权利。”欧盟委员会主席乌尔苏拉·冯·德莱恩（Ursula von der Leyen）也称，“这是一个历史性的时刻，人工智能法案将欧盟的价值观代入了一个新的时代。”她同时称已经有上百家公司愿意在法案正式生效前自愿遵守这一法律，并欢迎更多的科技企业加入。

不过，和欧盟立法者和领导人的想法不同的是，对目前这份临时协议，科技团体和公民权利团体均不认为其达到了他们各自认为满意的“微妙的平衡”：前者认为这份法案太过严苛，后者则觉得这份法案仍有较大漏洞。据《金融时报》报道，欧洲大陆科技行业的意见领袖塞西莉亚·博内菲尔德-达尔 （Cecilia Bonefeld-Dahl）认为这份法案用来防范人工智能风险所付出的代价太大，“新的监管要求会让公司投入大量资源来雇佣律师而非AI工程师，以达到合规目的。”诸如空客、西门子等欧洲大型公司也认为这一法案的规则太过严格，不利于培养欧洲本土企业创新发展，尤其是在和微软、OpenAI等美国科技企业竞争的基础上。另一方面，据美联社报道，欧洲的公民权利团体对AI生物信息识别在执法权上的豁免表示担忧，同时认为法案对在边境和移民管理中的AI应用也缺乏应有的管理。

除了对法律文本本身的质疑之外，这份法案最终的执行情况也受到了质疑。《纽约时报》的专栏文章指出，由于法案的执行要求27个成员国的努力，考虑到这需要政府在财政紧张的情况下增加这方面的预算，其执行情况可能堪忧。此前欧盟同样具有里程碑意义的数据隐私立法便因为缺乏有力的执行而饱受诟病。其援引爱尔兰公民自由委员会的专家克里斯·施里沙克（Kris Shrishak）评论称“如果没有强有力的执行，那这份协议就没有任何意义”。考虑到在具体的执行中，成员国很有可能为了国内产业发展在执行法律时“打折扣”，因此，在2026年这份法案最终落地之后，会有多大的长期影响，其条文是否又会因为AI行业的迅猛发展而过时，均需要打上一个问号。

参考文献

AI: EU agrees landmark deal on regulation of artificial intelligence. (2023, December 9). Www.bbc.com. Retrieved from https://www.bbc.com/news/world-europe-67668469

Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI | News | European Parliament. (2023, September 12). Retrieved from www.europarl.europa.eu website: https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai

EU agrees landmark rules on artificial intelligence. (n.d.). Retrieved from www.ft.com website: https://www.ft.com/content/d5bec462-d948-4437-aab1-e6505031a303

Europe reaches a deal on the world’s first comprehensive AI rules. (2023, December 8). Retrieved from AP News website: https://apnews.com/article/ai-act-europe-regulation-59466a4d8fd3597b04542ef25831322c

European Commission. (2022, September 29). Regulatory framework on AI | Shaping Europe’s digital future. Retrieved from digital-strategy.ec.europa.eu website: https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai

European Parliament. (2023, August 6). EU AI Act: First Regulation on Artificial Intelligence | News | European Parliament. Retrieved from www.europarl.europa.eu website: https://www.europarl.europa.eu/news/en/headlines/society/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence

MEPs ready to negotiate first-ever rules for safe and transparent AI | News | European Parliament. (2023, June 14). Retrieved from www.europarl.europa.eu website: https://www.europarl.europa.eu/news/en/press-room/20230609IPR96212/meps-ready-to-negotiate-first-ever-rules-for-safe-and-transparent-ai

Modrall, J. (2021, April). EU proposes new Artificial Intelligence Regulation | Global law firm | Norton Rose Fulbright. Retrieved December 11, 2023, from www.nortonrosefulbright.com website: https://www.nortonrosefulbright.com/en/knowledge/publications/fdfc4c27/eu-to-propose-new-artificial-intelligence-regulation#:~:text=On%20April%2021%2C%202021%2C%20the%20EU%20Commission%20adopted

Mozur, P., Kang, C., Satariano, A., & McCabe, D. (2021, April 20). A Global Tipping Point for Reining In Tech Has Arrived. The New York Times. Retrieved from https://www.nytimes.com/2021/04/20/technology/global-tipping-point-tech.html

O’Carroll, L. (2023, December 9). EU agrees “historic” deal with world’s first laws to regulate AI. The Guardian. Retrieved from https://www.theguardian.com/world/2023/dec/08/eu-agrees-historic-deal-with-worlds-first-laws-to-regulate-ai

OECD. (2019). The OECD Artificial Intelligence (AI) Principles. Retrieved from oecd.ai website: https://oecd.ai/en/ai-principles

Press corner. (n.d.). Retrieved December 11, 2023, from European Commission - European Commission website: https://ec.europa.eu/commission/presscorner/detail/en/speech_21_1866

Satariano, A. (2023, December 8). E.U. Agrees on Landmark Artificial Intelligence Rules. The New York Times. Retrieved from https://www.nytimes.com/2023/12/08/technology/eu-ai-act-regulation.html

往期精选

本文版权归“中美友好互信合作计划”所有，如需转载请与本公众号联系并注明出处。

欢迎关注公众号！

微信编辑：那一佳

如有投稿，请直接发至[e-mail]或[e-mail]。一经录用将有稿费奉上。

“中美友好互信合作计划”是由复旦发展研究院和丰实集团共同打造的中美关系研究的学术平台，该平台通过课题研究和精英讲坛的联动运作方式，力求以最快的速度、最高的学术权威分析中美关系的热点问题。