36小时“马拉松式”谈判，欧盟终于就全球首部AI监管法案达成临时协议

点关注不迷路，加星标★更好找

Follow & Favourite

【全球AI战略洞察】栏目由清华大学人工智能国际治理研究院推出，旨在通过对当前人工智能领域发生的重要信息进行“标注、提炼、解读”，剖析全球AI治理各国家间不同的战略图景，以此描绘人工智能治理领域的国际格局。

栏目主理人：刘典

本文首发于：微信公众号@清华大学人工智能国际治理研究院

☆

前言

12月9日 ，经过36个小时的“马拉松式”谈判，欧盟政策制定者和立法者就世界上第一套全面的规则达成协议。这一法案将成为全球首部人工智能领域的全面监管法规，意在保护人类基本权利和不阻碍人工智能行业发展之间寻求平衡。

欧盟方面希望，该法案可以像《通用数据保护条例》（GDPR）一样为其他司法管辖区的人工智能监管制定全球标准，从而在世界舞台上推广欧洲的技术监管方式。

在现有出台的文件中，最终达成的三方政治协议文本没有立即公开，在未来几周中欧盟的官员们仍需就一些细节继续讨论，完成最终的法案草案文本，预计将于明年初生效并于 2026 年实施。

“欧洲新闻”网报道截图

01

临时协议要点梳理

具体而言，以下是已经达成的一些关键点：

    1. 定义和范围

Eractive透露称，对人工智能的定义基本采用了经合组织的定义：人工智能是一种以机器为基础的系统，可以通过为一组给定的目标产生输出（预测、建议或决策）来影响环境。人工智能使用机器以及基于人的数据和输入来感知真实和虚拟的环境，并通过自动化（例如机器学习）或手动分析的方式将这些感知抽象为模型，最后使用模型推理为结果提供选择。）

    2. 分类为“高风险”和“被禁止”的人工智能

• 欧盟法案将监管高风险人工智能系统和禁止的应用程序，而免费和开源的软件不在监管范围内。
• 高风险人工智能系统必须遵守包括基本权利影响评估和进入欧盟市场的义务，也需要提供技术文件证明符合要求。
• 风险有限的人工智能系统将受到较轻的透明度义务，例如披露内容是人工智能生成的，以便用户可以做出知情决定。
  3. 人工智能在执法中的应用
• 执法部门在公共场所使用实时远程生物识别系统只能帮助识别绑架、人口贩运、性剥削的受害者，并防止特定的和当前的恐怖主义威胁。
• 人工智能还将被允许用于追捕涉嫌恐怖主义犯罪、贩运、性剥削、谋杀、绑架、强奸、武装抢劫、参与犯罪组织和环境犯罪的人。
  4. 通用人工智能系统 (GPAI) 和基础模型
• GPAI 和基础模型将受到透明度要求的约束。例如起草技术文档、遵守欧盟版权法以及传播有关算法训练内容的详细摘要。根据Euractiv看到的一份折衷文件，对训练所需算力高于10~25的模型，法案的分层方法将其自动分类为“系统性的”。法案将设置一个新的附件，作为标准供人工智能办公室依职权或根据科学小组的警示作出定性指定的决定。相关的标准包括商业用户数量和模型参数，并可根据技术发展进行更新。透明度义务将适用于所有模型，包括在“不损害商业机密”的情况下发布足够详细的训练数据概要。要求人工智能生成的内容必须做到能立即可识别。对于前沿的模型，相关的合规义务包括模型评估、跟踪系统风险、网络安全保护以及模型能耗报告。
• 被归类为构成系统性风险和高影响力的 GPAI 基金会模型必须进行模型评估、评估和降低风险、进行对抗性测试、向欧盟委员会报告严重事件、确保网络安全并报告其能源效率。
• 在统一的欧盟标准发布之前，具有系统性风险的 GPAI 可能会依赖实践守则来遵守法规。
  5. 人工智能禁止行为
• 使用政治、宗教、哲学信仰、性取向和种族等敏感特征的生物识别分类系统。
• 从互联网或闭路电视录像中无目的地抓取面部图像以创建面部识别数据库。
• 工作场所和教育机构中的情绪识别。
• 基于社会行为或个人特征的社会评分。
• 操纵人类行为以规避其自由意志的人工智能系统。
• 人工智能过去常常利用人们由于年龄、残疾、社会或经济状况而产生的脆弱性。
6. 对违规行为的制裁

根据侵权行为和所涉及公司的规模，罚款将从 750 万欧元（800 万美元）或全球年营业额的 1.5% 开始，最高可达 3500 万欧元或全球营业额的 7%。

   7. 执行和实施措施

• 欧盟委员会内将设立人工智能办公室，以执行针对基础模型的监管条款。
• 成员国主管部门承担监管的主责，但这些部门要在人工智能委员会有代表，以确保法律的统一适用。
• 法案还将设立一个咨询机构，负责收集利益攸关方的反馈，包括民间社会的反馈，还引入了一个由独立专家组成的科学小组，就监管的执行提供建议，标记潜在的系统性风险，并就具有系统性风险的AI模型的分类给出建议。

02

此前核心分歧在于“基础模型监管”

在本次会议之前，在欧盟《人工智能法案》落地只差最后一公里时，内部出现了不同声音。

早在当地时间12月2日，由于欧盟难以就监管ChatGPT等系统达成一致，彼时的欧盟人工智能法案或将面临被搁置的风险。

其中，对“基础模型的监管”成为欧盟《AI法案》谈判的主要争议点，谈判代表于12月6日进行了最终协商，就该核心分歧提出解决方案。

由于欧洲议会将在明年6月换届，12月6日的三方谈判可以视作《人工智能法案》立法谈判的收尾。如果无法尽快找到解决方案而不能达成一致，该法案就有可能因明年欧洲议会选举前时间不够而被搁置。

此前争论的关键节点如下：

• 10月24日，法国、德国、意大利在内的至少五个成员国改变立场，提出不应对基础模型施加任何监管。

• 10月30日，法德意三国在意大利首都罗马举行高级别会议，决定加强人工智能领域合作。

• 11月19日，法德意开始分发非正式文件，再次转变监管立场，提出用模型卡来监管基础模型，并发布联合声明，主张欧盟相关企业在AI应用方面作出具有约束力的自愿承诺，支持对AI基础模型“通过行为准则进行强制性自我监管”，但反对“未经检验的规范”。

三国发布的文件总体上支持对AI进行必要的监管，但同时强调，AI系统的固有风险在于应用而不是技术，所以监管对象应该是AI应用，而不是AI技术本身。

除此之外，法德意三方发布的文件指出，不应在一开始就对AI应用实施制裁，但如果在一段时间后发现服务商违反行为准则，可以建立制裁制度。欧洲需要“一个促进创新和竞争的监管框架，以便欧洲参与者能在全球人工智能变革中位于前列。”

对此，欧洲议员和AI专家批评自我监管，指出存在法律不确定性，可能影响欧洲产业。

03

欧盟AI立法时间线

根据欧洲理事会的解释，此次法案的中心方法论是根据人工智能对社会造成危害的能力，遵循“基于风险”（risk-based）的方法来监管人工智能：风险越高，规则越严。

在达成协议之前，欧盟各成员国和欧洲议会议员已就应如何管控人工智能进行了多年的讨论。

2017年	欧盟出台了立法决议《欧洲议会关于机器人民法规则的决议》，其中因提及的“电子人格”而遭到批评，随后被撤销。
2018年	欧盟委员会成立了责任和新技术组。
2019年	新技术组提交了关于AI责任以及其他新兴数字技术的小组报告，成为了欧盟进一步立法的基础。
2020年	2月，欧盟委员会发布了《⼈⼯智能⽩⽪书》，意图防范⼈⼯智能引发的⻛险。 10月，欧洲议会通过了一项关于人工智能责任条例的全面提案。
2021年	4月21日，欧盟《⼈⼯智能法》提案出台，以求进⼀步提升⼈⼯智能的合法性，旨在对人工智能所涉及到的产品和服务制定监管规则。 11月29日，欧盟理事会轮值主席发布人工智能法案草案的第一份妥协文本，在社会评分、生物识别系统和高风险应用领域进行了修改。
2022年	3月，欧洲议会法律事务委员会发布了对《人工智能法案》的修正案。随后，欧洲议会工业研究和能源委员会发布了关于《人工智能法案》的意见草案。 9月，欧洲议会法律事务委员会作为议会最后一个委员会通过了对《人工智能法案》的意见。同月，欧盟委员会通过了《人工智能责任指令》和《产品责任指令》修订版两项提案，前者确定了针对人工智能系统所致损害的适用规则，后者将其适用范围扩展到配有人工智能的产品。 12月6日，欧盟理事会就欧盟委员会起草的法案达成一致立场。
2023年	4⽉27⽇，欧洲议会成员已经弥合分歧，就《⼈⼯智能法（The AI Act）》提案达成临时政治协议，要求部署ChatGPT等⽣成式⼈⼯智能系统的公司披露⽤于开发其系统的受版权保护的材料。该协议被普遍认为可为欧盟《⼈⼯智能法》的出台铺平道路。 5月11日，欧洲议会通过了关于法案的谈判授权草案。 6月，欧洲议会通过了《人工智能法》授权草案，已经进入成员国、欧洲议会、欧盟委员会的“三方谈判”，原计划年底前通过。

直到正式立法出台的最后一刻，政策制定者和各国都将围绕其语言以及创新与发展之间的尺度进行磋商。

不容忽视的是，尽管该法律被誉为监管方面的突破，但其效果仍然存在疑问，其诸多方面预计需要 12 至 24 个月才能生效，而这，对于人工智能发展而言是一个相当长的时间。

虽然该立法草案仍需要欧盟成员国和议会正式批准，但该政治协议的达成意味着这部法律的关键轮廓已经确定，也标志着欧盟的人工智能立法迈出了关键一步。在美国国会还没有就人工智能监管采取任何有意义的行动的情况下，欧盟的法案将为这项快速发展的技术定下监管基调。

内容整理自：

1. 路透社 12月2日 生成式人工智能成为欧盟立法谈判中的绊脚石

2. 路透社：路透社 11月18日 德国、法国和意大利就未来人工智能法规达成协议
   

3. 欧盟议会：2023年11月5日 AI法案：迈向首个人工智能规定的一步
   

4. 欧盟议会：2023年6月8日 欧盟AI法案：关于人工智能的首个法规
   

5. 路透社 欧洲具有里程碑意义的人工智能法规是什么？

——END——

点关注不迷路，加星标更好找

近期内容 ●●

往期系列内容

点击图片，查看更多

加入全球政经观察员

加微信“x-923604517”拉你入群

 

刘典

复旦大学中国研究院副研究员

主要研究领域为数字经济、数字货币、网络与数据治理，国际政治经济学等。

个人专著包括《非常法史》、《法眼看民国》、《政策沟通：国际合作引擎》；参与编著《“一带一路”大百科》《读懂“一带一路”》《破解中国经济十大难题》、《中国改革大趋势》等。

在《中国金融》、《文化纵横》、《人民论坛》等核心期刊发表十多篇研究论文，在《光明日报》、《经济日报》、《解放军报》、《北京日报》等数十家权威纸媒发表近百篇评论文章。