联大首份人工智能决议出炉：技术监管的美国角色与全球未来

* “中美友好互信合作计划”是由复旦发展研究院和丰实集团共同打造的中美关系研究的学术平台

引言

3月28日，美国白宫管理与预算办公室（OMB）发布政策备忘录M-24-10，要求在各联邦机构内设立首席人工智能官（Cheif AI Officer, CAIO）职位，履行技术治理、创新监管和风险管控等职能，这一举措既是美国国内监管人工智能的动向，也是美国加速打造全球人工智能治理标杆的举措。正如副总统哈里斯对设立CAIO职位表示，此举有望发挥“美国国内政策的全球示范效应”。布鲁金斯学会也曾分析指出，美国国内人工智能治理事项将较大程度上影响国际人工智能治理的结果。

而美国国内人工智能治理的“全球雄心”，很大程度上来自联合国方面的进展。3月21日，联合国大会通过了由美国提出的人工智能监管决议，鼓励各国在人工智能发展过程中保障人权、保护个人数据隐私并管控风险。对于联合国首份人工智能决议，绝大多数成员国在进行磋商谈判后最终表示了支持，但决议背后以美国为主导的意志不容忽视。随着国内与全球的双重技术治理行动，美国能否塑造人工智能治理的全球领导力？而将AI监管纳入联合国事项又是否可行？

联合国大会就人工智能决议进行磋商。

图源：Getty Images

01

联大决议与治理“三原则”

决议提出了“安全、可靠和值得信赖”的国际人工智能治理标准，聚焦数字权利与普遍人权的一致性、减少数字鸿沟和可持续发展这三个方面。对于“安全、可靠和值得信赖”三原则，决议如此定义和解释：“必须以人为本、可靠、可解释、符合道德、具有包容性，充分尊重、促进和保护人权和国际法，保护隐私、面向可持续发展和负责任”，且限定对象为“非军用的人工智能系统”，由此也能窥见人工智能治理的全球规范共识。

其中，对于人工智能领域的“人权保护”的强调是这份联大决议的亮点之一。决议提出，在人工智能发展的整个生命周期内应当“尊重、保护和增进人权和基本自由”，不去使用“对人权构成过度风险”的人工智能系统，并要求现实生活存在的合法人权也应当在线上受到同等保护。分析人士指出，将“确保人工智能系统遵守人权”的内容纳入决议，这表明人工智能的某些用途“与人权不相容”且“不能被允许”，而这一规定达成了全球共识，实属难得。

强化对发展中国家在人工智能领域的支持也是决议重点内容。一方面，为减少国际和各国内部的“数字鸿沟”，决议促请成员国与发展中国家开展合作并向其提供援助，以实现“包容和公平地”获得数字化转型的人工智能系统所带来的惠益。另一方面，决议也侧重于缩小富裕国家和贫穷国家之间的差距。呼吁联合国成员国“紧急”与发展中国家就技术转让、技术援助和融资等问题进行沟通，但并不包括技术的军事用途。根据决议的思路，构建全球人工智能治理的伙伴关系，并以此增强数字基础设施的连通性，助力发展中国家推动数字转型，最终指向的结果仍然是“安全、可靠和可信赖”的“三原则”的全球推广与落地。

决议对于鸿沟弥补与技术援助的强调，客观上也是将人工智能治理与可持续发展目标进行对接，为人工智能治理提供了价值导向。此外，决议还将现有的联合国发展议程融入人工智能框架，例如提出关注平台语言多样性，消除性别数字鸿沟，关注技术获致性和可负担性、提高公民数字素养、保护个人隐私和在线安全。

而决议的形成过程也是理解决议强调“全球行动”的视角。为争取国际社会的广泛理解和支持，这份由美国动议提出的决议经历了较长的协商和谈判过程，并最终以“协商一致”的方式通过。谈判过程可分为三个阶段。2023年12月，美国启动决议谈判，与各国进行了数百小时的双边对话，并接受了 120 个国家的意见，且经过了数次修改。在决议初次提交审议（3月11日）后，美国与54个共同提案国发表联合声明，其中大多数是美国的传统盟友，巩固了决议在美国盟友和发达国家内部的支持度。紧接着，美国便试图争取中国、俄罗斯和古巴等国家对决议的支持。据美国官员透露，美国与中俄等国的官员进行了“很多激烈谈话”，并“的确接受了大多数的修改建议”。最后，联大并没有对该决议进行唱名投票，而是以“协商一致”的方式通过，彰显了较强的全球性技术治理共识。

02

协议中的美人工智能治理领导者叙事

拜登上任以来，美国参与全球治理的首要任务是恢复其在联合国乃至世界舞台的领导地位。加之在人工智能治理规则层面，美国正落后于欧盟——后者在3月13日正式将欧盟《人工智能法案》通过欧洲议会表决，这让美国急于恢复人工智能治理的领导能力，匹配其在全球人工智能技术的领导者地位。因此，本次美国对联合国大会决议的制定与宣传也内嵌了领导者叙事。

1

叙事建构：协议的“价值观”与“普适性”

美官员以“人权”和“自由”价值观为核心搭建起人工智能决议的领导叙事架构，在此基础上宣传共同行动，凸显领导者角色的合理性。纵观美官员表态，无不强调人工智能治理的价值观共识，这与美国建构全球领导者逻辑的叙事是统一的，即在价值观引领下，人工智能的协同治理也应由美国领导。美国驻联合国代表格林菲尔德（Thomas-Greenfield）介绍决议草案时，强调人工智能治理应通过“人性、尊严、安全”来创建和部署，并高呼“联合国大会193 个成员国正齐心协力，选择治理人工智能，而不是让人工智能统治我们。”

美国驻联合国代表格林菲尔德在介绍决议。

图源：美国驻联合国代表团官网

美国国务卿布林肯强调决议共识在于尊重“人权和基本自由”，同时实现可持续发展，“让两者兼容”。美国国家安全顾问沙利文更将“人权和基本自由”上升到“开发和利用人工智能的核心”。美国国防部的表态强调以美国为核心的人工智能多边治理增进了共同利益，通过建立国际框架、设立发展基金和投入援助等方式达成全球人工智能治理的共识。

美媒从舆论角度切入，强调以美国领导下的决议广受多国和各界支持，凸显领导者角色的受众基础。美联社表示决议具有国家间的普适性，有利于弥补数字鸿沟，还声称大型科技公司“普遍支持人工智能监管的必要性”。美联社还抓住决议生成机制特点，直指联合国大会决议的意义不在于法律约束力，而在于“世界舆论的晴雨表”，侧面表示美国的人工智能领导角色是“众望所归”。路透社也强调了协议谈判过程的阻力与美国代表与其他国家代表进行的“激烈的谈话”。

智库媒体从外交和地缘政治的角度分析，认为美国在弥合各国利益分歧方面具有领导角色水平。《外交政策》杂志认为“非民主国家”在人工智能方面寻求塑造体现其世界观和优先事项的治理架构，这让全球人工智能治理陷入“外交斗争”，然而美国领导的技术治理规则却“超越了地缘政治分歧”。

2

叙事焦虑：美欧人工智能治理主导权竞争

由美国代表动议并主导的联大决议无疑彰显了美国争夺全球人工智能治理领导力的雄心，尤其是欧盟在人工智能治理的领先地位正让美国倍感压力。

自2018年以来，欧盟先后出台《欧洲人工智能战略》《人工智能协调计划》，初步勾勒出欧盟人工智能的发展战略框架。2020年，欧委会发布了《人工智能白皮书》和《欧洲数据战略》两份文件试图“塑造欧洲数字未来战略”。基于一揽子战略规划和部署，2021年4月欧盟开始酝酿《人工智能法案》（Artificial Intelligence Act），将人工智能治理诉诸法律层面，大有引领全球人工智能治理之势。

2022年6月，欧洲议会通过了对《人工智能法案》提案的谈判授权草案。2023年12月8日，欧委会、欧洲议会和欧盟成员国就该法案达成“历史性”协议。今年3月13日的欧洲议会上，523张赞成票让《人工智能法案》正式被表决通过。尽管过程曲折，但欧盟在人工智能治理规则的落地上，显然已经领先于美国。

《人工智能法案》以欧盟的人权、民主、自由和法治等传统欧式价值观为逻辑底色。考虑到欧盟过往对关于数字主权的诉求和实践，以及在人工智能国际治理领域的各种表现，有分析人士指出，“欧式模板”会作为一种突出的治理方案，在人工智能国际治理生态中成为重要的规则参照系，进而对其他国家AI政策法规的价值选择和监管执法的方式方法产生显著的溢出效应”，并通过各种国际协定、经贸协议持续在全球扩大其影响版图。

相比之下，美国尚未对人工智能监管颁布一部综合性法案，也因此可能在全球治理层面落后。对此，业界专家和媒体都为欧盟在人工智能治理立法步伐之快与可能的治理效应外溢而对美国感到担忧。欧盟《人工智能法案》正式通过后，《福布斯》便发文称美国也需要颁布类似法规，并认为拜登与2023年10月颁布的行政令“监管程度远不及欧盟”。《华盛顿邮报》表达了对美国落后的担忧，彭博社更是直言在美国没有任何立法的情况下，欧盟具有“里程碑意义”的立法可能会为“西方世界如何治理人工智能定下基调”。

美欧双方也曾试图在人工智能治理上对齐，但仍存在诸多分歧。在监管模式上，美国侧重技术应用和流程监管，而欧盟侧重组织管理与风险管理。清华大学战略与安全研究中心指出，欧盟人工智能监管框架延续《通用数据保护条例》的立法初衷，更强调个人权利保护和人工智能应用的负面影响，而美国更强调促进人工智能创新与发展，因而为人工智能应用创设“安全港”、监管例外和监管豁免等制度。除了监管程度强弱之辩，美欧双方在对华AI合作也难有共识。在2024年慕尼黑安全会议上，欧方嘉宾恩智浦半导体公司首席执行官西弗斯（Kurt Siever）认为，在民用技术上可以与中国加强人工智能合作，而美方嘉宾帕兰提尔技术公司首席执行官卡普（Alex Karp）则认为不应与中国在人工智能上有任何合作。

帕兰提尔技术公司首席执行官卡普在2024慕安会上。

图源：慕尼黑安全会议官网

可见，对于美国而言，与其存在人工智能治理模式差异的欧盟走在了全球治理规则制定的前列，这让本就重视塑造全球治理领导力的拜登政府更加关注美国在人工智能监管的世界地位，而此次联大决议的通过也总算是“扳回一城”。随着美国国内逐渐搭建人工智能治理架构与部署行政系统人员力量，国内国外的联动治理有望让美国在全球人工智能治理上取得与其技术水平相称的地位。

03

人工智能监管应以联合国为主吗？

1

“机构网络”下的联合国角色

联合国首份就人工智能监管达成的决议通过，固然是全球技术治理的一大进程，但同时也引发了思考：针对人工智能大模型引发的治理难题，新的全球人工智能治理图景将如何展开？更重要的是联合国在其中的角色为何？联合国高级别人工智能咨询机构（AI Advisory Body）发布的报告提出了“一个机构或机构网络”的七个治理功能层次，主张从专家主导的科学共识开始，到全球规范的制定、合规和问责。 该机构指出，全球人工治理方法应该是“敏捷的、网络化的、灵活的”，并且最大限度地利用已经在进行的倡议。

“机构网络”的治理方案因应了AI国际治理机构不计其数，分散而交错的现实。从 2016 年开始，AI治理已经成为各国国内和国际政策议程的关键内容。迄今为止，各国AI监管政策采取了不同的形式，有些国家以立法为主，其他国家主要依靠自愿框架。基于国家治理经验，部分国际组织尝试推广一系列国际倡议：其中最活跃的行为方包括有号称“发达经济体俱乐部”的经济合作与发展组织（OECD）、有29个成员国和一个专家网络的“全球人工智能伙伴关系”（GPAI）、 联合国教科文组织（UNESCO）和国际电信联盟（ITO）。一些国际标准制定机构也参与到治理进程中，如国际标准化组织/国际电工委员会（ISO/IEC） 和电气工程师协会（IEEE）。

英美欧在AI全球治理方面动作频繁。2023 年，美国-欧盟关于行为准则的工作被引入到七大工业国组织（G7）。2023年11月，英国召开了一个28 个国家参与的 AI 安全峰会，产生了一份聚焦于“前沿 AI 安全的风险、机会和国际合作前进过程”的“布莱切利宣言”（Bletchley Declaration），以及设定了一系列关于 AI 安全的未来会议安排。

联合国在人工智能治理网络中的作用至关重要。AI 合作论坛（FCAI）的研究人员指出，联合国将人工智能治理进程与17个可持续发展目标对接，为治理提供价值框架。皇家协会（The Royal Society）的报告进一步提出，联合国在AI治理中应提供以下几大功能：

1. 定期评估人工智能的未来方向和影响。

2. 开发和协调标准、安全以及风险管理框架。

3. 促进国际合作，包括人才发展、计算资源获取、构建多样化的高质量数据集、负责任地共享开源模型，以及为可持续发展目标（SDGs）提供 AI 支持的公共产品。

4. 监控风险、报告事件并协调紧急响应。

2

局限尚存：风险定义与妥协成果

然而，联合国在AI技术监管治理的机制局限也同样明显。联合国秘书长古特雷斯等人提倡，未来应以国际原子能机构（IAEA）为范本建立统一的联合国先进人工智能治理组织（即下表的“模式二”）。这一模型的支持者倾向于认为，随着进一步发展，先进的人工智能系统将带来存在性风险，类似与核扩散对人类生存的威胁。基于这种类比，支持者强调需要一个全球人工智能机构来解决人工智能安全风险，这与国际组织在监控和规范国际使用原子能及防止核扩散方面的作用相类似。

全球人工智能治理机构类型的四种可能。

来源：《耶鲁国际事务期刊》

《耶鲁国际事务期刊》（YJIA）指出这种治理模式的假设缺陷。一个基本的区别源于这AI与核技术主要的物理和数字性质，以及核专业知识的高度保密性。与人工智能不同，核能发展基于固有的物理性，依赖于高度复杂的核反应堆和裂变材料来产生原子能。使用核能还常常需要高度保密的核科学和工程知识，以及来自核国家政府的职业特权或高级别许可。相比之下，虽然先进的人工智能系统确实需要先进的物理计算基础设施，但限制性输入因素通常是数字的，更容易获取：高质量数据集、训练模型和算法的可用性，以及对人工智能知识和专业知识的获取相对较少受到规管和限制。这些输入因素的更广泛可用性，导致人工智能领域的进入门槛显著低于核技术。

人工智能安全风险难以定义的特点也将阻遏联合国统一监管组织的形成。尽管各国政府的全球治理理念可能有所不同，但他们都倾向于认为核扩散总体上有害于国际安全。相比之下，长期存在的人工智能风险仍是学术和政策界激烈争论的主题。由此导致的科学共识的缺乏，意味着任何国际组织在识别、商定和优先考虑长期人工智能风险，以及制定解决这些风险的机制方面都异常艰难。因此，有学者认为，AI监管从根本上来说比核治理更加多元化，需要采取更加差异化、细致入微的方法。

聚焦到此次协议，“协商一致”的文本内容容纳了绝大多数国家的共识，这意味着少有触及关键议题和敏感问题，在一些重要事项上也有所妥协，并增加协议的全球实践力打折的可能性。数字版权组织Access Now的政策分析师罗伊费尔（Daniel Leufer）表示，达成广泛共识也会削弱该决议可能产生的影响，特别是在联合国进程中缺乏内置的执行机制的情况下。“协商一致”通过的决议实际上意味着各国都对技术治理降到了“最低的可接受标准”。 “如果我们将自己限制在能让每个州都同意的范围内，我们就不会走得太远。”

参考文献

Cameron F. Kerry, Joshua P. Meltzer, Andrea Renda, and Andrew W. Wyckoff. 2024. “Should the UN

Govern Global AI?” Brookings. February 26, 2024.

https://www.brookings.edu/articles/should-the-un-govern-global-ai/.

The United Nations AI Advisory Body. 2023. “Interim Report: Governing AI for Humanity.” https://www.un.org/sites/un2.un.org/files/ai_advisory_body_interim_report.pdf.

The Royal Society. 2024. “The United Nations’ Role in International AI Governance.”

https://royalsociety.org/-/media/policy/publications/2024/un-role-in-international-ai-governance.pdf.

Nabil , Ryan. 2024. “Global AI Governance and the United Nations.” Yale Journal of International Affairs.

February 2, 2024.

 https://www.yalejournal.org/publications/global-ai-governance-and-the-united-nations.

Raluca Csernatoni.2024.“Charting the Geopolitics and European Governance of AI.” Carnegie

Europe.March 6, 2024.

https://carnegieeurope.eu/2024/03/06/charting-geopolitics-and-european-governance-of-artificial-intelligence-pub-91876.

Jillian Deutsch.2024. “World’s Most Extensive AI Rules Approved in EU Despite Criticism.” Bloomberg. March 13,2024.

https://www.bloomberg.com/news/articles/2024-03-13/eu-embraces-new-ai-rules-despite-doubts-it-got-the-right-balance.

Megan Poinski. 2024. “AI Regulations Passed In Europe, But Also Need To Be Enacted In The US.” March 14,2024.

https://www.forbes.com/sites/cio/2024/03/14/ai-regulations-passed-in-europe-but-also-need-to-be-enacted-in-the-us/?sh=62a284043e38

Rishi Lyengar.2024. “The U.N. Gets the World to Agree on AI Safety.” Foreign Policy. March 21,2024.

https://foreignpolicy.com/2024/03/21/un-ai-regulation-vote-resolution-artifical-intelligence-human-rights/

Alexandra Alper.2024. “UN adopts first global artificial intelligence resolution” Reuters. March 22, 2024.

https://www.reuters.com/technology/cybersecurity/un-adopts-first-global-artificial-intelligence-resolution-2024-03-21/

往期精选

本文版权归“中美友好互信合作计划”所有，如需转载请与本公众号联系并注明出处。

欢迎关注公众号！

微信编辑：那一佳

如有投稿，请直接发至[e-mail]或[e-mail]。一经录用将有稿费奉上。

“中美友好互信合作计划”是由复旦发展研究院和丰实集团共同打造的中美关系研究的学术平台，该平台通过课题研究和精英讲坛的联动运作方式，力求以最快的速度、最高的学术权威分析中美关系的热点问题。