美国如何监管人工智能？

* “中美友好互信合作计划”是由复旦发展研究院和丰实集团共同打造的中美关系研究的学术平台

引言

近年来迅速崛起的人工智能领域已成为美国的政策布局焦点。2023年7月，拜登政府召集包括谷歌、微软、OpenAI等七家人工智能公司的代表，1公开宣布这些公司自愿承诺推动人工智能技术的安全、可靠和透明发展。当然，美国政府对人工智能的政策态度远不是作秀表态展现出的那样简单。增强人工智能的监管制度体系建设才是美国政府真正底牌。

图片来源：AP Photo

01

美国高度重视人工智能对国家安全的影响

美国不仅将人工智能视为互联网产生以来又一次主导全球技术革命浪潮的战略机遇，更将人工智能技术主动用于国家安全领域。美国国防部多年来为人工智能技术的提供巨额资金支持，各类投入从2016年的6亿多美元增加到2023年11亿美元，目前维持685个人工智能项目的运行。22017年以来，美国军方就将人工智能系统融入作战系统，并开始讨论使用人工智能来确保美国的未来作战能力。3

人工智能技术也成为美国国家安全规划体系的关键概念。2018年，美国国防部发布了《人工智能规划》并将发展目标确定为：为关键任务提供人工智能技术能力支持；加强与领军型私营技术公司、学界和全球盟友的合作；培育领军型人工智能人才梯队；在军事伦理和人工智能安全领域保持领导地位。4

2019年以来，美国国家情报部门颁布了一系列人工智能战略规划，包括《AIM倡议：使用机器增强情报战略》、《情报部门人工智能伦理原则》、《情报部门人工智能伦理框架》。5这些规划旨在增强美国情报部门使用人工智能的能力，为关键的立法、政策、文化、技术领域和结构性挑战提供最有效的情报分析和政策建议。

2023年，拜登政府签署了《人工智能的安全、安保和可信赖的开发与使用》总统行政令，6标志着美国将人工智能与国家安全建设更紧密地连接在一起。通过该行政令，拜登政府将统筹50多个联邦部门，落实100多项具体行动方案，从而推动人工智能的发展与美国的国家安全相协调。其中，拜登政府特别注重管控人工智能技术对生物安全、网络安全、国防安全、关键基础设施的风险；提升人工智能技术的研发能力，并将初创公司和小微企业作为新的创新主体；协调联邦部门对人工智能工具的应用场景、增强应用能力。更重要的是，拜登政府宣布美国应成为人工智能领域的全球领导者，要与盟友一道在建立人工智能的全球技术标准和监管体系中发挥主导作用。

图片来源：Getty Images

02

美国人工智能法案与执行体系

1

核心联邦法案

美国在联邦层面颁布了诸多涉及人工智能领域法案。其中，最具有影响力的是2020年出台的“国家人工智能倡议法案”（以下简称“倡议法案”）。7倡议法案的重要内容包括在法律层面确立一套美国人工智能倡议；建立美国国家人工智能倡议办公室，以此支持联邦的人工智能活动；在科学技术政策办公室下设一个跨部门委员会，以此协调倡议法案所支持的联邦项目与活动；建立国家人工智能咨询委员会。

倡议法案还对参与人工智能研发的美国国家科研基金与机构进行指导，涉及美国国家科学基金、国家标准与技术研究院、国家海洋与大气管理局、能源部。倡议法案提出了强制性条款，要求国家科学基金支持建设国家人工智能研究所网络。另外，要求美国科学、工程学和医学院就人工智能在当前及未来对美国各领域劳动力的影响展开全面研究。再者，要求建立工作组，对建立“国家人工智能研究资源”进行可行性研究和整体规划。

倡议法案还整合了2019年以来联邦立法中有关国防、国家安全、情报部门的各项人工智能相关条款。这些条款涉及人工智能开发和采购、人工智能数据存储、招聘与培养人工智能员工、落实国家安全委员会有关人工智能的各项建议。

2

其他联邦法案

美国以“国家人工智能倡议法案”为监管制度的主干。与此同时，美国在其他重要的联邦法律中也纳入了人工智能研发和使用的有关条款。

第一，2022年的“芯片与科学法案”包含了多项与人工智能相关的规定。8具体要求能源部、国家标准与技术研究院和国家科学基金支持人工智能和机器学习的研发活动，以及制定与安全可信人工智能系统相关的技术标准和指南。“芯片与科学法案”进一步要求国家科学基金：（1）评估建立人工智能奖学金计划，以招募和培训人工智能专业人员，支持联邦、州、地方和部落政府的人工智能工作；（2）研究美国高等教育机构的人工智能研究能力。

第二，2021年的“反人口贩卖法案”为美国国土安全部的反人口贩卖中心授权，并要求该部门制定规划和方案对涉及反人口贩卖的内部体系和程序进行改进。该法案提出利用人工智能和机器学习来增强工作能力，提升数据的可得性、可靠性、可比性、可验证性。9

第三，2020年的“生成对抗网络输出识别法案”要求美国国家自然基金和国家标准与技术研究院支持对“生成对抗网络”的研究，包括对操纵或合成内容以及信息真实性的研究，以及制定必要的测量和标准，以加速开发技术工具，以检验“生成对抗网络”的功能和输出。10

3

联邦执行机构

美国联邦职能部门也在积极参与人工智能的落地工作，目前主要涉及联邦总务署、管理与预算办公室、人事管理办公室。第一，总务署根据2020年的“人工智能进入政府法案”的要求，在内部设立“人工智能卓越中心”，以此促进人工智能技术在联邦政府的应用，并且收集和公开发行涉及联邦计划、试点项目、各类其他倡议的信息。11

第二，管理与预算办公室根据“人工智能进入政府法案”的要求，向联邦各机构发布备忘录，提出人工智能政策的相关建议；讨论如何消除人工智能技术使用障碍的方法；识别、评估和减轻使用人工智能可能产生的任何歧视性影响、偏见和任何不良后果的最佳做法。另外，管理与预算办公室还根据2022年的“推进美国人工智能法案”的要求，制定一套初步方法，确保涉及人工智能的采购合同符合隐私、公民权利和自由、政府数据和信息保护等规范；要求每个联邦机构（国防部除外）的负责人准备并维护当前和计划中的人工智能使用案例清单；领导一个试点计划，让四个新的人工智能应用案例可以落地，以支持跨机构或机构内的人工智能倡议。最后，管理与预算办公室要根据“人工智能训练法案”为行政机构的采购人员建设一套训练项目。12

第三，人事管理办公室根据“人工智能进入政府法案”的要求建立或改进一套岗位序列，以此纳入人工智能为主要职责的岗位，并估算每个机构与人工智能相关的现有和未来的联邦就业岗位数量。

03

如何评价美国人工智能监管体系的发展？

2023年11月初，全球人工智能安全峰会在英国布莱切利公园举行。美国与中国、英国和欧盟在内的超25个国家代表签署“布莱切利宣言”，同意通过国际合作，建立人工智能监管制度与方案。毫无疑问，美国对人工智能的监管实践将对各国产生深远影响。

图片来源：GOV.UK

根据目前的发展情况来看，美国的人工智能监管体系呈现出职能分散与法案“一事一议”的特点，这与欧盟所采取的综合性人工智能监管制度形成了鲜明的差别。2024年3月13日，欧盟议会审议通过了“人工智能法案”，13标志着欧盟为人工智能的监管体系奠定了关键的法律基石。根据“人工智能法案”，欧盟将建立专门机构监管人工智能及其相关的研发和应用，并进行风险分级管理。一方面禁止使用存在“不可接受风险”的人工智能系统，另一方面允许低风险和无风险的系统获得免费使用和推广的机会。欧盟还禁止在生物识别监视中使用人工智能，要求生成式人工智能系统对由人工智能生成的内容进行信息披露。

与欧盟形成重大对比的是，美国还没有对人工智能监管颁布一部综合性法典。当然，2022年的“算法问责法案”14要求联邦贸易委员会对某些组织对自动化决策系统（包括使用机器学习和人工智能的系统）进行影响评估，并加强关键决策过程。但是，美国这类“一事一议”的法案与欧盟的综合性立法已经形成不小的差异。美欧之间今后在人工智能监管的立法上无论是趋同还是分歧，都值得进一步观察。

除了与欧洲盟友的立法协调面临制度障碍，美国在人工智能监管上还将面临一系列重大问题。首先，美国需要在监管成本与经济收益之间谋求平衡，并进一步激发人工智能的创新与研发。另外，美国可能会建立一个独立且专门的人工智能监管机构，但是这又需要对分散在联邦各机构的人工智能监管职能进行剥离和整合。再者，联邦政府在人工智能研发中应当发挥主导作用，还是辅助作用？是否应将政府掌握的研发资源更广泛地公开给学者和创业公司来使用？最后，人工智能对劳动市场的影响、人工智能系统的公开透明、大模型可靠性的检验检测标准与流程、人工智能研发与社会责任的协调，这些问题都成为美国政策制定者在构建人工智能监管体系时必须面对的艰巨挑战。

作者：石烁

复旦发展研究院经济学博士后

复旦平安宏观研究中心兼职研究员

致谢

作者感谢复旦大学人文社会学科传世之作学术精品研究项目“构建经济发展的国家理论”（XM04221238）、复旦大学发展研究院2024年度“国家发展动力”项目、上海市“超级博士后”激励计划和复旦平安宏观经济研究中心对本研究的支持。

参考文献

1 参会的七家公司是亚马逊、Anthropic、谷歌、Inflection、Meta、微软和OpenAI。

2 Office of the Under Secretary of Defense (Comptroller)/Chief Financial Officer, Defense Budget Overview:

United States Department of Defense Fiscal Year 2023 Budget Request, April 2022, p. 4-7,

https://comptroller.defense.gov/Portals/45/Documents/defbudget/FY2023/ FY2023_Budget_Request_Overview_Book.pdf; and GAO, Artificial Intelligence: Status of Developing and Acquiring Capabilities for Weapon Systems, GAO-22-104965, February 2022, https://www.gao.gov/assets/gao-22-104765.pdf./

3 Department of Defense, Summary of the 2018 National Defense Strategy, p. 3, https://dod.defense.gov/Portals/1/ Documents/pubs/2018-National-Defense-Strategy-Summary.pdf; and Marcus Weisgerber, “The Pentagon’s New Algorithmic Warfare Cell Gets Its First Mission: Hunt ISIS,” Defense One, May 14, 2017, http://www.defenseone.com/ technology/2017/05/pentagons-new-algorithmic-warfare-cell-gets-its-first-mission-hunt-isis/137833/.

4 DOD, Summary of the 2018 Department of Defense Artificial Intelligence Strategy, 2018, https://media.defense.gov/ 2019/Feb/12/2002088963/-1/-1/1/SUMMARY-OF-DOD-AI-STRATEGY.PDF.

5 ODNI, The AIM Initiative: a Strategy for Augmenting Intelligence Using Machines , January 16, 2019, https://www.dni.gov/files/ODNI/documents/AIM-Strategy.pdf; ODNI, Principles of Artificial Intelligence Ethics for the Intelligence Community, https://www.intelligence.gov/principles-of-artificial-intelligence-ethics-for-theintelligence-community; and ODNI, Artificial Intelligence Ethics Framework for the Intelligence Community, June 2020, https://www.intelligence.gov/artificial-intelligence-ethics-framework-for-the-intelligence-community.

6 Executive Office of the President, “Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence,” 88 Federal Register 75191, November 1, 2023, https://www.federalregister.gov/documents/2023/11/01/2023-24283/ safe-secure-and-trustworthy-development-and-use-of-artificial-intelligence.

7 House - Science, Space, and Technology, “H.R.6216 - National Artificial Intelligence Initiative Act of 2020,” March 12, 2020, https://www.congress.gov/bill/116th-congress/house-bill/6216.

8 House - Appropriations and Senate – Appropriations. “H.R.4346 - Chips and Science Act,” August 9, 2022, https://www.congress.gov/bill/117th-congress/house-bill/4346.

9 Senate - Homeland Security and Governmental Affairs. “S.2991 - Countering Human Trafficking Act of 2021,” December 17, 2022, https://www.congress.gov/bill/117th-congress/senate-bill/2991.

10 Senate - Commerce, Science, and Transportation. “S.2904 - IOGAN Act,” December 23, 2020, https://www.congress.gov/bill/116th-congress/senate-bill/2904.

11 House - Oversight and Reform. “H.R.2575 - AI in Government Act of 2020,” September 15, 2020, https://www.congress.gov/bill/116th-congress/house-bill/2575.

12 Senate - Homeland Security and Governmental Affairs. “S.2551 - AI Training Act,” October 7, 2022, https://www.congress.gov/bill/117th-congress/senate-bill/2551.

13 European Commission. “AI Act,” March 13, 2024, https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai.

14 Senate - Commerce, Science, and Transportation. “S.3572 - Algorithmic Accountability Act of 2022,” February 3, 2022, https://www.congress.gov/bill/117th-congress/senate-bill/3572.

往期精选

本文版权归“中美友好互信合作计划”所有，如需转载请与本公众号联系并注明出处。

欢迎关注公众号！

微信编辑：那一佳

如有投稿，请直接发至[e-mail]或[e-mail]。一经录用将有稿费奉上。

“中美友好互信合作计划”是由复旦发展研究院和丰实集团共同打造的中美关系研究的学术平台，该平台通过课题研究和精英讲坛的联动运作方式，力求以最快的速度、最高的学术权威分析中美关系的热点问题。