2024 年大选对人工智能治理的未来意味着什么？

本文为精选翻译，原文标题为What does the 2024 election mean for the future of AI governance? 2024.7.25, Brookings.edu

作为有史以来最具变革性的技术之一，人工智能 (AI) 可能会重塑社会的几乎每个方面。虽然我们远未看到人工智能的全部能力，但现在建立的护栏将影响这项技术如何塑造工作和生产力、民主、战争与和平以及未来的更多事物。

两届政府都试图解决这些问题，每届政府都有不同的兴趣和风格，但在目标和政策上却有一些令人惊讶的重叠。下一任总统将面临重大决策，即如何管理日益强大和颠覆性的人工智能系统，以及如何优先考虑与安全、创新、竞争和风险相关的挑战。如果过去只是序幕，那么拜登和特朗普政府的行动为未来的道路规则可能如何制定提供了一些线索。

2024 年 5 月 15 日，美国参议院多数党领袖查克·舒默 (D-NY) 在美国华盛顿国会山举行的两党新闻发布会上就制定美国参议院人工智能政策发表讲话。

01

特朗普政府的做法

尽管人工智能在特朗普执政期间尚未引起公众关注，但其对人工智能治理的政策通常侧重于人工智能系统的推广、开发和采用。四年内，政府发布了两项重大行政命令。第一项是建立美国人工智能计划，后来被编入法律。它提出了五项指导原则，包括培训美国工人、培养公众信任和保护公民自由以及参与国际事务。

第二项概述了政府使用人工智能的原则，指示管理和预算办公室制定实施这些原则的指导方针，要求各机构公布其人工智能使用案例清单，并在总统创新研究员计划中增加了人工智能轨道。尽管当时采取了微妙的方法，但一些人批评特朗普政府对风险缓解的关注有限。

国际上，特朗普政府的经济战略寻求阻止对手中国获取先进技术，出口管制成为美国对华政策的核心特征。2019年，特朗普政府的商务部将华为及其关联公司列入实体名单，限制未经商务部工业和安全局许可销售商品和服务。2020年，BIS还将中国领先的国有半导体代工厂中芯国际列入名单，并裁定不再批准用于10纳米及以下节点芯片（用于先进的人工智能系统）制造设备的出口许可，以对抗中国的军事现代化努力。

特朗普政府还参与了围绕人工智能规范制定的国际论坛。它支持通过经济合作与发展组织 2019 年人工智能原则，于 2020 年成为全球人工智能伙伴关系的创始成员，并加入联合国某些常规武器会议政府专家组，一致通过了一套关于使用致命自主武器的 11 项指导原则。

02

拜登政府的做法

除了推动人工智能的发展和应用外，拜登政府的人工智能政策方针更加重视风险和危害减轻。其首批主要管理文件之一是《人工智能权利法案蓝图》，这是一套价值观，于 2022 年 10 月发布，虽然不具有法律约束力，但旨在帮助指导安全和负责任的人工智能的发展。

一个月后，ChatGPT 的病毒式发布代表了华盛顿更广泛对话的范式转变。自第 115 届国会成立以来，提出的与 AI 治理和使用相关的 298 项法案中，有 183 项是在 ChatGPT 发布后提出的（图 1）。尽管提出了大量提案，并在参议院召开了一系列九次专家AI 洞察论坛（以及随后的路线图），但国会迄今未能通过全面的 AI 立法。相反，白宫指导了 AI 治理工作，涉及广泛的行政权力。因此，如果 2025 年过渡到第二届特朗普政府，AI 政策特别容易发生变化。

2023 年 7 月，拜登政府与多家领先的开发商制定了一系列关于安全性、保障和可信度的《自愿人工智能承诺》 。虽然这些承诺不具有法律约束力，但大多数前沿模型开发商都已签署并加入了行业协会，以指导其实施。拜登政府人工智能政策的核心是其 2023 年 10 月的行政命令，该命令援引《国防生产法》，要求先进人工智能系统的开发商与美国政府分享安全测试结果，对云服务提供商实施了解客户要求，并为联邦机构在人工智能安全性、保障和隐私方面制定标准。政府还发布了管理和预算办公室的一份备忘录，其中为联邦机构制定了有关人工智能治理、创新和风险缓解的具有约束力的指导方针。

除国内政策外，拜登政府还在双边和多边论坛上参与了人工智能治理对话，包括通过美国和欧盟贸易和技术理事会就安全透明的人工智能系统开展合作，实施七国集团的广岛进程，以充分利用人工智能的优势并防范潜在危害，以及美国人工智能安全研究所与类似组织的国际网络在安全和评估标准方面开展合作。美国签署了与其他国家在人工智能安全方面合作的意向声明，承诺欧盟人工智能办公室和美国人工智能安全研究所之间将继续进行对话，并与英国人工智能安全研究所签署了合作协议，后者最近宣布将在旧金山开设分支机构。美国还与合作伙伴就军事人工智能发表了政治宣言，并继续参与联合国某些常规武器会议政府专家组的工作。

或许最值得注意的是，拜登政府重启了与中国在关键“技术和政策”问题上的双边对话，双方讨论了各自在人工智能安全和风险管理方面的做法。尽管进行了对话，但政府不仅扩大了特朗普在某些领域的关税，还监督了对先进半导体和制造设备的“重大转变”，实施了更严格的出口管制。政府还发布了一项行政命令，要求对关键新兴技术行业的对外投资进行审查。

03

期待

在整个拜登政府期间，民主党总统候选人、副总统卡马拉·哈里斯 (Kamala Harris) 一直在人工智能政策制定中发挥主导作用。她率领美国代表团前往英国参加全球人工智能安全峰会，并促进与主要人工智能开发商首席执行官的对话，等等。如果国会不采取行动，哈里斯政府将继续局限于现有的行政权力。它还可能保留上一届政府的许多政策，以拜登行政命令 (EO) 为指导文件，并继续关注风险缓解和负责任的开发与投资。

相比之下，特朗普已誓言要“上任第一天”撤销拜登的行政令，共和党政纲也将废除该行政令，代之以支持“植根于言论自由和人类繁荣的人工智能发展”的规定。这与保守派研究人员、评论员和政策制定者的强烈反对相一致，他们抨击该行政令滥用《国防生产法》，将通过不必要的监管扼杀创新。撤销该行政令的最显著影响将是终结前沿模型开发商和云服务提供商的报告制度。

对于开发或提供最强大、潜在最危险的人工智能系统资源的公司来说，这些要求是唯一具有法律约束力的透明机制之一，取消这些要求将对前沿人工智能护栏运动造成巨大打击。

尽管拜登政府在新兴技术和出口管制问题上与中国存在公开对抗，但两国仍在共同关心的关键领域展开对话，这体现在两国在气候和人工智能方面的双边交流、推动讨论降低核风险，以及与中国一起参加英国人工智能安全峰会并签署《布莱切利宣言》。在哈里斯可能担任总统的领导下，这些努力可能会继续下去。

特朗普政府监督了与北京的外交关系发生重大转变，特朗普明确表示他仍然坚决反对中国，而美国传统基金会的评论员则认为，与中国在人工智能领域合作会增强对手的力量，从而损害美国的技术领先地位。鉴于这种批评以及美国保守派对中国的更广泛言论，很难想象一轨外交关系会持续不间断。更难想象美国和中国在管理先进人工智能系统方面达成共同规则和原则，而这些领域显然存在避免意外升级的共同利益。

抑制中国科技产业和确保美国在强大人工智能系统开发方面的领导地位的双重目标揭示了特朗普更广泛的科技议程中的明显矛盾：对中国的敌意、在 TikTok 上投机取巧的政策转变、对大型科技公司审查制度的蔑视以及与硅谷部分地区的密切关系。当今许多前沿人工智能模型的领先开发商正是特朗普认为冤枉他的公司，保守派议员批评这些公司在数字市场上施加了太多权力并压制保守派言论。削弱这些公司可能会损害美国引导前沿模型开发的能力。特朗普政府如何协调这些相互竞争的优先事项仍不得而知，不过一些科技领袖押注这将对他们有利。

然而，在几个领域，我们反而可能会期待延续。对先进半导体制造设备的出口管制始于特朗普政府时期，并在拜登政府时期加速。有迹象表明，哈里斯可能会在新政府中继续采取这种有针对性的做法；然而，她过去一直批评特朗普的关税。特朗普曾表示，他将对中国商品征收超过 60% 的关税，特朗普第二届政府可能会对与中国的贸易采取更为激进的姿态。因此，这种限制可能会继续或收紧。重要的是，半导体出口管制制度的实施在一定程度上取决于盟友的遵守情况——尤其是荷兰和日本。在更具交易性的“美国优先”外交政策下，特朗普政府可能难以维持控制半导体供应链关键瓶颈的关键合作伙伴的支持。这可能会使阻止中国在人工智能和军事方面的进步变得更加困难。

如果特朗普赢得第二任期，我们也可能会继续关注人工智能安全的极端危害（例如生物技术），而较少关注人工智能对公民权利的影响。拜登政府人工智能政策的一个重点是该技术对工人、边缘化社区和其他特别容易受到变革性技术破坏的群体的影响。在布莱切利峰会前的讲话中，哈里斯拒绝了对生存风险的狭隘关注，并指出对个人权利和福祉的损害“也会让受影响的人感到生存”。鉴于第一届特朗普政府和共和党普遍强烈的放松管制倾向，再加上特朗普对多样性、公平、包容和“觉醒”等理念的敌意，这些挑战可能会在特朗普第二届政府的人工智能政策中被降低优先级。

人们似乎普遍认为人工智能安全以及前沿人工智能系统可能带来的灾难性风险是重要的政策问题。特朗普本人曾称人工智能是一种“非常令人不安”的“超级大国”，甚至拜登行政命令的反对者也认识到了护栏的必要性。尽管共和党领导人普遍反对拜登政府的行政权力过大，但早先的自愿承诺可能是特朗普第二届放松监管政府可能青睐的一种非约束性、自治措施。

---

Reference：https://www.brookings.edu/articles/what-does-the-2024-election-mean-for-the-future-of-ai-governance/

科睿研究院最早成立于中国香港特别行政区，是国际科学与人文科学院（International Core Academy of Sciences and Humanities）建设的综合性研究机构，致力于搭建学术界与社会间高效沟通的桥梁，将前沿的学术研究成果赋能至新时代社会发展。

作为科睿研究院主办的官方号，我们致力于打造高质量知识交流平台：持续推出与当代社会相关的洞察分析与时事评论，定期发布高质量专栏文章与交流活动，并推送有价值的学术资源和最新资讯。同时，学院积极欢迎读者们的踊跃来稿，参与我们的知识传递之旅中！

往期推荐

1

2

3

4