中美人工智能政府间首次对话，最前沿的合作效果如何？

* “中美友好互信合作计划”是由复旦发展研究院和丰实集团共同打造的中美关系研究的学术平台

引言

据中国外交部美大司15日消息，当地时间5月14日，中美人工智能（AI）政府间对话首次会议在瑞士日内瓦举行。双方围绕AI科技风险、全球治理、各自关切的其他问题深入、专业、建设性地交换了意见。专家表示，在AI安全议题上进行沟通交流和合作是确保双方AI发展安全可靠的必要保障，更是中美双方作为AI发展与治理的国际重要力量需要为全球做出的共同努力。

在地缘政治博弈持续深化的大背景下，人工智能治理是中美间值得合作、需要合作，也必须合作的前沿领域。然而，中美人工智能合作从来不是单纯的技术问题，而是双边关系、全球竞争和复杂互动中的一环。首次中美人工智能政府间对话成果如何？双方都讨论了哪些具体议题？又为未来全球人工智能治理的格局提供了哪些启示？

5月14日，中美人工智能政府间首次对话在瑞士日内瓦举行

图源：央视新闻

01

具体议题：

交流与交锋并存

在总体氛围上，此次人工智能官方对话较好地承继了2023年11月中美两国元首所达成的“旧金山共识”，展现出中美关系向上向好的积极面。会上，双方介绍了各自对AI技术风险的看法和治理举措，以及推动人工智能赋能经济社会发展采取的措施。

据通稿称，双方均认识到，人工智能技术发展机遇与风险并存，并重申继续致力于落实“旧金山共识”。会后，中美双方都对此次对话作出了积极的评价，中方评价双方对话“讨论深入、专业与建设性”，美方则称此次对话“坦诚且建设性”（Candid and Constructive）。

美方确认，需要在人工智能风险和安全问题上保持沟通渠道的开放，因为这是“负责任地管理竞争”的重要一环。中方也称“重申继续致力于落实两国元首在旧金山达成的重要共识”，这表明第二次中美人工智能政府间对话指日可待。

但在具体议题上，梳理会后中美双方的官方通稿，不难看出双方关注重点并不统一，口径有所不同。首先从团队构成上，便能看出中美双方看待人工智能对话的视角有所不同。中国代表团这次牵头的是外交部北美大洋洲司，而不是部内主责人工智能国际治理谈判的部门。专业技术团队如科技部、发改委、网信办、工信部及中央外办都是派人参团，显示出以处理中美关系为要的总体态度，即中方更重视与美方就具体议题交流与合作，议题可以是人工智能，也可以是气候变化、毒品治理等。

美方代表团则是白宫国安会和国务院双牵头，团队专家几乎已是政界当中技术与国安领域最高级别的专业官员，由总统特使兼技术与国安高级主任查布拉（Tarun Chhabra）和国务院关键与新兴技术代理特使森特（Seth Center）带队，显示出美国倾向于将本次对话视为技术交流与交锋，聚焦人工智能的安全风险和治理。

美方代表团由查布拉（左）和森特（右）领衔

图源：东方日报

在风险管控上，相较于人工智能的“一般安全风险”（如伦理、虚假信息、版权、数据隐私侵犯等），美方技术团队更关注中国是否同样关心AI大模型的“存在性风险”（Existential Risks，即AI可能被用于控制和制造核武器、化学和生物武器给人类带来的毁灭性风险），是否愿意和美国采取同样的标准进行监管，预防风险生成与扩散。有分析称，美国企业可能更关心中美双方是否在预防AI“存在性风险”方面达成共识，并采取相似的治理模式。在美国技术企业看来，如果中国放任“存在性风险”而美国加强监管，美国企业的国际竞争力将受到冲击。

在治理模式与治理目标上，双方有共识亦有分歧。中方坚持《全球人工智能治理倡议》的核心主张，强调要发挥联合国主渠道作用。外交部美大司司长杨涛表示，中国愿意与国际社会加强沟通协调，形成具有广泛共识的全球人工智能治理框架和标准规范。可见中方关切在于治理平台与治理规则的全球性与普适性，人工智能治理机制不应是由美国及其盟友主导，具有选择性和排外性的小多边圈子。

对此，美方并未正面回应是否支持在联合国框架下进行人工智能全球治理，在通稿中也并未出现美国惯常针对全球治理议题所使用的“规则”“规范”这类较为硬性的词语，只是承认构建“全球共识”是重要的。美联社分析称，中国倡导以联合国治理为主导的模式“可能会使美国边缘化”。

也有美方专家质疑，中国对以联合国为中心的人工智能治理的倡导，是否意味着不参与和不支持联合国以外的多边治理机制？对此，中方重申联合国的普遍性和广泛代表性，并表示依然倾向于在联合国框架下进行人工智能全球治理，尤其是考虑到广大的发展中国家的话语权问题。

治理目标之差异，从双方对人工智能治理愿景的描绘上也能略知一二。中方希望通过合作治理确保人工智能技术“有益、安全、公平”，而美方则强调人工智能系统的“安全、可靠、值得信赖”，这与美国主导的联大决议措辞一致。可见双方都高度重视技术安全，尽管对安全的定义与范围认识有所差异。

双方会谈后，美国国安委发言人沃森（Adrienne Watson）发表美方会谈声明

图源：白宫官网

在合作治理上，中方在会上就美方近期在AI领域对华限制打压表明严正立场，并表明这无助于推动全球治理进程。5月9日晚，在两党议员的推动下美国国会公布一项法案，允许拜登政府更容易颁布人工智能模型出口管制的政令，以保护美国高尖端AI技术免受特定国家的“不良窃取”，直指中国、俄罗斯、朝鲜和伊朗等国。

据悉，若该法案生效，将消除《国际紧急经济权力法》（International Emergency Economic Powers Act）中规定的开源人工智能出口监管障碍。该法案还赋权商务部查禁美国企业与外国人合作开发人工智能系统，以避免对美国国家安全构成风险。而美官员在正式会谈前，亦承认“不会放松”针对中国的AI技术出口管制措施。可见，中美双方之间的竞争与美国发起的技术打压，将始终阻碍着双方合作治理的进程推进。

02

会议背后：

治理脉络与全球挑战

1

对话的前期铺垫

本轮中美首次人工智能官方对话，无疑得益于两国元首达成的“旧金山共识”，以及后续一系列具体落实。2023年11月15日，中美元首在美国旧金山斐洛里庄园会晤，双方达成建立中美人工智能政府间对话机制的共识。2024年1月27日，为落实两国元首旧金山会晤共识，王毅外长在曼谷同美国国家安全事务助理沙利文会晤，双方同意在今年举行中美人工智能政府间对话机制首次会议。4月27日，王毅外长在北京与美国国务卿布林肯举行会谈，双方达成五点共识，包括举行中美人工智能政府间对话首次会议以及进一步推进人工智能领域合作。

中国外长王毅与美国国务卿布林肯在北京会谈

图源：路透社

此外，中美双方在过往的科技对话中也积累了一定的经验，既帮助缓解了中美两国的负面紧张关系，也帮助铺垫此次交流。例如，近期联大首份人工智能决议的通过、《布莱切利AI宣言》的发表以及布鲁金斯学会和清华大学的二轨对话。然而，双边对于人工智能领域的专项对话仍有必要，双方需在已有基础上进一步探索合作和沟通的途径。

对此本轮首次对话，双方并未对具体成果的达成寄予高期望，但都珍惜此次难得的专项AI技术交流。一位美国官员表示，尽管中美双方在很多AI议题和应用上的看法不一致，但“我们相信，双方就关键的AI风险问题进行沟通，可以使世界更加安全。” Casaba Security联合创始人格拉斯伯格（Jason Glassberg）评论道，此次会议只是中美双方“互相了解对方”的对话，可能不会产生什么具体成果，但可以促进双方交流。

2

对话背后的全球技术挑战

人工智能带来的全球挑战，既有技术本身特性所引发的安全风险隐患，也有中美两个大国之间的治理困境。对于AI技术风险，关乎技术伦理等“一般安全风险”与国家的产业利益联系更为紧密，但由于中美两国立法进程差异较大，两国企业的做法不同，且治理措施的实际执行高度依赖企业和私营部门的配合，导致适用于人工智能技术的全球治理机制较难形成。

人工智能的军事化应用趋势和军用AI技术迅速发展，也导致一系列军事安全风险，包括技术故障、系统被黑客入侵以及误判引发的军事冲突等，这需要政府和军队审慎评估并制定相应的应对措施。必须承认的是，AI在军事和情报领域具有巨大的应用潜力，如自动化数据分析、决策辅助系统以及无人作战平台等。这些技术可以显著提升军事行动的效率和精准度，而事实上人工智能已经嵌入中美两国的军事系统，例如飞机的自动驾驶、瞄准系统中的计算机视觉和情报分析等等，也带来了新的安全挑战。

人工智能的军事化应用需要中美两国加以管控

图源：UN University

AI技术所带来的自动化驱动挑战将影响中美之间的战略稳定，专家称之为“相互脆弱状态”，于政府而言较难讨论出共识。双方面临的挑战并非禁止人工智能的军事应用——这也是无法实现的，而是要建立可接受的自动化军事的应用界限和共同期望。例如，在人工智能投入实战之前，中美两国应对人工智能的军事应用的测试和评估达成共识。

因此，防止因AI技术误判或故障引发的意外事故和战争，无疑是中美两国的共同利益。通过建立有效的沟通机制和风险管理体系，可以降低人工智能技术应用中的不确定性，从而维护国际安全与稳定。对此，两国应初步达成一些切实成果，例如达成“核发射决定仅可由人类做出，绝不能自动化”的共识。此外，AI技术在军事领域的应用涉及数据共享问题，对此通过讨论军事用途的边界和数据共享的可行性，双方也可以达成一定程度的共识，为未来的合作奠定基础。

讨论中美两国的AI治理合作时，美国对华战略竞争是始终无法绕开的大主题。双方在人工智能领域的竞争日益激烈，而两国政府都将人工智能技术提升到优先发展的战略高度。美国一方面在AI技术上对华施压，例如实施高端芯片的禁运政策，通过法案限制TikTok在美运营发展等，另一方面又以对话交流的形式与中国展开合作，并试图通过对话减少误判和意外冲突的风险。

美方将这种复杂关系称为“中美竞合”，认为战略竞争的因素考量不会影响双方合作关系，这种中美“竞合关系”在气候变化等全球治理议题也有所体现，美方亦有将类似经验迁移至人工智能的意图。但正如美国国务卿布林肯多次强调的，维持竞合关系的前提是风险管控，将竞争思维带入人工智能全球治理更应如此，但AI技术的风险与传统议题相比存在较大差异，一是人工智能还处于发展早期，风险和收益难以准确评估，二是人工智能的战略风险更大，更具突发性。因此，美方以“竞合关系”看待AI技术治理的可行性仍待观察，可能导致的安全风险也需警惕、研判与提前应对。

美国国务卿布林肯多次用“竞争与合作共存”描述中美关系

图源：Politico

03

助力和阻碍：

首次对话的总体呈现

1

潜在合作领域：

核安全、研发透明、AI事故管控

美国官员在此次会谈前在一次背景说明会上说，华盛顿和北京希望探索是否可以达成可以“被所有国家接受”的规则。官员表示：“我们在许多AI议题和AI应用上意见不同，但我们相信，就关键的人工智能风险进行沟通可以使世界更安全。”

新美国安全中心（CNAS）技术与国家安全副研究员比尔·德雷克塞尔（Bill Drexel）表示，由于有关AI的安全问题定义尚不明确，相比核控、生物安全风险、太空安全风险等两国存在明显分歧的领域，对于降低AI风险的问题，美中对话有广泛的探索空间。德雷克塞尔认为，从这个意义上说，这（人工智能对话）可能是两国展现善意和意愿的一个‘安全’领域，但不太可能做出任何过于具有约束力的承诺。” 他称，美中可能讨论的具体AI问题可能包括核安全、生物安全和网络安全。

核安全是美国方面希望取得共识的议题之一。美国希望中国、俄罗斯等拥核国家响应美国的号召，承诺共同保证在核武器使用问题上由人类作出决定，避免让AI掌握核按钮。信息技术与创新基金会（ITIF）副会长、数据创新中心总监丹尼尔·卡斯特罗（Daniel Castro）指出，这是一个很容易达成共识的问题：“其他国家并不是反对这一呼吁，不过目前还没有双边共识。”

卡斯特罗还认为，美国政府还希望在AI研发方面的彼此保持一定的透明度：“他们（美方）希望确保，如果中国在人工智能方面取得任何重大突破（可能是朝着‘超级智能’的走向），（中方）会提前与美国分享，反之亦然。”他还表示，如何追踪AI事故和漏洞、创建通用的AI测试方法，也是美国感兴趣的合作领域。

2

技术安全化：化解信任难题是关键

两国在安全问题上存在一定的不信任，将会阻遏双方的深度对话和合作。一方面，美方希望通过与中国进行对话，化解对AI领域国家安全问题的担忧；与此同时，美国遏制中国获取美国AI技术的政策降低了中国与美国合作的意愿。

路透社称，美国政府一名高级官员在会前表示，中国在民用、军事和国家安全领域快速部署AI的能力，会损害美国及其盟友的安全，而华盛顿也会在这次会议中直接表达其担忧。该名美国官员还表示，与中方的谈判不会聚焦于任何形式的技术合作或前沿研究合作，“我们的技术保护政策不容谈判”。

奥尔布赖特石桥集团（Albright Stone Group）负责中国与技术政策的副合伙人保罗·特廖洛（Paul Triolo）也认为：“在美中双边关系中，特别是在人工智能相关问题上，双方普遍存在相当多的不信任。” 他举例提到，美国商务部牵头，不断扩展对中国获取包括先进图形处理单元（GPU）在内的技术出口管制，旨在阻止中国公司培训先进的AI模型。

2023年10月，美国实施对GPU芯片的出口中国的限制令，包括英伟达H800和A800型号。

图源：Wccftech

特廖洛说，除GPU外，美国还正考虑限制云技术提供商为中国客户提供与AI模型训练相关的服务。他宣称，考虑到这些问题，中方将“没有动力”寻求双方可以围绕与先进模型相关的人工智能安全问题进行合作的领域。”他说：“两国政府在人工智能治理和安全等问题上进行任何程度的认真合作似乎都不太可能--进展更有可能来自双方工业界、科学家和学者之间的非政府讨论，这些讨论在过去一年中获得了相当大的势头。”

两国智库间的“二轨外交”则大有可为。智库中的技术和政策专家或许可以较政府间对话先行一步，厘清两国在人工智能安全概念认知上的共识和分歧，并为政府部门提供坚实的技术支持。中美两国智库专家已就人工智能潜在安全风险、人工智能概念术语清单进行梳理，并就军用人工智能相关冲突机理与管控举措进行场景推演。智库间对话的灵活性和专业性将有助于在决策者在人工智能快速迭代的背景下，与时俱进，积累共识，缩小分歧。

虽然本次对话的具体成果尚未清晰显现，但对话本身已经标志着双方在全球科技治理领域的重要一步。通过民间和政府间的深入的交流和讨论，中美两国不仅展示了各自的立场和关切，也对未来可能的合作模式和风险管理策略提供了一些初步的线索。

随着AI技术日益成为国际关系中的关键因素，其带来的挑战和机遇都需要国家间更深层次的合作和对话。此次会议虽然没有解决所有问题，但为双方建立了一个探讨和应对共同挑战的平台，尤其是在AI的军事化、全球治理以及技术安全等领域。

面对未来，中美两国能否在继续深化对话的同时，实际推进具体的合作和信任建设措施，将是检验双方真正合作意愿的关键。毕竟，人工智能技术的迅猛发展不会等待国际政治的缓步前行。在这一点上，全球的安全与稳定，以及科技的健康发展，需要的不仅是对话，更需要具体行动和真正的共识。首次中美人工智能政府间对话虽只是起点，但正如任何长途跋涉，每一步都是朝着可能的和解与合作前进的一小步。

参考文献

Dou, Eva. 2024. “U.S.-China Talks on AI Risks Set to Begin in Geneva.” Washington Post, May 12, 2024. https://www.washingtonpost.com/technology/2024/05/13/us-china-ai-talks/.

“Top US and Chinese Officials Begin Talks on AI in Geneva.” 2024. AP News. May 14, 2024. https://apnews.com/article/artificial-intelligence-china-united-states-geneva-switzerland-1aa4451f82f250a47039a213f3d72879.

Webster, Graham, and Ryan Hass. 2024. “A Roadmap for a US-China AI Dialogue.” Brookings. January 7, 2024. https://www.brookings.edu/articles/a-roadmap-for-a-us-china-ai-dialogue/.

“Laying the Groundwork for US-China AI Dialogue.” 2024. Brookings. April 5, 2024. https://www.brookings.edu/articles/laying-the-groundwork-for-us-china-ai-dialogue/.

“热点观察｜中美人工智能政府间对话相关内容及影响”上海市人工智能与社会发展研究会，2024年5月16日。

https://mp.weixin.qq.com/s/U6hqkE0TW_Z2w4pUXSYKIQ

“Statement from NSC Spokesperson Adrienne Watson on the U.S.-PRC Talks on AI Risk and Safety.” The White House. May 15,2024.

https://www.whitehouse.gov/briefing-room/statements-releases/2024/05/15/statement-from-nsc-spokesperson-adrienne-watson-on-the-u-s-prc-talks-on-ai-risk-and-safety-2/

“US lawmakers unveil bill to make it easier to restrict exports of AI models.” Reuters. May 10,2024.

https://www.reuters.com/technology/us-lawmakers-unveil-bill-make-it-easier-restrict-exports-ai-models-2024-05-10/

“美中举行首次政府间人工智能对话，为何外界期望值不高.” 2024. 美国之音. May 15, 2024. https://www.voachinese.com/a/us-china-ai-dialogue-20240514/7611225.html.

往期精选

本文版权归“中美友好互信合作计划”所有，如需转载请与本公众号联系并注明出处。

欢迎关注公众号！

微信编辑：那一佳

如有投稿，请直接发至[e-mail]。一经录用将有稿费奉上。

“中美友好互信合作计划”是由复旦发展研究院和丰实集团共同打造的中美关系研究的学术平台，该平台通过课题研究和精英讲坛的联动运作方式，力求以最快的速度、最高的学术权威分析中美关系的热点问题。