智能革新与国家安全：美国国会创立人工智能工作组带来哪些启示？
* “中美友好互信合作计划”是由复旦发展研究院和丰实集团共同打造的中美关系研究的学术平台
前言
当地时间2月20日，美国众议院议长迈克·约翰逊（Mike Johnson）和民主党领袖哈基姆·杰弗里斯（Hakeem Jeffries）宣布成立跨党派人工智能工作组（Bipartisan Task Force on Artificial Intelligence）。这一工作组的建立很大程度上是在美国内部需求和外部竞争需求下形成的必然结果，而其跨党派联合性质无疑更有利于国会推进AI立法议程。
美国众议院议长约翰逊（Mike Johnson）
（来源：Fox News）
01
内忧外患：急迫的治理压力
国内，在多家科技巨头的加持下人工智能正迅猛发展，而这也带来了对科技伦理的冲击，尤其是经过人为训练造成的算法歧视和偏见，对人权的忽视等问题都拷问着科技文明。另外，擅长生成高度专业的文本、图像和视频的生成式人工智能也对2024年大选产生干扰，虚假信息的泛滥无疑冲击着日益脆弱的政治信任。
因此，自ChatGPT面世以来，业界便始终呼吁政府建立监管框架以防范人工智能风险，而最具代表性的无疑是马斯克（Elon Musk），始终对AI给人类带来重大风险表示严重担忧。OpenAI创始人奥特曼（Sam Altman）也赞成适当的政府监管。2月21日，奥特曼再度公开表示“如果要做好这件事，我们需要政府发挥重要作用”。2月8日，商务部长雷蒙多（Gina Raimondo）宣布成立美国人工智能安全研究所联盟（AISIC）以支持生成式人工智能（AIGC）的安全开发与部署，谷歌、微软、英伟达、Meta等科技企业都赫然在列。
放眼外部，风云诡谲的大国科技竞争与参差不齐的国际治理标准也推动着工作组的形成。产业竞争因素成为国会山对AI监管的重要考量，对中国的担忧更是尤为显著。在美国AIGC技术的浪潮驱动下，中国开源大语言模型（LLM）的后发迭代进程让美国政界感到不安，许多业界人士表示应在监管框架下保护美国大模型训练数据的隐私权，以免被恶意窃取。1月26日，雷蒙多透露道，政府正提议要求美国AI企业核实“外国实体”是否正通过访问美国数据中心以训练人工智能模型。
在国际治理上，去年末已然出台监管法案的欧盟无疑在AI治理标准上占据优势，这给美国国会带来压力。尤其是美欧在AI监管模式上存在较大差异。2024年慕安会上，AI治理的“美国模式”与“欧洲模式”差异便被反复提及：欧盟担心监管缺位的数字技术将带来数据安全和有害内容侵犯等风险，而美国则担心可能的监管不利于科技企业发展。因此，正专注于打造全球AI技术高地的美国不能在规则制定权上落后于存在分歧的欧盟，必须在立法层面予以推进。
02
工作组的目标与构成
1
目标：护栏设置与立法跳板
在目标上，根据新闻通稿，该工作组的成立旨在“探索国会如何确保美国继续在AI创新方面领先世界，同时考虑可能适当的保障措施，以保护国家免受当前和新兴威胁的影响。” 一方面，该工作组将人工智能上升到战略产业的层面，认定AI将在未来的国际竞争中占据主要地位。另一方面，工作组需要在立法层面对当下技术安全与新形态风险作出监管回应。杰弗里斯表示，人工智能的崛起带来一系列“独特的挑战”，必须采取一定的防护措施保护公民。刘云平也指出，工作组解决的关键问题是如何确保人工智能“造福社会而非伤害我们”。
在行动上，工作组将面向国会编写一份政策报告，其中包括对未来监管人工智能的指导性原则和前瞻性建议，并与辖区委员会协商制定与AI相关的两党政策提案。奥伯诺特指出报告内容将“详细说明保护消费者和促进AI投资和创新所需的监管标准和国会应采取的行动”。因此，工作组将大概率是国会后续出台监管法案的跳板。
2
构成：技术专家定调领衔
根据新闻通稿，众议长约翰逊（路易斯安那州共和党人）和杰弗里斯（纽约州民主党人）各任命了本党派的12名成员加入工作组，由加州共和党众议员奥伯诺特（Jay Obernolte）和加州民主党众议员刘云平（Ted Lieu）分别担任工作组的正副主席。
刘云平和奥博诺特在国会讨论人工智能监管问题（图源：NBC News）
奥博诺特是国会山里唯一拥有人工智能硕士学位的议员，他曾表示国会迟迟未有监管行动源于少有立法者熟悉人工智能，还直言不讳地指出“需要更多的计算机专家进入国会”。奥博诺特是典型的技术派和坚定的监管派，曾多次在国会辩论和听证会上向议员同僚用专业名词解释人工智能带来的风险。当听证会上一批“技术小白”议员批评TikTok首席执行官周受资时因缺乏基本概念知识而受外界批评时，奥博诺特是为数不多的能与周受资平等、专业地探讨应用程序的数据安全问题的议员。
同样是计算机科班出身的刘云平在立场上偏向传统的美国AI治理立场，主张进行系统严格的审定，针对需要约束的部份进行监管，但对于安全风险系数低的AI则毋须干预。2023年9月，刘云平公开表示大多数人工智能“可能不会受到政府监管”，但它在“可能伤害甚至危害人类生命”的时候，政府需要出手。尽管态度上偏向宽松，但刘云平始终奔走在呼吁建立AI监管框架的第一线，并且力主建立跨党派性质的监管。早在去年6月份，他便向国会提议成立一个跨党派的人工智能委员会AI blue-ribbon bipartisan commission。
这两位科技专家一直力主国会监管人工智能，并早早开始合作，但两人早期就“是否需要设置国会框架下的新机构”存在分歧。刘云平赞同设立新机构，但奥伯诺特则表示“将整个监管问题交给官僚机构”是错误的。尽管当时两人并不确定最终结果是否存在分歧，但都赞同“人工智能本质上不存在党派之争”。
3
议程侧重不一，选举担忧、中美竞争是共识
根据通稿，该工作组的主要任务包括产出一份包含指导原则、前瞻性建议和跨党派政策提案的综合报告。鉴于人工智能立法需要两院批准，工作组的报告可能会影响未来美国人工智能的立法议程。受其参政前的背景和其所属委员会影响，组内诸位议员所关注的重点不一。
加州民主党众议员贝拉 (Ami Bera) 在一份电子邮件声明中告诉《时代》（Time）杂志：“我认识到，如果负责任地使用，人工智能有潜力提高患者护理效率、改善健康结果并降低成本。” 他曾接受过内科医生培训，在加州大学戴维斯分校医学院任教，并在 2013 年进入政坛之前担任萨克拉门托县首席医疗官。
2023年5月16日，OpenAI 首席执行官兼联合创始人奥特曼在华盛顿特区举行的参议院司法小组委员会听证会上发言（来源：Bloomberg）
同时，科罗拉多州民主党众议员佩特森(Brittany Pettersen)则关注人工智能对银行系统的影响。“随着人工智能继续快速发展并更受广泛应用，它有可能影响一切，从使用深度造假的选举系统，到高科技诈骗造成的银行欺诈。我们的政策必须与时俱进，以确保我们在这一领域保持领先，同时保护我们的金融体系和国家。”佩特森说。他是众议院金融服务两党人工智能工作组（the House Financial Services bipartisan Working Group）的成员，并于去年提出了一项法案，以解决使用人工智能进行银行诈骗的问题。
伊利诺伊州民主党人福斯特（George William Foster）表示，事实上，成员们关注各异在一定程度上是制度设计的结果。“据我统计，国会中有七个委员会声称他们正在从事有关信息技术的某些工作。这意味着我们没有委员会专责（人工智能）”他说。福斯特希望，工作组会让众议院在这一跨多个委员会的政策问题上“真正推动进展”。
值得注意的是，大多数成员都对人工智能干扰选举的前景忧心忡忡。《时代周刊》采访的所有八名工作组成员都表达了对人工智能生成的深度造假及其对选举的潜在影响的担忧。《时代周刊》也发现，有许多议题在其与工作组成员的访谈中反复出现，如人工智能驱动的招聘软件、自动化对劳动力的影响、算法偏见、医疗保健中的人工智能、数据保护和隐私等。
另一个受到几位成员一致关注的话题是《创建人工智能法案》（CREATE AI Act），该法案将设置“国家人工智能研究资源”（NAIRR），为研究人员提供进行前沿研究所需的工具。在拜登的人工智能行政命令的指示下，美国国家科学基金会最近启动了 NAIRR 的试点项目。
在对外层面，美中人工智能竞争也是几乎所有成员高度关注的议题。来自密歇根州的民主党众议员海莉·史蒂文斯（Haley Stevens）更是直言不讳 “坦率地说，我希望美西方共同制定人工智能领域的规则，而不是中国，”她说。来自佛罗里达州的共和党众议员斯科特·富兰克林（Scott Franklin）对此表示赞同，并认为防止“商业间谍活动”尤为重要。“我们正在投入大量资源来应对这一挑战，从而确保我们的知识产权受保护。”
富兰克林和拜尔议员都表示，工作组应该投入部分精力思考人工智能对人类造成的终极威胁。“只要有像辛顿（Geoffrey Hinton，被称为“人工智能之父”）博士这样的有识之士担心人工智能带来的致命风险——人类的终结——我们就不能忽视这一点，”拜尔说。“不怕一万，就怕万一。”
其他成员则不这么悲观。“如果我们亦步亦趋地治理，风险也可以被化解，”来自加利福尼亚州的民主党众议员萨拉·雅各布斯 (Sara Jacobs) 表示。“而且我认为，人们过于关注遥远的风险前景，以至于实际上忽略了这项技术已经造成的危害。”
03
美国治理模式带来哪些启示？
1
国会人工智能治理的三大挑战
国会是时候采取行动。布鲁金斯学会（Brookings Institution）研究员李（Nicol Turner Lee）和马拉默德（Jack Malamud）认为，拜登政府之前的行动已经为两党的立法工作提供了基础，立法者需要明确各项工作的轻重缓急，并在一定程度上达成共识，而联邦数据隐私立法尚未做到这一点。他们还指出，国会应该首先优先考虑增量和即时立法，以解决大多数消费者现在关心的问题——不透明的人工智能系统和影响民主的人工智能决策。
对于立法者而言，人工智能治理的第一个挑战就是速度问题。与技术的日新月异相比，国会冗长繁复的辩论和修改程序显得尤其缓慢，国会的原地踏步就意味着落后于技术的进展。在刘易斯·卡罗尔 (Lewis Carroll) 1871 年的经典《爱丽丝镜中奇遇记》中，红皇后告诉爱丽丝：“现在，你看，你需要竭尽全力地奔跑，才能维持原地不动。如果你想前往他地，你就必须两倍速前进！” 这正是对立法者被动窘境的巧妙归纳。
《爱丽丝镜中奇遇》里红皇后对爱丽丝说：你必须尽力地不停地跑，才能使你保持在原地。在英文语境中对应“逆水行舟，不进则退”。（来源：Wikipedia）
为了防止企业间的商业竞争变得目无法纪，需要制定一系列规则。然而，应对人工智能驱动的所需要变革能力，可能超出联邦政府现有的专业知识和权威。美国联邦通信委员会前主席汤姆·惠勒（Tom Wheeler）就认为，当今政府确立监管法规和结构是工业时代的产物，而这些思维在数字时代就显得不合时宜了。
第二个挑战则是规管内容具体为何？由于人工智能是一种通用型的工具，“一刀切”的方法会在某些情况下监管过多，而在另一些情况下监管不足。例如，一点在电子游戏中使用人工智能，和对关键基础设施或人类造成安全隐患的人工智能，就不应该一视同仁。因此，人工智能监管必须基于风险且有针对性。另一方面，人工智能带来的问题往往是新老交织：“一波未平，一波又起”。一些传统的问题，例如诈骗和歧视，可能通过人工智能得到激化。人工智能的应用还会加剧侵犯个人隐私、扩大非竞争性市场、操纵个人以及传播仇恨、谎言和错误信息等危害，这些危害目前已经在网上十分猖獗。
第三个挑战则是监管者（们）应该是谁？应以什么方式监管？Open AI首席执行官奥特曼在 2023年5 月 16 日的证词中认可了成立专责人工智能监管的联邦机构的想法。而微软的布拉德·史密斯和 Meta 的马克·扎克伯格此前曾支持联邦数字监管机构的概念。
听证会后，参议员班纳特（Michael Bennet）和韦尔奇（Peter Welch）提出了建立数字平台委员会 (DPC) 的立法。该法案不仅旨在创建了一个新机构，而且还采用了一种“基于风险的敏捷方法”来制定监管。据报道，参议员林赛·格雷厄姆（Lindsey Graham）和伊丽莎白·沃伦（Elizabeth Warren）也在研究数字机构的提案。美国国会面临的挑战是，在对新机构及其运作的思考中，要像数码产品的规划师设计新产品一样，具有广泛性和创造性。
2
美式数字治理的启示：经验和教训
那么世界可以从美国长时段的治理模式特征中，得到哪些启示呢？如阿里巴巴集团政策法规研究室副主任顾登晨曾撰文指出的，美人工智能发展战略布局呈“三高”特征：高政策延续性、高含AI量的政府、高依赖市场的场景拓展。美人工智能治理则呈融合型、渐进性特征，行政治理为先，软法约束为主，对刚性立法形成了塑造和牵制效应。随着产业向纵深发展，立法、执法、司法以“回应性+调试性”为基准，形成一种分布式治理模态。这种渐进性的协同治理特征，让美国数字治理进程缓慢而包容，可以充分保护科技人员的创新动能。
新美国安全中心（CNAS）科技政策专家巴勃罗·查韦斯（Pablo Chavez）认为，美国模式一旦得到清晰表达，可以成为以《人工智能法案》为代表的欧盟模式的有力替代。他认为，仍在谈判中的《人工智能法案》有很多优点，但从根本上来说，它以规则为先，其次关注如何定义、实施、执行和发展这些规则。相比之下，美国则强调先建立数字基础设施的监管，然后再对人工智能产品进行全面规管。两种模式都应该得到足够的关注和认可。
然而，美式数字治理模式也存在一些顽疾。《外交学者》（The Diplomat）中有文章指出，与欧盟统一的治理思路相比，美国以自愿建议和非强制性法规为主的治理，呈现碎片化的特征。文章也提到，与美国倾向于自由放任的做法，强调行业自律和事后干预相比，中国表现出了更加积极主动的立场，政府在规范人工智能开发和部署方面发挥着重要作用，同时仍然鼓励道德护栏内的创新。中美在治理思维方面也有差异。如清华大学战略与安全研究中心助理研究员孙成昊、青年研究员刘源认为，与美国仅要求确保人类参与决策，更倡导“负责任的人工智能”相比，中国强调坚持“以人为本”的人工智能发展理念。
无论是哪种思路，数字治理应该以本地产业生态为核心，考虑到各地不同的数字隐私和权益观，同时兼收并蓄全球的先进经验和实践，在创新和权益保护之间找出一条平衡的道路。
04
超越AI：工作组意义的政治面向
工作组的成立让长期以来悬而未决的AI监管在机制层面得以突破，并衔接呼之欲出的法案，是美国AI立法进程的一次推进，也是美国总统大选背景下国会山为数不多的跨党派合作方向。大选年下国会几乎任何议题都会受到政党竞争与极化政治的影响而“工具化”，可能产出的结果也大概率“胎死腹中”。纵观2024年国会的热点议题：对外援助、边境管控、税收减免……其草案成果均在无休无止的争辩中消亡。事实上人工智能议题也未尝免于争吵，关于推动工作组和立法的声音早在去年便浮现。《国会山报》分析称，大选年背景下的国会立法者对监管新兴技术及其潜在威胁持谨慎态度，这导致了美国监管水平的落后。
因此，国内外紧迫竞争形势与国会前期努力基础共同促成AI治理的跨党派联合，这看似水到渠成，实则来之不易。而在日益艰难的政治环境中诞生的人工智能工作组，更应该保住现有成果，并在打击虚假信息、维护选举正义等层面更大程度地反哺这个日益破碎的政治体系。正如工作组中的AI人才拜尔议员所言，尽管国会的大部份工作陷入混乱和功能失调，但人工智能依然是各方之间“真诚合作的亮点”，“我决心帮助保持这种状态”。
当然，更值得期待的是，人工智能工作组的建立是否能侧面带动其他议题的跨党派工作组联合，并衔接可能的法案出台。但无论如何，在两位人工智能专家的带领下，期望这支技术氛围浓厚的硬核队伍能够冲破政治束缚，帮助人工智能这一事关全人类福祉的技术推回应有的发展轨道。
众议长约翰逊与民主党领袖杰弗里斯（图源：纽约邮报）
参考文献
“House Launches Bipartisan Task Force on Artificial Intelligence.” 2024. Speaker Mike Johnson. February 20, 2024. https://www.speaker.gov/house-launches-bipartisan-task-force-on-artificial-intelligence/.
Turner Lee, Nicol, and Jack Malamud. 2024. “How Congress Can Secure Biden’s AI Legacy.” Brookings. January 25, 2024. https://www.brookings.edu/articles/how-congress-can-secure-bidens-ai-legacy/#:~:text=Congress%20should%20consider%20prioritizing%20consumer.
“How a New Bipartisan Task Force Is Thinking about AI.” 2024. TIME. February 21, 2024. https://time.com/6727264/house-artificial-intelligence-task-force/.
J. Connelly, Daniel, Alexander Hecht, Christian Tamotsu Fjeld, and Bruce D. Sokler. 2024. “Artificial Intelligence Task Force Initiatives 2024 Are Released.” Www.natlawreview.com. February 22, 2024. https://www.natlawreview.com/article/federal-and-state-lawmakers-launch-ai-task-forces-ai-washington-report.
Wheeler, Tom. 2023. “The Three Challenges of AI Regulation.” Brookings. June 15, 2023. https://www.brookings.edu/articles/the-three-challenges-of-ai-regulation/.
Au, Adam. 2023. “China vs US Approaches to AI Governance.” Thediplomat.com. October 19, 2023. https://thediplomat.com/2023/10/china-vs-us-approaches-to-ai-governance/.
顾登晨. 2024. “静水流深：美国人工智能治理的特征、趋势与启示.” Www.secrss.com. 阿里研究院. January 25, 2024. https://www.secrss.com/articles/63209.
Chavez, Pablo. 2023. “The Quiet U.S. Revolution in AI Regulation.” Www.cnas.org. CNAS. October 26, 2023. https://www.cnas.org/publications/commentary/the-quiet-u-s-revolution-in-ai-regulation.
孙成昊, and 刘源. 2024. “中美应如何推动人工智能对话与合作.” Cn.chinausfocus.com. 中美聚焦网. February 6, 2024. https://cn.chinausfocus.com/m/43120.html.
David Shepardson.2024."US House forms AI task force as legislative push stalls".Reuters. February 21,2024.
https://www.reuters.com/world/us/us-house-forms-ai-task-force-legislative-push-stalls-2024-02-20/
Matt Hamblen.2024."OpenAI CEO Altman again invokes need for oversight of AI." Fierce Eletronics. February 21,2024.
https://www.fierceelectronics.com/electronics/openai-ceo-altman-agaub-invokes-need-oversight-ai
Lucas Nolan.2023.“Rep. Jay Obernolte: Congress Doesn’t Understand the Dangers of AI”. March 3,2023.
https://obernolte.house.gov/media/in-the-news/rep-jay-obernolte-congress-doesnt-understand-dangers-ai
Lauren Irwin.2024."House launching bipartisan AI task force" The Hill. February 20,2024.
https://thehill.com/homenews/house/4478428-house-launching-bipartisan-ai-task-force/
Nihal Krishan.2023."Congressional AI Caucus leader Ted Lieu says most AI should not be regulated".Fedscoop. September 21,2023.
https://fedscoop.com/congressional-ai-caucus-leader-ted-lieu-says-most-ai-should-not-be-regulated/
Julian Mark.2023."This lawmaker stands out for his AI expertise. Can he help Congress?" The Washington Post. May 17,2023.
https://www.washingtonpost.com/technology/2023/05/17/ai-congress-obernolte/
Ryan King.2024."House leadership forms bipartisan task force to tackle rise of artificial intelligence" New York Post. February 20,2024.
https://nypost.com/2024/02/20/us-news/johnson-and-jeffries-team-up-and-form-a-bipartisan-ai-task-force/
往期精选
本文版权归“中美友好互信合作计划”所有，如需转载请与本公众号联系并注明出处。
欢迎关注公众号！
微信编辑：凌嘉亮
如有投稿，请直接发至xinyanyan@fudan.edu.cn或zhongmeihuxin@163.com。一经录用将有稿费奉上。
“中美友好互信合作计划”是由复旦发展研究院和丰实集团共同打造的中美关系研究的学术平台，该平台通过课题研究和精英讲坛的联动运作方式，力求以最快的速度、最高的学术权威分析中美关系的热点问题。