译文 | 美智库：迈出治理人工智能的第一步

导读 · 2023.08.21

算法不透明一直是阻碍人工智能问责机制发展的重要因素。本文汇集了三位人工智能领域权威专家的观点，其一致认为，国际社会应当建立针对人工智能模型的登记备案制度，以完善现有的人工智能问责机制。

ChatGPT一经问世，便受到了全球的广泛关注，但同时也引发了人们对科技进步过快的反思。国际社会深刻意识到生成式人工智能的颠覆性潜力，并高度重视其在伦理、道德、安全等方面存在的风险与挑战。

图源：New York Times

有专家警告称，人工智能强大的“智力”会对人类的生存构成威胁。甚至有专家指出，人工智能具有破坏社会稳定、助长威权主义的风险。一旦有威权国家将人工智能用于研制生物或化学武器，后果将不堪设想。对此，也有专家反驳，称过分强调人工智能的风险的行为是为了借机分散国际社会对全球不平等和地区冲突的注意力，人们应当把注意力集中在如何运用人工智能技术来解决相关问题上。上述观点虽然各有道理，但其对于人工智能责任的界定仍不明确。目前，各国掌握的关于人工智能模型的信息均来自于某些科技公司的披露。在此情况下，相关部门无法完整地了解模型的技术程度和潜在使用者，以及科技公司之间的竞争关系。

解决该问题的第一步是收集高级人工智能模型的信息，即要求开展此类项目的科技公司向有关部门办理登记备案手续。这样一来，相关部门便能够更好地判断哪家科技公司存在违法的风险。众所周知，对特定的商业行为实行登记备案是一种现代法律制度普遍采用的方式。这种方式不仅有利于杜绝违法行为的发生，更有利于帮助相关部门识别潜在的违法行为。只有这样，才能够保证实体活动的正当性和合法性。针对人工智能模型的登记备案制度应当简单明了，为相关实体遵守规定提供便利。此外，该制度应当根据知识产权保护的需要进行针对性调整，确保国际社会能够在第一时间了解新兴科技的最新动态。

政策建议

第一，相关部门应当建立大型人工智能模型的登记备案制度。鉴于ChatGPT、GPT-4等大型人工智能模型展示出的惊人能力，适用标准应当根据模型的数据规模（如用于训练的参数数量）和能力来厘定。在登记备案制度立法之前，人工智能模型的登记备案工作可以交由相关部门（保密办公室）承担，例如美国商务部（负责制定技术标准和出口管制政策）、美国能源部（负责监督人工智能的使用及提供与采购相关的安全建议）、美国国土安全部（负责保护关键基础设施）。此外，在推动登记备案制度立法的过程中，相关部门还应当从现有的与出口管制、数据隐私保护相关的政策中借鉴经验。

第二，相关部门应当要求科技公司提交相关文件，详细说明其人工智能模型的数据规模、训练方法和能力范围，模型本身和训练数据由科技公司自行保管，无需上交。如果科技公司编造情况、提供虚假信息，则可以取消其登记备案资格。与此同时，负责登记备案工作的部门应当确保自身的网络安全，防止黑客窃取信息。

第三，未登记备案的人工智能模型应当禁止使用。除人工智能公司外，模型的使用者（个人、团体或企业）也同样需要办理登记备案手续。擅自使用未登记备案的模型，将视为违法行为。已登记备案模型的迭代版需要重新办理登记备案手续。人工智能公司在销售时有义务向顾客提供登记备案证明。登记备案制度能够使相关部门了解科技公司的动态及其责任主体，有利于其更好地实施出口管制，进而限制生物武器的研发。此外，在人工智能迭代变更时，相关部门还可以通过登记备案制度获得的信息制定新的政策。建立登记备案制度最直接的利好是帮助相关部门识别不良企业，及时预防风险的发生。

要掌握创新与监督的平衡，不仅要给企业留出足够的创新空间，也要制定企业披露信息的最低要求。这些信息用于评估企业的诚信度，凡是被认定为可疑的企业将面临进一步的审查。欧盟的《人工智能法案》草案要求企业将人工智能基础模型的技术细节存入公共数据库。虽然此举有利于算法透明化，但是这涉及到商业秘密，一旦公开，可能会造成企业在竞争上的劣势，进而削弱其创新动力。即便如此，算法透明化依然势在必行，但要把握好公开的“度”，避免企业产生抵触情绪。对此，本文建议企业只向相关部门披露算法信息，并要求其承担保密义务。相较于欧盟的《人工智能法案》草案，本文的提议可操作性高、实施成本低。美国现有的法律已经对人工智能模型的应用做了明确的规定，能够有效防范各类风险，因此各国无需把主要精力放在应对风险上。建立登记备案制度可以引导更多的国家关注全球发展问题。更重要的是，该制度能够凝聚社会各界力量共同参与到人工智能的发展中，进而形成围绕人工智能的公共专业知识体系，这将有利于帮助科技公司更快地发现问题并予以解决。

欧盟议会率先通过《人工智能法案》

（图源：New York Times）

结语

在现代经济中，许可制度必不可少。它可以保障交易的安全与质量，起到惩罚及预防违法行为的作用。例如，律师必须持有律师执业证书才能从事律师业务；保险公司必须持有经营保险业务许可证才能从事保险业务；医生必须持有医师执业证书才能从事医疗业务；证券经纪人必须持有证券经纪人执业证书才能从事证券业务。

大语言模型和生成式人工智能的迭代变更使得适当的监管愈发重要。随着人工智能技术的不断发展和创新，经济和社会活动势必会因此而发生颠覆性的变化。登记备案制度使相关部门可以及时掌握企业的研发情况，并能采取相应措施将负面影响降到最低。此外，相关部门应当对人工智能模型信息的披露和审计设定更高的要求，以及采用更多新的监管技术和手段。

当前最大的挑战是，我们尚未完全掌握人工智能模型的潜力。未来人工智能的发展过程将是非线性的，潜力是超乎想象的。但遗憾的是，时至今日，我们尚无法预测未来人工智能模型与个体（或实体）的互动关系。就目前而言，只有研发大语言模型的科技公司可以掌握相对完整的有关人工智能方面的信息。虽然他们重视防范人工智能的风险，但是并未公开其掌握的所有信息。人工智能的发展现状、利害关系、测试方法等相关信息，不应只掌握在某些利益至上的科技公司手中。如果人类要从人工智能的发展中受益，就必须先建立相应的登记备案制度，以保证算法透明化；这将对相关部门在未来制定更有效、更有针对性的人工智能治理措施有长期贡献，国际社会应当朝着该目标努力迈进。

本文作者

吉莉安·哈德菲尔德（Gillian Hadfield）：多伦多大学施瓦茨赖斯曼技术与社会研究所（Schwartz Reisman Institute for Technology and Society）所长。

马里亚诺-弗洛伦蒂诺·德奎利亚尔（Mariano-Florentino Cuéllar）：卡内基国际和平基金会（Carnegie Endowment for International Peace）总裁。

蒂姆·奥莱利（Tim O’Reilly）：奥莱利传媒公司（O’Reilly Media）创始人、首席执行官兼董事长，伦敦大学学院创新与公共目的研究所客座教授。

*免责声明：本文所阐述观点仅代表作者本人立场，不代表大湾区评论或IIA机构立场。

*本文原载于卡内基国际和平基金会，由IPP评论（华南理工大学公共政策研究院官方微信平台）翻译。译者为华南理工大学公共政策研究院研究助理曾辉。

GBA Review 新传媒

配图｜许经东

编辑 | 钟振博

审核 | 冯箫凝

●往期回顾●