美国CFTC：建立金融领域AI应用监管框架

编者注：本文发布于美国商品期货交易委员会（CFTC）网站，是其委员Kristin N. Johnson对CFTC关于人工智能征求意见的声明：在金融市场中建立人工智能监管框架。本文由亚太未来金融研究院编译。

介绍

人工智能（AI）与我们经济和社会的每个部门都日益融合，这引发了一场关于被描述为AI的技术组合的前景和危险的全球辩论。注册机构和其他市场参与者越来越多地探索和使用人工智能和相关技术。近日，美国商品期货交易委员会（CFTC）的工作人员发布了一份征求意见（RFC），就AI在委员会监管的市场中的使用征求公众意见。

征求意见反映了来自以下每个部门的工作人员之间的积极对话：市场参与者司、清算和风险司、市场监督司和数据司。人工智能迅速扩大的影响力和流行程度需要仔细评估，并可能需要引入新的监管工具或方法。我非常感谢工作人员将我办公室的许多实质性意见纳入整个RFC。

在学术界和政府服务部门工作期间，我一直专注于人工智能和各种技术的潜力和危险，包括金融服务领域引入的一些技术。我有幸在国会研究、发表和作证涉及新兴创新技术的影响，包括能够创建数字资产的分布式数字账本技术以及人工智能技术。几个月前，我在乔治华盛顿大学法学院发表了曼努埃尔·科恩（Manuel F. Cohen）的演讲，我的演讲专门关注将人工智能整合到金融市场的潜在好处和担忧。

我强烈支持委员会努力推进有关人工智能融入我们市场的调查，并探讨引入防护措施以减轻人工智能技术可能带来的风险的必要性。

正如RFC所指出的，在衍生品市场开发和部署人工智能有潜在的好处，但也存在显著的风险，包括与市场安全、客户保护、治理、数据隐私、减少偏见和网络安全等问题有关的风险。

我赞赏工作人员努力提高委员会对市场参与者使用人工智能技术的理解，以及委员会在进行监管时依赖人工智能的潜力。委员会将收到的对RFC的回应意见将使委员会能够评估是否需要任何正式的指导，并可能制定有关将人工智能纳入CFTC监管市场的规则。

鉴于人工智能在我们市场中的重大且潜在的变革性变化，政策制定者和监管机构不能停滞不前。我们必须监控人工智能的发展和部署，并在必要时采取行动应对人工智能将带来的新挑战。

人工智能开发和部署的现状

正如我最近在科恩讲座中指出的那样：“在最一般的层面上，人工智能一词是指一组旨在近似人类或动物认知某些方面的技术，它依赖于算法系统来模拟人类学习和机器来执行相关活动。”另一方面，术语 Al 指的是大量信息或计算机科学。Harry Surden教授指出，“人工智能确实是一个跨学科的领域，它融合了来自多个领域的想法、技术和研究人员，包括统计学、语言学、机器人学、电气工程、数学、神经科学、经济学、逻辑学和哲学，仅举几例。尽管围绕人工智能一词的定义存在困难，但计算机处理速度、算法和大数据的兴起的最新进展使机器学习成为最广为人知的人工智能技术。在机器学习中，计算机使用算法计算数据，以执行分配的目标函数、进行预测并自动执行某些任务。”

虽然市场继续探索生成式人工智能的用例，但人工智能的采用率出现了无可争议的显著增长。

2023年，麦肯锡对AI的现状进行了一项全球调查，重点是生成式AI。该调查得出的结论是，三分之一的受访者表示，他们的组织至少在一项业务职能中定期使用人工智能......超过四分之一的人工智能公司受访者表示，人工智能已经列入董事会的议程。根据同一项调查，40%的受访者表示，由于人工智能的进步，他们的组织将增加对人工智能的整体投资。

国内外监管人工智能的努力

鉴于人工智能的采用率越来越高，全球政策制定者必须努力利用人工智能的潜力并解决相关风险。2023年10月，联合国成立了一个人工智能咨询机构，以研究人工智能技术的“风险、机遇和国际治理”。该咨询机构“预计将在今年年底前就人工智能的国际治理、对风险和挑战的共同理解以及关键机遇等领域提出建议。12月，欧洲议会和欧洲理事会就《人工智能法案》达成了临时协议。如果获得批准，《人工智能法案》将成为世界上第一部试图规范和限制人工智能使用的法律。

在美国，这些问题也受到了极大的关注。 在2023 年9月举行的参议院关于金融服务人工智能的听证会上，参议员谢罗德·布朗（Sherrod Brown）指出：“领导人有责任确保这项技术被用于保护消费者和储户，同时促进公平透明的经济，为美国中产阶级服务——而不是利用他们。”他进一步指出：“至少，适用于我们金融体系其他部分的规则应该适用于这些新技术。”

去年7月，美国证券交易委员会（SEC）发布了一项拟议规则，以解决经纪交易商和投资顾问在与投资者互动中使用预测技术时产生的利益冲突。它指出，这些技术“可以为公司和投资者带来潜在的好处。它们也增加了与使用这些技术相关的利益冲突的可能性，从而比以前更广泛地对投资者造成伤害。”拟议的规则要求“考虑到这些技术固有的复杂性和不透明性，以及它们的扩展潜力，...... 这种利益冲突应该消除或消除其影响，而不是通过其他方法处理冲突，例如通过披露和同意的方式。”

白宫发布了《人工智能权利法案蓝图》，去年10 月拜登总统发布了一项雄心勃勃的关于人工智能安全、可靠和值得信赖的开发和使用的行政命令（10 月行政命令）。在10月的行政命令中，拜登总统认识到“安全、负责任地管理人工智能的开发和使用”的紧迫性，他指出，这需要“包括政府、私营部门、学术界和民间社会在内的全社会努力”。拜登总统继续鼓励美国商品期货交易委员会（CFTC）等机构“考虑利用其全方位的权力来保护美国消费者免受欺诈、歧视和隐私威胁，并解决使用人工智能可能产生的其他风险 ”。

私人行为者也提出了建议。例如，Salesforce开发生成式AI的指导方针优先考虑：准确性（“平衡准确性、精确度和召回率的可验证结果”）、安全性（“尽一切努力减轻偏见、毒性和有害输出”）、诚实（“尊重数据来源并确保我们同意使用数据”）、授权（“确定全自动化流程和需要人工判断的流程的适当平衡”），和可持续性（“在可能的情况下开发适当尺寸的模型以减少我们的碳足迹”）。

其中许多努力都指向了人工智能监管和治理的类似原则。白宫《人工智能权利法案蓝图》强调了五项关键原则：安全有效的系统；算法歧视保护；数据隐私；通知和解释；以及人类的替代方案、考虑和退路。同样，欧洲理事会和欧洲议会关于《人工智能法案》的临时协议将保险和银行业的人工智能系统指定为“高风险”，因此需要遵守基本权利影响评估和公民有权获得有关基于此类人工智能系统的决定的解释等要求。

人工智能在金融市场中的整合

人工智能在金融市场中的应用只会越来越多——政府监管机构、自律组织和市场参与者都在采用基于人工智能的技术，并在未来寻找其他应用。

监管监督

就在五年前，经济合作与发展组织（OECD）的一份报告发现，在颁布官方人工智能战略的政府中，只有四个政府制定了公共部门人工智能使用的专门战略（其他大多数政府将公共部门的人工智能使用嵌入到更广泛的私营部门使用中）。不过，很明显，在美国，公共部门一直非常关注如何开始使用人工智能。在斯坦福大学和纽约大学研究人员发布的2020年美国行政会议（ACUS）报告中，作者发现，近一半（45%）的联邦机构曾尝试过人工智能和相关机器学习工具。在监管监控应用中使用人工智能只是联邦机构正在探索的一种途径。

正如我在科恩讲座中指出的：“美国商品期货交易委员会（CFTC）有监管分析师、法务经济学家和期货交易调查员，他们每个人都负责识别和调查潜在的违规行为。这些团体使用监管科技（SupTech）来支持他们的工作。在过去几年中，CFTC已将其大部分数据获取和数据分析转移到基于云的架构上。这提高了我们数据系统的灵活性和可靠性，并允许我们根据需要对其进行扩展。这种转变将使委员会能够以更具成本效益和效率的方式存储、分析和摄取这些数据。由于CFTC能够获取和汇总跨市场和产品的数据，因此我们可以更全面地了解市场。这使我们能够更有效地发现潜在的不当行为或其他市场干扰，并尽早采取适当的行动。在我们的执法部门提起的案件中，越来越多的案件是由数据分析驱动的，而不是更传统的来源，如投诉客户、举报人或自我披露。当然，数据分析在向我们发起案件方面也发挥着重要作用。”

同样，美国证券交易委员会（SEC）正在使用人工智能来“针对会计和财务报告中的欺诈行为”。例如基于交易的市场不当行为，特别是内幕交易，以及非法投资顾问和资产管理公司。

合规监控

人工智能还有可能提高SRO和市场参与者的合规和监控工作的效率。正如我在科恩讲座中指出的：“美国金融业监管局（FINRA）使用人工智能和其他数据驱动的工具来监控交易并促进市场安全。市场参与者，包括期货佣金商以及交易所和SRO等公司，正在通过数字化、审查和解释新的和现有的监管情报来将人工智能用于监管目的，以便他们能够确保作为运营商的合规性。有许多供应商向市场参与者出售监管科技软件，以协助他们进行风险管理，以及检测潜在市场滥用等合规功能。”

提供金融服务

最后，市场参与者正在采用人工智能。国际证监会组织（IOSCO）关于人工智能使用的一份报告发现，早在2021年，市场参与者就在“服务和支持服务;风险管理；身份识别和监测；选择交易算法；资产和档案管理。”该报告进一步发现，资产管理公司正在使用人工智能来“优化投资组合管理；通过提出投资建议来实施人力投资决策过程；并证明内部研究能力以及后台职能。”

委员会为了解人工智能的用途和风险所做的努力

今天发布的RFC是重要的一步，它将使CFTC能够更好地了解人工智能的现有和新兴用途，以及现有和新兴的风险。这些信息将帮助我们在CFTC监管的市场中构建人工智能的开发和部署，以利用人工智能的许多承诺，同时应对将出现的许多新挑战。

人工智能的用途

CFTC必须了解市场参与者如何在衍生品市场中采用人工智能，并将采用人工智能。因此，RFC首先提出了一些关于人工智能在CFTC监管市场中当前和潜在用途的问题。除了广泛寻求有关当前和未来用途的信息外，RFC还寻求对一些具体的关键项目的意见。至关重要的是，RFC要求受访者对人工智能的正确定义进行权衡——定义应该有多宽或多窄，以及如何在人工智能和目前使用的其他自动交易策略之间划清界限。

人工智能的风险

人工智能也带来了新的风险，并加剧了已经存在的风险。

正如国际证监会组织（IOSCO）关于人工智能在金融市场中的使用的报告所承认的那样，这些风险包括：“治理和监督；算法开发、测试和持续监控；数据质量和偏差；透明度和可解释性；外包；和道德问题。”了解第三方在CFTC监管实体开发人工智能中的作用也很重要，我很欣赏纳入其他问题，这些问题寻求有关第三方及其带来的风险的更详细的细节。我还赞赏增加有关关键风险的额外问题，包括数据中的偏见、对可解释性和透明度的需求、对市场操纵和欺诈的担忧，以及增加有关竞争损害的问题。

RFC旨在更好地了解人工智能在CFTC监管市场中的应用所带来的挑战和担忧。我想强调几个方面。

网络安全

随着新的人工智能技术被不良行为者开发和采用，网络威胁只会越来越普遍。因此，RFC要求提供有关市场参与者使用人工智能应对网络威胁的信息。

人工智能的第三方开发

RFC涉及第三方在开发人工智能技术中的作用，要求提供有关使用第三方在内部开发人工智能技术以及从第三方获取技术的信息。这是收集信息的关键领域，因为使用第三方会引起许多问题。

正如国际证监会组织报告所指出的：“监管机构应要求公司具备足够的技能、专业知识和经验，以开发、测试、部署、监控和监督公司使用的人工智能和机器学习的控制。合规和风险管理职能部门应能够理解和质疑产生的算法，并对任何第三方提供商进行尽职调查，包括现有的知识、专业知识和经验水平。监管机构应要求公司了解其依赖性并管理其与第三方提供商的关系，包括监控其绩效和进行监督。为确保充分的问责制，公司应制定明确的服务水平协议和合同，明确外包职能的范围和服务提供商的责任。该协议应包含明确的绩效指标，并应明确确定绩效不佳的权利和补救措施。”

市场操纵和欺诈

正如RFC所指出的那样，“不良行为者越来越能够使用人工智能来从事更复杂的欺诈和非法行为。人工智能有可能增加市场操纵和欺诈行为。RFC寻求有关这些风险的更多信息，包括就采用人工智能是否会阻碍反欺诈和市场操纵监管的执行征求意见，并要求提供有关使用基于人工智能的市场监管技术来检测市场操纵或欺诈的努力的详细信息。”

正如我所指出的，CFTC针对一种被称为“屠猪”的浪漫欺诈行为提起诉讼，其中犯罪分子冒充潜在的浪漫伴侣以欺骗客户：根据司法部的数据，2022年，投资欺诈造成的损失是公众向联邦调查局（FBI）互联网犯罪投诉中心报告的所有骗局中最高的，总计33.1亿美元。涉及加密货币的欺诈，包括屠猪，占这些骗局的大部分，从2021年的9.07亿美元增加到2022年的25.7亿美元，增长了惊人的183%。截至2022年底，全美共有超过46000人报告在与加密货币相关的欺诈中损失了金钱......。正如联邦调查局在这一领域的调查所表明的那样，屠猪欺诈的受害者是诈骗者的目标和引诱，他们可能会特别暴露。在浪漫骗局的情况下，之所以选择受害者，是因为该人通过希望遇到并发展有意义的浪漫关系来宣布自己很脆弱。...在我担任专员期间，我一直强调监管机构在保护消费者方面必须发挥的作用。

随着人工智能变得越来越复杂，这些问题只会越来越多，它提供了能够更好地逃避市场监控的交易策略，并通过越来越复杂的“深度伪造”视频和其他内容促进了更有说服力的骗局。

偏见和歧视

RFC 提出了许多问题，以解决人工智能使用中的偏见和歧视问题，寻求有关用于训练人工智能系统的数据质量的信息，以及解决数据和算法偏见的措施。

正如我在科恩的演讲中指出的那样，“通过使用生成式人工智能，基础数据中的偏见和歧视可能会被放大。面部识别软件在某些执法环境中可能会有所帮助，但有可能加剧现有的差异，特别是考虑到已知的此类人工智能平台在识别或区分肤色较深的人的面部特征方面的局限性，以及流行的训练数据集中对有色人种女性的不平衡表示。”

在消费金融领域，信用评分人工智能模型已被用于确定谁可以以什么价格获得信贷。“自动化程序、算法等可能会由于它们的训练方式或用于构建知识库的数据集而引入意想不到的偏见。”

隐私权

因此，RFC寻求有关隐私权风险以及市场参与者为保护隐私所做的努力的信息。人工智能还引发了重大的隐私问题。我们必须确保这些工具使用的数据，无论是直接从受监管实体获取还是由他们定期提供，都得到安全存储，并且仅用于其预期目的。正如我之前所解释的，作为基本消费者权利的问题，我们必须确保人工智能的整合不会将训练数据中普遍存在的歧视硬性地引入新兴的人工智能技术。

新的治理模式

RFC特别认识到治理问题，要求提供进一步的信息，说明CFTC监管的实体如何修改治理结构以应对人工智能。

为了应对这些风险，我们可能需要开发新的治理模式。正如我之前所指出的：“在这一点上使用自动化工具应该只是工具包的一部分。人工智能方法容易受到表现不佳的以价值观为中心的分析的影响，这些分析侧重于公平、正义、透明度和道德等原则。”因此，由那些有权考虑这些价值的人对人工智能模型进行人工监督治理将是必不可少的。

正如国际证监会组织报告所建议的：“监管机构应考虑要求公司指定高级管理层负责监督人工智能和机器学习的开发、测试、部署、监控和控制。这包括一个记录在案的内部治理框架，并有明确的问责制。高级管理层应指定一名（或多组）具有相关技能和知识的适当高级人员，以签署技术的初始部署和重大更新。”

结论

大约一个月前，市场风险咨询委员会（MRAC或委员会）——我赞助的咨询委员会——举行了今年的第三次会议，委员会在会上讨论了MRAC的金融未来小组委员会（FOF小组委员会）如何在2024年解决人工智能问题的问题。

MRAC预计将就一些相关主题向委员会提出正式建议，包括生成式人工智能在我们的市场中的整合、人工智能与区块链技术之间的关系，以及这些新技术带来的风险（包括系统性风险）。

今天发布的RFC是朝着这个目标迈出的重要一步。

END

往期推荐 ●●

【反侵权声明】

亚太未来金融研究院原创作品屡遭侵权，为维护合法权益，特发表以下声明：

1、一些客户端，未经授权转载我院原创作品，是严重的著作权侵权行为，我院予以谴责及警告，并保留依法追诉的权利；

2、我院严正声明：不得在未注明出处，未取得本公众号授权的情况下对我院翻译、研究的内容进行全部或部分内容截取转载。

温馨提示：现“订阅号”已开通公众号置顶功能，广大读者可点开“亚太未来金融研究院”公众号，点击“星标或置顶公众号”，即可将“亚太未来金融研究院”置顶，以便方便您随时浏览本公众号的最新动态并查阅相关信息。

关于我们

亚太未来金融研究院（Asia-Pacific Future Financial Research Institute，简称AFF）由多家领先的金融机构、FinTech公司、学院等共同发起，并与17名联合学术发起人共同组建。

机构发展

2018年，亚太未来金融研究院携手深圳市金融局、中国支付清算协会共同推动，在深圳市金融局和福田区的大力支持下，成立深圳未来金融研究院、深圳未来金融监管科技研究院。

国际合作

2019年5月11日，亚太未来金融研究院与新加坡金融管理局签署《FinTech合作协议》。这是新加坡金管局继2018年与中国人民银行、中国证监会签署合作函后，与中国主体签署的第三份合作协议。

微信号：apffri

电话：[phone]

邮箱：[e-mail]