麻省理工学院富布莱特研究访问学者，现任清华大学公共管理学院教授，人工智能治理研究中心主任，清华大学中国科技政策研究中心副主任，清华大学人工智能国际治理研究院副院长，兼任中国科学学与科技政策研究会常务理事兼秘书长、公共管理专业委员会副主任，中国知识产权研究会高校知识产权专业委员会副主任，中国城市经济学会城市公共经济与政策专业委员会副主任，中国科技体制改革研究会理事，《科学与管理》、《中国标准化》杂志编委。主要研究方向为科技创新政策、研发全球化、标准与知识产权、新兴技术治理。一、人工智能引发风险的特殊性
二、人工智能治理需要模式转换
三、人工智能治理中软法的重要性
四、人工智能治理中标准的治理优势
五、人工智能治理标准化前沿实践
六、我国人工智能治理标准化现状与改进建议
在人工智能的治理中，会使用很多不同的治理手段。包括我们比较熟悉的《数据安全法》等一系列重要的法律法规。除了以上提到的法律以外，还有一个重要的治理工具，就是我们今天要谈的标准。标准，它既不同于法律，也不同于我们刚才讲的一些伦理原则和指引。但它在新兴技术的治理当中，有独特的优势。
首先来看人工智能治理的风险来源，主要是以下三个方面。一是人工智能的技术风险存在信息不对称，它是一个比较复杂的技术系统。在人工智能的概念下，有很多不同的技术路径，我们现在主流的是基于数据训练、深度神经网络的机器学习。
所以它所存在的一些问题，比如说黑箱特征，不透明性，有偏性等此类技术方面的风险是其固有特征。
第二，人工智能是一项通用技术。大家认为人工智能是互联网之后，最具有代表性的数字技术，它的应用场景是非常广泛的，所以现在我们思考如何去应用这样的人工智能技术。即思考怎么去利用数据赋能我们的经济、社会，发展和管理。也正因为这一特征，它跨越了多个不同的领域，存在众多的参与主体。所以在对它的监管上，协调难度非常大。比如我们经常看到一些场景——如自动驾驶，它其实涉及到很多部门，不仅仅是交通部门。还有像人脸识别技术，它应用的场景非常广泛。在不同的领域，从金融场景、医疗场景甚至是消费场景，其风险高低程度不一样，用户的偏好也不同，所以这也加大了它监管的难度。同时大家对它的认知也存在差异。第三，是人工智能在应用方面的风险。人工智能的发展速度比监管体系的调整要快，这也是新兴技术发展固有的特征，即在此之前很难预测它会向哪个方向发展。比如去年，大家提到最多的是AIGC内容生成，而对于这方面的技术路线它会出现什么样的问题，我们现在不太好预见。还有最近大热的ChatGPT，它存在什么样的潜藏风险，其实还很难预料。这就是新兴技术监管里存在的科林格里奇困境，即当你没有用它的时候，不知道它会出现什么问题，而等到大规模应用的时候再去监管又晚了，对此我们该如何解决呢？其实人工智能治理的必要性，或者风险的来源，就是由于它的复杂性、跨部门、跨领域多主体的特征以及不可预见的特性，都共同决定了对它进行治理是一个非常困难的问题，需要创新性的思路和模式。
我们对人工智能的治理应该是采取什么手段？什么样的工具？正如一开始讲到人工智能的治理有各种不同的工具，比如公共管理，甚至国家治理。我们的工具箱里有法律、政策，战略、规划、指引、原则、措施，同时还有一类非常重要的工具就是标准。我们作为公共管理的研究者，认为人工智能的治理模式在全球范围来看，实际上是呈现出一个由硬法为主，逐步向软硬兼备，甚至是向以软法为主的治理模式转变。
比如目前在AI的伦理治理方面，全球有超过170个框架和准则的发布。这些都是非强制性的、引导性的。还有一些研究发现，现在全球发布的600多个人工智能软法的规则当中，政府机构在采纳其作为治理工具方面发挥着非常突出的作用，其中超过三分之一是由公共部门来创建的。这证明软法作为治理工具的使用并不局限于私营部门，它们可以作为传统硬法的补充。因为整个社会发展，使得它的利益更加多元，发展速率更加迅速，但是面临的不确定性更高。在这种背景下怎么对它进行治理？如果是用一个非常固定的模式或者非常强硬的法律，它是欠缺灵活性的，并且调整起来也非常的困难，因此很难适应现在这种快速变化和不确定性的环境。所以整体来看，在人工智能的治理上，它呈现出从硬到软或者软硬兼备的特征。
我们可以看到，从公共管理，甚至公法的角度来看，软法是不具有法律约束力，但是有间接法律影响的行为规则。从它的制定、形成机制来看，它的特点是多元参与。
所以可以看到，包括专业指导方针、私人标准、行为准则和最佳实践都可以被视为是软法的范围。软法有三个基本特征：一是软法是一种规范和行为规则；二是软法不具有法律约束力，不可由法院强制执行；三是软法的制定主体是多元的。
标准本身是一个非常有利的治理工具，具体体现在哪里？🤔
1.经过协商，利于达成共识；为什么标准要强调协商一致？如果大部分人都不赞同推行这样一个标准，那么在实施上，它是不具备有动力的，它可能是非常被动的。2.基于共识利于技术扩散，产生规模效应。为什么不把一些政策或者管理性的制度叫做标准呢？因为制度更多是从社会管理和企业管理的角度来制定的行为规范。而标准，它有技术的内容，它是学习的结果。4.标准的灵活性、适应性强，能够弥补法律空白，及时应对新情况。标准在人工智能的治理上，有以下几个功能是非常重要的：第一，在技术标准中嵌入伦理准则，利于价值观嵌入，实现人工智能的全生命周期治理。第二，划定底线。设立基本的、技术安全可靠运行的依据，特别是强制性标准，对于人工智能不管是产品、技术和应用，它的安全、可控、可信应该达到底线的要求。如果不能够达到底线要求，那么它下一步的健康发展会受到很大的限制。第三，标准本身可以作为追责的依据，比如自动驾驶的事故，在这方面必须要有可认定的依据，包括可以评测的指标，才能够去进行追责。所以标准在治理当中发挥的作用不是只有一个方面，而是在好几个层面上。
近年来在人工智能治理领域中，一些关于伦理、合规方面的标准，已经变成治理的前沿问题。包括ISO，IEC的国际标准化组织已经或正在推动相关标准的制定。虽然这些标准更像是管理，合规的要求，但它其实是和技术应用是密切相关的。
在未来人工智能标准化的路线图上，下一步要去解决的是关于人工智能可信赖、透明度、质量评估、可控性评测这些方面的标准，其实这些都已经在开发过程当中。如果没有这样的一套标准体系，人工智治理是很难落地实施的。
欧盟在人工智能上一直走在全球比较靠前的位置，去年欧盟通过了人工智能法案，对相关标准智能也提出了详细要求，包括AI系统风险管理、构建AI系统的数据集质量和治理、透明性、人的监督、AI准确性、鲁棒性等。这个需求草案里边大量涉及到的是关于风险的治理，包括可控、安全的要求，这也是它特别鲜明的特征。它包括10个方面：对风险的重视，质量控制体系的要求，检测技术合规方面的要求以及包容性如在标准化过程当中多元主体的参与，特别是中小企业利益的体现。
美国在标准化领域，实际上没有联邦层面的标准化机构，而是大量依赖产业界特别是专业组织如IEEE。.但它有一个特别的支撑，就是商务部下面的国家标准与技术研究所，他们做了大量的基础工作，推动能力建设，比如NIST发布了一系列非强制性文件，帮助企业识别和管理AI风险。联邦层面上着力数据开放，接以及能力体系的建设。这方面的一些非强制性文件，都在AI治理当中发挥重要作用。美国这样做不会限制数字平台企业的发展，更多是由行业去做，背后其实都是一些大企业通过最佳实践总结提炼的结果。
另外值得我们去关注的是美国在各个领域包括数字领域和中国开展竞争，如美欧之间建立技术委员会的协调机制，包括在半导体，联合盟友去限制我们产业的发展。从最早的，对华为的禁令，对整个企业还是有非常大的影响，所以这也是为什么我们特别重视在数字领域的国际标准制定，因为如果你不去抢占这样的平台，或者是阵地，那么最后就只能接受别人的标准。我们在加入WTO的初期，只能被动的去接受别人对我们的要求。随着后来在数字经济，特别在电信领域的发展，像华为，中兴等很多企业参与到国际标准制定当中，甚至在IEC、ESTI等国际标准化组织中，从3G到5G时代，在很多标准当中都起到了引领作用。
英国不光是做标准，其实同时也在做生态。AI认证本身是一个服务，人工智能的治理标准制定了之后，谁来对它进行评判，都需要一系列的能力支撑、平台建设，英国已经在这方面进行了全球布局，推动标准化生态建设。
新加坡作为一个小国，它提出要做东西方之间的桥梁。过去它主要是在地理上做桥梁，现在则要在数字经济领域、数字空间做一个连通东西方的桥梁。而他们更多的是从测试、评估的一些服务、工具开发方面，特别是开源平台的建设上、认证上，给大家提供公共服务与共性支持。
开源生态是一个非常重要的标准，下一步发展包括标准生态体系的建设，可能是一个趋向。我们可以看到新加坡在世界经济论坛背上，已经先后发布了两版关于人工智能的伦理原则和测试方面的标准与指标体系。新加坡当局提供的工具包有测试可解释性的SHAP(SHapley Additive exPlanations)、测试鲁棒性的Adversarial Robustness Toolkit和测试公平性的AIF360 and Fairlearn。这些工具容易在开发者或用户的环境下被部署。相关组织可以先下载工具包，准备好人工智能模型和数据集，然后调整测试维度，并启动测试进行完整的过程检查，最后生成测试结果和报告。
其它国家：中东地区如沙特，拉美地区如智利也都在积极参与数字领域治理规则的制定，不管是数据还是算法标准，它们也是希望在数字领域能够实现弯道超车。
全球科技企业也通过成立行业组织来推动相关标准的构建。特别是产业界，领军企业，包括阿里达摩院。如“元宇宙标准论坛”创始成员以开发互操作性标准为标志，为引领未来人工智能的发展奠定基础。
人工智能标准实践落地，在国家的层面上，2020年7月，国家标准化管理委员会、中央网信办、国家发展改革委、科技部、工业和信息化部印发《国家新一代人工智能标准体系建设指南》。此指南对于人工智能标准体系建设提出了总体设计和要求。在此之前，2017年发布的《国家新一代人工智能规划》当中也明确提出了，到2023年应该初步建立人工智能标准体系。
如上图《人工智能标准体系结构》图所示，它既包括从软硬件、数据平台到应用，也包括支撑整个技术运转的共性要求：包括测试、评估、安全、隐私、伦理、规范方面的要求。
我国在人工智能治理标准的顶层设计上其实并不落后。目前可以看到，已经制定了的一系列标准，包括国标，行标，团标。大量是涉及到信息安全方面、以及数据搜集等典型的场景应用上。除此之外，不光是对国内的治理，在国际标准化当中，也有非常重要的一些动作和布局，并且取得了非常好的进展。如有关自动驾驶测试场景的标准，这是该领域第一个中国去牵头制定的标准。因为我们已经有大量的，正在进行的道路测试，能够支撑我们相应的标准制定，去满足这方面发展的需求。这个标准，给国际同行和全球人工智能治理做出了贡献。
下一步的需求，包括可能存在的一些问题。问题主要是针对现状，需求主要针对下一步的发展。在算法的治理上，现在有了《互联网信息服务算法推荐管理规定》，也明确提出了对算法进行分类分级。下一步就是我们如何进行风险分类，标准怎么确定，是按照使用人数的多少，应用下载的数量，还是按照规模和市值。我国在人工智能伦理治理上，过去一年里做了很多工作，包括一些立场文件的发布，但是伦理方面的价值要求，怎么变成可落地、可实施的标准？即人工智能的安全性、鲁棒性、透明性怎么体现？什么叫做安全？就像信息安全的等级保护，以及数据安全分等级保护，其实AI系统的安全性如何体现和分级分类也是相关连的。
总体来看在人工智能治理的标准制定上，可能存在的一些问题：1.数据、安全等标准规范逐步形成，但人工智能的关键通用技术标准、行业应用标准等缺失且滞后，影响人工智能产品的落地应用，比如智能制造、智能法庭、智能医疗、智能政务等，缺乏标准，滞后于产业发展。2.标准与法律的融合不畅，法律承认标准的重要性，但未能实质采纳并援引标准，甚至有些规定相冲突。因缺乏法律的支持，标准的效用大打折扣。3.标准制定过程的协商性、互动性、共识性、代表性均不足，影响标准的制定效率和推广适用范围，特别是中小企业的参与度有待提升。4.评估测试、认证认可、技术审计等工具开发和平台建设不足，缺乏专业性、权威性。5.标准的国际化程度不足，在国际标准的制定中话语权较弱。针对以上问题，我们可以提出下一步的建议，特别在人工智能治理标准的制定上，第一应该建立起多元化的参与路径。特别是民间的机构，像行业协会，头部企业应该更多地将最佳实践进行分享，为自愿性标准支撑标准化工作提供渠道。第二，建立起法律原理、技术标准的基本规则，这样就可以实现软硬适度，软硬兼备的治理体系。第三，除了制定标准以外，我们还需要建立公共服务平台，像新加坡做大量的评测、审计、认证工具开发的工作。在这方面信通院、电子标准院，都做了很多工作。
最后，如何去主导国际标准的制定，目前来看，大部分数字平台企业发展面向的主要是国内。而在国际市场上，如果不去抢占标准化治理的主动权，会使我国国际化影响力的提升受到很大的限制。
短视频推荐