为更好地推动落实国家相关政策要求，抢抓时代机遇，进一步洞悉人工智能产业发展方向，汇聚全球优势资源，促进国际交流与合作，打造我国人工智能产业发展的“前沿阵地”，由中国信息通信研究院（以下简称“中国信通院”）参与主办的“AIIA2020人工智能开发者大会”于2020年9月28日在北京首钢园召开。

在28日的主论坛上，中国信通院、中国人工智能产业发展联盟联合发布《人工智能治理白皮书》，中国信通院副总工程师王爱华从人工智能带来的治理挑战、治理机制、治理展望等方面，对白皮书内容进行了深度解读。王爱华还指出，下一步我国应构建起多元共治的人工智能治理机制，充分发挥政府、行业协会、企业、公众等多方主体的作用，各方各司其职，各尽其能，以适当的角色、最佳的手段，发展安全可信、负责任的人工智能。

白皮书前言

当前，全球科技革命和产业变革孕育兴起，以深度学习、跨界融合、人机协同、群智开放、自主操控为特征的新一代人工智能不断取得突破，已成为新一轮科技革命和产业变革的重要驱动力量。在极大提升人类生产生活品质的同时，新一代人工智能具有的通用目的性、算法黑箱性以及数据依赖性等技术特性，引发了社会、企业、个人等不同维度的风险和挑战，从而对治理提出了专业化、多元化、敏捷化、全球化的迫切需要。因此，人工智能治理这一概念应运而生，成为国际社会广泛关注和研究的方向。

人工智能治理是一项复杂的系统工程，既需要明确治理原则、目标以及厘清治理主体，又需要提出切实有效的治理措施。全球正在逐步构建起人工智能治理框架，以坚持科技造福人类，平衡创新发展与有效治理的关系作为治理目标，采用多元主体参与、协同共治的治理机制，通过制定伦理原则、设计技术标准、确立法律法规等综合治理手段，推动人工智能健康有序发展。

人工智能的治理体系需要“柔性的伦理”和“硬性的法律”的共同构建。一方面，以伦理为导向的社会规范体系，可以为人工智能技术层面的开发和应用提供价值判断标准，约束和指导各方对人工智能进行协同治理。众多国际组织、国家和企业选择从伦理角度入手，试图确立人工智能的基本伦理规范，探索清晰的道德边界，并积极构建人工智能伦理的落地机制和体系。另一方面，以法律为保障的风险防控体系，依靠国家强制力划定底线，可以防范和应对人工智能技术带来的诸多风险。整体来看，人工智能相关立法正从慌乱走向理性，从源头治理走向综合治理，从粗放治理走向精细治理。同时，在自动驾驶、深度伪造、智能金融、智能医疗等场景下，人工智能立法取得率先突破，积累了一定的监管经验。

本白皮书从人工智能第三次浪潮开辟的治理新需要出发，结合当前人工智能发展阶段，分析了全球目前的人工智能治理机制，重点介绍了两项主要的治理举措，即以伦理为导向的社会约束体系和以法律为保障的风险防控体系，最后对人工智能治理的未来发展方向进行了展望，期待为社会各方提供有益参考。

白皮书目录

一、人工智能开辟治理新需要

（一）人工智能时代的兴起   

1. 人工智能驱动新一轮科技革命 

2. 人工智能打造经济发展新引擎 

3. 人工智能显著提升社会生活质量

（二）人工智能的技术特性   

1. 通用目的性，导致风险更为普遍  

2. 算法黑箱性，导致过程更难解释  

3. 数据依赖性，导致结果更不可控 

（三）人工智能引发不同维度的风险

1. 社会维度：影响社会稳定  

2. 企业维度：加大合规难度  

3. 个人维度：侵犯基本权益

（四）人工智能治理的新挑战

1. 治理专业化的需要  

2. 治理多元化的需要  

3. 治理敏捷化的需要  

4. 治理全球化的需要  

二、全球构建人工智能治理机制

（一）治理目标：坚持科技造福人类，平衡创新发展与有效治理

1. 不断释放人工智能带来的技术红利和价值   

2. 精准防范并应对人工智能可能带来的风险   

（二）治理模式：打造多元主体参与、协同共治的模式  

1. 国家政府是执行治理规则的核心主体

2. 政府间国际组织是引导治理方向的重要力量

3. 行业组织是协调多方治理的积极推动者 

4. 企业是践行行业自律自治的中坚力量

5. 公众是监督治理效果的重要参与者

（三）治理手段：实施多层次、多样化的治理举措

1. 伦理约束

2. 技术应对

3. 规范立法

三、以伦理为导向的社会规范体系

（一）国际层面：开始制定全球性伦理倡议

（二）国家层面：各国伦理关注点各有侧重

1. 美国借助伦理规范保障国家安全

2. 欧盟推广可信人工智能伦理框架

3. 德国率先提出自动驾驶伦理准则

4. 中国倡导发展负责任的人工智能

（三）企业层面：践行伦理的自我规制之道

1. 制定企业伦理原则

2. 开展内部机构建设

3. 构建企业实践机制

（四）总结：人工智能伦理规制从伦理原则走向伦理体系

1. 第一阶段—已形成共识性伦理原则

2. 第二阶段—逐步探索伦理体系构建

四、以法律为保障的风险防控体系

（一）全球人工智能立法整体趋势

1. 数据和算法规制成为人工智能立法的首要命题

2. 人工智能立法渐趋理性，更尊重技术规律和法律安定性

3. 普遍体现以风险为导向的分级分类治理思路

（二）人工智能的场景化规制

1. 助力自动驾驶落地

2. 防止深度伪造滥用

3. 规范智能金融产品

4. 促进智能医疗发展

五、人工智能治理展望

（一）坚持包容、弹性的治理理念

（二）构建不同阶段的治理路径

1. 近期应加快制定产品和服务标准，利用“数据治理”推动人工智能治理问题的解决

2. 中远期应调整责任法律制度，实现法律与伦理相衔接

（三）打造多元共治的治理机制

更多精彩，敬请阅读解读PPT。

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

20

21

22

23

24

25

版权声明：本白皮书版权属于中国信息通信研究院和中国人工智能产业发展联盟，并受法律保护。转载、摘编或利用其它方式使用本白皮书文字或者观点的，应注明“来源：中国信息通信研究院和中国人工智能产业发展联盟”。违反上述声明者，编者将追究其相关法律责任。

白皮书下载方式

校  审 | 陈  力、 珊  珊

编  辑 | 凌  霄

推荐阅读

点亮在看共渡难关