【数字法治·研究精粹】2021年度全球十大人工智能治理事件及趋势前瞻

当前，新一代人工智能技术在全球蓬勃兴起，正推动经济社会各领域从数字化、网络化向智能化加速跃升。伴随着人工智能新理论新技术飞速发展，人工智能治理标志性事件在世界范围内层出不穷。对国际国内人工智能治理标志性事件开展系统研究，有助于规律性认识人工智能未来发展趋势，有助于深层次把握革命性技术对劳动就业、社会伦理、个人隐私带来的风险与冲击，有助于综合性了解各国政府、学术机构、社会组织、企业主体等社会各层面、各领域为确保人工智能安全、可靠、可控、可持续发展做出的努力，进而以更积极的态度研判大势、把握机遇、引领潮流，推动人工智能服务经济社会发展和民生福祉改善。

为此，人民智库与旷视AI治理研究院第二次成立联合课题组，并邀请中国人工智能产业发展联盟（AIIA）作为课题支持单位，组织相关领域权威专家学者和企业代表，以《新一代人工智能伦理规范》中提到的六条原则（具体是：人类福祉、公平公正、隐私安全、可控可信、责任担当、伦理素养）为遵循，依据理论价值、实践价值、新闻价值、研究价值等四个评价标准共同开展“2021年度全球十大人工智能治理事件”（以下简称“十大事件”）遴选、评议，并对国家相关部委、行业协会领导，高校院所专家学者以及人工智能产业领域从业者等典型群体进行深入访谈。综合各方面资料、数据、意见、观点，最终得出2021年度全球十大人工智能治理事件和事件背后的发展趋势。

核心观点

1、2021年，我国开启算法治理元年，各部门相继出台了针对不同问题的指导意见与管理规定等文件，建构平衡包容、互益互补的治理体系，共同推进我国算法治理进一步规范发展，走向综合治理的发展格局。

2、2021年，我国从司法实践角度升级法律体系，用法律厘清数据边界，敏捷治理回应民众关切，通过法律手段对个人敏感信息收集进行治理，保障个人信息安全，推动人工智能良性发展。

3、2021年，国内外对于人工智能的监管措施覆盖了“柔性治理”与“刚性条款”，除了出台系列针对数据与技术的法律法规外，对于AI涉及伦理方面的内容也作出规定，实现了“刚柔并济”。

4、2021年，AI技术成熟对人类智能交通、智慧出行福祉的改善受到社会认可，除了道路等基础设施建设、自动驾驶汽车能力等自动驾驶相关技术的进步，以此为示范和契机，将会带动更多的无人系统和自治系统的繁荣和发展。

5、未来，人工智能需要更加聚焦前沿科技服务民生和助力公平，通过法治手段厘清人工智能的法治伦理边界，强调AI治理的国际合作和政产学研合作，使全人类共同面对、共商共议、交流互鉴。

6、人工智能不仅需要在技术创新和应用落地方面下功夫，也需要在治理上使力气。人工智能既是我们创造美好生活的重要手段，也是需要妥善治理的对象。

2021年度全球十大人工智能治理事件

1、强化数据安全，相关法律法规陆续发布

2、欧盟发布针对人工智能技术的监管法规草案，呼吁禁止公共场所人脸识别

3、国家新一代人工智能治理专业委员会发布《新一代人工智能伦理规范》

4、联合国发布全球性人工智能伦理及治理规范

5、强化算法综合治理，防范算法滥用风险，用户可选择关闭算法推荐

6、自动驾驶汽车2021年或在英国合法化

7、美国新提案将赋予社交媒体用户禁用算法的权利

8、AI增进人类福祉新方向：AI干预自杀、AI手语主播、AI气候预测

9、人脑芯片或2022年使用，瘫痪者迎来希望

10、人脸识别第一案在浙江省杭州市中级人民法院迎来终审宣判

更多精彩观点

1

十大事件三年考：

重点化、国际化、法治化

纵观2019年至2021年的全球十大人工智能治理事件，可以看出社会各界对AI治理领域高度关注的若干条脉络线：

一是人工智能治理的重点领域日渐明晰。基于当前人工智能技术发展阶段和经济社会生活现实，人脸识别、辅助驾驶、算法推荐作为人工智能应用较广泛、发展较迅速、现实意义强、问题矛盾也相对集中的三大重点领域，其轮廓日趋清晰，国际国内人工智能治理的重心、重点和规则规范制定出台也日趋向这三个领域及相关应用场景集中。

二是人工智能治理领域的国际合作日趋密切。随着人工智能技术迅猛发展和世界经济格局迅速演变，各国普遍认识到，人工智能的有效治理是全球性、全局性议题，没有一个区域、国家可以成为“孤岛”，也很难在缺乏有效国际共识、协作机制的前提下真正实现人工智能领域的善治。尤其是推动人工智能技术发展和应用的三大主要经济体——中国、美国、欧盟，在抢占技术制高点竞争日趋激烈的同时，政府、企业和相关社会组织、行业组织之间也逐步加强了对话与合作，联合国也在国际人工智能治理规则制定等方面发挥日趋重要的作用。

三是人工智能治理领域的法治化程度逐步提升。中美欧普遍高度重视人工智能领域立法，逐步实现了人工智能重点领域“有法可依”，重要应用场景均有法律法规和相关规则予以规范，为人工智能技术的可持续健康发展奠定了良好法治基础。与此相应，相关领域司法实践日趋走向成熟、稳定、可预期，成为人工智能治理领域重要“善治”基石。

四是人工智能治理领域的意识形态风险挑战日益成为焦点。世界百年未有之大变局下，大国竞争博弈日趋激烈，人工智能等前沿科技领域竞争趋于白热化。算法推荐、机器人账号、社交媒体精准推送等日趋成为人工智能应用热点，个人信息乃至经济社会信息、地理信息安全等问题备受关注，这些都与意识形态领域安全乃至国家战略安全息息相关，人工智能治理领域的竞争与国际话语权竞争的联系日趋紧密，“元宇宙”等新的应用场景还将继续加速这一进程。

2

开启算法治理元年

建构平衡包容的治理体系

人工智能产业作为经济体量巨大的新兴产业，其算法对网络生态的发展亦产生了深刻影响。人工智能算法在降低公众筛选有效信息时间成本的同时，也扩大了网络生态失衡、失真的风险。在本次调查中，涉及算法治理的事件得到了专家和公众的广泛关注。国内主要事件为“九部委发文：防止利用算法干扰社会舆论等行为；网信办拟规定不得利用算法控制热搜，用户可选择关闭算法推荐”。国际方面为“美国新提案将赋予社交媒体用户禁用算法的权利”。清华大学人工智能国际治理研究院名誉院长傅莹指出，我国目前已经初步建立起算法治理的“法治之网”，特别是在2021年，各部门相继出台了针对不同问题的指导意见与管理规定等文件，并且这些规章彼此起到互益互补的作用，共同推进我国算法治理进一步规范发展，走向综合治理的发展格局。

2021年堪称中国算法治理元年。北京科技大学法学院副教授、国家人工智能伦理与道德标准小组成员张凌寒认为，我国的算法治理体系以信息安全、市场竞争秩序和消费者权益保护为指导思想，2021年的算法综合治理活动与相关立法，使得我国率先建立了世界上最为完备的囊括数据安全、个人信息保护和算法安全的互联网治理体系。标志性事件为世界第一部系统性、全面性规制算法的法律文件《互联网信息服务算法推荐管理规定》发布。《关于加强互联网信息服务算法综合治理的指导意见》宣布我国将在三年内建立起算法安全综合治理格局。综合来看，欧盟和美国在数据保护立法领域走在了中国之前，算法规制方面中国则当仁不让地开世界先河。

人工智能时代算法应用场景的持续丰富，推动着人们工作生活空间的“全面数字化”。因此需要对人工智能算法的风险与不确定性进行准确识别与判断，以保障公民的算法自由与算法安全。

浙江理工大学法政学院特聘副教授、杭州长三角大数据研究院副院长郭兵认为，算法推荐等技术为网络用户和网络平台带来便利和经济利益的同时，也引发了一系列新的法律问题。平衡好算法推荐等技术的创新发展与安全风险，成为算法治理的一大难题。

清华大学交叉信息研究院院长、人工智能国际治理研究院学术委员会主席姚期智指出，不断精进的算法、高效的算力和隐私保护是人工智能理论的新方向。“平衡包容”人工智能治理体系的建构，将进一步释放人工智能的潜能，更大程度保证人工智能的安全性。

3

法律厘清数据边界

敏捷治理回应民众关切

人工智能在造福人类的同时，带来的潜在风险也随之凸显，对于人工智能发展过程中出现的问题，需要明确其法律客体的地位，通过法律手段予以规制。传统的“先发展，后治理”的模式在人工智能时代并不适用，人工智能具有基础性与普遍性，作为一种通用技术和基础设施将对各行各业产生巨大的影响，给传统生产方式带来深刻的变革。

人工智能技术具备卓越的信息处理能力，可以将碎片化的信息进行整合，从而实现信息从“量”到“质”的飞跃。因此，如何有效保护和合理使用信息数据，成为人工智能技术健康发展所面临的重要课题。

对此，我国从司法实践角度升级法律体系，适应人工智能时代的需要，保障个人信息安全。本次十大事件的评选中，国内涉及保护个人信息安全、规制个人信息收集的事件关注度最高，如《个人信息保护法》《数据安全法》正式实施，最高法出台人脸识别新规等。“人脸识别第一案在浙江省杭州市中级人民法院迎来终审宣判”也受到广泛关注。在国际方面，“欧盟发布针对人工智能技术的监管法规草案，呼吁禁止公共场所人脸识别”受关注度最高。

对社会公众关注度高的热点事件进行敏捷治理，意味着及时、迅速地对人工智能的失范行为进行治理，实现治理对象的多元化。要及时回应人民关切，通过法律手段对个人敏感信息收集进行治理，推动人工智能良性发展。

中国信息通信研究院云计算与大数据研究所魏凯副所长分析，2021年，备受关注的《数据安全法》《个人信息保护法》出台，与《网络安全法》共同形成了数据治理法律领域的“三驾马车”，标志着我国数据安全法律架构已初步搭建完成。在此基础上，聚焦重点行业、新兴技术的数据安全法律法规和司法解释也在2021年密集出台，充分体现了我们国家在数据立法方面的前瞻性和创新性。这一系列法律法规的出台，为加快培育数据要素市场、保障数字经济健康发展奠定了坚实的制度基础。

清华大学公共管理学院教授、人工智能国际治理研究院副院长梁正认为，人工智能治理已经成为全球共识，且已从理念层面进入到建章立制、落地实施的阶段。除了自上而下的建章立制，自下而上的基于应用主体和用户选择的参与，也成为人工智能治理的一个重要特点。

数字广东网络建设有限公司产品研发部总经理刘亚单认为，数据安全事关国家安全和经济社会发展，提升数据安全治理能力是我们在新形势下需要着力解决的突出问题。专门法律相继发布生效，为明确数据产权与利用规则奠定了基础，推动我国公共数据共享、开放和利用走向“规范化”发展道路，是全球个人信息法治发展的重大里程碑。

4

刚柔并济：

伦理标准推动科技向善

随着人工智能技术的快速发展和广泛应用，相关伦理问题愈发受到各界重视。各国政府、国际组织、学术机构和企业界都积极参与相关伦理标准的讨论和制定， 确保人工智能技术发展“以人为本”。全球性、地区性及各国涉及法律、伦理、道德规范建设的新闻受到了社会各界的广泛关注。

目前，国内外对于人工智能的监管措施覆盖了“柔性治理”与“刚性条款”，实现了“刚柔并济”。除了出台系列针对数据与技术的法律法规外，对于AI涉及伦理方面的内容也作出规定。中国政府向来高度重视人工智能产业发展中的伦理问题。2017年7月，国务院在《新一代人工智能发展规划》中提出，要“制定促进人工智能发展的法律法规和伦理规范；开展人工智能行为科学和伦理等问题研究；制定人工智能产品研发设计人员的道德规范和行为守则”。2019年6月，国家新一代人工智能治理专业委员会发布了《新一代人工智能治理原则——发展负责任的人工智能》，旨在“更好地协调发展与治理的关系，确保人工智能安全可靠可控，推动经济、社会及生态可持续发展”。2021年9月25日，《新一代人工智能伦理规范》发布，旨在将伦理道德融入人工智能全生命周期，为从事人工智能相关活动的自然人、法人和其他相关机构等提供伦理指引。

联合国是推动建立全球AI伦理规范的重要力量。2019年，联合国教科文组织启动了全球AI伦理建议书的撰写，并于2020年9月完成草案，提交193个会员国协商，2021年11月发布了《人工智能伦理建议书》，这是全球首个针对人工智能伦理制定的规范框架。这一历史性文本确定了共同的价值观和原则，用以指导建设必需的法律框架来确保人工智能的健康发展。此外，世界卫生组织(WHO)于2021年6月28日正式发布了“世界卫生组织卫生健康领域人工智能伦理与治理指南”，为不同的国家最大化人工智能的益处和最小化其风险并避免危害提供了指引。

中国信息通信研究院云计算与大数据研究所何宝宏所长指出，发布《新一代人工智能伦理规范》，细化落实《新一代人工智能治理原则》，是我国深化人工智能治理工作的又一重大举措。人工智能技术以数据、算法为驱动，发展速度迅猛，正在深刻改变人类的社会生产和生活模式。但人工智能技术的滥用也不断冲击社会伦理底线、侵犯个人权益。所以，既要大力发展人工智能，又要高度重视风险和挑战，科学处理好发展和治理的关系，发展可信的人工智能。

京东探索研究院院长陶大程认为，我们需要增强用户的信任，提升人工智能落地服务的质量，发展可信人工智能是当前社会各界的重要共识，加强AI治理将为人工智能技术的进一步发展及其更广泛应用落地提供可靠保证。

5

AI增进民生福祉

前沿科技勾勒幸福未来

关于自动驾驶是否合法以及自动驾驶主体责任等问题的讨论一直是各界热议话题，从入围2019年十大事件的“自动驾驶安全事故问责难”到入围2021年十大事件的“自动驾驶汽车2021年或在英国合法化”，意味着AI技术成熟对人类智能交通、智慧出行福祉的改善受到社会认可。南京大学计算机科学与技术系聂长海教授认为，这是人类迈出的一大步，除了道路等基础设施建设、自动驾驶汽车能力等自动驾驶相关技术的进步，以此为示范和契机，将会带动更多的无人系统和自治系统的繁荣和发展。

在国内，关于人工智能技术向善的事件十分令人暖心：中科院通过AI算法技术，开发了自杀意念识别模型，在社交网络上识别有自杀倾向的网友并对其展开救助；在2022冬奥会开始之际，AI手语主播将全年无休为听障用户传达比赛资讯；此外，AI首次预测未来两年气候，这对人类提前筹划预防自然灾害很有帮助。据外媒报道，某技术公司研发的微芯片装置有望2022年植入人类大脑，这一技术将为瘫痪者带来希望。

南京大学科学技术与社会研究所所长潘天群教授认为，当代社会有抑郁等心理障碍的人越来越多，因心理问题而自杀的人也越来越多。在网上“树洞”进行倾诉是心理障碍者缓解压力的一个重要渠道。人工智能技术设计的软件用于阻止更多意图自杀的人，公益性强、社会价值巨大，也意味着基于网上的资源可以开发出各种具有公益价值的软件。

“AI手语主播的应用代表着，AI数字人技术可以通过人工智能让机器运用某些情感贯穿表达方式、面部表情后台逻辑，在虚拟世界中打造一个真实的助手或者合作伙伴。未来AI客服、AI经理、AI店长、AI演示员等多种社会角色，或许将陆续在不同行业、不同领域‘上岗’，让人们切实体会到‘人工智能建设的美好世界’。”科大讯飞高级副总裁江涛如是说。

招商银行人工智能实验室主任李金龙认为，随着AI在生物医学、社会服务以及大气研究等多个领域落地开花，AI的能力被进一步证明，并更好地服务人类，加速基础研究。从早期的如语音播报能力为视弱者提供移动服务，到现在的AI预测蛋白质结构节约研究成本等，无不证明，科学合理使用AI能力可以为人类社会造福。

6

趋势前瞻：AI为推动人类文明进步正向赋能

中国信息通信研究院副总工程师、中国人工智能产业发展联盟副秘书长王爱华认为，2021年是全球人工智能治理极具实质性突破的一年，呈现出三大发展特点：一是治理“趋实”，二是治理“趋严”，三是治理“趋细”。将抽象的人工智能伦理原则、法律规范转化为具体实践，落实到技术、产品和应用中去，是产业界亟待加快推进的工作。

旷视科技联合创始人兼CEO印奇认为，作为全球科技竞争的关键领域，人工智能不仅需要在技术创新和应用落地方面下功夫，也需要在治理上使力气。人工智能既是我们创造美好生活的重要手段，也是需要妥善治理的对象。AI治理的向上向善发展需要理性的关注、深度的研究、建设性的讨论和坚持不懈的行动。用人工智能造福大众，离不开所有AI从业者和社会各界的多元共治、共同努力。

未来，考察AI治理问题，一是需要增加新型全球化背景下的宏观考察，于构建人类命运共同体的时代议题之下，考量人工智能对人类文明的推动；更加聚焦前沿科技服务民生和助力公平，增强大众对AI改善民生福祉、助力幸福未来的期待和信心。二是通过法治手段厘清人工智能的法治伦理边界。有关部门应密切追踪技术前沿，广泛吸纳意见和建议，对伦理规范进行科学、动态制定和调整，引导AI为推动人类文明进步正向赋能。三是更加强调AI治理的国际合作和政产学研合作，对于人工智能治理的问题需要全人类共同面对，相关标准规范的制定需要多方参与、共商共议、交流互鉴。

（执笔：人民智库与旷视AI治理研究院联合课题组）

内容来源 / 《国家治理》周刊2022年1月第1期

今日编辑 / 陈恬乐

责任编辑 / 戴晟昱

城市大脑研究院提供开放研讨平台，所有文章仅代表作者个人观点，欢迎共同探讨。原创文章，转载请注明来源：城市大脑研究院。部分图片来源于网络，如涉及版权问题，敬请及时联系我们。