律师视点 | 黄斌：元宇宙法律篇（十七）——让元宇宙充满想象力之人工智能治理

黄  斌

北京德和衡（深圳）律师事务所

高级联席合伙人

无论是计算机视觉，机器学习，还是自然语言处理和智能语音，人工智能是元宇宙重要的组成部分和关键之一，它与元宇宙切口高度重叠，有了这些人工智能技术的持续加持，元宇宙未来才会从概念到场景化的落地，两者之间的紧密关系，让市场有了更多想象力和期待。^[1]元宇宙中大量的应用场景和用户需要对大量的数据进行智能化处理，人工智能通过大量的数据进行机器学习，然后通过算法进行自动化决策。人工智能还可以独立或与人类共同创作场景内容，丰富元宇宙中各式内容之需求。人工智能通过上述应用，让用户对元宇宙有了更多想象力和期待。

一、人工智能的发展历程

人工智能，英文缩写为AI，它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。^[2]1936年，24岁的英国数学家图灵提出了“自动机”理论,把研究会思维的机器和计算机的工作大大向前推进了一步,他也因此被称为“人工智能之父”。^[3]1956年，在达特茅斯会议上首次提出了“人工智能”这一术语。1959年，阿瑟·塞缪尔创造了“机器学习”一词，并在同年发生了人工智能战胜人类的事件。1966年，世界上第一个聊天机器人发布，人机开始实现首次对话。1997年，“深蓝”战胜人类国际象棋冠军。2007年，世界上最大的图像识别数据集建立并帮助人工智能识别出了猫。2016年，阿尔法战胜了人类职业棋手九段李世石。

二、人工智能发展的原则

2018年4月，《英国人工智能发展的计划、能力与志向》为人工智能准则的制定提出了五条初步的原则：一，开发人工智能应当为了共同利益和人类福祉；二，人工智能的运行应符合可理解原则和公平原则；三，不应利用人工智能来削弱数据权利或隐私；四，所有公民都有权获得教育，以便享有人工智能带来的好处；五，伤害、毁灭或欺骗人类的自主权力绝不应委托给人工智能。^[4]

阿西洛马人工智能原则指出：人工智能研究的目标应该是创造有益(于人类)而不是不受(人类)控制的智能；价值归属：高度自主的人工智能系统的设计，应该确保它们的目标和行为在整个运行中与人类的价值观相一致；人类价值观：人工智能系统应该被设计和操作，以使其和人类尊严、权力、自由和文化多样性的理想相一致；个人隐私：在给予人工智能系统以分析和使用数据的能力时，人们应该拥有权力去访问、管理和控制他们产生的数据；自由和隐私：人工智能在个人数据上的应用不能充许无理由地剥夺人们真实的或人们能感受到的自由；分享利益：人工智能科技应该惠及和服务尽可能多的人；共同繁荣：由人工智能创造的经济繁荣应该被广泛地分享，惠及全人类；人类控制：人类应该来选择如何和决定是否让人工智能系统去完成人类选择的目标；非颠覆：高级人工智能被授予的权力应该尊重和改进健康的社会所依赖的社会和公民秩序，而不是颠覆；风险：人工智能系统造成的风险，特别是灾难性的或有关人类存亡的风险，必须有针对性地计划和努力减轻可预见的冲击。^[5]

经合组织（OECD）发布《确定OECD的人工智能发展原则》报告，报告提出了人工智能的五项原则：包容、可持续发展与福祉；以人为本的价值观和公平；透明和可解释性；健壮性和安全性；可问责制。^[6]2019年6月，国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》，提出新一代人工智能治理原则——发展负责任的人工智能。^[7]笔者以为，人工智能的运行应符合可理解原则和公平原则，人工智能应该能够为人类社会现有的道德所理解；人工智能的运行应当保持透明可见的原则，不让特定个人或少数群体遭受偏见、侮辱和歧视；人工智能应当尊重人格尊严和个人隐私，保障人工智能参与者的知情权和选择权；最后，人工智能的发展应当可控，人类不从属于人工智能也不应受到人工智能的胁迫，保障人类在人工智能中的决定作用，当人工智能失控时应当有毁灭装置。

三、人工智能发展现状

2017年，国务院印发《新一代人工智能发展规划》，要求到2030年中国人工智能产业竞争力达到国际领先水平。2019年7月，习近平在主持学习时指出，人工智能是引领这一轮科技革命和产业变革的战略性技术。人工智能是在5G、大数据、云计算、物联网、算法等技术发展推动下，以深度学习、人机对话、自动决策等特征出现在人们的现实世界和虚拟世界中，出现在各式元宇宙应用场景中。人工智能产业链包括基础层、技术层和应用层，基础层包括芯片、数据采集设备、云计算，用于大量的数据采集并为人工智能提供数据及算力支撑；技术层包括神经网络、语音分析、计算机视觉、算法，为人工智能进行机器学习；应用层主要应用于元宇宙各大应用场景，包括教育元宇宙、工业元宇宙、文旅元宇宙等。

当前，以深度学习、人机对话、脑机协同、自动决策为特征的新一代人工智能不断取得新的突破，成为推动元宇宙各项应用场景落地的重要推动力量。数据是机器学习的根基，数据的真实性、完整性、数据规模以及质量是人工智能进行分析与建模的关键，带有偏见、歧视的数据将影响机器学习的质量，将影响自动化决策的倾向，决定自动化决策的公平正义。算法是人工智能自动化决策的核心，算法的黑箱、偏见及歧视也将对人工智能决策结果起着决定性的影响。2015年2月，英国人工智能机器人在做心瓣修复手术时出现大失误，导致患者死亡，据说背后可能还有人为因素。2019年，智能音箱在回复用户心动周期的相关问题时，建议用户自杀。近年来，特斯拉 “突然失控”“自动加速”“刹车失灵”等事件频繁不断发生。以上人工智能安全事件的频发，引发了社会、企业、个人对人工智能发展的担忧，此时人工智能治理这一概念开始应运而生。

四、人工智能治理

人工智能治理是一项复杂的系统工程，既需要明确治理原则、目标以及厘清治理主体，又需要提出切实有效的治理措施。全球正在逐步构建起人工智能治理框架，以坚持科技造福人类，平衡创新发展与有效治理的关系作为治理目标，采用多元主体参与、协同共治的治理机制，通过制定伦理原则、设计技术标准、确立法律法规等综合治理手段，推动人工智能健康有序发展。^[8]人工智能是推动新一轮科技革命和产业变革的战略性技术，是推动元宇宙各项应用场景落地的核心关键技术。人工智能正在深刻地改变人们的生产模式和生活方式，给予人们更多的想象力和无限期待可能性，推动元宇宙经济的快速发展。然而，科技伦理、人类尊严、数据固有歧视、数据偏见、算法黑箱、算法偏见、算法歧视、可控性等问题不断骚扰着人工智能日益脆弱的神经。

1、科技伦理先行

2019年7月，中央全面深化改革委员会第九次会议审议通过《国家科技伦理委员会组建方案》，这表明科技伦理建设已经进入国家层面。2022年3月，中共中央办公厅、国务院办公厅印发了《关于加强科技伦理治理的意见》，《意见》指出：科技伦理是开展科学研究、技术开发等科技活动需要遵循的价值理念和行为规范，要进一步完善科技伦理体系，提升科技伦理治理能力，有效防控科技伦理风险，不断推动科技向善、造福人类。科技伦理治理要求伦理先行，明确科技伦理原则，包括：增进人类福祉，不断增强人民获得感、幸福感、安全感，促进人类社会和平发展和可持续发展；尊重生命权利，科技活动应最大限度避免对人的生命安全、身体健康、精神和心理健康造成伤害或潜在威胁，尊重人格尊严和个人隐私；坚持公平公正，公平、公正、包容地对待不同社会群体，防止歧视和偏见；合理控制风险，防止科技成果误用、滥用，避免危及社会安全、公共安全、生物安全和生态安全；保持公开透明，公布科技活动相关信息时应提高透明度，做到客观真实。

伦理是指在处理人与人、人与社会相互关系时应遵循的道理和准则。是指一系列指导行为的观念，是从概念角度上对道德现象的哲学思考。它不仅包含着对人与人、人与社会和人与自然之间关系处理中的行为规范，而且也深刻地蕴涵着依照一定原则来规范行为的深刻道理。^[9]人工智能伦理是指处理人与机器、机器和社会之间相互关系时应遵循的道理和准则，包含着人与机器、机器和社会之间的行为规范。人工智能最大的弱点是缺乏直接的感受能力，在价值判断上存在弱点，而人工智能伦理准则所倡导的造福人类、避免伤害、公平正义等价值理念，为人工智能技术层面的开发和运用提供了价值判断标准。^[10]人工智能的研发与应用首先应当为了共同利益和人类福祉，以促进人类向上向善为目的，保护人类在社会和工作中的尊严、诚信、自由、隐私和安全，推动全社会公平共享人工智能带来的益处，不断增强人民获得感、幸福感、安全感，促进人类社会和平发展和可持续发展；其次，运行应符合可理解原则和公平原则，人工智能应该能够为人类社会现有的道德所理解，切实保护各相关主体合法权益，促进社会公平正义和机会均等；再其次，人工智能的运行应当保持透明可见的原则，不让特定个人或少数群体遭受偏见、侮辱和歧视；再次，尊重生命权利，人工智能应最大限度避免对人的生命安全、身体健康、精神和心理健康造成伤害或潜在威胁，尊重人格尊严和个人隐私，保障人工智能参与者的知情权和选择权；最后，人工智能的发展应当可控，人类不从属于人工智能也不应受到人工智能的胁迫，保障人类在人工智能中的决定作用，当人工智能失控时应当有毁灭装置。

2、数据伦理

以机器学习为代表的人工智能技术需要大量的数据，数据是机器学习的根基，数据的真实性、完整性、规模和质量是人工智能进行分析与建模的关键。人工智能公平性的核心基础是数据，数据的不公平主要体现在：不同群体在数据中所占比例不均衡，数据固有的歧视，数据固有的偏见，数据的包容性不够，数据的通用性以及数据的准确性等。数据固有的歧视和偏见，是因为一些带有歧视和偏见的价值观映射在数据上。如果没有对上述数据不公平现象进行调试和校验，就将反馈到人工智能算法模型并将最终映射到人工智能公平性上。

2018年，德国成立了数据伦理委员会，负责为德国联邦政府制定数字社会的道德标准和具体指引。德国数据伦理委员会认为，人格尊严、自我决策、隐私、安全、民主、正义、团结、可持续发展等应被视为德国不可或缺的数字社会行为准则，这一理念也应在“数据”和“算法系统”的监管中加以贯彻。^[11]人工智能数据伦理以人格尊严、自我决策、隐私、安全、民主、正义、团结、可持续发展等为原则，尊重人在科技时代的主体地位，构建人与机器、机器与社会之间的和谐关系，增进人类和社会福祉。我们要强调人在数据中的主体地位，尊重人的权利和自由，实现有秩序有规范的数据共享。

2021年9月，《中华人民共和国数据安全法》开始施行，明确规定“国家保护个人、组织与数据有关的权益”。因此，数据主体、数据处理者、第三方数据利用者对数据只享有一定的数据权益，并没有数据所有权。数据主体是指提供单一数据的个体，其对其个体信息的处理享有知情权、决定权、查阅权、复制权、更正权、删除权。数据包括数据资源整体和单一数据，单一数据只是将数据主体提供的信息作了数字化记录后而形成的原始数据，并未提供创造性劳动成果提升用户信息的品质，对于社会的价值贡献仍未脱离用户信息所包含的资讯内容，只能依附于用户个人信息权益，依其与用户的约定享有原始数据的有限使用权；数据资源整体也就是数据产品，数据处理者通过大量的智力劳动成果投入，并经过深度开发与系统整合，是与原始用户信息、原始网络数据无直接对应关系的衍生数据；数据产品虽表现为无形资源，但可以为运营者实际控制和使用，能够为运营者带来相应经济利益，在实践中已经成为市场交易的对象，具有竞争性财产权益。

3、算法治理

元宇宙时代的来临，算法已经广泛应用于在线社交、游戏、媒体、学习、医疗、教育、工作、生活等诸多元宇宙场景，全面渗透于人们的现实世界和虚拟世界。元宇宙时代，同时也是一个算法的时代，算法合规与否直接决定了元宇宙合规与否。算法时代，是一个由政府机构、社会团体、商业平台等基于大量数据利用并通过算法进行自动化决策的时代，是广泛应用在医疗、教育、就业、金融等行业决策的时代。算法，源自计算机科学的一个概念，是执行预定良好计算过程的计算机代码或指令，基于原始数据的输入通过自动化决策产生结果数据的输出。算法的出现和使用，是为了执行大规模重复的任务和计算，是为了实现商业上高效快速的交易，是为了实现公权力具有广度、深度和效率的运行。随着算法的日益广泛应用，算法已经成为促进政治、经济、文化和社会发展的工具。算法，简而言之就是“数据处理活动”，收集处理数据，挖掘数据价值，涵盖了数据的生成、采集、存储、转换、处理和输出的全过程。算法，应当遵循人类共同价值观，遵守国家或地区伦理道德；算法应当尊重人类主体地位，给用户选择权和决策权；算法应当抑制人类社会无处不在的歧视和偏见；算法应当保障用户的人身权和财产权。

政府机构、社会团体、商业平台等将算法内嵌在健康码、个人征信、风险评估、金融风控、智能安防、公共卫生防治等应用场景中，可以支配数据流动挖掘数据价值并构建新的社会秩序。算法，已经不是纯粹的的计算机代码或指令，不再是简单的数据处理工具，而是被政府机构、社会团体、商业平台等预设了其利益或偏见的不透明自动化决策系统。“算法滥用”，即算法的不正当使用，借助算法的工具属性和算法“技术中立”的本质属性，将其利益或偏见嵌入到算法运行的各个微观层面，嵌入到新生产生活资料引发的经济秩序和社会秩序重构，可能对公民权利、社会秩序、政治权力体系等造成一定的冲击。算法治理，就是对政府机构、社会团体、商业平台等控制算法的人采集、传输、分类、选择、分析、评估、控制数据方式的治理，是对算法自动化决策系统本质方面的深入理解，也是对社会秩序的一种治理。比如：麻省理工学院的研究人员开发了一种新的深度学习算法，旨在帮助机器在真实的、不完美的世界中导航，通过对它们收到的测量和输入建立健康的 "怀疑论"。^[12] IBM 研究人员开发了一种方法来减少训练数据集中可能存在的偏见，这样之后利用该数据集进行学习的AI 算法就能尽量保持公平。^[13]

4、法律制定

2021年4月，欧盟委员会公布了《人工智能法》草案，也是全球第一个人工智能法律框架。草案将人工智能系统将人工智能系统划分为不同风险级别并采取不同监管路径，并规定了禁止的人工智能实践。2021年11月，美国发布的《人工智能应用监管指南》提出了十大监管原则，包括公众对AI的信任、公平与非歧视、披露与透明度等原则。2021年7月，深圳市人大常委会办公厅公布全国首部地方性人工智能领域法规《深圳经济特区人工智能产业促进条例（草案）》。草案指出，人工智能产业发展遵循科技引领、开源开放、应用驱动、以人为本、安全可控、伦理规范的原则；市标准化管理部门应当建立和完善人工智能地方标准体系；市人民政府应当按照国家人工智能治理相关规定，设立人工智能伦理委员会，履行研究制定人工智能领域的伦理规范，建立健全人工智能伦理安全标准管理制度，引导和规范人工智能伦理安全标准的制订和实施，对数据垄断、算法歧视、智能滥用、深度造假、数据投毒、隐私保护、伦理道德、不平等智能操作以及对社会结构的影响等重点领域开展监测与研判等职责。我们应当加大对人工智能的立法，确立以人为本、公平与非歧视、披露与透明度、安全可控、伦理规范等原则，建立和完善人工智能标准体系，确保人工智能系统的公平、可信赖、可治理。

注释：

[1]澎湃新闻，从AI到元宇宙，谁会笑到最后？https://m.thepaper.cn/baijiahao_15837312

[2]百度百科，人工智能，https://baike.baidu.com/item/%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD/9180?fr=aladdin

[3]CSDN，人工智能的起源及发展，https://blog.csdn.net/qq_41421229/article/details/105265505

[4]人民网，英国版“人工智能准则”有望确立，http://scitech.people.com.cn/n1/2018/0419/c1007-29936165.html

[5]51CTO博客，阿西洛马人工智能原则，https://blog.51cto.com/u_14808965/2966847

[6]参考网，高玉英，科技启智向善：OECD《人工智能原则》解读与启示，https://www.fx361.com/page/2021/0916/8859502.shtml

[7]百度，中国日报网，发展负责任的人工智能：新一代人工智能治理原则发布，https://baijiahao.baidu.com/s?id=1636572677631086443&wfr=spider&for=pc

[8]脉脉，中国信通院：《2020人工智能治理白皮书》（全文），https://maimai.cn/article/detail?fid=1542295739&efid=u2sPlQ1_SxoVGfH8KtLOfw

[9]百度百科，伦理，https://baike.baidu.com/item/%E4%BC%A6%E7%90%86/2138438?fr=aladdin

[10]中国网财经，人人皆可换脸 眼见不再为真：人工智能安全如何保障？http://finance.china.com.cn/roll/20210108/5472031.shtml

[11]百度，腾讯研究院，德国发布AI和数据伦理的75项建议，提出数据和算法协同治理等理念｜腾讯网络法专报，https://baijiahao.baidu.com/s?id=1655085509459280794&wfr=spider&for=pc

[12]贤集网，MIT开发新算法,帮助人工智能系统躲避“对抗性”输入，https://www.xianjichina.com/special/detail_475806.html

[13]中国安全防范产品行业协会，IBM发布未来五年五大科技预测之AI偏见，http://news.21csp.com.cn/c5/201803/11367635.html

或许您还想看

上下滑动查阅

作者简介

黄  斌

北京德和衡（深圳）律师事务所高级联席合伙人

黄斌律师，北京德和衡律师事务所数字经济与人工智能业务中心副总监，元宇宙科技与法律研究中心主任，深圳律协数字经济专委会副主任，北京德和衡（深圳）律师事务所高级联席合伙人，公司业务部副主任，北大法律信息网签约作者，《互联网法律评论》特约专家，无讼公开课讲师，无讼专栏作者，百度百家号VIP作者，华中科技大学法律硕士，专利代理人。

擅长专业领域为：数字经济、元宇宙、NFT、虚拟人、区块链、虚拟货币、公司法、建设工程、知识产权。

黄斌律师专注于中小股东保护，深度研究数万个判例进行解码，从董事推荐、公司决议、股东退出等多维度完成了公司中小股东保护法律服务产品；在大学从事近十年建设法规教学，从建工合同的签订、入场、施工、变更、退场等多维度保护建工企业及实际施工人的权益；曾从事三年专利代理工作，参与了武烟集团公司知识产权战略规划。2017年完成江西省工商联课题“民企知识产权保护”。

现为中国最大法律人社区无讼阅读“商标有道”专栏作者，在北大法律信息网和无讼阅读平台上发表过《中国好声音：到底是谁的好声音》等100多篇知识产权法文章，《麦当劳中国更名为“金拱门”相关法律问题评析》荣获“无讼”阅读2017年度专业文章第一名，《短视频版权保护的江湖风云》收录在《大数据—北大法律信息网文粹（2018-2019）》一书。

代理案件中江西网络电视台诉暴风科技信息网络传播权侵权案入选江西省高院2017年十大知识产权经典案例、田某某侵犯商业秘密罪案（判三缓五）入选2021年江西省检查机关保护知识产权典型案例。

手机：[phone]

邮箱：[e-mail]

质控人简介

辛小天

合伙人

数字经济与人工智能业务中心总监

[e-mail]

END