律师视点 | 黄斌：元宇宙法律篇（二十三）——元宇宙场景下的算法治理

黄  斌

北京德和衡（深圳）律师事务所

高级联席合伙人

元宇宙时代的来临，算法已经广泛应用于在线社交、游戏、媒体、学习、医疗、教育、工作、生活等诸多元宇宙场景，全面渗透于人们的现实世界和虚拟世界。算法，源自计算机科学的一个概念，是执行预定良好计算过程的计算机代码或指令，基于原始数据的输入通过自动化决策产生结果数据的输出。算法的出现和使用，是为了执行大规模重复的任务和计算，是为了实现商业上高效快速的交易，是为了实现公权力具有广度、深度和效率的运行。算法，已经不是纯粹的的计算机代码或指令，不再是简单的数据处理工具，而是被政府机构、社会团体、商业平台等预设了其利益或偏见的不透明自动化决策系统。算法治理，是对政府机构、社会团体、商业平台等控制算法的人采集、传输、分类、选择、分析、评估、控制数据等方式的治理，也是对元宇宙时代社会秩序的一种治理。

一、用主流价值导向驾驭算法

2019年，习近平总书记在中共中央政治局第十二次集体学习时的讲话指出：用主流价值导向驾驭“算法”，全面提高舆论引导能力。《互联网信息服务算法推荐管理规定》在总则篇第一条规定：为了规范互联网信息服务算法推荐活动，弘扬社会主义核心价值观；在信息服务规范篇第十一条又规定：算法推荐服务提供者在首页首屏、热搜、精选、榜单类、弹窗等重点环节积极呈现符合主流价值导向的信息。平台经济是数字经济时代背景下的新的经济模式，算法已经深度嵌入平台经济，并进行批量、大规模、系统性的决策。算法从诞生之日就被应用于商业化、市场化等各种场景中，不可避免地带有设计者大量的选择、安排与价值观，带有数字平台明确的目的性并体现了其鲜明的价值追求，也就是说数字平台在算法上所称的“技术中立”根本就不存在。譬如：有的算法只按照用户偏好推荐人们感兴趣的东西，甚至不在乎其推送的是“地球是平的”等虚假、阴谋论的信息，唯一关注的只有商业利益。在平台经济初期，具有稀缺性的信息具有价值性，而如今的平台经济中，我们人却成为了稀缺资源，成为了数字平台贩卖的对象，我们的注意力成为了当下数字经济最值钱的东西，也就是我们俗称的“注意力经济”。算法设计者首先用数据、代码构建出为求解特定问题的算法模型，算法模型会根据用户无数的行为数据建立用户画像，机器可以自动深度学习用户的行为数据并进行学习、训练、调优后形成用户模型，算法成为数据和用户之间的桥梁，一方面深度学习数据另一方面又去引导用户为平台获取流量和变现。算法会被成功的商业模式引导、优化，算法每一次推送都代表着一种商业利益，最终产品的演变会变成产品设计者当初不曾想象的样子。

所以，算法所体现的价值取向相当程度上体现了算法设计者、提供者的利益观、价值观，不同的算法设计者、提供者之间有不同的利益观、价值观因而算法也呈现出不同的价值取向，各种利己算法之间会给社会引发一定程度的价值危机，并加剧了充满价值冲突和利益分歧的社会实践。因此，算法应用必须体现“人是人类社会的主导”，体现“人是丈量算法温度的尺寸”，必须向上向善，必须坚持主流价值导向，弘扬社会主义核心价值观，必须呈现符合主流价值导向的信息。

二、算法之反垄断

《反垄断法》第九条规定，经营者不得利用数据和算法、技术、资本优势以及平台规则等从事本法禁止的垄断行为。《互联网信息服务算法推荐管理规定》第十五条规定，算法推荐服务提供者不得利用算法对其他互联网信息服务提供者进行不合理限制，或者妨碍、破坏其合法提供的互联网信息服务正常运行，实施垄断和不正当竞争行为。《国务院反垄断委员会关于平台经济领域的反垄断指南》规定垄断协议包括横向垄断协议、纵向垄断协议和轴辐协议，横向垄断协议包括通过算法实质上存在协调一致的行为，纵向垄断协议包括利用算法方式限定其他交易条件以排除、限制市场竞争的行为，轴辐协议包括利用算法等方式达成、实施垄断协议以排除、限制相关市场竞争的行为，滥用市场支配地位拒绝交易包括在算法方面设置不合理的限制和障碍使交易相对人难以开展交易的行为，滥用市场支配地位限定交易包括通过算法方面的实际设置限制或者障碍的方式实现的行为，滥用市场支配地位差别待遇包括基于算法根据交易相对人的支付能力、消费偏好、使用习惯等实行差异性交易价格或者其他交易条件的行为，反垄断执法机构对于具有或者可能具有排除、限制竞争效果的经营者集中还可以对不予禁止的经营者集中附加修改算法的行为性条件。

2015年，全球算法合谋第一案美国的Topkins案，美国司法部指控亚马逊网站上一名通过亚马逊出售海报、版画等艺术品的公司主管topkins，其编写了用于自动交换价格信息、协调卖价的算法与该公司的竞争对手达成横向垄断协议。

2016年，欧盟对E-Turas一案做出判决，认为：E-Turas开发了一套线上旅游预订系统,其向立陶宛30家旅行社提供在线预订系统，该在线预订系统向客户提供的折扣率进行技术限制，要求旅行社将各自的折扣率控制在3%以下, 超过3%的系统自动调整为3%，法院认为旅行社使用第三方公司提供的算法存在纵向垄断协议。2015年，美国公民迈耶诉网约车平台优步公司卡兰尼克案，指控优步公司与司机达成纵向固定价格共谋，限制该市场中经营者之间的竞争，以追求利益最大化，该案为算法达成轴辐协议的典型案例。

2022年3月，北京消协发布互联网消费大数据“杀熟”问题调查结果，饿了么平台老用户账号不仅比新用户账号补贴少而且配送费优惠也少，这就是典型的基于算法根据交易相对人的支付能力、消费偏好、使用习惯等实行差异性交易价格或者其他交易条件的滥用市场支配地位差别待遇行为。

三、算法之不正当竞争

《互联网信息服务算法推荐管理规定》第十五条规定，算法推荐服务提供者不得利用算法对其他互联网信息服务提供者进行不合理限制，或者妨碍、破坏其合法提供的互联网信息服务正常运行，实施垄断和不正当竞争行为。《禁止网络不正当竞争行为规定（公开征求意见稿）》第十三条规定：经营者不得利用数据、算法等技术手段，通过影响用户选择或者其他方式，实施流量劫持、干扰、恶意不兼容等行为，妨碍、破坏其他经营者合法提供的网络产品或者服务正常运行。第二十一条规定：经营者不得利用数据、算法等技术手段，通过收集、分析交易相对方的交易信息、浏览内容及次数、交易时使用的终端设备的品牌及价值等方式，对交易条件相同的交易相对方不合理地提供不同的交易信息，侵害交易相对方的知情权、选择权、公平交易权等，扰乱市场公平交易秩序。

在首例人工刷量平台干扰搜索引擎算法不正当竞争案中，法院认为：百度公司通过算法分析点击搜索引擎相关结果的数据，来对搜索结果进行排序，以匹配市场需求度，符合市场需求，此举是搜索引擎正常的经营活动。但是如果基于不真实的访问数据，百度公司会作出错误的算法判断，使用户与其所需求网站之间的距离增大，最终导致丧失其在搜索引擎网络服务行业中的竞争优势。被告运营的人工刷量交易平台，在了解原告算法的情况下，对“任务”进行了提示，设置了交易的步骤和规则，所采用的刷量手段完全使非目标客户伪装成了目标客户，足以达到以假乱真的效果，原告很难对此进行识别和监测。被告运营的人工刷量交易平台依附于原告的搜索引擎，并通过干扰原告经营活动的方式获取自身的商业利益，该种经营模式无任何创新价值，损害经营者和消费者的利益。且被告的经营模式使得大量虚假数据流入搜索引擎的搜索逻辑中，造成市场信息传递的错误，扭曲搜索引擎的商业模式。从长远来看，如不对这种模式进行规制，将使得搜索引擎中充斥虚假点击量，严重干扰搜索引擎的算法和逻辑。

四、算法之透明度

2017年，美国计算机协会公共政策委员会发布《关于算法透明性和可问责性的声明》，指出应当在系统开发和部署的每个阶段应用算法透明和可问责性的原则。2021年，美国参议院出台《算法正义和互联网平台透明度法案》，提出一系列措施确保平台在算法使用过程中履行审核和透明度义务。2022年，欧盟《数字服务法》要求在线平台采取广泛的透明度措施包括推荐算法的透明度，让用户更好地了解平台是如何向他们推荐内容。《互联网信息服务算法推荐管理规定》第四条规定，提供算法推荐服务应当遵循公正公平、公开透明的原则；第七条规定，算法推荐服务提供者应当制定并公开算法推荐服务相关规则；第十二条规定，鼓励算法推荐服务提供者优化检索、排序、选择、推送、展示等规则的透明度和可解释性；第十六条规定，算法推荐服务提供者应当以显著方式告知用户其提供算法推荐服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等。

算法透明度，即算法服务提供者应当公开披露其算法的基本原理、逻辑、操作规则、运作过程及决策方式。《最高人民法院关于审理侵犯商业秘密民事案件适用法律若干问题的规定》将算法列入商业秘密保护客体。因此，算法的公开和透明度应当在一个适度的范围内，既要保护企业的商业秘密，又要维护用户的合法权益。2021年11月，英国内阁办公厅中央数字和数据办公室（Central Digital and Data Office，CDDO）发布算法透明度标准（Algorithmic Transparency Standard）。该标准由两个层次构成。第一层次主要是对算法工具的简要介绍，包括如何使用、为何使用等；第二层次涉及算法工具具体如何工作的信息、训练模型的数据集以及对人力监测的要求等。虽然只区分了两个层级，但基本涵盖了数据的采集方式与分析方法、模型的设计逻辑与变量优化、各项参数权重、生成决策的判断依据、算法运行的正常与报错、人力干预的公开与公正等环节，贯穿算法的业务流程。^[1]

笔者以为，算法透明度标准如下：1、首先对算法应用场景进行区分，数字平台公开算法透明度标准与其涉及民生及广大公众利益的广度和深度呈正相关关系，也就是与其公共属性呈正相关关系，比如滴滴打车、今日头条等用户数量越大公共属性就越强，其让用户充分了解其优化检索、排序、选择、推送、展示等规则的义务就越高；2、算法公开的透明度应当以社会公众的感知、明白和了解为标准，而不是对源代码的彻底公开，因为这样不仅会侵害企业的商业秘密，而且有可能会对公众利益造成损害，比如：谷歌曾经公开一种叫作PageRank的算法的META标签、关键字等参数，结果导致很多网站就开始利用此类算法以达到提高网站在谷歌搜索结果页面排名靠前的目的；3、算法公开应当涵盖数据的采集与分析、模型的设计与优化、决策的判断依据的全过程，以及各项参数权重和人工干预的途径，说明算法如何工作的全流程；4、涉及公众利益的算法代码应当适度开源，进行事前披露、事后解释，并定期接受公众的质询。

五、算法之可解释性

2017年美国计算机协会美国公共政策委员会发布了《算法透明性和可问责性声明》,希望使用算法决策的系统和机构在外部问责方式下,对算法的过程和特定的决策提供解释。《人工智能伦理问题建议书》指出，可解释性是指让人工智能系统的结果可以理解，并提供阐释说明。人工智能系统的可解释性也指各个算法模块的输入、输出和性能的可解释性及其如何促成系统结果。《互联网信息服务算法推荐管理规定》第十二条规定，鼓励算法推荐服务提供者综合运用内容去重、打散干预等策略，并优化检索、排序、选择、推送、展示等规则的透明度和可解释性，避免对用户产生不良影响，预防和减少争议纠纷。第十六条规定算法推荐服务提供者应当以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等，也就是保障了用户的算法知情权。

第十七条规定算法推荐服务提供者应当向用户提供不针对其个人特征的选项，或者向用户提供便捷的关闭算法推荐服务的选项，也就是保障了用户的算法选择权。Kim和她在Google Brain的同事开发了一个名为“概念激活向量测试”(TCAV)的系统，TCAV就是一种算法可解释性的方法，能够直观显示模型运算所依据的概念及其比重，并观察模型中的算法歧视倾向。传统社会中本来就存在着偏见和歧视，算法设计者必然会自觉不自觉地把他的偏见和歧视带入到算法中，数字平台也会将其商业价值观输入到算法中；另外，算法是通过分解像素并给予一定数值然后根据不同特征属性的权重进行思考，该种思考不同于人类的高阶思考，可能会产生新的偏见和歧视，譬如“女性医生少”而得出“女性一定不是医生”的荒诞偏见和歧视。综上，算法歧视、偏见和算法黑箱导致用户慢慢对算法从害怕发展到恐惧，人类渴望理解算法并能更好地引导和使用算法，因此算法必须为数据主体或终端用户所理解。笔者以为，算法之可解释性是指对算法的输入、输出、决策等过程的可解释性，包括事前可解释性、事后可解释性，让用户对算法的结果可以理解。

六、算法伦理

算法，应当遵循人类共同价值观，遵守国家或地区伦理道德；算法应当尊重人类主体地位，给用户选择权和决策权；算法应当抑制人类社会无处不在的歧视和偏见；算法应当保障用户的人身权和财产权。算法也要讲伦理，归根结底是需要数字平台讲伦理。这种伦理，不只是体现在“不得利用算法推荐服务从事危害国家安全和社会公共利益、扰乱经济秩序和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动，不得利用算法推荐服务传播法律、行政法规禁止的信息”，还体现在“不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型”。算法须向上向善，算法应当只属于人民，应当有温度，算法应当符合公共利益，符合公平正义。譬如：2021年，市场监管总局、国家网信办、国家发展改革委、公安部、人力资源社会保障部、商务部、中华全国总工会联合印发《关于落实网络餐饮平台责任 切实维护外卖送餐员权益的指导意见》，要求不得将“最严算法”作为考核要求，通过“算法取中”等方式，合理确定订单数量、准时率、在线率等考核要素，适当放宽配送时限。在此之后，两大外卖平台都采取措施响应了“算法取中”要求，美团以人本位逻辑为算法的立足点也进行了多次算法优化。

注释：

[1]百度，零壹财经，“算法新规”施行四个月后，我在“算法透明”上看到两个问题，https://baijiahao.baidu.com/s?id=1737669834216514784&wfr=spider&for=pc

或许您还想看

上下滑动查阅

作者简介

黄  斌

北京德和衡（深圳）律师事务所高级联席合伙人

黄斌律师，北京德和衡律师事务所数字经济与人工智能业务中心副总监，元宇宙科技与法律研究中心主任，深圳律协数字经济专委会副主任，北京德和衡（深圳）律师事务所高级联席合伙人，公司业务部副主任，北大法律信息网签约作者，《互联网法律评论》特约专家，无讼公开课讲师，无讼专栏作者，百度百家号VIP作者，华中科技大学法律硕士，专利代理人。

擅长专业领域为：数字经济、元宇宙、NFT、虚拟人、区块链、虚拟货币、公司法、建设工程、知识产权。

黄斌律师专注于中小股东保护，深度研究数万个判例进行解码，从董事推荐、公司决议、股东退出等多维度完成了公司中小股东保护法律服务产品；在大学从事近十年建设法规教学，从建工合同的签订、入场、施工、变更、退场等多维度保护建工企业及实际施工人的权益；曾从事三年专利代理工作，参与了武烟集团公司知识产权战略规划。2017年完成江西省工商联课题“民企知识产权保护”。

现为中国最大法律人社区无讼阅读“商标有道”专栏作者，在北大法律信息网和无讼阅读平台上发表过《中国好声音：到底是谁的好声音》等100多篇知识产权法文章，《麦当劳中国更名为“金拱门”相关法律问题评析》荣获“无讼”阅读2017年度专业文章第一名，《短视频版权保护的江湖风云》收录在《大数据—北大法律信息网文粹（2018-2019）》一书。

代理案件中江西网络电视台诉暴风科技信息网络传播权侵权案入选江西省高院2017年十大知识产权经典案例、田某某侵犯商业秘密罪案（判三缓五）入选2021年江西省检查机关保护知识产权典型案例。

手机：[phone]

邮箱：[e-mail]

质控人简介

辛小天

合伙人

数字经济与人工智能业务中心总监

[e-mail]

END