张吉豫 汪赛飞：数字向善原则下算法推荐服务提供者的著作权注意义务 | 知识产权202211

【作者】张吉豫（中国人民大学法学院副教授、博士生导师，中国人民大学未来法治研究院研究员）；汪赛飞（中国人民大学法学院博士研究生）

【来源】北大法宝法学期刊库《知识产权》2022年第11期（文末附本期期刊目录）。因篇幅较长，已略去原文注释。

内容提要：算法治理是智能社会法治建构的核心问题。在著作权法领域，对算法推荐服务提供者的侵权责任分配应立足时代法治精神的体系性视角，突破技术中立原则，迈向数字向善原则，研究网络平台在预防侵权、推进数字技术向善发展中的关键作用，建构有利于推动法律与技术相结合的支撑多元共治的法律制度。应肯定算法推荐服务提供者在特定条件下承担超过“通知－删除”规则的更高的注意义务，应立足行业技术发展情况，结合侵权损害大小、侵权发生概率、预防侵权的成本、算法推荐服务提供者在算法推荐系统中已采取的著作权保护措施，判定算法推荐服务提供者是否尽到注意义务。同时，应建立有效通知、高效申诉、恢复请求权等制度，切实保障用户利益。

关键词：数字向善；算法推荐；预防功能；注意义务；技术中立

目次

一、问题的提出

二、网络服务提供者注意义务界定的理论基础

三、算法治理体系性视角下对“数字向善”的要求

四、当前算法推荐服务提供者的著作权注意义务

结语

一问题的提出

　　随着信息技术的迅猛发展和广泛应用，人类社会正迈入智能社会。算法在信息网络空间中发挥着日益重要的作用。近年来，算法推荐技术蓬勃发展，目前主流互联网平台纷纷依赖算法进行内容分发，针对用户进行个性化的精准推荐，从海量信息资源中找到更符合用户需要的信息，解决“信息过载”（information overload）的问题。被推荐的内容包括文学作品、图片、音乐、视频等众多受到著作权法保护的作品，同时也包括平台用户上传的侵犯了他人著作权的内容，因此，常常需要对相关侵权行为中网络服务提供者的帮助侵权责任进行认定。被称为“算法推荐第一案”的北京爱奇艺科技有限公司诉北京字节跳动科技有限公司侵害作品信息网络传播权纠纷案（以下简称“爱奇艺案”），引发了社会广泛的讨论。为表达简便，本文将采用推荐算法技术进行信息内容分发的网络服务提供者简称为算法推荐服务提供者。

　　互联网的发展打破了传统内容产业的模式，互联网平台在内容生产与传播中的作用日益显著，逐渐超越了广播电台、出版商等传统媒介，被认为是一个充满爆炸性创造力和参与性民主世界的引领者。然而，相较于传统媒介，互联网环境下，著作权保护问题更加复杂。Web 2.0时代，互联网平台的用户不再是被动接受内容的角色，而是可以主动参与内容的创作与传播。爆炸性的创造力也伴随着大量侵犯著作权的内容的创作和传播行为。新技术的发展使用户在网络空间中分布更广泛，侵犯著作权手段的成本更低，仅仅规范网络用户的行为难以有效解决互联网平台中的著作权侵权问题。社会应以多元共治的理念，调动不同主体，通过法律、道德、市场、技术等治理手段，结合特定时代背景下的技术与市场条件，完善法律责任分配机制，以更高效的手段降低著作权侵权风险，实现网络空间中著作权产业的可持续发展。

　　二十多年前，以“通知－删除”规则和“红旗”规则为核心的避风港规则在美国应运而生并在世界各国得到推广。避风港规则是著作权人等权利人与网络服务提供者双方利益的妥协，权利人认为网络服务提供者应承担发现并制止侵犯著作权行为的责任，网络服务提供者则认为这在技术与经济上并不可行，为此通过双方合作，由更具有成本优势的权利人去主动发现侵权行为，网络服务提供者接收到满足一定要求的通知信息后再采取一定行为阻止侵权行为的继续。当时的技术条件和商业模式背景下，要求网络服务提供者主动承担发现侵权内容的责任可能负担过重，不利于依赖海量用户提供内容的互联网平台的发展。相较于网络服务提供者，权利人更清楚作品的权属与许可情况，而网络服务提供者要了解作品权利的归属，以及第三人使用作品是否获得许可等信息的成本是惊人的，因此，权利人在识别侵权行为成本上处于优势地位。该规则的建立与特定时代背景的技术和产业发展有关。如果网络服务提供者预防著作权侵权的成本等因素发生变化，那么也需要重新审视避风港规则。

　　我国司法实践早期主要以是否满足“通知－删除”规则要求来认定网络服务提供者的帮助侵权责任。2007年以后，随着互联网平台的发展及侵权问题的增加，法院开始关注网络服务提供者在“通知－删除”规则之外的注意义务，如新传在线（北京）信息技术有限公司诉上海全土豆网络科技有限公司侵犯著作财产权纠纷案（又称“疯狂的石头案”）、广东千鹤影视传播有限公司诉上海全土豆网络科技有限公司侵犯录音录像制作者权纠纷案等。在这些案件中，法院对网络服务提供者帮助侵权责任的判定主要基于网络服务提供者是否具有过错。《最高人民法院关于审理侵害信息网络传播权民事纠纷案件适用法律若干问题的规定》（以下简称《信息网络传播权司法解释》）出台以后，“注意义务”成为法院认定网络服务提供者帮助侵权责任的核心要素，即更加强调对网络服务提供者“应知”的合理认定，而不是划定免责条件。《信息网络传播权司法解释》摒弃了原《最高人民法院关于审理涉及计算机网络著作权纠纷案件适用法律若干问题的解释》仅将“知道”限于“明知”的规定，明确了判定网络服务提供者“应知”时应综合考虑的多重因素，包括提供服务的情况、所传播的作品的情况、具体行为和采取措施的情况等。其中，在认定网络服务提供者所采取的措施是否构成“应知”时又可以从“积极行为”和“消极行为”两个角度理解。积极行为角度的措施可以理解为网络服务提供者对涉嫌侵权的内容存在选择、编辑、修改或推荐等主动行为；消极行为角度的措施可以理解为网络服务提供者未积极采取预防侵权的合理措施，未设置便捷程序接收侵权通知并及时对侵权通知作出合理的反应，未针对同一网络用户的重复侵权行为采取相应的合理措施等。同时，《信息网络传播权司法解释》明确规定不能仅因未进行主动审查而认定网络服务提供者具有过错，并且“对于网络服务提供者能够证明已采取合理、有效的技术措施，仍难以发现网络用户侵害信息网络传播权行为的”，法院应认定不具有过错。

　　最高人民法院指导案例83号也针对相似领域的问题总结了类似的裁判要旨：“必要措施”应遵循审慎、合理的原则，根据所侵害权利的性质、侵权的具体情形和技术条件等综合确定。这反映了法院根据技术发展情况认定网络服务提供者注意义务，精细化合理界定的趋势。我国《民法典》第1197条将原《侵权责任法》第36条第3款中的“知道”改为“知道或者应当知道”，反映了立法对于合理界定网络服务提供者注意义务、激励网络服务提供者采取必要措施防止侵权的价值判断。如何合理界定网络服务提供者的注意义务，即网络服务提供者究竟在多大范围、何种程度上尽到防止和制止网络用户利用其网络服务实施侵权行为的义务，对于维护网络活动的自由和数字经济的健康发展非常重要。

　　在算法推荐技术广泛发展和应用的当下，算法对侵犯著作权内容的推荐问题已诉诸司法。例如，在爱奇艺案中，原告爱奇艺公司认为被告字节跳动公司利用信息流推荐技术在其“今日头条”手机应用程序上将侵权作品《延禧攻略》向公众传播并推荐的行为未尽到合理的注意义务，应承担侵权责任。美国也出现了算法推荐服务提供者侵犯著作权的相关案例。例如，在戴维斯诉缤趣公司案中，缤趣网络平台通过机器学习算法为用户自动生成包含各种推荐图片的主页，原告戴维斯认为缤趣公司在其可获利的投放的广告图片周围向网络用户展示和传播他的作品并以此获益的行为侵犯其著作权。

　　在我国，算法推荐服务提供者的帮助侵权责任界定重点依旧是判定是否存在过错，即网络服务提供者对用户的侵权行为是否明知或者应知。《信息网络传播权司法解释》第9条规定了网络服务提供者主动对作品等进行选择、编辑、修改、推荐是认定是否构成应知的重要因素。学界一般认同，这里的推荐与通常所说的算法推荐并不相同，前者是面向所有平台用户的公开行为，后者则是根据用户喜好等定制的推荐服务。算法推荐服务提供者具有怎样的注意义务，特别是是否应该采取事先审查过滤等预防著作权侵权的必要措施，是当前讨论的焦点问题。

　　与此同时，算法推荐技术在互联网新闻信息服务、劳动者工作调度、商品销售等领域广泛应用的风险引起了国家互联网信息办公室等部门的高度重视。2021年9月，国家互联网信息办公室等九部委联合发布了《关于加强互联网信息服务算法综合治理的指导意见》（国信办发文〔2021〕7号），确立了“利用三年左右时间，逐步建立治理机制健全、监管体系完善、算法生态规范的算法安全综合治理格局”的目标。国家互联网信息办公室等四部委于2021年12月31日正式发布了《互联网信息服务算法推荐管理规定》（国家互联网信息办公室、中华人民共和国工业和信息化部、中华人民共和国公安部、国家市场监督管理总局令第9号，以下简称《算法推荐管理规定》），对算法推荐技术的应用予以规范。2021年也因此被称为中国算法治理元年。《算法推荐管理规定》将应用算法推荐技术界定为“利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息”，涵盖了非常广泛的范围。《算法推荐管理规定》也体现了推动应用算法推荐技术向善发展、促进应用算法推荐技术多元共治的原则。

　　针对算法推荐技术下侵犯著作权的行为，应该如何合理界定其中算法推荐服务提供者的注意义务？本文从智能社会算法治理的体系性视角出发，考察算法治理的主要原则，探析相关价值判断，并在此基础上讨论算法推荐服务提供者注意义务判定的具体法律规则。

二网络服务提供者注意义务界定的理论基础

　　（一）侵权法的预防功能

　　我国侵权法采用多重功能说，救济功能、预防功能等都是我国侵权法应具备的规范功能。其中，预防功能是指“侵权责任法通过规定侵权人应负的民事责任，来有效地教育不法行为人，引导人们正确行为，预防和遏制各种损害的发生，保持社会秩序的稳定和社会生活的和谐”。传统侵权法在当代所遭遇的重大挑战之一是应对大规模侵权事件方面的不力，故当代侵权法愈发强调对于损害发生的预防功能。早在1986年，德国学者乌尔里希·贝克就提出“风险社会”的概念，并指出风险社会出现的原因在于风险结构从自然风险占主导转向人为的不确定性占主导，其中科学技术的发展是现代社会的五个基本风险源之一。随着信息网络技术的发展，人们利用现有的技术和网络平台可以轻而易举地传播作品，侵犯他人的著作权，如果作品本身是正在热播的电影或电视剧，那么一个简单的内容传输与分享行为就可能造成权利人巨大的经济损失。

　　为有效预防侵权风险，侵权法规则有必要在立法时就划分好特定主体对侵权责任的承担，敦促特定主体强化控制侵权风险，避免损害后果的发生。当然，侵权法的预防功能不意味着以将侵权风险降低到零为目标。在风险控制理念下，侵权责任的设定也要平衡好侵权可能造成的损害与采取措施预防侵权风险所需成本之间的平衡。如早期设立避风港规则的重要原因在于要求网络服务提供者主动审查并删除侵权内容的成本过高，侵权风险预防的成本将远远大于侵权可能造成的损害，不符合立法所鼓励的预防措施应当是最优预防措施的原则。

　　无论是传统的避风港规则，欧盟《单一数字市场版权指令》第17条，还是我国各部法律对网络服务提供者注意义务的规定，实际上都是在网络服务提供者与权利人之间对侵权行为的风险预防和制止责任进行划分。著名的汉德公式（Learned Hand Formula）常常被用于分析如何设置一个最优等级的“注意”（care），最优等级的“注意”不应该高于损害，只有在网络服务提供者和权利人所采取的侵权预防措施少于最优的注意等级时，他们对侵权造成的损害负责才具有经济上的合理性（B < PL）。汉德公式下始终须衡量“注意”，也就是为预防侵权采取措施的成本与产生的收益。具体到网络环境中，就是要衡量网络服务提供者采取侵权防控措施的成本与可能防止的损害。一方面，由于网络环境下侵权相对便捷，传播受众范围广，导致网络侵权行为发生的概率较高，侵权所造成的损害后果比较严重。当然，不同情形下作品被侵权造成的损害不同。例如：已经发现的被重复侵权的作品被再次侵权的可能性更高；投资巨大且收益具有较强时效性的影视剧作品，在刚开始上映或播出的一段时间内被侵权所遭受的损害更大；发生在拥有更多用户的大型网络平台的侵权行为所造成的损害通常比用户更少的小型网络平台更严重；等等。另一方面，随着算法技术和侵权内容过滤技术的不断发展，网络服务提供者采取解决特定问题的技术措施的成本会越来越低。例如，用于视频相似性检查的视频指纹技术在不断改进，一些技术成果对噪声模糊、添加字幕、空间偏移、旋转、掉帧等均具有较好的鲁棒性，且性能不断提升。在北京冬季奥运会举办期间，快手、抖音等短视频平台纷纷建立了北京冬季奥运会版权信息库，并通过视频指纹识别等技术审查用户上传的北京冬季奥运会赛事相关短视频。

　　考虑到侵犯著作权造成的损害实际往往由权利人承担，欧盟《单一数字市场版权指令》第17条试图通过让这部分相对于网络服务提供者外部性的成本内部化，以达到激励网络服务提供者加速降低预防侵权损害成本的目的。网络服务提供者可以积极获得著作权许可，或者应用先进的技术来预防侵权，由此可能降低著作权许可的交易成本和整体技术应用成本。但这样的侵权责任制度设计在技术尚不成熟时未必具有可行性。目前我国司法解释对网络服务提供者注意义务的界定采取多因素综合判断的方法，具体适用时需与当前侵权风险预防成本、算法等技术发展实际情况相符。同时，对于前述网络侵权可能性高、损害严重的情形，也应要求网络服务提供者采取更积极的预防措施。

　　（二）平台在预防侵权中的关键作用

　　平台经济古已有之，所谓平台本质上是一个空间场所，空间引导或促成多方之间的交易，实现收益最大化。无论多么复杂的平台都是一个容纳多方群体的空间生态结构。网络服务提供者本质也是这样，著作权人等权利人和网络用户都是平台上利益诉求不同的主体，利用平台实现了作品等内容的传播。无论是现实空间还是网络空间的平台，平台的管理者都对平台中的活动承担着一定的义务。“开放性的网络平台与现实社会公共场所并无本质区别”，安全保障义务的适用对象也会从现实社会公共场所延伸到网络服务提供者等平台，我国《民法典》第1198条也规定了经营场所、公共场所的经营者、管理者在未尽到安全保障义务造成他人损害时的侵权责任。

　　在避风港规则中，著作权人等权利人是通知权人，网络用户是反通知权人，双方不直接对阵，也不发生直接关系，网络服务提供者则处于双重义务人的法律地位，是双方利益的交汇方。这样的规则设置是基于网络服务提供者处于互联网生态关键位的重要地位，它掌握与控制着众多数据流通的空间、通道与其他必要资源，是各类数据的实际控制者，平台用户则很难掌握与控制自己已发布的信息。

　　在“后避风港时代”，随着网络技术、组织与空间架构的发展，网络服务提供者对互联网空间的控制力还会进一步加强，大型网络平台承担的角色也愈发重要。无论是理论还是实践，网络服务提供者都是网络空间治理的重要参与者，根据“守门人”（gatekeeper）理论，在“谁受益谁负责”原则和“以网管网”的策略下，大型网络平台在网络空间治理中的重要责任得到进一步强化。守门人理论最早由传播学学者卢因（Kurt Lewin）在1943年提出，我国新闻学将之译为“把关人”，指“具有让某一东西进来或出去之决定权的个人或团体”。毋庸置疑，网络服务提供者对于网络空间数据的传输具有很强的控制力，然而在该理论下，守门人守门的方式可以是多样化的，既可以采取审查制中前置与严格的守门方式，也可以采取如避风港规则一样相对后置与宽松的守门方式，守门人的责任仍须与其控制力与守门成本相匹配。美国《版权法》第512条c项中要求网络服务提供者证明“没有收到可直接归因于侵权活动的经济利益，而在这种情况下网络服务提供者有责任和能力来控制这些行为”。换言之，避风港规则也对网络服务提供者控制力与特定行为的成本收益进行综合考量。

　　大型互联网平台作为经营者除了参与市场竞争，在某种程度上也具备“管理者”的属性与功能。总体而言，考虑到部分大型网络服务提供者具有守门人一样的强控制力，比其他社会主体的网络控制能力强，并且能够以更合理的经济成本管控侵权风险，因此，让大型网络服务提供者负担起对保护著作权在内的管理义务有一定的法理基础。

　　（三）侵权责任分配应立足体系性法治建构视角

　　侵权法的主导功能随着社会发展而不断调整，在侵权法的不同历史阶段上，占据主导地位的功能不同，同时在一定程度上反映了当时的社会经济与哲学发展趋势。当代侵权法若仅仅聚焦传统的损害填补功能，面对社会风险的发生将是极其被动的，需要不断延伸主动性，减少未来损害的发生，发挥其预防功能。正如魏德士所言，“概念就像挂衣钩，不同的时代挂上由该时代精神所设计的不同的‘时装’”。回答网络服务提供者的侵权责任分配问题，必须站在体系性法律建构的视角上，在承继过往的基础上，立足当前时代法治建设的重点问题和时代精神，制定符合特定时代发展的侵权规则。

　　当前，“网络空间不仅让人们的生活变得更便利，还从根本上改变了人们的生活”。信息获取与传输的方式在变得更加便利的同时，权利人在网络空间中遭受侵权的风险也大大增加。面对网络空间中的社会风险，侵权法中的责任设置实际上起到了从被动应对由人的行为引发的系统性社会风险到主动对人的行为进行调控的作用。如果侵权法对网络服务提供者施加了与避风港规则不同的注意义务，无论更高或更低，网络服务提供者都会对自身的商业行为进行相应的调整，至少会更积极地采取行动避免过高的赔偿责任，而这部分行动会影响网络空间侵权风险的控制情况，也会影响特定产业的发展方向与发展进度。随着产业与技术的发展以及网络空间侵权风险的改变与风险调控能力的转变，立法者对网络服务提供者侵权责任的分配也需进行转变，从强调“通知后”的侵权责任分配转变为兼顾“通知前”的侵权责任分配，乃至内容还未上传前的侵权责任分配。

　　当然，侵权法相关功能的实现，必须顾及除权利人以外的其他社会主体的权益，包括“侵权人”在内的其他社会主体承担侵权责任可能产生的消极社会后果。因此在给网络服务提供者施加责任时，要考虑互联网产业发展的社会价值，以及施加过严与过松责任可能产生的社会后果，在兼顾各方利益与社会整体发展的情况下，实现侵权法在风险社会下的预防功能。因此，侵权责任的分配不能仅靠“填平原则”解决，还需从功利主义的角度考虑风险预防措施的安排，实现最优。相较于权利人，无论是对网络空间的控制力，还是通过平台内容获得的经济收益，平台都处于优势地位，此时如果法律不对平台施加比权利人更加严格的侵权风险管控义务，就有违风险社会的治理目标，同时也不符合风险社会治理手段的公平性与合理性。

　　当前人类正处于一个算法泛在的时代，智能算法对人们社会生活的影响日益广泛与深远，在确定网络服务提供者等主体的侵权责任时，需从算法治理的体系性视角思考。自动识别等算法技术的发展提高了网络服务提供者对网络空间的控制力，例如，短视频平台YouTube使用的内容身份（Content ID）系统可以以较低的成本管理平台内容的传播与交易，不仅大大降低了侵权内容传播带来的风险，同时也降低了内容许可交易的成本，促进了著作权人等权利人对作品的商业利用。算法技术的发展降低了网络平台风险预防措施的成本，为发挥侵权法的预防功能，立法者对网络服务提供者注意义务的界定有必要作出与算法技术发展相适应的调整。

三算法治理体系性视角下对“数字向善”的要求

、

　　对算法进行治理和通过算法进行社会治理都是智能社会秩序建构中的重点问题。二者在很多场景下实则是一个硬币的两面，对算法进行治理往往同时实现了最终通过算法进行社会治理的目的。本文尤其关注如何通过合理界定网络服务提供者的注意义务来实现对算法推荐系统的治理。代码或算法并非价值中立，其设计和应用都蕴含着特定的目标或价值取向。网络服务提供者对算法等数字技术的设计和应用应当遵从“数字向善”原则。这是数字技术迅速发展和不断扩大应用场域趋势的必然要求，同时也要求算法推荐服务提供者应当承担超过“通知－删除”规则要求的注意义务。

　　（一）算法治理是智能社会治理的关键内容

　　智能社会是一个“算法泛在”并且算法对社会秩序形态发挥着直接主导作用的社会。在著作权法领域已经出现了大量与算法有关的法律与社会治理问题，包括算法通知、算法推荐、算法过滤等。“代码即法律”“算法即规则”的论断深刻揭示出代码和算法对人们行为和权益产生的深刻影响。可以说，“算法既是生产生活的重要组织者，又是社会秩序的重要建构者”。美国学者劳伦斯·莱斯格认为，在网络法中要深刻理解代码和法律的互动关系。正如研究市场经济中的法律问题要理解和尊重市场规律一样，数字法治的研究和实践也要理解和尊重数字科技的发展规律，要分析数字科技应用对社会主体的影响和对社会结构的塑造，理解不断发展的数字空间的结构和本质。尽管算法发展及其影响具有客观规律，但算法及其影响也是可以在符合客观规律的前提下经由主观能动性而被改造的。智能社会法治建设的一项重要内容即从多元共治的视角下，考虑法律、市场、社会规范以及代码的最佳规制手段组合，特别是通过对算法的治理直接或间接地规制与引导社会主体的行为，从而构建符合社会伦理要求的数字空间与智能社会。

　　在智能社会法律秩序的构建中，要特别重视数字正义如何实现的问题。本文所述的数字正义可以从两个维度进行理解：一是社会正义原则在数字领域的体现；二是正义实现机制在数字领域的体现。从社会正义原则在数字领域的体现来看，有效保护著作权人的合法权利、激励作品的创作与传播等仍然是该领域社会关系调整中的重点内容。数字领域的正义实现机制则离不开推进多元主体共治和多元治理手段的运用，特别是法律治理与技术治理的有机融合。其中，网络平台是不容忽视的关键要素。网络平台已日益成为社会生产生活中不可忽视的场域，既是经济发展的新平台，也是社会组织的新平台，促进了信息流动和生产生活组织方式的变革，大幅度降低了信息成本和交易成本，带来平台经济、共享经济等经济形式的兴起以及生产方式的深刻变化。网络平台中的算法应用，将打破传统物理空间的局限，在更广阔的范围中产生影响。为在数字空间构建良好秩序、实现社会正义，有必要对网络平台中应用的算法进行科学合理的规制。为此，需要合理界定网络服务提供者的责任与义务，让技术的发展应用更加符合人类伦理和社会秩序。智能社会的法治建设需符合“数字正义”的法理要求，将科技向善或者更具体的“数字向善”作为一项基本原则，超越技术中立原则，重塑平台治理规则。

　　（二）突破技术中立原则，迈向数字向善原则

　　技术中立原则在不同语境下具有不同含义。一方面，技术中立原则指法律应当对具体使用的技术手段一视同仁，不应把对某一特定技术的理解作为法律规定的基础而歧视其他形式的技术；从立法技术角度，不应该狭窄地针对特定技术制定法律。过去，技术中立原则在受数字技术影响较大的著作权法领域及电子商务相关立法研究中有较多讨论，包括著作权立法中引入具体技术概念是否适合、对电子签名及其认证技术是否应作具体规定等。例如，2000年《联合国国际贸易法委员会电子签名示范法》第3条规定了签名技术的平等对待。在这一层面，技术中立仍然是重要的法律原则。

　　另一方面，技术中立原则常被用以反映希望限制技术产品或服务提供者的法律责任范围，鼓励科技发展应用的价值取向。具有免除与限制责任倾向的技术中立原则与环球城市制片公司诉索尼公司案中的“实质性非侵权用途”（substantial noninfringing use）规则密切相关。在该案中，环球城市制片公司试图禁止索尼公司销售其生产的一种录像机，理由是录像机助长了人们从广播电视中录制受版权保护的作品这一侵权行为，法院采纳了来自于专利法的商业原则，认为版权人不能阻止那些虽然具有侵权用途，但也同时具有实质性的非侵权用途的技术的传播。该案之后，“实质性非侵权用途”抗辩的适用在美国也并非一帆风顺，在另一起涉及作品传播技术的米高梅电影公司诉格罗克斯特公司案（以下简称“米高梅电影公司案”）中，美国联邦最高法院认为这项技术已经在一段时间内被压倒性地用于侵权，侵权也是被告收入来源中的压倒性部分，撤销了原审法院的意见，将案件发回重审。显然，在美国，技术中立原则的适用不是无条件的，一方面法院需要考虑技术的使用情况，例如米高梅电影公司案中一项主要用于“作恶”的技术无法以技术中立作为免责理由；另一方面法官对技术引起的与既有法律之间的摩擦，也表达了要求立法部门主动作为的需求。

　　随着算法在社会的广泛应用，责任分配意义上的技术中立原则面临新的挑战。首先，技术是解决特定问题的，是目的导向的产物。技术作为特定时空背景条件下的存在，具有特殊的超越自身“价值”的“使用价值”。从技术的社会属性而言，技术具有自身的社会价值，社会主体对技术的应用就需要被界定合理的注意义务。算法技术的基础是数学规律，对相关客观规律的探寻和利用不涉及价值判断，但具体算法技术方案的研发是有目标导向的。算法是为了解决特定问题设计的，对于问题本身的界定以及对算法评价指标的界定都会影响算法的设计，决定算法的最终形态。传统软件工程领域中，对算法的评价指标往往体现为运行速度、代码大小、功耗、能耗、稳健性、兼容性、可适应性等比较典型的技术评价指标，此时算法的目标导向与社会价值之间的关联不明显。但被日益广泛应用在社会经济生活之中的各种算法或软件系统，其目标导向与社会价值之间具有明显的关联。算法目标设定同样可以从积极行为和消极行为两个角度进行划分，即考虑算法目标设定的合理性时，不但要关注研发者主动设定的目标，还要关注研发者在设定目标时有意或无意忽略的相关目标。例如，目标设定为“提高对用户偏好预测的准确性”的算法推荐系统与目标设定为“在保护著作权的基础上提高对用户偏好预测的准确性”的算法推荐系统相比，忽略了对著作权保护的考虑，这将引起评价指标的变化，对算法研发会产生实质性引导作用，从而影响算法技术方案的最终形态。

　　其次，技术是可以不断被改进和完善的，因此算法推荐系统也会根据社会伦理和法律的要求不断被改进和完善。在实践中，不同的社会价值目标已经逐渐被算法研发者关注和吸收，推动算法推荐系统不断向善发展。例如，“今日头条”面对社会提出的算法推荐可能加剧“信息茧房”等问题，加强了对内容生态和社会责任的考量，通过置顶、加权重要新闻，加强用户交互途径，频控特型内容等方式，逐步将新闻伦理价值和法律规范要求融入算法设计。《麻省理工技术评论》杂志将TikTok的推荐算法评选为“2021年度十大突破性技术”，认为TikTok的推荐算法不是倾向于突出具有大众吸引力的内容，而是能够帮助新的创作者迅速获得大量观看，并且可以帮助用户发现可能感兴趣的众多内容。这也充分体现了算法设计时的价值考量和目标导向对于算法应用及其社会效果的切实影响。

　　由此，我们应当将“数字向善”作为当前算法推荐服务提供者责任认定的一项基本原则，在认识论上明确算法对社会价值的影响以及算法的可规范性、可发展性，在方法论上研究能够科学合理推进算法向善发展的有效治理路径，使法律能够对数字科技的向善发展应用产生积极影响。数字向善原则并非全盘否定技术中立原则，而是否定用技术存在积极意义、缺陷无法避免的理由规避合理注意义务的观点。

　　（三）数字向善原则对合理界定注意义务的要求

　　平台的作品数量是网络服务提供者获得收益的重要因素，从公平正义的角度来看，网络服务提供者应当善意对待创作者，不应忽略技术的社会价值，更不应以技术中立为由免除自身的注意义务。在韩寒诉北京百度网讯科技有限公司侵害著作权纠纷案中，法院认为，“作为依靠数以千万计的他人作品实现自身商业经营的百度公司，应当对维护他人著作权抱有善意”“对因显而易见的因素应当知道的侵权文档，百度公司除了履行针对一般侵权文档的注意义务外，还需充分发挥主动性履行更高的注意义务??这种更高的注意义务要求百度公司应更加注重百度文库经营管理规范化的问题，从而切实保护著作权人权利”。在爱奇艺案中，法院认为：“因为存在获取更多优势、利益与带来更大侵权风险并存的上述情况，字节公司与不采用算法推荐、仅提供信息存储空间服务的其他经营者相比，理应对用户的侵权行为负有更高的注意义务。”

　　数字向善原则对算法推荐服务提供者提出了超过“通知－删除”规则要求的注意义务，主要原因如下。

　　首先，数字科技应向善发展已成为普遍的共识，有必要推进数字科技在各个领域的向善发展。如前文所述，数字科技在社会层面的广泛应用可能对人们权益产生重大影响，且数字科技本身尚在快速发展之中，具有很强的可塑性。数字向善原则强调社会相关主体在数字技术发展应用之中，要尊重社会伦理、尊重公民权利，要在技术和经济可行范围内积极预防损害的发生，不断推进数字技术的向善发展。在著作权法领域也是如此。当然，预防侵权不是最终目标。更希望实现的目的是激励网络服务提供者积极获得著作权许可或搭建用户获得许可和支付许可费的渠道，降低作品交易成本，为著作权人提供更丰富的收入来源，便利作品流通使用。就目前的实践而言，平台与权利人之间的许可协议并非总是容易达成。特别是热映影视剧和热门体育赛事节目，其热播期间是权利人获得收益的黄金期，这段时间基于短视频等平台的盈利机制，平台通过作品片段获得的收益与著作权侵权对权利人造成的潜在市场损失无法相称，因而平台愿意支付的许可费与权利人所希望获得的许可费可能难以一致。在目前阶段，更可行的方案是尽量就热播期外的作品达成许可协议。对于热播期间影视剧等作品，研发可以有效预防侵权的数字科技仍然是加强著作权保护的重要途径。

　　其次，要求网络平台采取合理措施预防著作权侵权行为的发生，是相关技术研发的重要动力来源。当前，企业和科研院所等市场主体和机构对增强算法推荐精准性方面的研发投入与对检测及预防侵权技术的研发投入不均衡。在缺少法律规范的情况下，许多企业缺乏对检测及预防侵权算法技术的研发和应用动力，网络服务提供者与著作权人之间关于保护著作权的自愿合作也存在交易成本障碍。而在当前产学研用相结合的创新结构中，产业界的需求和合作情况将对高校等科研院所应用领域的研究产生影响。检测及预防侵权领域创新应用的市场主体主要有两类：网络平台自身与独立于网络平台的侵权检测机构。但是，如果仅由侵权检测机构提供研发动力来源，存在明显的局限性：第一，侵权检测机构相对网络平台而言，通常规模较小，提供的需求相对不足；第二，侵权检测机构的检测模式通常是通过网络爬取到的内容检测疑似侵权内容，并根据权利人的要求向平台自动发送通知，这导致对于相关内容的侵权处理往往是在侵权内容在网络上传播数日后，无法及时预防和制止对热映作品侵权行为的发生；第三，通过视频内容或结合相关文字进行侵权检测仅是侵权检测的方法之一，如果是网络平台在完整的算法推荐系统中设计检测及预防侵权的方法，检测手段可能更加多样化，从而推动符合伦理和法律要求的技术研发，并节约社会成本。

　　最后，在私法领域有必要将是否采取合理的预防侵权措施作为界定网络服务提供者注意义务的一项重点考量因素。我国公法领域已经出台的针对算法推荐服务提供者注意义务的《算法推荐管理规定》，规定了算法推荐服务提供者应当定期审核、评估、验证算法机制机理等，建立健全用于识别违法和不良信息的特征库，加强用户模型和用户标签管理，加强算法推荐服务版面页面生态管理等。该规定可以为私法领域的司法实践提供参考。但政府部门的监管不能完全替代私法领域的侵权责任分配。在风险治理领域，一直都存在侵权法规制和政府监管两条进路。侵权法规制关注个案，支持公民维护自己的权利，通过双方的对抗获得个案更全面的信息，使司法作出合理的精细化裁定，具有政府监管无法替代的功能。此外，通过公民维权促使网络服务提供者提高注意程度，是算法多元共治的有机组成部分。

四当前算法推荐服务提供者的著作权注意义务

　　《信息网络传播权司法解释》第9条规定了判断网络服务提供者是否构成“应知”的多个参考因素。具化到当前具体的算法推荐场景中，开展算法推荐服务的网络服务提供者是否构成应知，可以从算法推荐系统设计中的注意义务、侵权内容事前审查范围与合理的注意义务等角度考虑，同时构建起保护网络用户利益的程序性保障机制。

　　（一）算法推荐系统设计中的著作权注意义务

　　算法不是价值中立的，而是具有价值负载性，主要体现在以下三个方面：算法中预设某种价值立场；算法的运行结果具有社会效应；算法与社会规范具有一定的等效性。由于算法执行具有直接的社会效果，研究者们提出算法在设计之初就应将基本的价值判断纳入其中，“让伦理与技术并列成为算法设计的组成部分，实现算法设计伦理化”。尽管机器学习特别是基于深度神经网络的深度学习算法的设计开发者也往往无法完全理解和直接控制学习后的模型算法，但这不能构成人类让渡自主性或放弃对算法进行价值取向预设的理由。在算法推荐系统设计中应该秉持数字向善原则，将保护著作权作为一项要素考虑。

　　在民事侵权诉讼中针对算法推荐系统设计中可能存在的证明问题，法院仍应采取高度盖然性的证明标准。如果有高度盖然性的证据显示在算法推荐系统中存在比较明显的、业内普遍应当采取的措施而没有采取，或是应该避免的设计而没有避免，法院应当认定算法的设计有问题，判定网络服务提供者在算法设计中存在过错。此外，鉴于著作权人举证困难，可以在著作权人履行了初步举证责任之后，转移举证责任。在软件著作权、专利权侵权案件中，法院也通常采取类似做法。

　　《算法推荐管理规定》规定具有舆论属性或者社会动员能力的算法推荐服务提供者，应开展算法自评估并进行备案。算法推荐服务提供者的备案、自评估情况可以作为证据提交。《算法推荐管理规定》规定的平台义务可以作为民事领域平台注意义务的考量要素。例如，一些平台在自动打标签之外也往往会在标签体系上进行一些设计，一些标签系统实际上包含了如影视作品等分类，也理应对识别为影视作品分类的内容采取一定的初步审查措施，如对于连续发布系列短视频播放或详细介绍正在热映的影视剧作品的情况，按照常理可推知视频发布者难以获得许可，应建立这类视频的内容识别机制并进行审查等。再如，应在推荐系统中建立必要的事前审查机制，设置相关算法和流程，对需要事先过滤的内容采取必要措施。算法推荐服务提供者可以基于备案等信息举证自己的算法推荐系统在设计时采取了保护著作权的措施；如果能够证明每年持续有效改进保护著作权的措施，可以作为免除侵权责任的重点考虑因素。通过这样的制度安排，可以激励算法推荐服务提供者加强对著作权保护技术的研发与应用。

　　当前行业中还缺乏相关最佳实践的总结，也未形成统一的行业标准。国家应鼓励行业组织通过定期发布正面或负面清单为算法推荐系统的设计提供指引，从行业技术发展水平的角度进一步明晰网络平台在算法推荐系统设计中应当采取的著作权保护措施，降低算法推荐系统设计中潜在的各类著作权侵权风险。

　　（二）侵权内容事前审查范围与合理著作权注意义务的程度

　　算法推荐系统是包括核心推荐算法在内的可扩展的系统。在爱奇艺案中，法院认为：“即使通过算法推荐识别短视频具体内容不具有技术可行性，但对于允许哪些短视频进入被算法推荐的范围??字节公司仍可以通过在其服务和运营的相应环节中施以必要的注意、采取必要的措施加以完善。”从技术可行性与技术成本看，算法推荐服务提供者并不能完全免除对用户上传内容的审查义务，从行业技术发展水平和平台对著作权人的善意要求来看，算法推荐服务提供者也应承担起适当的风险管理职责。

　　权利人的通知、预警函、国家版权局发布的重点保护作品清单是认定网络服务提供者是否构成“应知”的重要因素。在著作权领域，同样要维护权利人的意思自治，把放弃财产权作为选项，正是任何财产制度的一个核心特征，许多潜在的知识产权所有人放弃他们尚未成熟的权利主张，以支持共享性、协作式的参与。知识共享组织基于这一观察提供了一套免费许可的机制。因此，过度的事前审查并不一定符合权利人的意愿，不一定利于权利人利益的实现，且可能抑制作品的传播与利用。

　　《信息网络传播权司法解释》规定的判断网络服务提供者是否构成“应知”的重点考量要素可以简要地通过汉德公式展开，即基于作品类型、平台情况、当前行业技术发展情况等，考虑损害的程度、侵权行为发生的概率以及采取侵权预防措施的成本。如前文所述，对于损害较大、侵权行为概率发生较高的情况，采取更高成本的侵权预防措施可能是有效率的。损害的程度、侵权行为发生的概率与作品的属性、作者的情况、作品的典型收益曲线、作品市场流通状况、作品传播平台规模及商业模式等要素密切相关。网络服务提供者系统中每天上传和存储的信息是海量的，但是针对符合某些条件的作品应当负有更高的注意义务，如热播影视作品、热门体育赛事节目、知名作者的热门文学作品等。这部分内容本身交易成本较高，容易吸引流量广泛传播，且容易被反复侵权，给权利人带来重大的损失。特别是处于热播期的影视作品、热门体育赛事节目，这类内容时效性较强，在黄金期内如果不能有效防止侵权，将给著作权人带来极大损失。考虑到著作权人难以采取有效的预防措施，网络平台应根据技术发展情况，在技术和经济可行范围内积极采取预防侵权的措施，对内容进行事先审查。在另一起涉及算法推荐服务的案件中，一审法院认为“并非处于热播期的影视剧才算‘热播影视作品’”，涉案作品“《老九门》具有相当高的知名度，何况国家版权局发布的《2016年度第五批重点作品预警名单》中包括涉案电视剧《老九门》”。法院认为网络服务提供者应对具有流量的知名作品和行政部门已经公布的重点保护作品承担更高的注意义务，应注意对内容进行事前审查并采取必要措施防止侵权行为的发生。因此，平台对于热播期的影视剧应承担更高的注意义务。

　　知名作家的热门文学作品往往也是被侵权的“重灾区”，尽管其营利窗口期没有热播影视作品那样突出，但对于没有转换为影视等其他形态的作品而言，网络平台中的用户付费仍然是主要收入来源。考虑文字作品的侵权检测成本相对较低，网络平台接收到有效通知和预警函等要求制止或预防侵权信息后，应当积极采取事先审查措施。国家版权局、国家互联网信息办公室、工业和信息化部、公安部曾经联合启动“剑网2016”专项行动，重点打击网络侵权盗版。《国家版权局办公厅关于加强网络文学作品版权管理的通知》第11条要求国家版权局建立网络文学作品版权监管“黑白名单制度”。该制度可以帮助平台明确应重点审查的对象。同时该通知第9条规定“提供以文学作品或者作者命名的贴吧、论坛等服务的网络服务商，应当责成吧主、版主等确认用户提供的文学作品系权利人本人提供，或者已经取得权利人许可”，这也是基于服务类型和审查范围，在合理成本内可以采取的预防侵权行为发生的措施之一。

　　访问量较小、成本较低、时效性不强的作品，侵权造成的损害通常较小，被侵权的概率较低，对这类作品采取预防侵权行为发生的措施，可能是低效率的。从预防损害的角度来看，权利人更有动力去发现这类作品的侵权行为。此时，著作权人可以通过“通知－删除”规则与平台协作保护著作权，无须要求平台对内容进行事先审查。当然，这不是定论，具体注意义务的界定要结合行业技术发展状况动态调整。

　　网络服务提供者的规模和行业技术发展水平也是衡量预防成本与损害期望的重要因素。一方面，注意义务与平台规模相关。大型网络服务提供者，尤其是用户规模巨大的网络平台，对权利人的权益维护和用户的行为影响较大，侵权行为发生概率较高，侵权行为所造成的损害也更严重，因此，大型平台应承担更高的注意义务。同时，大型平台通常技术水平较高，信息管理能力更强，采取预防措施的成本也可能相对较低。另一方面，网络服务提供者应承担的基本注意义务与整个行业的技术发展水平相关。当整个行业的技术水平提高，如预防措施技术愈发先进成熟，实施成本相应降低，那么整个行业的注意义务也会相应提高。值得注意的是，并非技术水平越高的网络服务提供者就要承担更高的注意义务，网络服务提供者应承担的注意义务应根据行业类似规模企业应当知道的技术措施、标准和已发布的行业最佳实践综合判定。

　　侵权的尺度也可以用汉德公式进行考量。例如，大段侵权内容的完整复制、视频切条传播等行为对于著作权人的权益影响较大，且侵权判定相对容易，在当前技术条件下，网络平台针对此类内容进行事前审查和过滤是有效率的。相反，要求平台对重混类作品进行事前审查和过滤是低效率的。一方面，在不考虑重混是否构成合理使用的情况下，这类作品往往也不构成作品的替代品，对著作权人的权益影响不显著，在一些情况下还可能增加作品知名度，为作品带来更多收益，因而未必对著作权人造成明确的利益损害。另一方面，对重混类作品进行侵权检测，可能增加平台采取预防措施的成本。因为重混作品可能构成合理使用，在缺少证据的情况下，对这类作品进行事前审查和过滤，容易造成误判，将构成合理使用的作品不当判定为侵权作品，从而影响作品的正当使用，并损害用户的正当权益，可能产生较大的纠正成本。因此，当前技术条件下，对于此类作品不宜要求平台进行事前审查和过滤。

　　《个人信息保护法》第58条第4项规定，提供重要互联网平台服务、用户数量巨大、业务类型复杂的个人信息处理者应当履行“定期发布个人信息保护社会责任报告，接受社会监督”的义务。社会责任报告作为一种监督网络平台的手段，除了可以让社会知晓平台为实现社会正义所做的努力外，还能反映出平台对网络空间的控制能力与了解程度，从而进一步推断出网络平台应当承担的注意义务。当前技术仍在飞速发展，从多元共治的角度而言，掌握更多技术能力的网络服务提供者应当更积极地将技术作为一种手段融入社会治理中来，我国未必要像欧盟一样针对网络平台巨头设置责任规则，但可以推动相关企业在定期发布的社会责任报告中加入对著作权保护的内容，接受社会监督。法院可以将企业在保护著作权方面采取的措施和相关努力成果作为侵权责任认定与豁免的考量要素，综合判定平台是否尽到了注意义务。

　　（三）用户利益的保障措施

　　算法与人工审查一样，可能产生误差。例如，YouTube平台曾在报告中指出它使用的内容识别系统对音频文件有高达99.7%的精确性。这也意味着剩余的0.3%的音频文件被错误识别。该系统之所以受到质疑就在于将数以千计的合法视频标记为侵犯版权。版权算法过滤技术的使用可能确实会影响对作品的合理使用。算法或许可以识别两个作品的相似性，但是无法判断作品是否属于公共领域，作品的使用是否构成合理使用等，在识别上仍有一定难度。因此，在算法技术发展到能准确判断对作品的使用是否构成合理使用之前，需要构建程序性机制让公众可以及时申诉，维护自身合法权益。如果不能构建起完善的纠错机制，算法执行将对网络用户的权益带来巨大的损害。

　　用户权益的保障机制主要包括三个方面：（1）算法推荐服务提供者应向因侵犯著作权而被过滤或被删除上传内容的用户发送包含侵权情况说明的有效通知；（2）算法推荐服务提供者应为用户建立快捷高效的申诉处理渠道；（3）明确用户在收到侵犯著作权通知后可以提起确认不侵权之诉，并规定用户提交不侵权判决书的可以要求平台恢复仅因著作权侵权之由而被过滤或被删除的内容。

　　《算法推荐管理规定》第22条规定：“算法推荐服务提供者应当设置便捷有效的用户申诉和公众投诉、举报入口，明确处理流程和反馈时限，及时受理、处理并反馈处理结果。”同样地，欧盟《单一数字市场版权指令版权指令》第17条第9款要求为认为自己上传内容被错误过滤的用户提供投诉与救济机制，且必须有效和快速。即网络平台作为起诉前争端的实质性解决方应提供一个尽可能简单快速的解决机制，允许网络用户通过简单的操作对不合理的信息封锁进行救济。有学者建议针对内容的过滤应自动弹出一个标准化的投诉菜单栏，用户可简单选择与填写认为过滤不合理的理由。未来法律应进一步明确网络用户类似的请求权，兼顾网络服务提供者、著作权人、平台用户三方利益。

结 语

　　随着算法在社会上的广泛应用，如何科学合理地规制算法技术的应用，推动算法向符合社会伦理道德、保护公民权利的方向发展，是当前时代的重要课题。算法推荐服务提供者不能简单以“技术中立”为由免除侵权责任。当代侵权法具有预防功能。侵权责任的分配不仅是对损害的填补，更是控制与预防风险，是风险控制与算法治理的重要组成部分。在我国算法治理的体系性视角下，应以数字向善为原则合理界定著作权帮助侵权认定中算法推荐服务提供者的注意义务，考量算法推荐服务提供者在算法推荐系统设计和运行中是否对著作权保护进行了积极考虑，并在技术和经济可行范围内采取了防止著作权侵权行为发生的合理措施。网络平台对算法技术的应用是算法研发与改进的重要动力来源之一。算法推荐服务提供者合理注意义务的界定应立足行业技术发展状况，不断推进数字技术向善发展，为社会迈向数字文明新时代提供制度供给和技术支撑。

推荐阅读-向上滑动，查看完整目录-

《知识产权》2022年第11期目录

【主题文章】

1.十年来中国知识产权实践探索与理论创新

董涛（03）

2.中国式现代化建设新征程中的知识产权强国建设道路探析

张鹏（32）

【专题评述】

3.数字向善原则下算法推荐服务提供者的著作权注意义务

张吉豫、汪赛飞（54）

4.知识产权错误通知责任规则重构

蔡元臻（75）

5.数据财产权存续期限的设置问题

钱子瑜（94）

6.元宇宙时代的版权理念与制度变革

初萌（110）

《知识产权》是由国家知识产权局主管，中国知识产权研究会主办的学术期刊，是中国中文法律类核心期刊、中文社会科学引文索引（CSSCI）扩展版来源期刊和AMI综合评价（A刊）扩展期刊。

-END-

责任编辑 | 刘卓知

审核人员 | 张文硕 韩爽

本文声明 | 本文章仅限学习交流使用，如遇侵权，我们会及时删除。本文章不代表北大法律信息网（北大法宝）和北京北大英华科技有限公司的法律意见或对相关法规/案件/事件等的解读。

▼往期精彩回顾▼丁晓东：否定数字人权是新型人权何以错误 | 法律科学202206

关注下方公众号，获取更多法律信息

点击「在看」，就是鼓励