原创 | “算法不是人脑”：算法推荐与电商平台的注意义务

导读

浙高院审理指南第二十四条规定了平台的人为推荐会导致平台承担较高的注意义务，而算法推荐则不会。审理指南的这种区分是合理的，原因在于算法和人脑的工作机制不同：算法是单一任务型的，而人脑是多元任务型的。人脑可以发现与推荐任务无关的侵权问题，而算法不能。因此，算法推荐通常情况下不会破坏电商平台的中立性，不会导致其注意义务提高。当然，这个规则存在例外，即算法设计阶段存在侵权时，算法推荐的中立性就不存在了。

2019年12月23日，浙江省高级人民法院民三庭发布了《涉电商平台知识产权案件审理指南》（以下简称“审理指南”）。这是自《中华人民共和国电子商务法》（以下简称“电商法”）生效后，发布的第一个涉及电商平台知识产权的全面性的司法审判指导规范性文件。同时，考虑到该文件是由中国最大的电商平台所在地的高级人民法院知产庭发布，其会对众多涉电商平台知识产权案件的审理产生实质性的拘束力。结合上述两点，笔者认为该审理指南将会有较大的影响力，其效力不仅及于浙江省内，甚至会为省外法院的司法实践乃至最高院相关司法解释的出台所借鉴，值得深入研究。

众所周知，算法推荐在互联网的各个领域已经普遍使用，电商领域同样如此。但是，关于算法推荐导致的侵权责任，国内在立法上尚无规定。审理指南可以认为是在算法推荐技术普及的背景下，首次涉及这一问题的官方文件，值得仔细研讨。[1]

一、

算法推荐与审理指南第二十四条的渊源

本文所称的算法推荐，也可以称为算法推送，是指网络服务提供者使用算法机制，把信息（下文有的地方也称为“内容”，同义）推送给用户，这里的推送往往是针对用户的个性化特点，利用算法机制，把用户“想要”的内容推送给用户，即个性化推荐。在电子商务领域，这种算法推荐机制表现为电子商务经营者利用算法机制，给用户推送商品或服务的信息。如果说搜索机制是用户主动在海量的商品中去搜索想要的商品，那么算法推荐机制则是电子商务经营者利用掌握的用户数据和算法进行了事前的“筛选”，进而预测用户想要的商品，从而推荐给用户。通俗地说，搜索是“人找货”，而算法推荐是“货找人”。个性化的算法推荐机制中，协同过滤算法是较为主要的算法，现在基于深度学习的算法推荐也颇为流行。

审理指南第二十四条涉及到了算法推荐的问题，其规定：“电商平台经营者通过设置热销榜单、推荐明星产品等方式对商品或服务进行人为推荐的，应承担较高的注意义务。电商平台经营者主要通过合理的自动化技术手段实施实时销量排名、个性化推送等行为的，一般不导致其注意义务的提高，但电商平台经营者应对其采用自动化技术手段的事实及其合理性承担举证证明责任。”

从整体上看，审理指南第二十四条规定的是，平台违反了中立性，其注意义务水平提高的问题。避风港规则之所以规定网络服务提供者（包括平台在内）可以由“通知—删除”而免责，乃是因为网络服务提供者不知道第三方内容是侵权的，这是基于两点：其一，通常情况下，网络服务提供者面对第三方内容是海量的；其二，网络服务提供者处于中立的地位，其不会实质性地接触到第三方内容，不会对第三方内容进行修改、编辑等行为。因此，中立性对于网络服务提供者的免责十分重要。正因为如此，当网络服务提供者违反了中立性，介入了第三方内容时，其注意义务就会较高，对侵权内容就可能处于“应知”状态。

2012年发布的《最高人民法院关于审理侵害信息网络传播权民事纠纷案件适用法律若干问题的规定》（以下简称“信网权司法解释”）第九条第（三）项规定：“人民法院应当根据网络用户侵害信息网络传播权的具体事实是否明显，综合考虑以下因素，认定网络服务提供者是否构成应知：（三）网络服务提供者是否主动对作品、表演、录音录像制品进行了选择、编辑、修改、推荐等。”根据上述条款，当网络服务提供者违反中立性，主动对第三方内容进行选择、编辑、修改、推荐时，可认定网络服务提供者构成“应知”。2014年发布的《最高人民法院关于审理利用信息网络侵害人身权益民事纠纷案件适用法律若干问题的规定》（以下简称“信网方式侵犯人身权司法解释”）第九条第（一）项基本继承了信网权司法解释的规定，但也做出一个重要修改，即明确了网络服务提供者的介入方式包括“以人工或者自动方式”，这里的自动方式，从文义解释的角度来看，可以包括算法推荐。

经过上述梳理可以发现，审理指南第二十四条无疑是承继上述两个司法解释而来，但其也有重要的区别，尤其是与信网方式侵犯人身权司法解释有着显著不同。审理指南区分了人为推荐和算法推荐（即审理指南所说的个性化推送，下同）。在人为推荐上，审理指南的观点与上述两个司法解释观点一致，认为推荐会导致平台注意义务的提高。但是对于算法推荐，审理指南则认为，一般不会导致平台注意义务的提高，也就是审理指南认为算法推荐并不会导致平台违反中立性，这与信网方式侵犯人身权司法解释相关表述的字面含义正好是相反的。

二、

算法与人脑工作机制的区别：审理指南第二十四条的合理性

审理指南第二十四条区分了人为推荐和算法推荐，认为前者使平台违反了中立性，提高了其注意义务；而后者并不会让平台违反中立性，从而未提高其注意义务。我们认为这种区分是合理的，其源于算法和人脑工作机制在进行推荐时的不同：算法是单一任务型的，而人脑是多元任务型的，人脑可以发现与推荐任务无关的侵权问题，而算法不能。

当推荐是人为进行时，即平台的工作人员人工对商品或服务信息进行识别、选择进而推荐，由于人脑的工作模式是多任务型的，虽然其推荐任务与内容是否侵权无关（例如推荐高中男生最喜欢的十双球鞋网络店铺），但在识别、挑选的过程中，人脑任务的多元性使得人脑会不可避免的对第三方内容的侵权问题产生认知（例如其中某个店铺球鞋的价格过低，用户大量留言是假货）[2]。

在这方面，网络视频领域有过一个案例，即“新传诉土豆案”。该案中，法院认为，土豆网的工作人员对上传视频进行人工审查，虽然这种审查主要是针对反动、色情、暴力等的合法性审查，即不是针对侵权问题的，但涉案作品《疯狂的石头》在当时是热门影片，土豆网的审片人员不可能不注意到上传该影片属于侵权行为。因此，土豆网对于侵权行为的存在具有合理理由知晓，即“应知”。[3]这个案例充分说明了人脑工作机制多元性的影响，使得人不管基于什么理由去选择、编辑、修改、推荐，都会被认为实质性地接触到了第三方内容，从而极可能对第三方侵权内容产生认知，被认定为“应知”。再举一个例子，平台的工作人员基于给儿童选择更适合的卡通片，而对平台上2000部卡通片进行审查和挑选，这个过程工作人员会意识到其中明显侵权的卡通片。

在推荐导致的侵权问题上，算法工作机制与人脑工作机制最大的不同在于其任务的单一性，即算法是严格按照设定的目标执行既定的步骤，其只能完成设定的任务，而不能完成设定目标外的任务。在算法推荐方面，一个算法的任务是进行推荐，而没有设定发现侵权内容的任务，那么其在推荐过程中，就不会对其“接触”到的第三方内容进行识别。这就决定了做个性化推荐的算法只能做个性化推荐，而无法识别侵权内容。以上文举的推荐卡通片的例子为例，算法工作时也会对平台上的2000部卡通片以一定的方式进行“接触”，但这种接触都是严格执行算法本身的步骤，完全服务于推荐的目的，而不会涉及到侵权与否的问题，从而也就不可能识别2000部卡通片里的侵权内容。因此，算法的单一任务性决定了在通常情况下，算法推荐并不会使平台违反中立性，进而也就不会产生注意义务提高，从而被认定为“应知”的问题。

三、

算法推荐不提高注意义务的例外：算法设计阶段的侵权

在通常情况下，算法推荐并不会提高平台的注意义务，但也存在例外。这个例外是在算法设计阶段。一般认为，推荐的算法是由人进行设计的，[4]在设计阶段，可能存在侵权问题。例如，某电商平台设计的算法是将以网盘形式销售近二周上映热门电影的商品链接推荐给喜欢以网盘形式获取热门电影的用户（根据该用户购买记录得知），那么该算法在设计时就存在明显的侵权可能性。因为算法设计者以一般非专业人员的标准，也应知道近二周上映的热门电影，不太可能在电商网站以网盘链接的方式销售。因此，在这种情况下，算法设计者应当知道按其算法推荐出来的电影是侵权的。故在算法设计本身涉及侵权的情况下，算法推荐也就不存在中立性的问题了。

也许正是因为如此，审理指南第二十四条强调的是“合理的”的自动化技术手段（这里就包括了“合理的”算法推荐），一般情况下不会导致注意义务的提高。笔者认为，“合理的”就包含有算法设计不应侵权的要求。同时，该条最后规定：“电商平台经营者应对其采用自动化技术手段的事实及其合理性承担举证证明责任。”这里的“合理性”证明，包含对其算法设计阶段不侵权的证明，从而解决算法设计阶段侵权影响算法推荐中立性的问题。[5]

注释：

[1] 《最高人民法院关于审理利用信息网络侵害人身权益民事纠纷案件适用法律若干问题的规定》第九条第（一）项规定：“人民法院依据侵权责任法第三十六条第三款认定网络服务提供者是否“知道”，应当综合考虑下列因素：（一） 网络服务提供者是否以人工或者自动方式对侵权网络信息以推荐、排名、选择、编辑、整理、修改等方式作出处理；”这里的自动方式对侵权信息予以推荐，也可以理解为“算法推荐”，但考虑到该司法解释出台的时间是2014年，当时算法推荐尚未兴起；该司法解释将人工和自动方式并列，可以推测，立法者制定该条，并不是意图规制我们现在所看到的算法推荐。

[2] 当然，这里还存在一个判定标准的问题。是以一般理性人的标准还是以专业人员的标准来认定工作人员是否会对第三方内容的侵权产生认知，从而判定其是否属于“应知”。

[3] 参见上海市高级人民法院(2008)沪高民三(知)终字第62号民事判决书。

[4] 当然，在深度学习环境下，问题会更复杂，因为存在所谓的“黑箱”问题，这里不展开讨论。

[5] 当然，这种证明会面临与算法作为商业秘密保护的冲突问题。类似问题，在算法决策规则问题上也同样存在，即算法的“解释权”与算法作为商业秘密保护冲突的问题，相关论述可参见解正山：《算法决策规制——以算法“解释权”为中心》，载《现代法学》2020年第1期。

作者简介

姚志伟，广东财经大学智慧法治研究中心执行主任，兼职律师，中国法学会网络与信息法研究会理事。曾参与《中华人民共和国电子商务法》的立法工作。在《中国市场监管报》《中国审判》《国际商报》等报纸杂志、商务部官方网站以及专业微信公众号发表电子商务法相关实务十余篇。主要包括：《线上线下融合下＜电子商务法＞适用范围探讨》《“薅羊毛”是“错误”吗？——电子商务零售交易中商家标价错误行为的救济 》《 ＜浙高院民三庭涉电商平台知识产权案件审理指南＞系列解读》（一、二、三）《 ＜中美经贸协议＞中的电商侵权条款解读》《对“二跳”广告页面违规问题的思考》。在《人民日报》《光明日报》《法商研究》等重要刊物发表学术论文二十余篇。联系邮箱：[e-mail]

吴嘉莉，广东财经大学智慧法治研究中心研究人员

声明：本文仅代表作者目前所持的理论观点，不代表作者供职机构或其他相关机构的意见。本文仅为交流之用，所有内容不构成对任何个案的意见、建议或观点。作者和发布平台明示不对任何根据本文任何内容的作为或不作为所导致的后果承担责任。

---

更多往期文章点击阅读：

扫描二维码 ｜ 加入群聊

与专业人士共同交流

扫描二维码 ｜ 关注我们

电商法实务大本营

扫描二维码 ｜ 关注网络法实务圈

更多关于互联网的资讯

扫描二维码

关注我们

电商法实务大本营

编辑：吴嘉莉

点“在看”给我一朵小黄花