姚志伟丨技术性审查：网络服务提供者公法审查义务困境之破解
载《法商研究》2019年第1期
姚志伟
（广东财经大学法治与经济发展研究所副研究员、
广东外语外贸大学博士后）
目次一、网络服务提供者公法审查义务的困境
二、网络服务提供者公法审查义务的技术性定位三、技术性审查的实施机制
四、结语
摘要 我国现行立法关于网络服务提供者审查义务的规定存在“悖论式并行”现象，即私法上免除网络服务提供者的审查义务，公法上却要求网络服务提供者承担审查义务。网络服务提供者公法审查义务的履行在实践中面临负担过重、违法判定和义务履行两难的困境。欲突破此困境，应对公法审查义务作技术性定位，即将网络服务提供者的义务限定于以合理的技术性措施审查用户内容。技术性审查应从审查范围、审查措施、审查标准、公私合作、审查错误的救济和民事赔偿责任的限制等方面作出制度安排。
关键词 网络服务提供者 避风港规则 审查义务 技术性审查
随着互联网技术在经济、政治、社会诸领域日益渗透，其产生的影响也越来越大。一方面，互联网技术的应用提高了效率，便利了人们的生活；另一方面，一些违法的内容也在互联网上集聚，并通过互联网进行扩散而危害公众。如何遏制互联网上的违法内容成为摆在监管者面前的难题。一个颇具吸引力的思路是要求网络服务提供者承担“守门人”的角色，由他们来控制互联网上的违法内容。互联网法的基本规则——避风港规则，从一定意义上来说就是网络服务提供者“守门人”职责的具体化。避风港规则源自美国的《数字千年版权法》，之后被欧盟、日本等众多国家和地区移植。《中华人民共和国侵权责任法》（以下简称《侵权责任法》）第36条也是移植避风港规则的产物。避风港规则的制定，是由于考虑到网络服务提供者在面对海量用户内容的情况下，不可能对内容进行一一审查，因此有必要限定网络服务提供者的责任。避风港规则规定网络服务提供者在特定条件下不承担侵权的损害赔偿责任，这里的特定条件通常指网络服务提供者在收到权利人通知后，采取了删除等必要措施。故避风港规则也被称为“通知—删除”规则。
网络服务提供者是否承担审查义务，是网络服务提供者义务问题的焦点。就国内立法而言，虽然以《侵权责任法》第36条为代表的私法规范移植了避风港规则，确立了网络服务提供者不承担审查义务的规则，但公法规范明确要求网络服务提供者承担审查义务，从而产生公私法的冲突，笔者将这种现象称为网络服务提供者审查义务的“悖论式并行”。私法上免除网络服务提供者的审查义务，是考虑到网络服务提供者的负担能力难以承受海量内容的审查任务，但这个能力并不会由于审查义务由私法转向公法而发生本质变化。也就是说，要求网络服务提供者负担公法审查义务，同样有超出其负担能力之嫌。同时，网络服务提供者履行公法审查义务还存在违法判定能力有限、履行义务标准不清晰等困境。
在网络服务提供者公法审查义务已被多部立法明确规定的情况下，要免除网络服务提供者的公法审查义务几无可能。因此，本文拟立足于现行法律框架，将网络服务提供者的公法审查义务定位于技术性审查，尝试破解当前困境。
一、网络服务提供者公法审查义务的困境
本文所讨论的网络服务提供者审查义务是指网络服务提供者应承担主动、积极地采取行动，包括采取合理措施检查用户提供的内容是否违法，发现违法时及时采取必要制止措施的义务。
网络服务提供者的审查义务存在公私法上的义务之分，即存在来自公法规范的审查义务与源于私法规范的审查义务，两者的来源、性质不同，不能混为一谈。公法审查义务是指源自公法规范的网络服务提供者审查义务，而私法审查义务是指源自私法规范的网络服务提供者审查义务。正如北京市高级人民法院《关于审理涉及网络环境下著作权纠纷案件若干问题的指导意见（一）》（试行）第17条的规定：“提供信息存储空间、搜索、链接、P2P（点对点）等服务的网络服务提供者对他人利用其服务传播作品、表演、录音录像制品是否侵权一般不负有事先进行主动审查、监控的义务。”这里规定的是特定种类的网络服务提供者不承担私法上的审查义务。该条接下来规定“依照相关法律及其规定应当进行审查的，应当审查”，则是对公法上审查义务作出的例外规定，即按照公法规范需要承担审查义务的，依然需要审查。
相关公法规范不仅规定了网络服务提供者的审查义务，还进一步规定网络服务提供者发现违法内容时应及时采取措施制止，并向行政主管机关报告。这一义务模式可称为“检查—发现违法—制止—报告”模式。当然，“报告”和“制止”的顺序在某些立法中可能有所不同，如《网络交易管理办法》第26条规定的是先“报告”后“制止”。
“条文的规定是一回事，法律的实施又是一回事。”立法虽然对网络服务提供者的公法审查义务作出了明确规定，但囿于各种客观原因，其实施面临巨大困境。
（一）全面审查的巨大负担
对海量内容进行全面合法性审查将给网络服务提供者造成巨大的审查负担，这是公法审查义务面临的首要困境。网络服务具有集聚性的特点，一个具体的业务领域，往往只有少数的网络服务提供者存在，海量的用户聚集在少数的网络服务提供者的平台上，由此产生海量的内容。对于大型网络服务提供者而言，其面对的网络信息数量往往数以亿计，如推特（Twitter）每天用户所发信息超过5亿条，国内某搜索引擎服务提供者每日收到其广告主向其推广系统投放的广告材料达到4 500万次，材料存量累计达到30.4亿次，每小时有近25%的广告主更新材料。在如此海量的内容面前，要求网络服务提供者对所有信息逐一进行全面的合法性审查，将使其不堪重负；若要求以人工方式进行审查，则是不可能完成的任务。
除了内容的海量以外，相关公法规范为网络服务提供者设定的合法性审查范围也过于宽泛。相关公法规范对审查范围的描述通常是：“法律、行政法规禁止发布或传输的信息。”较为细致的界定如著名的“九不准”，即危害国家安全、损害国家荣誉和利益、破坏国家宗教政策、宣扬邪教和封建迷信、侮辱诽谤他人、侵害他人合法权益等8类信息和“其他违反宪法和法律、行政法规”的信息。这种审查范围的设定可以说是极为全面的，审查者需要根据我国全部的法律、行政法规的要求进行审查。审查范围不仅包括违反公法规范的信息，还及于违反私法规范的信息，如侵权他人版权的信息。要求一个私人主体对海量的内容承担如此全面、宽泛的审查义务，显然负担过重。正因为此，私法上豁免了网络服务提供者的审查义务，全国人民代表大会常务委员会法制工作委员会的立法工作者对《侵权责任法》第36条进行释义时指出：“事实上，由于网络具有开放性的特质，网络信息十分庞杂，要求此类网络服务提供者逐一审查，可能大量增加网络服务提供者的运营成本，阻碍网络产业的发展”。可见，我国虽然在公法上作出了与私法不同的立法选择，但面对的问题仍然相同。因此，需要寻求新的方法解决海量内容带来的审查负担问题。
（二）违法性判定的困难
虽然法律追求确定性，但是因法律规范不可避免地具有一定的模糊性，故需要配备规模庞大的法官、行政执法人员、律师以及公司法务等各方面的法律工作人员来处理法律规范模糊性带来的法律适用难题。网络服务提供者在履行公法审查义务时，是以私人主体的身份对用户产生的内容进行检查，在发现违法时采取措施制止并予以报告。这里的“发现违法”，实际上包含了“违法判定”的职责。通常情况下，当面对一条具体信息时，网络服务提供者只有先判断其是否违法，才能对其进行后续处理。因此，网络服务提供者在履行公法审查义务时，也必然会面临法律规范模糊所带来的法律适用难题。有关公法审查义务的法律规范往往比较抽象和模糊。以“九不准”中“损害国家荣誉和利益”的内容为例，由于其过于抽象和原则，因此在实践中根本无法直接运用。而面对用户发布的数量庞大、内容多样的信息，平台对于违法信息判断标准的明确性有极高的要求，与立法的原则性规定的不适应性越来越明显。此外，“九不准”中的“封建迷信”等的标准同样抽象和模糊，缺乏具体的判定规则。
网络服务提供者并非专业的执法、司法或者法律服务机构，作为私人主体，其缺乏进行违法判定的专业能力。同时，从违法判定的工作量来看，专业执法、司法和法律服务机构处理的案件通常是有限的，而网络服务提供者则需要面对海量内容产生的违法判定问题。如果要求网络服务提供者聘请庞大的专业法律团队去处理海量内容产生的违法判定问题，显然成本过高。
（三）缺乏清晰的违法审查义务判断标准
现行立法为网络服务提供者设置了公法审查义务，但违反审查义务的判断标准尚付阙如。清晰的违反审查义务判断标准，是准确追究网络服务提供者违反义务之责任的前提。以注意义务为例，其是否违反义务的判断标准一般是“善良管理人”标准，以医疗人员在诊疗过程中的注意义务为例，其违反义务的判断标准是行为人在诊疗过程中是否采取了合理的、称职的医疗人员在相同或类似情形下被期待采取的诊疗措施。若未能达到此标准，则被视为违反注意义务，承担侵权责任。
由于现行法缺乏清晰的义务履行标准，因此执法机关在实际执法过程中容易滑向“结果主义”，即以网络服务提供者所提供平台上出现违法内容的结果推定网络服务提供者未尽到审查义务，从而追究其相应责任。例如，浙江省网信办认定淘宝公司部分店铺存在售卖破坏计算机信息系统工具、售卖违禁管制物品等问题，未能对用户发布的禁止性信息尽到审查义务，根据《中华人民共和国网络安全法》（以下简称《网络安全法》）第47、68条的规定，对淘宝公司提出警告，并责令其“举一反三，全面整改，下架违法违规商品，对违法违规店铺进行严肃处理”。腾讯公司也曾因其平台上的用户传播暴力恐怖、虚假、淫秽色情等危害国家安全、公共安全、社会秩序的信息，被监管机构认为未尽到审查义务，而按照《网络安全法》第68条处以50万元罚款。
这种以出现违法内容的结果来认定网络服务提供者未尽到审查义务的做法，实际上是让网络服务提供者对用户内容承担严格责任。但网络服务提供者不对用户内容承担严格责任，在国内外已形成一定共识。美国的避风港规则正是由于版权的严格责任体系对网络服务提供者来说过度严苛，用于为网络服务提供者提供责任豁免而产生。《侵权责任法》第36条规定的网络服务提供者之侵权责任也是采取过错责任原则，责任的追究以网络服务提供者存在过错为前提。
可见，在缺乏清晰的违反审查义务标准的情况下，行政执法容易滑向“结果主义”，使得网络服务提供者对用户内容承担严格责任。这对网络服务提供者而言过于严苛，也与当前关于网络服务提供者责任的共识相悖。
（四）义务履行的两难
现行立法为网络服务提供者设置了公法审查义务，若不履行该义务，则要承担公法责任。然而，网络服务提供履行公法审查义务，又可能会承担私法责任，这一私法责任源于两个方面：
1.网络服务提供者公法审查义务的核心是剔除第三方发布的违法内容，为履行此义务，网络服务提供者必须在没有接到权利人通知或有权机关指令的情况下，基于自主判断剔除违法内容。然而，该义务将网络服务提供者置于巨大的风险之中，即如果错误处理了合法内容而给用户造成损失，那么将承担私法责任；即使处理正确，也可能被用户认为处理错误而要求赔偿。例如，在“彭某某诉淘宝案”中，淘宝公司从商品信息层面判定彭某某所售商品为假货，根据《淘宝规则》对彭某某的店铺做出关闭的处理。彭某某因而起诉淘宝公司关闭店铺的行为违约，要求淘宝公司赔偿因店铺被查封导致的各种损失。虽然法院认为淘宝公司的处理正确，判决淘宝公司胜诉，但是淘宝公司的处理完全可能是错误的，因为淘宝公司作为网络服务提供者并不直接参与交易，面对平台上的海量信息，其了解和掌握程度必定是有限的。同时，淘宝公司也不具备判断信息是否合法的专业性和权威性，因而在履行审查义务的过程中完全可能出错。由此导致网络服务提供者履行公法审查义务的两难困境：如果不采取措施剔除违法内容，那么可能违反公法义务，将要承担公法责任；如果采取措施阻止违法内容，那么可能由于处理错误而给用户造成损失，从而承担私法上的侵权责任。
2.网络服务提供者履行公法审查义务，而被认为实质性地接触第三方内容，使其负较高水平的注意义务，从而大大提高其承担侵权责任的可能性。私法上一般认为，网络服务提供者由于技术中立而一般不实质性接触用户内容；同时，由于信息内容的海量，其对这些内容也不具有控制能力，这决定了网络服务提供者可以进入“避风港”而不承担审查义务。在注意义务的程度上，由于网络安全提供者缺乏控制能力和未实质性地接触内容，其注意义务水平也较低。然而，当网络服务提供者履行公法审查义务时，会被认为实质性地接触到信息内容，从而被推定为需要负较高程度的注意义务。这在网络视频领域已经有所体现。
根据《互联网等信息网络传播视听节目管理办法》第20条设定的公法审查义务，网络视频服务提供者须对用户上传的视频内容进行事前审查；但这也会对其私法上的注意义务造成影响，因为在审查过程中，审片人员基于常识和专业知识，完全可以对有著作权信息的视频是否侵犯他人著作权作出初步判断。在“新传诉土豆案”中，这一推断得到证实。法院认为，土豆网对上传视频进行的审查虽然主要是针对反动、色情、暴力等内容进行的合法性审查，但涉案作品《疯狂的石头》是当时的热门影片，土豆网的审片人员不可能不知道上传该影片属于侵权行为。因此，土豆网对于侵权行为的发生未尽到合理注意义务。该案中，土豆网若不履行公法审查义务，将面临行政处罚；若履行公法审查义务，又会被认为实质性接触信息内容，从而负有较高程度的注意义务，一旦出现侵权内容，极易被认为对侵权内容的存在具有“应知”的主观状态，从而承担侵权责任。在此情况下，网络服务提供者实际上处于不履行公法义务即承担公法责任、履行公法义务又面临私法责任风险的两难困境。
二、网络服务提供者公法审查义务的技术性定位
网络服务提供者承担公法审查义务大局已定，包括《网络安全法》在内的多部法律法规已明确规定网络服务提供者的公法审查义务。因此，在现行法的框架下，探讨以何种方式克服网络服务提供者公法审查义务的困境更为现实。笔者认为，应将网络服务提供者的公法审查义务作技术性定位，即明确网络服务提供者的义务是以合理的技术性措施对用户内容进行审查，不要求网络服务提供者以超出其负担能力或人工的方式对用户内容进行审查。
（一）网络服务提供者公法审查义务技术性定位的理论基础
公法审查义务意味着网络服务提供者作为一个私人主体，对用户的内容承担审查义务。从法律性质上说，网络服务提供者的公法审查义务属于行政法上的第三方义务，它是指：“政府指定的私人主体既不是所监督行为的主要实施者，也不是违法行为的受益者，但其承担着必须将私人信息提供给行政机关或者由其本身采取阻止性措施防止有害行为发生（如拒绝提供服务或者货物、拒绝录用或者直接解雇）的义务。”承担第三方义务的私人主体，实际上是按照法律的要求扮演控制违法行为的“守门人”角色。“守门人”责任理论是确立网络服务提供者对用户行为承担义务和责任的基础理论。该理论强调，如果对直接违法者进行执法面临困难，那么将执法目标转向对直接违法者提供某种形式支持的中介者，要求这些中介者对直接违法者的行为采取阻止措施，否则法律将对他们施以惩罚。例如，律师和会计师是欺诈性的证券交易行为的“守门人”，雇主则是非法移民行为的“守门人”。并非所有的中介者都应当被课以“守门人”责任，“守门人”责任理论的提出者哈佛大学教授克拉克曼指出，衡量特定的中介者是否应被课以“守门人”责任，有4项核心考量因素：其一，中介者是否有能力阻止违法行为；其二，中介者能否以合理的成本阻止违法行为；其三，大量违法行为未得到执法机关的阻止；其四，中介者阻止违法行为的激励机制没有或者不足。
随着互联网的发展，“守门人”责任理论也被应用到网络领域，网络服务提供者则被视为对网络内容有重要控制权的中介者，处于控制违法内容的关键位置。因此，通过课以网络服务提供者一定的审查义务，可以激励其采取有效措施控制网络上的违法内容。网络法上的避风港规则将网络服务提供者视为“守门人”，要求其承担收到合格通知后采取删除、屏蔽、断开链接等必要措施的义务和相应的法律责任。这些义务和责任的设立，都是为了激励网络服务提供者采取有效行动剔除违法内容。但避风港规则并未要求网络服务提供者承担审查义务，值得追问的是，为何不让网络服务提供者以“守门人”的角色对用户内容进行全面的审查呢？根据克拉克曼提出的考量因素进行分析，盖因考虑到对海量内容进行审查的负担过重，无法以合理的成本来履行审查义务。
因此，从“守门人”责任理论出发，成本问题是应否课以网络服务提供者审查义务的关键所在。网络服务提供者公法审查义务的技术性定位解决的正是成本问题。对海量的内容逐一进行人工审查虽不具有可行性，但如果主要以技术手段进行审查，就能将成本降至网络服务提供者可以承受的范围内：
第一，大型网络服务提供者实施技术性审查的实践证明了技术性审查成本的可负担性。无论在国内还是国外，大型网络服务提供者都对技术性审查有着较为成熟的经验。在国内，各类大型网络服务提供者，包括网络社交服务提供者、网络搜索服务提供者都已经在利用技术性措施对用户内容进行审查。在国外，脸书（Facebook）和推特（Twitter）等社交网站利用技术性措施剔除恐怖主义和极端主义内容已十分常见。技术性审查在产业界广泛使用的现状，表明其成本是大型网络服务提供者能够承担的。
第二，技术的可迁移性使得中小型网络服务提供者也能承担技术性审查的成本。不得不承认，大型网络服务提供者在研发审查技术时是需要付出高昂成本的，以优兔（YouTube）的内容身份管理系统为例，作为一套用于过滤侵权视频的版权内容过滤系统，其耗资6 000万美金，这个成本显然是中小型网络服务提供者难以负担的。但由于技术具有迁移性，一旦大型网络服务提供者建立了技术性审查系统，就能以极低成本向全社会扩散，从而使得技术性审查的成本可以为中小型网络服务提供者所负担。我国目前已经出现这种技术迁移，阿里巴巴公司和网易公司都已将自己研发的审查技术以商业方式向市场开放，供其他网络服务提供者，特别是中小型网络服务提供者有机会获取。
第三，由于审查技术的日趋成熟，私法领域已经出现课以网络服务提供者技术性过滤（审查）义务的呼声。如前所述，审查海量内容所造成的巨大负担是私法豁免网络服务提供者审查义务的重要理由。但随着审查技术的日益成熟，私法学者的观点也在转变中。欧盟也已提出相关立法建议，要求内容存储和发布的服务提供者承担过滤（审查）义务。
（二）网络服务提供者公法审查义务技术性定位的现实基础
现行立法对网络服务提供者审查义务的履行方式基本未予规定，也未明确要求网络服务提供者应以技术还是人工方式进行审查。因此，以技术性措施来履行审查义务，基本属于现行法的允许范围之内。现行立法规定的网络服务提供者公法审查义务的基本模式为“检查—发现违法—制止—报告”，网络服务提供者的技术性审查可以基本达到这一模式的要求。以网络直播服务提供者为例，其可以通过机器学习技术，训练出色情内容的识别模型，进而对用户所发布的直播视频实现实时监控。这里的实时监控，可以视为履行审查义务模式中的“检查”义务，而发现色情内容后采取进行屏蔽、断开链接等措施，则属于履行“发现违法”和“制止”义务。对于“报告”义务，网络服务提供者可将其计算机系统与监管机构的计算机系统进行对接，从而把技术性审查发现的违法内容及处理结果以一定的形式通过对接系统发送给监管机构，完成“报告”义务。当然，此方案的实施需要网络服务提供者与监管机构之间具有高度的信任关系。
三、技术性审查的实施机制
（一）技术性审查的义务范围
由于现行法规定的网络服务提供者审查义务过于宽泛，并且要求网络服务提供者承担违法判定义务，超出了其能力范围。因此，要使技术性审查具备可行性，必须限缩其审查的范围。具体而言：
第一，审查范围应限于违法判定标准十分清晰、能以技术逻辑实现的范围。技术性审查系统是由设计者人为构建的，当违法判定标准过于模糊时，设计者就无法设计出可以进行清晰判定的技术性审查系统。这个限定一方面可以保证审查在技术上能够实现，并且是网络服务提供者可以负担的；另一方面，也可以避免在判断标准不清晰的情况下，强行使用技术逻辑进行审查，从而造成内容误删和侵害用户权益的后果。
第二，私法上的违法问题应排除在公法审查义务范围之外。现行立法将私法问题也纳入网络服务提供者公法审查义务的范围，“九不准”规则中的“侮辱或者诽谤他人，侵害他人合法权益”规则实际上是将私法层面合法性问题，包括知识产权合法性问题纳入公法审查义务的范围。对此，有学者提出质疑：“将原本属于‘不告不理’的民事领域的‘侵权信息’，与涉及国家安全、民族团结、宗教信仰、社会秩序有关的违法信息相提并论，将行政监管之手伸向民事领域，造成了用户之间的民事法律关系和行政机关与行政相对人之间行政法律关系的交叉”。同时，这也使私法上的避风港规则被架空，因为避风港规则的基本要义就是网络服务提供者不承担审查义务。
尽管私法领域也出现了赋予网络服务提供者以技术性过滤（审查）义务的呼声，但私法与公法在审查义务设定上存在很大差异，私法上审查义务的设定存在与避风港规则相协调的问题。在义务模式上，私法领域的审查通常是应权利人的请求而进行，并且网络服务提供者可以向权利人收取一定费用，这与公法审查义务模式显然不同。同时，考虑到我国公私法对审查义务截然不同的规定，应对公私法审查义务进行切割，使公法审查义务的适用范围仅限于公法问题。
（二）技术性审查的主要措施
网络服务提供者的技术性审查措施包括关键词的过滤、基于统一资源定位符的过滤、基于智能内容分析的识别处理等。关键词过滤是最常用的技术性措施之一，以竞价排名服务提供者为例，在用户提交相关推广内容后，系统会自动对关键词等内容进行过滤，以审核有关该内容是否属于黄色、暴力、反动等涉及公共利益和社会秩序的敏感词汇。因此，关键词过滤的重点在于设置合理的关键词，确保这些关键词可以有效标识违法内容但又不至于误删合法内容。
基于统一资源定位符的过滤是通过对网页链接设置黑白名单，进而实现对内容的过滤，这种技术性措施常为搜索服务提供者所采用。基于智能内容分析的识别处理技术是近年来迅速发展的一项技术性措施，其采用语言分析、图像处理技术对违法内容进行识别和处理，特别是引入机器学习的方法，极大提高了识别效率。例如，在针对色情内容的审查上，可以通过神经网络算法和庞大的图样数据库，建立并不断完善识别模型，实现对色情内容的自动识别，以对海量的图片和视频内容进行审查。
根据介入时间进行划分，技术性审查可分为事前审查与事后审查。事前审查是指在用户发布内容的过程中即进行审查，在内容还没有正式发布之前，通过关键词过滤或智能内容分析识别处理的技术，阻止违法内容的发布。事后审查是指内容已经发布，通过技术性措施发现后，采取屏蔽、断开链接等措施将违法内容删除。以关键词过滤技术为例，网络服务提供者可以把反映内容违法性的词汇设为关键词。若采用事前审查，当用户发布的内容含有违法关键词时，就可以阻止该内容或内容片段的发布；若采用事后审查，则在用户已经发布相关内容后还可通过关键词进行过滤，发现包含违法内容时再将其删除。
（三）技术性审查的法律标准
网络服务提供者采取的技术性措施达到特定的法律标准，就意味着其恰当履行了公法审查义务。因此，在技术性审查符合标准的情况下，即使有违法内容未能审查出来，也不应认定网络服务提供者违法从而追究其相应的公法责任。故而，技术性审查的法律标准不应再采用“结果主义”模式，而应采用类似于“技术安全港”的模式。“技术安全港”是讨论网络服务提供者版权过滤（审查）义务时提出的概念，意指网络服务提供者如果采取了合理的技术过滤（审查)措施，法律就为其提供庇护，在受到版权侵权指控时，其可以提出已采取技术过滤(审查）措施的抗辩，从而免于承担侵权责任。
合理设定技术性审查法律标准的首要目的是审查的有效性，具体包括两个考量因素：（1）非法内容的检出率；（2）合法内容的误检率。技术性审查在有效性方面的目标是检出尽可能多的非法内容，同时尽可能减少合法内容的误检。衡量一个技术性审查系统的有效性必须同时考虑检出率和误检率两个方面。但这两个方面的目标可能存在一定的冲突，即检出率的提高往往也会带来更高的误检率。
如果不计成本地投入，那么当然可能达到较为理想的高检出率和低误检率，但是这种高成本往往是网络服务提供者特别是中小型网络服务提供者所无法承担的。因此，技术性审查措施的合理性判断还必须考量成本因素，进行“成本/收益”的分析。
技术性审查法律标准的制定可以参考其他监管领域的成功经验。例如，在反洗钱领域，中国人民银行制定了《金融机构洗钱和恐怖融资风险评估及客户分类管理指引》，原银监会、原保监会、证监会作为相应行业反洗钱的具体监管机构又在该指引的基础上制定了各自行业的反洗钱指引。一方面，这些指引中包含具体的技术性设计原理和参考指标，通过遵循这些工作指引，金融机构的合规工作即可达到监管机构要求的标准；另一方面，这些工作指引也是反洗钱监管机构执法的重要参考。又如，在个人信息保护领域，《网络安全法》《电信和互联网用户个人信息保护规定》等立法为个人信息保护设定了法律框架，但相应的法律条文规定较为抽象，与企业合规要求的明确性之间存在不小的差距。基于此，国家标准化管理委员会和原国家质量监督检验检疫总局联合发布了推荐性国家标准《个人信息安全规范》，明确指出：“本标准适用于规范各类组织个人信息处理活动，也适用于主管监管机构、第三方评估机构等组织对个人信息处理活动进行监督、管理和评估”。该标准将法律规定具体化、可操作化，既可作为相关企业的合规指引，也可作为监管机构的执法参考。按照参与该标准制定的专家的解读，若企业的合规措施达到《个人信息安全规范》的要求，即可被推定为遵守《网络安全法》关于个人信息保护的义务。同时，由于该标准属于推荐性标准，因此企业的合规措施即使与《个人信息安全规范》不完全相符，也不必然意味违反《网络安全法》的相关规定；但企业有义务向监管机构证明其合规措施符合《网络安全法》的要求。
为提高监管效率，降低网络服务提供者的合规成本，监管机构可以自行制定技术性审查标准或者认可第三方机构制定的技术性审查标准，并以此作为执法的重要参考。具体而言：（1）一般性标准与具体行业性标准相结合。借鉴反洗钱领域的经验，可先制定适用面较广、适合大多数网络服务提供者的一般技术性审查标准。一般性标准的制定应由国家互联网信息部门承担，因为其负有网络信息内容管理以及统筹协调网络安全工作和相关监督管理工作的法定职责。在一般性标准的基础上，可由具体行业的监管机构负责制定具体的行业性标准。当然，监管机构除了自己制定标准外，也可通过一定的形式为第三方机构制定的标准背书。（2）在现阶段，由于网络服务提供者公法审查义务的履行尚处于摸索阶段，采取“推荐性标准”模式更为可取。在摸索阶段，制定强制性标准对监管机构而言压力较大。因为在摸索阶段，标准的设定出现错误的情形在所难免，但强制性标准是网络服务提供者所必须遵守的，标准一旦出现错误就会给网络服务提供者的合规工作带来很多困难，甚至会阻碍网络服务提供者的正常发展。与强制性国家标准相比，推荐性国家标准没有法律强制力，网络服务提供者可以自行决定是否遵守，如果网络服务提供者认为标准有错误，可以不遵守，从而大大减少标准设定错误所带来的损失。
（四）网络服务提供者与监管机构的合作治理
对互联网上海量的内容进行审查，剔除其中的违法内容，无论对于监管机构还是网络服务提供者而言都是一件充满挑战的任务，需要双方各自发挥优势来完成。其中，监管机构是违法行为的最佳判定者，而网络服务提供者则拥有更佳的技术能力对违法内容进行剔除。基于此，双方可以在以下几个方面合作治理：
第一，由监管机构主导，网络服务提供者特别是大型网络服务提供者协助，制定负面清单。这里的负面清单是指对网络服务提供者应予剔除的违法内容的具体列举。例如，针对具体哪些商品或服务是网络交易平台服务提供者应该禁止交易的，需要列一个详细的清单进行明确。又如，在对色情内容的审查方面，也需要列一个关键词清单用以对照。当然，监管机构在制定负面清单时，对哪些内容涉嫌违法的知识是有限的，这便需要网络服务提供者特别是大型网络服务提供者的协助。许多大型网络服务提供者在实践中往往已经开始使用技术性审查，对哪些内容涉嫌违法积累了丰富的经验，由其向监管机构提供相应信息，有助于监管机构制定科学的负面清单。负面清单一旦制定就可适用于所有网络服务提供者，这有利于节约社会成本，尤其是极大地节约中小型网络服务提供者的成本。
第二，鼓励发展提供第三方专业技术性审查服务的供应商。让每一个网络服务提供者都独立发展技术性审查系统，无疑是对社会资源的巨大浪费，也必然大大提高中小型网络服务提供者的运营成本，从而产生抑制创新的不利后果。因此，从提升效率和节约社会成本的角度出发，应鼓励发展第三方供应商，由他们为网络服务提供者特别是中小型网络服务提供者提供技术性审查服务。基于同样的原因，也有私法学者主张在版权领域引入过滤（审查）机制，必须发展第三方供应商市场。目前，我国市场上已经出现提供技术性审查服务的第三方供应商。例如，网易云推出的“网易云盾·内容安全”产品通过技术性手段实现智能鉴黄、暴恐识别、涉政检测等功能，可对文字、图片、视频、音频等形态的内容媒介进行技术性审查。又如，阿里云也有类似的产品。网易和阿里巴巴都是具有代表性的大型网络服务提供者，其通过自身的技术性审查实践探索出较为成熟的审查方案向市场进行商业推广，是一种技术迁移的成功方式，有助于降低中小型网络服务提供者的合规成本。
（五）审查错误的救济
毋庸讳言，网络服务提供者的技术性审查措施可能出现错误，本文称之为审查错误。它是指网络服务提供者的技术性审查错误地将用户的合法内容认定为违法内容，并采取相应的剔除措施。实践中，审查错误主要有3种情形：（1）审查依据错误导致的审查错误，如网络服务提供者根据相关监管机构的指令进行技术性审查，但监管机构指令本身存在合法性问题，导致网络服务提供者错误地进行审查，剔除了合法的内容。（2）相关公法规范或者相关监管机构的指令正确，但网络服务提供者因自身的理解错误导致审查错误。（3）审查依据和网络服务提供者对公法规范及监管机构指令的理解都正确，但网络服务提供者进行技术性审查时发生误检。
审查错误无疑会使用户的权益受损。为保护用户的合法权益，有必要提供相应的救济机制。这可以从两个层次来考虑，一是网络服务提供者的内部救济机制；二是外部的司法救济机制。
网络服务提供者的内部救济机制在实践中一般被称为申诉机制，即当网络服务提供者基于技术性审查作出对用户不利的决定后，应当赋予用户申诉的权利。在申诉流程中，用户成功发起申诉后，由网络服务提供者的员工进行人工复核，判断技术性审查所形成的决定是否错误，如果证实错误，就撤回对用户不利的决定。需要指出的是，网络服务提供者通常不会提供单独针对技术性审查（基于公法审查义务）的申诉机制，这个申诉机制往往是一般性“违规处理—申诉”机制的一部分。因此，这个申诉机制在网络服务提供者处理私法领域侵权问题时同样存在，如网络服务提供者剔除侵犯他人版权的内容后，也会提供给权益受影响的用户以申诉的权利。
如果权益受影响的用户无法通过网络服务提供者的申诉机制得到救济或者不愿使用申诉机制，那么也可以通过司法渠道寻求救济。在诉讼形式的选择方面，通过民事诉讼的方式寻求救济是目前较为可行的途径。与政府对互联网的规制相比，网络服务提供者履行公法审查义务的行为具有私人规制的属性，因为其是以私人主体的身份履行义务。网络服务提供者进行私人规制的合法性源于其与用户之间的合同，这个合同通常表现为用户协议。网络服务提供者将相关公法规范的要求转化到用户协议中，并在用户协议中明确约定，其发现用户发布的内容违反用户协议（包括由公法规范转化的协议条款）时有权采取对用户不利的措施。这种基于用户协议的私人规制，可以称之为“合同型私人规制”。由于其合同属性，权益受到私人规制影响的用户应当通过民事诉讼的方式寻求救济。在诉由选择上，用户可以根据案件的具体情况选择违约之诉或侵权之诉。
目前，审查错误的司法救济尚存在两个难题：（1）如果审查错误是由行政机关的指令造成的，应如何处理？这涉及民事诉讼中如何处理行政行为效力的问题，该问题是行政诉讼法上的疑难问题。对此主流观点是，民事法庭只对行政行为的合法性做形式审查，如果行政行为具有形式确定力，那么法院应将该行政行为作为一个既定事实加以认可，不再审查其合法性。在涉及网络服务提供者技术性审查时，问题更为复杂。因为相关行政机关有时是以内部通知等非正式形式向相应网络服务提供者下达指令，一些情况下甚至没有正式的文件形式。这样会导致网络服务提供者拿不出行政机关下达指令的证据。即使有证据，由于行政机关的指令不具备正式文件形式，因此民事法庭也极可能以缺乏形式合法要件为由，否认其效力。（2）法院在审理时，必然会涉及网络服务提供者技术性审查结果的合理性问题，从而需要了解措施的技术逻辑。此时网络服务提供者会面临两难困境：若披露具体技术逻辑，则可能导致技术外泄，从而产生审查技术遭到破解的风险；若不披露具体技术逻辑，则无法证明其技术性审查结果的合理性。同时，如果采用机器学习技术进行审查，还会存在所谓的技术“黑箱”问题，即机器学习的技术逻辑很难用一般的语言逻辑予以解释。
（六）网络服务提供者审查错误的民事责任豁免
与救济机制相关的还有网络服务提供者的民事责任豁免问题。如前所述，网络服务提供者在履行公法审查义务时面临两难困境，欲克服此困境，有必要豁免其审查错误的民事责任。在这方面，可以参考美国和日本的相关经验。
除避风港规则外，美国关于网络服务提供者的责任还有另一个重要条款——《正当通讯法》第230条C(2)。这个条款又被称为“好撒玛利亚人条款”，“好撒玛利亚人条款”原指无偿救助者的施救行为造成被救助者损害时免除其民事责任的规则，《中华人民共和国民法总则》第184条就借鉴了这个规则。在《正当通讯法》第230条中，剔除违法内容的互动式电脑服务提供者或使用者被视为“好撒玛利亚人”，只要其采取剔除违法内容措施时是善意的，即使其行为对用户造成损害，也可以豁免其民事责任。日本法中相关规定主要见于2001年颁布的《关于特定电子通信服务提供者的损害责任的限制以及发信人信息披露的法律》。该法第3条第1款规定了避风港规则，第2款规定了特定电子信息服务提供者采取必要措施剔除违法内容的责任豁免。可见，日本法上豁免网络服务提供者责任的前提是其“有相当理由相信”被剔除的内容会对他人权利造成不当损害。这个前提与美国法上的善意规则有一定的相似性。美国法上的“善意”也要求网络服务提供者在发现内容违法时，有相当理由相信其有必要采取剔除措施。但日本法上采取剔除措施之目的仅限于“对他人权利造成的不当损害”，而不包括对国家利益、公共利益造成的损害，范围过于狭窄。同时，日本法上仅免除赔偿责任，而美国法上免除的是全部民事责任。相较而言，日本法的规定更合理，因为按照美国法的规定，网络用户发布合法内容被错误采取剔除措施的也不能要求网络服务提供者停止侵权措施，这对网络用户而言显不公平。
因此，从有效激励其履行公法审查义务的角度出发，可参考美国、日本的有益经验，合理豁免网络服务提供者进行技术性审查时的民事责任。具体而言：（1）在豁免条件上，应以“善意”为要件。“善意”要件是指网络服务提供者有充分理由相信被采取剔除措施的内容是违法的。（2）在豁免责任上，基于平衡网络服务提供者利益与用户利益的考虑，应限于免除赔偿损失、支付违约金等金钱责任和赔礼道歉，而不宜豁免诸如停止侵害、恢复原状、继续履行等其他民事责任。
四、结 语
网络服务提供者的义务和责任问题是网络法的核心问题之一，与互联网经济的健康发展息息相关。因此，在网络服务提供者公法审查义务方面，监管机构应该尊重互联网产业发展的规律，兼顾秩序和发展的双重目标。在现阶段，将网络服务提供者公法审查义务进行技术化定位，兼顾了现行立法的规定和产业发展的需要，是一条破解当下困境的可行路径。
（责任编辑 谭冰霖）
（公众号学生编辑 王克帅）
注：编辑时隐去了注释，原文可于中国知网和法商研究编辑部官网http://fsyj.zuel.edu.cn下载。
推荐阅读高薇：互联网争议解决中的执行问题——从司法、私人到去中心化数字执行
探求法意、传承学术。为构建中国特色、中国风格、中国气派的法学理论提供高端前瞻的平台。
《法商研究》出品