专业解读 | 跨越AIGC合规上市之路-安全评估篇

引言

在AIGC产品上市的过程中，安全评估是保障其合规性和用户安全的重要环节。在第一篇算法备案篇中，我们介绍了算法备案的目的、流程以及注意事项（点击蓝色字体，查看我们此前发布的“跨越AIGC合规上市之路-算法备案篇”）。本篇将进一步探讨具有特殊内涵的“安全评估”的历史沿革和现状，同时探讨如何制定和执行有效的安全评估策略，为AIGC产品上市提供一点可供参考的观察和见解。

根据《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》，安全评估是所有具有舆论属性或社会动员能力的信息服务上市的前置条件。作为一项始于2018年的规定，安全评估在很长一段时间内并未引起市场的注意，直到《生成式人工智能服务管理暂行办法》将其拉回大众的视野。

根据《生成式人工智能服务管理暂行办法》第十七条，提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估。至此，《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》以及已经趋于成熟的安全评估机制再一次焕发了“生机”。然而，根据我们的实践探索，此项2018年的旧规定在AIGC产品前有了新的内涵，成为AIGC产品上市前最顽固的一道壁垒。

 安全评估0.5

早在2017年，网信办就提出了“安全评估”的监管方法。彼时，《互联网新闻信息服务新技术新应用安全评估管理规定》规定互联网新闻服务提供者当（1）应用新技术、调整增设具有新闻舆论属性或社会动员能力的应用功能，或（2）新技术、新应用功能在用户规模、功能属性、技术实现方式、基础资源配置等方面的改变导致新闻舆论属性或社会动员能力发生重大变化时，应当自行组织开展新技术新应用安全评估、编制书面安全评估报告，并报请国家或地方网信办开展审核性质的安全评估。这就是业界所称“双新评估（新技术新应用）”的雏形。

但是，在《互联网新闻信息服务新技术新应用安全评估管理规定》的框架下，开展安全评估的义务主体仅局限于“互联网新闻信息服务提供者”。而该规定的上位法《互联网新闻信息服务管理规定》又对“互联网新闻信息服务”作出了限制性定义：

1）新闻信息，是指时政类新闻信息，包括有关政治、经济、军事、外交等社会公共事务的报道、评论，以及有关社会突发事件的报道、评论。 

2）互联网新闻信息服务，包括通过互联网登载新闻信息、提供时政类电子公告服务和向公众发送时政类通讯信息。 

因此，虽然该规定目前仍然有效，但对于不涉足新闻信息服务的AIGC产品而言并不适用，因此我们将其命名为安全评估0.5版本。

安全评估1.0

在《互联网新闻信息服务新技术新应用安全评估管理规定》实施一年之后，网信办发布了《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》。这一次，安全评估的适用对象不再局限于新闻业，适用场景也从0.5版本的新技术新应用得到了进一步延展。

根据该规定，互联网信息服务提供者在以下情形下应当自行开展安全评估：

1）具有舆论属性或社会动员能力的信息服务上线，或者信息服务增设相关功能的；

2）使用新技术新应用，使信息服务的功能属性、技术实现方式、基础资源配置等发生重大变更，导致舆论属性或者社会动员能力发生重大变化的；

3）用户规模显著增加，导致信息服务的舆论属性或者社会动员能力发生重大变化的；

4）发生违法有害信息传播扩散，表明已有安全措施难以有效防控网络安全风险的；

5）地市级以上网信部门或者公安机关书面通知需要进行安全评估的其他情形。

在上述情况下，互联网信息服务提供者需自行进行安全评估并通过全国互联网安全管理服务平台（https://www.beian.gov.cn/portal/index.do）向所在地地市级以上网信部门和公安机关提交安全评估报告。评估内容即为《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》第五条所规定内容。

第五条  互联网信息服务提供者开展安全评估，应当对信息服务和新技术新应用的合法性，落实法律、行政法规、部门规章和标准规定的安全措施的有效性，防控安全风险的有效性等情况进行全面评估，并重点评估下列内容：

（一）确定与所提供服务相适应的安全管理负责人、信息审核人员或者建立安全管理机构的情况；

（二）用户真实身份核验以及注册信息留存措施；

（三）对用户的账号、操作时间、操作类型、网络源地址和目标地址、网络源端口、客户端硬件特征等日志信息，以及用户发布信息记录的留存措施；

（四）对用户账号和通讯群组名称、昵称、简介、备注、标识，信息发布、转发、评论和通讯群组等服务功能中违法有害信息的防范处置和有关记录保存措施；

（五）个人信息保护以及防范违法有害信息传播扩散、社会动员功能失控风险的技术措施；

（六）建立投诉、举报制度，公布投诉、举报方式等信息，及时受理并处理有关投诉和举报的情况；

（七）建立为网信部门依法履行互联网信息服务监督管理职责提供技术、数据支持和协助的工作机制的情况；

（八）建立为公安机关、国家安全机关依法维护国家安全和查处违法犯罪提供技术、数据支持和协助的工作机制的情况。

此外，网信部门和公安部门有权视情况开展现场检查。一般由互联网信息服务提供者携带材料前往指定公安部门进行现场检查和作答。因此，从递交窗口和检查机构来看，1.0版本的安全评估以公安部门为实施主力。

此外，1.0版本的安全评估虽然在法条中与“具有舆论属性或社会动员能力”密切绑定，但实务中对于何为“具有舆论属性或社会动员能力”的判断相对宽泛，几乎囊括了所有具备互联网信息交互渠道功能的产品。值得注意的是，1.0版本的安全评估流程公开透明，实践中企业仅需根据全国互联网安全管理服务平台提供的《安全评估使用手册》按图索骥填报真实信息并上传备案报告即可，不存在实质障碍。安全评估报告从递交到通过通常一个月内可以完成。

安全评估2.0

时间来到人工智能技术大放异彩的2023年。如上文所述，1.0版本的安全评估有了新的内涵。一个现状是：以大模型为主的AIGC产品开发商正在被要求向中央网信办提请“双新评估”。该评估报告要求具体并内容详尽，动辄上百页篇幅，与全国互联网安全管理服务平台所填报的安全评估报告大相径庭，故称其为安全评估2.0版。

目前，安全评估2.0版的监管对象以AIGC大模型开发商为主。仅基于我们的实践经验与观察，安全评估2.0版本相较于1.0版本主要有以下区别：

（点击可查看大图）

事实上，监管部门对于AIGC产品的安全风险特别关注并非新鲜事。早在2021年，中央网信办已经联同公安部提出要加强对语音社交软件和涉深度伪造技术的互联网新技术新应用安全评估。彼时其援引的法律基础还是《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》。时隔两年，对安全评估的监管强度有了显著提升。各大AIGC产品开发商正在艰难地应对2.0版本的安全评估要求。

（点击可查看大图）

但关于2.0版本的安全评估（双新评估）的出处，似乎处于实践先行、立法滞后的状态。在《生成式人工智能服务管理办法（征求意见稿）》中，第六条曾有“利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估”的规定。虽然该条援引了安全评估1.0版本的法律基础（即《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》），但却将申报对象部门从原规定的“地市级以上网信部门和公安机关”提级至“国家网信部门”。因此，征求意见稿第六条曾被视为安全评估2.0的立法铺垫。

然而，在最终颁布的版本中，关于安全评估的要求被替换为“提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估”。对于此种表述，我们理解：

1）“具有舆论属性或社会动员能力的生成式人工智能服务”是“具有舆论属性或社会动员能力的互联网信息服务”的子集，因此AIGC服务提供者应当满足《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》的相关要求，包括申报1.0版本安全评估；

2）“国家有关规定”并不局限于《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》。因此，AIGC服务提供者应当同时满足其他适用法规的要求。如果其他适用法规提出类似的安全评估要求，则AIGC服务提供者也应当依法依规完成相关评估义务。

此外，“安全评估”的要求也同时在其他人工智能产业相关立法中出现：

1）《算法推荐管理规定》第二十七条：具有舆论属性或者社会动员能力的算法推荐服务提供者应当按照国家有关规定开展安全评估。

2）《深度合成管理规定》第十五条：深度合成服务提供者和技术支持者提供具有以下功能的模型、模板等工具的，应当依法自行或者委托专业机构开展安全评估：（一）生成或者编辑人脸、人声等生物识别信息的；（二）生成或者编辑可能涉及国家安全、国家形象、国家利益和社会公共利益的特殊物体、场景等非生物识别信息的。

3）《深度合成管理规定》第二十条：深度合成服务提供者开发上线具有舆论属性或者社会动员能力的新产品、新应用、新功能的，应当按照国家有关规定开展安全评估。

当不止一套“安全评估”体系同时存在，企业在理解上述法规时不免产生困惑。因此，我们谨对立法作出前瞻，未来中央网信办或会就2.0版本的安全评估单独颁布下位法或具体的评估规则，以消弭当前的法律基础空白。

 题外话：工信版“安全评估”

上文中，关于安全评估0.5、1.0以及2.0版本均由网信部门牵头（虽然实操中1.0版本的安全评估多由公安部门推动，但网信部门也具备同等法定职权），但与之同时存在的还有工信部版本“安全评估”。

工信部版本的“安全评估”始于工信部于2017年发布的《互联网新业务安全评估管理办法（征求意见稿）》。该办法要求电信业务经营者对其互联网新业务可能引发的网络信息安全风险应进行安全评估（因此该评估也称为“双新评估”。为避免疑义下文将使用“工信部版 ‘安全评估’”的称呼）。该办法虽未生效，但此后工信部陆续发布了一系列通信行业互联网新技术新业务信息安全评估行业标准文件（如下图），使得工信部版本“安全评估”得以落地实施。

（点击可查看大图）

关于工信部版本的“安全评估”目前已经有相对成熟的服务流程，和受到市场认可的评估机构。值得关注的是，工信部版本的“安全评估”实质内容与网信版本安全评估2.0版存在大面积重叠，未来网信、工信、公安各部门是否会相互协调收归监管口径，统一监管尺度也值得期待。

综上所述，目前关于安全评估的种种尚属于雾里看花，亟需监管部门的澄清与明确。但不置可否的是，现阶段2.0版安全评估已经成为了AIGC产品上市前最顽强的一道壁垒。各家大模型厂商均已做好了持久战的准备。而对于尚未着手准备申报的相关企业，我们建议其务必认真对待，尽早内部立项，积极调配负责人手，必要时引入外部律师共同推进。

结语

在AIGC产品上市的过程中，算法备案和安全评估是保障其合规性的重要环节。在上篇中，我们深入探讨了算法备案的流程、内容以及注意事项，同时详细梳理了安全评估的历史沿革和现状。算法备案和安全评估作为产品上市前的关键环节，不仅在法律法规层面上确保了AIGC产品的技术安全和输出内容安全，也是企业在境内人工智能赛道守法合规经营并保持长期发展的关键因素。

上述只是AIGC产品上市合规之路的一部分。在下篇中，我们将继续介绍AIGC产品上市所需的资质证照和内控措施，进一步探讨如何制定和执行有效的合规策略，以期帮助企业搭建一个牢固的合规框架，为AIGC产品上市保驾护航。

本文首发自公众号：数据与电商研究室

如需转发，请注明信息来自数据与电商研究室，如有意见建议或合作，请邮件[e-mail].

往 期 精 彩

解读文章

本期作者：蔡鹏 肖莆羚令

本期编辑：王梦迪 陈雨婕 唐静思

长按二维码一键关注

期待您的“赞”和“分享”