深度合成监管，如何兼顾创新与安全？
“
随着《互联网信息服务深度合成管理规定》的出台，深度合成技术的“危”与“机”再次引发探讨。
本文字数3649，阅读时长约11分钟
文｜财经E法王梦欣
编辑｜朱弢
2022年12月11日，国家网信办、工信部、公安部联合发布《互联网信息服务深度合成管理规定》（下称《深度合成管理规定》），明确了深度合成服务的一般规定、深度合成数据和技术管理规范、监督检查与法律责任、相关用语的含义等。
《深度合成管理规定》将于2023年1月10日起施行。
财经E法梳理发现，中国对于深度合成技术应用的监管发端于2019年。从那一年11月起，中国先后出台《网络音视频信息服务管理规定》《网络信息内容生态治理规定》《互联网信息服务算法推荐管理规定》等部门规章，从不同角度对深度合成内容和应用提出监管要求。
此外，2020年5月通过的《民法典》明确规定：禁止利用信息技术手段伪造等方式侵害他人的肖像权和声音。
2022年1月28日，《深度合成管理规定（征求意见稿）》公开征求意见，11个月后，正式文本发布。其中强调，不得利用深度合成服务从事法律、行政法规禁止的活动，要求深度合成服务提供者落实信息安全主体责任等。
至此，中国对于深度合成内容的用途、标记、使用范围以及滥用处罚有了针对性的治理与监管要求。
随着《深度合成管理规定》的出台，一系列问题仍然值得讨论。
深度合成监管应遵循什么原则，才能为技术发展留出足够空间？如何确保安全与创新的平衡，在防范风险的同时不阻碍技术正向、有益的应用?随着深度合成技术发展，监管可能面临哪些挑战？应该怎样去面对这些挑战？
01
有哪些新变化
什么是深度合成？
《深度合成管理规定》做了定义：利用以深度学习、虚拟现实为代表的生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术，具体包括但不限于对文本内容、语音内容、非语音内容、人脸等生物特征、图像等非生物特征，以及三维重建、数字仿真等对数字人物、虚拟场景进行生成或者编辑等。
与此前的征求意见稿相比，《深度合成管理规定》将 “数字人物”纳入深度合成管理。对于这一变化，中国社会科学院大学互联网法治研究中心执行主任刘晓春认为：“这并非是一个特别大的修改。其目的是为了回应新出现的现象或者业态，使得定义中所涉及到的例举类型更加丰富。”
但中国人民大学未来法治研究院执行院长张吉豫有不同观点。“我认为这是对深度合成技术的不断发展运用中可能面临的风险所进行的科学研判。”张吉豫进一步解释：“比如在虚拟现实、增强现实技术，或者元宇宙的发展中，无论是按照现实人物的样貌生成的，还是元宇宙用户自己塑造的，抑或是企业选择的数字人物代表等，其运用中同样可能涉及到肖像权、著作权等私权，数字人物的行为也会带来伦理风险、虚假新闻等问题。因而需要进行合理规范。”
而泰和泰（深圳）律师事务所律师郭松在接受上海证券报采访时提出，在构建“数字人物”的过程中，需要使用到的技术包括语音或文本驱动视频生成、高清化人像生成、通用场景图像生成和实时生成技术等各方面，而这其中就需要通过深度合成技术进行融合，因此将广义上的“数字人”纳入监管职权和职责范围非常有必要。
此外，相比于征求意见稿，《深度合成管理规定》还新增了相关条款，要求具有生成或者编辑人脸、人声等生物识别信息的模型、模板等工具的深度合成服务提供者和技术支持者，应当自行或者委托专业机构开展安全评估。
为什么特别增加了这一要求？张吉豫表示，生成或编辑人脸、人声等的深度合成服务比较容易产生对公民权益的侵犯，以及对国家安全、社会公共利益的危害。例如，之前就有将人脸替换到色情视频中，严重侵害了人格权益；对于一些重要政治人物、公众人物的人脸、人声的深度合成也非常容易误导公众，甚至引发公共安全、国家安全事件。因此特别增加了对这类服务或者技术提供者的安全评估义务。
在刘晓春看来，安全评估已经越来越成为对新业态、新技术监管的一种重要方式。它并非完全是结果导向，更多的是对流程、过程的监控监管。这种方式在《个人信息保护法》《数据安全法》等法律中同样有对应的条款。
“正因为安全评估的重要性，所以《深度合成管理规定》中也要求了，这是一种义务，是强制性的。”刘晓春表示，不做安全评估可能会有以下几个后果。首先，后续可能会出台更具体的规则来落实安全评估义务，如果不做安全评估，就违反了行政监管的要求，会受到相应的处罚；其次，如果开发的小程序或者App要上架应用市场，平台作为‘看门人’也需要去审核安全评估情况，如果没有安全评估，也不符合平台的合规要求；最后，万一出现了一些风险事件或者产生了不良后果，在追责任时发现安全评估没有做到位，甚至是没有做，那么相关方也会承担更重的责任。
目前虽然没有明确实施安全评估的指定机构，但刘晓春认为，未来在进一步的配套性规定中会有落实。
02
如何平衡安全与创新
在腾讯研究院、腾讯优图实验室共同完成的《“深度合成”商业化元年》报告显示，深度合成已经在多个领域实现商业化应用。
在电商领域，深度合成可以将用户的脸部换到短视频片段中，从而让用户在购买前可以实现“数字试穿”；在广告宣传、内容营销等领域，AI合成的人脸和虚拟形象可以替代网红、模特等，既能带来新鲜感，也免去了传统上使用他人肖像的授权；在医疗领域，深度合成可以让有失声风险的患者重新获得“自己的声音”，也可以生成与真实影像无异的医学图像来训练AI系统，解决数据不足、病人隐私保护等问题；在语音合成方面，可以将任意文本转化为语音，用于新闻、车载导航等个性化语音播报、有声读物制作、机器人发声等。
讯飞数码AI研究院院长方四安向财经E法表示，随着深度合成技术的发展，未来可能会有三种趋势。首先，其呈现方式会是多模态的融合。现在做视频、图像、语音合成的都分散给了不同的团队，各自做好后再进行人工拼接。未来，可能通过几条指令就可以直接生成多模态的融合的，甚至是非常逼真的合成产物。其次，现在的虚拟形象是没有感情的，在未来，更多的感情因素会融合进来，虚拟形象也会更加的立体化。第三个趋势是，会有越来越少的人工参与进来，只需通过软件输入指令，便会生成目标内容。
虽然深度合成技未来的发展值得期待，但方四安同时表示，深度合成会带来知识产权、安全、伦理三大挑战。
知识产权方面，主要是指深度合成的模型或者原始素材使用了他人权益下的数据，产生生成内容知识产权不清等问题。其中还可能会涉及到对个体权益的侵害，比如隐私、肖像、声音等人格要素。
安全方面，目前主要呈现出来的主要还是虚假信息内容，特别是假新闻，容易误导欺诈公众。同时，还会出现利用深度合成技术实施的诈骗、色情、诽谤、假冒身份等新型违法犯罪活动。
伦理方面，深度合成可能存在用户对数字人产生情感依赖等挑战。
那么，对于深度合成的监管应该遵循什么原则，才能确保安全与创新的平衡，才能在防范风险的同时不阻碍技术正向、有益的应用?
张吉豫认为，要确保安全与创新的平衡，监管中应该遵循三条原则。
一是分级分类原则。这也是网络信息治理一直坚持的原则。这一原则也体现在《深度合成管理规定》中。比如，对于安全评估义务，重点强调了两类：第一类是生成或者编辑人脸、人声等生物识别信息的；第二类是对于生成或者编辑可能涉及国家安全、国家形象、国家利益和社会公共利益的特殊物体、场景等非生物识别信息的。即对风险较大的领域进行重点规制和防范。
二是法律与技术有机结合原则。这一原则是强调很多风险的有效预防要依靠科技的应用和发展。因此，《深度合成管理规定》中也结合了标识技术、识别技术等的运用，强调建立健全行业标准。同时，在规范时要考虑技术的发展情况及其成本，考虑当前技术可行性以及其经济可行性，根据风险大小合理确定适当的技术措施的要求。
三是多元共治原则。比如，建立有效的社会监督渠道，快速反应问题；加强行业组织的服务功能，在业内推介最佳实践及标准；加大对于深度合成的宣传教育，以在更大程度上限制虚假新闻、视频等产生的实际影响。
对于治理途径，腾讯研究院在前述报告中称，立法并非唯一有效的方式，而且具有滞后性，难以跟上技术发展演变的步伐，尤其是对于仍在快速发展的深度合成技术而言。“更为合理的路径是，借助鉴别技术、溯源技术等技术措施，要求制作者对深度合成内容进行标记的源头治理，行业公约、标准、最佳实践、伦理指南等行业自律措施，以及公众教育和数字素养的培养等更为敏捷灵活的治理措施，来实现多元治理。”
03
企业该做什么？
2022年5月，为庆祝中国共青团成立100周年，共青团中央宣传部、中央广播电视总台团委联合开展了共青团百年历史知识问答活动，虚拟主播“冰冰”带领大家一起了解百年团史、分享青春故事。
由此可见，以虚拟主播为代表的虚拟人是深度合成的重要应用领域之一，其应用场景包括但不限于：智慧金融、智慧文旅、企业数字化、教育培训、智慧政务等。
此外，深度合成技术的有益应用还表现在，帮助公安部门鉴定某些视频、音频或者图像的真伪，还原原始素材，侦破疑难案件等。
科大讯飞相关负责人向财经E法表示，《深度合成管理规定》有利于规范目前深度合成技术在市场应用上存在的一些谣言或安全问题，避免形成“良币驱逐劣币”效应，对于在深度合成领域一直提供专业、合规服务的企业是利好消息。长期来看，它会促进深度合成技术在发展和应用上的良性循环，有利于各企业共同发力，整体让深度合成发挥更大的社会生产力作用。
作为深度合成服务提供者，科大讯飞上述相关负责人表示，一方面会“履行好相应义务，并帮助指导客户/使用者学习和严格落实《深度合成管理规定》的实施要求，”另一方面，“也建议监管平台和人工智能技术服务提供者在深度合成的鉴别、对抗等机制上同步加大研究，建立学习交流机制，共同维护保障深度合成的安全使用。”
张吉豫指出，《深度合成管理规定》将原来散见于不同法规中的相关规范进行了聚焦、整合、扩充和完善，建立了包括安全评估、源头控制、风险识别、内容管理、损害应对等环节在内的治理框架，对于深度合成服务提供者应该如何规范相应的服务提供了行为指引。在此基础上，相关企业应该在技术措施、管理流程等方面进行积极建设。”