规范深度合成技术中国走在全球前列
点击上方蓝字 关注我们
中国规范深度合成技术的新规定《互联网信息服务深度合成管理规定》自1月10日起施行。
2022年11月25日，中国国家互联网信息办公室会同工信部、公安部发布《互联网信息服务深度合成管理规定》（以下简称《规定》）。《规定》根据《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》《互联网信息服务管理办法》等法律、行政法规制定，是中国第一部针对深度合成人工智能技术治理的专门性规章。《规定》一方面为防范深度合成的潜在风险提出了科学且系统的治理方案，另一方面有效统筹了深度合成的风险管理与技术创新，有利于促进深度合成相关人工智能技术健康有序发展。
《规定》厘清了深度合成技术定义与应用范围，确定了生成合成类算法的监管对象，明确了深度合成服务提供者、技术支持者和使用者及应用程序分发平台的各方责任，提出建立健全行业标准和自律管理制度。
《规定》有效衔接现行法规制度，在延续互联网信息服务算法治理思路的基础上，对利用深度合成技术危害国家安全和人民利益、侵害公民合法权益和隐私的行为及法律责任作出了全面、具体的规定，进一步细化了现行算法应用的监管规则，给出了合成类算法服务的监督管理样板。
实现网络综合治理、构建网络生态，是世界各国面临的共同课题。《规定》的出台，是中国加强互联网智能技术依法治理、规范产业服务健康发展、推进人工智能伦理进步、引导科学技术向上向善的重要举措，具有一定的全球示范效应。同时，《规定》的多项内容处于国际领先地位，具有针对性、前瞻性和引导性和可操作性。近期，美国人工智能实验室OpenAI最新发布的对话式大型语言模型ChatGPT引起广泛关注。该算法模型可以智能书写情书、辞职信、文章等，也可以模仿特定人物的风格发布推文。使用这类算法模型提供智能写作、对话服务也应当遵守《规定》。
下一步，中国在规范深度合成技术方面还可进行三方面探索：一是在技术基础研究方面，可进一步研究智能合成类算法的机制机理和深度合成鉴别等关键技术，推动深度合成技术管理能力和技术保障措施建设，提升视频、图像、音频、虚拟场景生成等应用服务领域的合成效果。二是在安全与监管方面，可研究深度合成与鉴别的博弈对抗机制，研究媒体数字水印、算法模型水印和内容安全溯源等深度合成标识技术，建设面向移动互联网全媒体的监测管理平台，加强技术和人工审核交互的人机混合监管方式，建立深度合成服务提供者的安全可控技术保障方案以及辟谣投诉机制。三是可开展深度合成相关智能算法标准和安全评估标准等的研究与制定，进一步支撑技术服务规范和安全能力建设等工作。
来源：中国科学院自动化研究所