浙大网安、蚂蚁技术研究院共同发布《隐私保护大模型推理技术》白皮书

9月7日，创新密码技术与应用论坛在INCLUSION·外滩大会召开，浙江大学网络空间安全学院院长任奎教授和蚂蚁集团副总裁兼首席技术安全官韦韬博士共同发布《隐私保护大模型推理技术》白皮书，浙江大学“百人计划”研究员刘健博士发表题为“安全两方GPT推理: 技术与展望”的学术报告。

《隐私保护大模型推理技术》白皮书正式发布

随着全球数字化转型发展，人工智能的应用需求日趋增长，然而人工智能技术的落地面临诸多技术挑战，大模型的出现为解决该问题提供了新的方案。然而大模型在使用过程中，所有的用户输入都有可能暴露个人隐私，公司机密，甚至国家安全相关信息，如何保护这些信息已经成了未来数字社会的最基本安全挑战之一。浙大网安和蚂蚁技术研究院面向这一重大需求，主动谋划积极布局，提出了当前全球领先的隐私保护大模型推理技术方案，为这一挑战的最终解决提供了中国方案。

《隐私保护大模型推理技术》白皮书首先介绍大模型的提出背景与发展历程，其面临的隐私保护挑战及隐私相关法律法规与标准，并阐述大模型安全推理技术对于保护用户数据隐私、保障数据产业健康发展、适应不断更新的隐私保护监管需求、增强社会对大模型的信任等方面至关重要的作用。其次，简要概述大模型的典型实例，包括 GPT，LLaMA，Codex，MidJourney，Diffusion 等模型。再次，给出大模型安全推理的系统架构和安全模型，发展现状以及面临的技术挑战。接着，介绍大模型推理的隐私保护所使用密码工具，包括同态加密，两方安全计算和多方安全计算等。然后，介绍两方安全推理的框架，基于三方复制秘密共享的框架以及多方安全推理的框架。最后，介绍大模型安全推理相关法律法规、关键技术和应用等方面的未来发展趋势。

在报告环节，刘健博士介绍了浙大网安在安全两方GPT推理方面的相关工作以及未来发展路线。重点讲解了第一个安全两方GPT推理框架：CipherGPT，该框架提出一系列创新的密码学协议，相较于SOTA协议，效率均有显著提高。

本次白皮书的发布旨在推广隐私保护大模型推理技术，构建大模型时代的隐私安全防护体系，护航更安全的大模型赋能千行百业。欢迎学术界和企业界的同仁们共同为这一挑战的早日解决而努力，为我国科技高水平自立自强而奋斗！

更多学院动态

欢迎关注