富数 in WAIC | 构建隐私保护底座，赋能 AI 成为可信AI

划重点

7月9日下午，富数科技作为隐私计算头部企业，出席世界人工智能大会「可信 AI 论坛」发表演讲，富数副总裁卞阳就「构建隐私保护底座，赋能可信AI」为主题带来了精彩发言，赢得论坛现场高度赞誉。

2021 年 7 月 9 日下午，作为世界人工智能大会的重要论坛之一「可信 AI 论坛」在上海世博中心金厅成功召开。论坛以「AI向善 全球共治」为主题，汇聚了富数科技在内的全球 40 余位可信人工智能顶尖智脑、政府领导、行业代表。

富数科技作为隐私计算头部企业受邀进行主题演讲，富数副总裁兼安全计算首席专家卞阳以「构建隐私保护底座，赋能可信 AI」 为主题，讲述了可信数据需要以隐私保护为前提，隐私计算让 AI 获得更强的隐私保护能力，富数科技建设数据开放流通的安全底座，能够解决可信AI的数据难题，获得全场热切关注。

隐私保护底座赋能可信AI

没有可信的数据就没有可信模型，更不会有可信 AI 应用，可信的数据是一切的基石。那么，什么是可信的数据？

首先必然是数据来源可信、质量可信，能防止污染和「投毒」，这覆盖到整个数据生命周期。我们现在讲的可信，不是 trusted，而是trustworthy，有权威机构背书不够，这个时代亟需充分的技术手段来确保数据可信。

图 / 富数副总裁兼安全计算首席专家卞阳在论坛演讲

当我们利用 AI 的时候，我们隐私能不能得到保护，决定了我们数据的可信度，因此我们要找到这样一个平衡点，可信 AI 要以隐私保护为前提。

目前行业在保护隐私上，一方面是立法，今年《数据安全法》已经发布了，《人信息安全保护法》也已经有草案，除了立法必须要有合适的技术手段。

隐私计算，其实完整的表述应该是「隐私保护的计算」，它天生就是一个出于善意的技术。

隐私计算技术应具备全面性

隐私计算在学术上历史悠久，上世纪70、80年代的时候，同态加密、秘密分享就已经出来了，但那个时候密码学和人工智能是分离的、没有任何关系，2016 年联邦学习被提出，到 2017 年密码学和人工智能才开始融合。

提到隐私计算技术方案，一般我们会划分为三种：多方安全计算、联邦学习和可信执行环境，也会讨论哪种更适合市场需要，但实际上三种几乎都有关联和重叠。

比如联邦学习，双方数据不出库的联合建模，保护数据样本，叠加TEE又可以在硬件层面保护算法代码，而基于 MPC的联邦学习，又比基于半同态的联邦学习有着更快的计算速度。

三种技术要相互融合，不断跨界迭代，才能构建出来安全的底座。从架构上面来看，其实它和传统的机器学习有相似的地方，都是依靠底层的算力、数据，然后再到算法上层应用，但也有不同的三个地方——

1. 数据是分布式的，而非集中存储；

2.算法也是分布式的，跨域的甚至是跨公网，往往还是广域网；

3. 密码学组件的大量使用，另外还包括安全通信的组件、存证组件等。

图 / 基于隐私计算的可信 AI 基础架构

事实上构建一个数字安全底座远不止于此，行业仍存在各种挑战，在富数科技多年来的实践过程中，我们认为困难主要在三个方面。

解决三大场景落地难题

第一，安全自证。到底安全与否、可信与否，是用户采纳的最大阻碍，对此富数科技采取的方式是「黑盒透明化、安全可视化」，我们做了一个安全的驾驶舱，在本届人工智能大会的交行展台上就有展示。

图 / 隐私计算安全可视化的阿凡达驾驶舱

第二，安全、性能和效果的不可能三角。越保证安全，性能就会下降，加密强度越高，性能也会下降，这之间如何平衡？对于技术厂商来讲，解决方案就是让算法不断迭代，事实上在这一块行业发展非常快，行业每年以倍数增长，性能正在不断提高。

第三，隐私计算技术复杂，代码使用门槛高。富数在方便操作、易于部署上最早做了实践，实现了可视化的隐私计算，我们在底层创建组件，前端设计为可以拖拉拽的插件，可以把想要用的算法、数据资源，按照业务连线起来，资源是分布的、算法是分布的，但操作是很便利的。

图 / 隐私计算安全可视化的阿凡达界面

有了数字安全底座，才可以在实践中发挥作用。比如最近上了热搜的人脸识别问题，怎样让安全和便利兼得？富数的解决方案相当于提供「多把锁」，即将用户生物信息存放在不同的地方用多把锁保管，没有任何一方完整掌握用户的生物特征，没有任何一方可以单独进行识别和认证，以此保护用户的个人隐私安全。

另外一个案例是电信诈骗，因为一连串欺诈行为在信息链路是断开的，富数的解决方案是通过融合社交通讯关系打通联络信息流，以及资金支付转账流，建立联合预警预防模型识别，整体降低电信诈骗犯案率根据电信运营商的数据。

打破技术孤岛，富数牵头生态建设

隐私计算从 1.0 的实验室阶段，进入到现在 2.0 工程化阶段，不少项目在今年成功落地。而接下来 3.0 阶段将要开始解决不同厂商之间技术不能互通的问题，我们称为3.0 互联互通时代。

如今每家厂商采用私有的协议，形成了一个个技术孤岛，富数为实现互联互通首先提出了「统一资源协议」，在多个工作组里也得到了了大力支持，在未来「东数西算」发展全国大数据中心一体化建设的背景下， 希望隐私计算和富数科技也将发挥重大价值。

隐私计算的未来是星辰大海，百亿甚至千亿市场领域前景广阔，这个行业仍在早期，富数也希望以开放合作的心态，跟行业参与方一起共同发展，目前我们也正在牵头一个数据安全保护隐私的互联互通国家标准信息规范，也非常欢迎同业一起参与。

- END -