案例说 | AIGC时代的人脸识别：深度合成技术风险与应对
在AIGC时代浪潮中深度合成技术被广泛应用，带来了产业新变革。与此同时，伴随技术红利而来的是人脸识别系统面临的严峻挑战，利用深度合成技术伪造人脸信息，冒用身份、虚假信息传播、隐私泄露等风险加剧，引发社会广泛关注。
中国信息通信研究院（简称“中国信通院”）已构建“全方位人脸信息保护评价体系”，旨在全面评估人脸识别系统在保护人脸信息方面的安全性、准确性和鲁棒性，确保技术的安全应用和用户的隐私权益。
一、标准体系持续完善
为落实人脸信息保护工作，中国信通院已制定YD/T 4087-2022《移动智能终端人脸识别安全技术要求及测试评估方法》《移动互联网应用程序（APP）收集使用个人信息最小必要评估规范 第7部分：人脸信息》等行业标准，规范了人脸识别技术应用、人脸信息处理、用户主体权利等方面要求。
后续，我们联合产业链上下游企业，一同制定了终端人脸识别的一系列国家、行业和团体标准，并于近期发布T/TAF 237—2024《深度合成测评规范 人脸信息保护》标准，不断完善人脸识别标准体系的构建。
二、检测技术迭代升级
中国信通院开发具有自主知识产权的人脸识别安全检测系统，通过引入机器学习技术，赋予系统自进化测试能力，高效识别算法弱点，持续输出高质量检测攻击样本。通过构建多维度、广覆盖的样本库，该系统能够模拟各种复杂场景下的安全威胁，确保了对人脸识别技术的全面而深入的检测。同时，它还支持多样化的被测终端，无论是智能手机、平板电脑还是其他智能设备，都能进行高效、精准的测试，进一步提升了检测的全面性和有效性。
三、服务行业高质量发展
一方面立足国内合规，依据国内的相关政策法规文件和标准要求，推动产业依据最小必要标准，探索最佳实践。面向移动智能终端企业，我们启动了五星安全检测认证项目，旨在通过高标准的安全检测促进企业自我提升，积极营造行业内评优争先的良好氛围。
另一方面，实现了检测服务的全面升级与国际认证一站式覆盖，积极助力企业“扬帆出海”。我们将国内经验与国际市场无缝对接，为企业提供便捷、高效的检测认证服务，显著降低企业的出海成本，加速其国际化进程。至今，已助力多家终端、软件、方案厂商获得国际认可的检测证书及谷歌的生物识别安全认证，增强了其国际竞争力。
综上所述，人脸识别在AIGC时代下深度合成的挑战与应对是一个复杂而重要的课题。中国信通院通过构建全方位人脸信息保护评价体系、完善标准体系、升级检测技术和优化企业出海路径等措施，为行业提供了有力的技术支撑和指导。今后，中国信通院将持续加强自身建设，深化与国内外厂商的合作交流，共同探索人脸识别技术的安全边界与应用潜力。通过技术创新与标准引领，与业界一起，进一步推动人脸识别产业的安全、有序发展。
业务联系人
王老师
13269166201
wangjiayi@caict.ac.cn
校 审 | 谨 言、珊 珊
编 辑 | 凌 霄
推荐阅读
专家谈