AI换脸与人脸识别的攻防战

验“金”室

“ZAO”这类App的问世和开源的换脸工具意味着AI生成图像技术让伪造照片的成本和难度大大降低，这使得利用AI生成图像技术去攻击人脸识别设备的成本和难度也大大降低，从而引发了人们对广泛使用的刷脸支付、刷脸授权等功能可靠性的质疑。

一、背景

如今流行的各种各样的社交软件上，一些用户使用自己的肖像照作为自己账号的头像照片，但是这些肖像照就一定是真实的吗？2019年12月，Facebook删除了平台上的682个账号，原因是这些账号在推送反对特朗普的消息。据Facebook称，这些账号的头像照片有一部分是用深度学习模型生成的，也就是AI生成的图像。

AI生成图像的技术一问世就热度很高，基于这项技术的App“ZAO”一上架就霸占了下载榜冠军。2019年9月，发布在GitHub上的开源换脸工具FaceSwap获得了超过23000星的评价，但问题也随之而来，一些假新闻和恶意恶作剧的制作就出自这项技术，于是基于这项技术的App“ZAO”在国内立刻被下架。我国在2019年底发布了《网络音视频信息服务管理规定》《网络信息内容生态治理规定》等法规来规范深度学习技术的使用。

除了出台相关法律法规，检测AI生成图像的技术也必不可少。

2019年12月，AWS，Facebook，Microsoft，AI媒体委员会伙伴关系以及学者共同参与了一项名为Deepfake Detection Challenge (DFDC)的比赛，挑战的目标是促使世界各地的研究人员研发新的技术，以帮助检测deepfake合成人脸，奖金总计100万美元。

二、AI生成图像检测技术简介

目前，主流的AI生成图像检测技术大致可分为两类：图像真伪分类和图像缺陷定位。

1

图像真伪分类

这类技术主要是实现一个二分类器的模型，给模型输入一张照片，模型输出检测结果，即这张照片是否是AI生成。这种二分类器的模型往往也基于深度学习来实现，但是模型的性能存在很大的局限性，往往只能检测某一特定的生成模型生成的照片。

伯克利和Adobe的研究员在局限性方面取得了突破，由他们实现的分类器对

CycleGAN,StarGAN,ProGAN,

LSUN,GauGAN,COCO,IMLE,

ProGAN,StyleGAN,SAN,SITD

这11种生成模型生成的图像分别进行检测，最后的平均精度都在90左右，实现了分类器泛化能力的提升。

2

图像缺陷定位

这类技术是定位出生成图片中因编辑或修改而产生的图像缺陷。基于这种技术的一个经典例子是Face X-Ray。典型的人脸图像生成是把两张或多张人脸图像进行混合。基于这个理论，Face X-Ray的思路是判断给定的人脸照片能否被分解为两张或多张图像的混合，并预测出多张图片拼接的边界，其效果如下图所示。由于Face X-Ray不需要依赖于与特定人脸操作技术相关的伪影知识，因此，它既可以显示AI生成照片的拼接边界，具有可解释性，同时又具有很强的泛化能力。

注：BI行表示的是手工合成的图像，DF,F2F,FS和NT分别表示由DeepFakes,Face2Face,FaceSwap和NeuralTextures模型生成的图像。Groundtruth表示真实的合成边界，Prediction表示Face X-Ray预测的合成边界。

Face X-Ray检测效果图

三、活体检测与AI生成图像检测技术

“ZAO”这类App的问世和开源的换脸工具意味着AI生成图像技术让伪造照片的成本和难度大大降低，这使得利用AI生成图像技术去攻击人脸识别设备的成本和难度也大大降低，从而引发了人们对广泛使用的刷脸支付、刷脸授权等功能可靠性的质疑。

面对质疑，支付宝回应称，目前网络上的各类换脸软件有很多，但不管换得多逼真，都是无法突破刷脸支付的。微信也表示，其刷脸支付功能可以抵抗这类换脸软件的攻击。

是什么让支付宝和微信都有信心来抵抗AI生成图像的攻击的？

答案是活体检测。

活体检测使用了3D、语音、红外等多模态信息来对采集到的人脸进行检测，确保了受验对象为活体，在活体的前提下再进行身份认证。而AI生成图像技术生成的图像是2D图像，缺少深度信息，使用3D传感器能判断采集的人脸是否为2D图像或者视频，从而能够很好地抵抗采用AI生成图像技术伪造的图像。

但是，目前的3D活体检测还存在着计算量大、设备成本高等缺点，所以在实际应用中，广泛使用的方法是“2D人脸图像识别+其他生物特征识别”，例如“人脸识别+语音识别”“人脸识别+眨眼识别”等。这样的做法兼顾了安全性与易用性。

AI在图像生成与检测方面的应用就好比是一场攻防战，当AI生成的图像越来越逼真，且技术成本越来越低时，相应的检测技术的研究也随之展开，且检测性能也逐渐完善。这样的攻防战也发生在人脸识别领域，此时防守方使用的是活体检测技术。活体检测技术不局限于对2D图像的检测，通过加入其他生物特征的识别来提高易用性，使得安全和便捷两方面得以兼顾。随着AI技术的发展，这样的攻防战将愈演愈烈，相关检测技术的发展需要得到持续的关注。

更多精彩内容

FCC30+

长按左边二维码

关注我们不迷路