深度伪造欺诈暴涨3000%，人脸识别技术面临崩盘危机

GoUpSec点评：在2015年的BlackHat大会上，与会全球黑客一致评选人脸识别技术为最不靠谱的身份认证技术。今天，随着生成式人工智能和深度伪造威胁的爆炸式增长，以人脸识别为首的生物特征识别认证技术迎来了前所未有的危机。 

根据Gartner分析师的最新预测，到2026年，深度伪造技术生成逼真人像的能力可能导致30%的企业对人脸生物识别身份验证解决方案失去信心。

在2月1日迪拜举行的Gartner安全与风险管理峰会上，Gartner副分析师Akif Khan表示，随着人工智能深度伪造变得更加逼真且易于生成，基于人脸的身份验证和认证系统将难以抵抗。

深度伪造欺诈暴增3000%

多年来，安全业界最为担心的问题之一就是不法分子将深度伪造用于欺诈和生物识别身份验证绕过，尤其是在金融领域。例如，2021年，骗子通过在线购买高清人脸照片制作深度造假，欺骗了人脸识别技术，最终通过虚假税务发票窃取了约7500万美元的资金。

最近的数据表明，人工智能生成深度伪造的安全威胁正在增长，Onfido的研究显示，2023年深度伪造欺诈企图暴增了3000%。但与此同时，越来越多的企业开始使用生物识别身份验证方法，GetApp的一项调查发现，2022年79%的企业使用了此类方法，而2019年只有27%。

深度伪造注入攻击快速增长

目前，大多数人脸生物识别解决方案都利用“活体检测”(Presentation Attack Detection,PAD)技术来判断进行人脸识别身份验证的用户是否“真实”。“展示攻击”是指攻击者将模仿物，例如面具或用户的视频，放置在摄像头或扫描仪前。PAD技术旨在区分活人脸和此类模仿物，主要用于防御“展示攻击”。

然而，根据Mitek Systems的说法，攻击者越来越多地转向使用深度伪造信息实施“注入攻击”，攻击者会绕过物理摄像头，使用诸如虚拟摄像头等工具将图像直接输入系统的数据流。

Gartner的研究表明，尽管展示攻击目前仍是主流，但注入攻击在2023年增加了200%。防止注入攻击需要结合PAD、注入攻击检测(IAD)和图像检查三种技术。

Khan在一份声明中表示：“当前的标准和测试流程无法定义和评估PAD机制，也无法防御利用最新生成式人工智能深度伪造的数字注入攻击。”

CISO该怎么做？

为了保护企业免受包括人脸识别在内的AI生物识别深度伪造攻击，Gartner建议，使用人脸识别进行身份验证的公司应确保其解决方案能够跟上深度伪造生成工具的进步和可用性。企业应开始与通过IAD（注入攻击）和图像检查技术防御最新深度伪造威胁的安全供应商合作，定义最低限度的风险控制基线。

一旦定义了策略并设定了基线，CISO和风险管理领导者还必须处理其他风险和识别信号，例如设备识别和行为分析，以增强对身份验证流程攻击的检测能力。

最后也是最重要的，负责身份和访问管理（IAM）的网络安全和风险管理负责人应采取措施，选择真正有效和鲁棒的身份验证技术，实施额外的安全措施来防止帐户失窃，才能缓解遭受人工智能驱动的深度伪造攻击的风险。

参考链接：

https://www.getapp.com/resources/annual-data-security-report/

https://www.gartner.com/en/newsroom/press-releases/2024-02-01-gartner-predicts-30-percent-of-enterprises-will-consider-identity-verification-and-authentication-solutions-unreliable-in-isolation-due-to-deepfakes-by-2026

END

相关阅读