Deepfakes变脸术 竟成为美国国家安全的新威胁

Deepfakes变脸术竟成为美国国家安全的新威胁

From plus评论员学术plus 2019-03-28

9月13日，三名国会众议院议员致信美国情报局长Daniel Coats，要求情报机关评估deep fakes给美国民主带来的威胁，并建议国会和情报机关采取措施应对这一新威胁。

图片来源：论文《Recycle-GAN: Unsupervised Video Retargeting》

Deepfakes可能成为美国国家安全的新威胁

Deepfakes已被美国国会重点关注

来源：https://schiff.house.gov

作者：plus评论员张涛

Deep fakes是一种使用机器学习技术来创建逼真图像和视频的技术。人们开始使用该技术将名人的面孔插入Reddit上的色情视频后，开始广为人知。这种技术可被用于恶意攻击他人，比如Deep fakes背后的Recycle-GAN技术提出者就演示了将视频中奥巴马的脸换成川普。

图片来源：

https://www.cs.cmu.edu/~aayushb/Recycle-GAN/

9月13日，三名国会众议院议员致信美国情报局长 Daniel Coats，信中称：

Deep fakes技术的应用会模糊事实与虚构之间的界限，破坏公众对录制的图像和视频的信任。

情报机关一再提出要更加重视选举中的虚假宣传活动和其他加剧政治和社会分裂的活动。但deep fake技术可能很快就会被不怀好意的外国势力所利用，对此我们深感担忧。

伪造的图像、音频和视频可被用于攻击个人，比如敲诈、勒索等。一旦该技术被国外势力或国内恶意势力用来传播不当言论，就有可能对国家安全带来威胁，这也是我们最担心的。随着deep fake技术更加成熟和更易被普通民众获得，可能会对美国公共言论（public discourse）和国家安全构成威胁。

鉴于这些人工智能技术的快速发展和带来的重大影响，我们认为情报机关应对该技术进行全面的调研和审查，包括评估可能的应对措施和对国会提出建议。因此，我们要求情报机关在2018年12月14之前向国会提交一份报告，其中的内容应包括：

1. 评估外国政府、情报机构或个人会如何使用deep fakes技术损害美国国家安全利益;

2. 对迄今为止已经发生的外国政府或外国个人针对美国确认或怀疑使用deep fakes技术的描述;

3. 确定美国政府或企业都有哪些技术措施，可以检测或禁止deep fake技术的使用，并分析其优势、局限性和缺点；

4. 确定情报机关在检测deep fake技术的发展、使用和响应中所起的作用；

5. 关于情报机关是否需要额外的法律授权或经济资源来应对deep fake技术带来的威胁；

6. 向国会提出其他可能采取的应对措施以防止deep fake技术被恶意使用；

7. 其他合适的信息。

（全文完）

声明：版权归原作者所有。文章观点不代表本机构立场。