技术如何治理“深度伪造”？
此前一篇小文，介绍了：篡改与操纵你的言行：“深度伪造”是怎么做到的？
深度伪造正在悄悄被运用，正如之前美国前总统奥巴马和更多人被深伪的那样：
今天说说技术治理“深度伪造”的一些尝试。
“深度伪造”已经挑战并危及国家安全、信息安全、新闻专业性、政治安全和社会道德文化等各个方面。数字化、智能技术伪造的假新闻，主要是视频和音频产品，技术手段很难进行事实核查，这些泛滥的假信息还可能带来人们对真实音视频的冷漠无感，即所谓“reality apathy”。欧盟委员会2019年6月的《关于<反虚假行动计划>执行情况的报告》[1]发现，在最近的欧洲大选中，数字虚假信息泛滥成灾，而且平台也没有采取措施来减少它。例如，Facebook已经完全洗净了事实检查的责任，称只有在第三方事实检查员宣布其为假后，才会删除假视频。[2]在美国，一项显性的危机是可能危及即将进行的总统选举。因此对“深度伪造”的治理已经迫在眉睫，智能技术领域自然应当冲在最前面。
美国一些顶尖智能人才2019年开始一齐努力，以应对Deepfake可能对即将进行的选举产生的威胁。研究人员设计了自动系统，可以对视频进行分析，以显示假货的指示性指标，评估光线，阴影，闪烁的图案，并采用一种可能的突破性方法，甚至评估候选人在现实世界中的面部动作（例如他们倾斜的角度）他们微笑时的头-彼此相关。但研究人员表示，尽管取得了所有这些进步，但他们仍然对这项技术感到不知所措，他们担心这种技术可能预示着新一波破坏性的虚假宣传运动，就像在2016年大选中部署假新闻故事和具有欺骗性的Facebook团体来影响公众舆论一样。[3]
为了与深度伪造相抗衡，华盛顿大学和艾伦人工智能研究所的研究人员2019年推出了一个名为Grover的可控制文本生成模型、一个伪文本的检测系统，该系统通过研究并表征其模型的风险，可以揭露机器生成的“神经假新闻”（neural fake news）。[4]
加州大学伯克利分校和南加州大学的研究人员采用一种新方法建立了一个探测AI系统，该系统“喂”了数小时的高级领导者视频并对其进行了训练，以寻找超精密的“面部动作单元”（他们的面部动作、抽动和表情的数据点，包括何时抬起上唇以及皱眉时头部如何旋转。这项名为“保护世界领导者免受伪造”的研究是在Google、微软和国防高级研究计划局的资助下开发的。但是尚没有机构开发保护政务人员、记者、普通人免受伪造的工具。倘若有工具给媒体用来检测深度伪造、以便他们对新闻视频进行检测，那将有利于媒体维护真实性，但是这类工具也会让深伪造产品的创建者有机会查找代码、找到破解方法，所谓“猫鼠游戏”或者“道高一尺魔高一丈”。
但是，识别伪造媒体所受到的关注、资金和机构支持，远没有创建伪造媒体所受到的多，因为识别伪造媒体无法赚钱。目前用于研究深层造假的方法的大部分资金来自五角大楼的高科技研究机构“国防高级研究计划局”（Defense Advanced Research Projects Agency），该机构于2016年启动了“媒体取证”（“Media Forensics”）计划，该计划赞助了十几个高水平的研究伪造的学术团体和公司。他们将合成媒体检测称为“防御技术”（defensive technology），不仅针对外国对手，还针对国内政治对手和互联网巨魔。研究人员说，揭开深层骗局的窍门是构建一种工具，该工具可在密码学界称为“非信任环境”的环境中工作，在该环境中，视频创建者、来源和发行者的权威细节可能无法跟踪。探测伪造信息可以通过光和阴影的形状、面部特征的角度和模糊程度，衣服和头发的柔软度和重量等指标来进行，但是在某些情况下，那些训练有素的视频编辑器可以通过伪造来消除这些可能的错误，从而使探测变得更加困难。
“生成对抗网络”也在用于检测虚假、深假信息。“生成对抗网络”的技术解决方案，是使用鉴别器判断给定视频是否为假视频。美国还出现了一种工具能够通过查看眨眼模式来识别深层伪造，但很快就有深度伪造者宣称他们通过技术方式解决了原先的眨眼模式。还有一些其他技术解决方案，[5]如新技术时代的数字水印方式，给视频文件提供短串的数字，如果视频被篡改，数字串会丢失；还有的提出了“经过验证的证明”—如公众人物不断记录他们在哪里以及他们正在做什么，因此，如果深伪产品向人们展示了他们没有做的事，即证明是虚假的事情—这样的方法引发争议，因为涉及人们的隐私，很难有人随时“透明地”生活着。但是这些解决方案都无法完全消除深伪信息的风险。即使通过某种形式的身份验证证明某些事物是真实的，但是如果当事人想否认真实性，那就形成了无法验证的怪圈。
（下一次再谈通过法律的尝试。摘自本人《智能时代的深度伪造信息及其治理方式》，原文刊载于《新闻与写作》。）
[1]Report on the implementation of the Action Plan Against Disinformation https://eeas.europa.eu/sites/eeas/files/joint_report_on_disinformation.pdf
[2]https://www.theguardian.com/technology/2019/jun/23/what-do-we-do-about-deepfake-video-ai-facebook
[3]Drew Harwell , Top AI researchers race to detect ‘deepfake’ videos: ‘We are outgunned’. June 13, 2019 https://www.washingtonpost.com/technology/2019/06/12/top-ai-researchers-race-detect-deepfake-videos-we-are-outgunned/
[4]Rowan Zellers. etc, Defending Against Neural Fake News. https://arxiv.org/pdf/1905.12616.pdf
[5]Tom Chivers, What do we do about deepfake video? 23 Jun 2019
https://www.theguardian.com/technology/2019/jun/23/what-do-we-do-about-deepfake-video-ai-facebook
相关链接：