美媒：“深度伪造”正在试图改变战争进程
点击“欧亚新观察”
五年前，人们还不知道何为“深度伪造”（Deepfake），可今天的俄乌战争，“深度伪造”已经参与其中，甚至被人试图用来改变战争进程。3月16日，一段乌克兰总统泽连斯基号召乌克兰人“放下武器活下去”的视频在网上疯传，后来被证实是用人工智能制造的“深度伪造”作品。谎言虽然被戳穿，但影响却并不能立即消除。那么，“深度伪造”究竟会对战争有什么样的影响？美国有线电视新闻网记者雷切尔·梅茨撰文对此进行了分析。现将该文编译如下，供参考，文章观点不代表欧亚新观察工作室立场。
“深度伪造”视频疯传
在俄乌战争的第三周，乌克兰总统泽连斯基出现在一段视频中，他穿着深绿色衬衫，站在带有国徽图案的白色总统讲台后面，语调缓慢地发表讲话。除了头在动外，泽连斯基的身体在他说话时几乎没有动过。他要求乌克兰人向俄罗斯投降，但他的声音听起来似乎有点失真，甚至有一点粗哑。
视频中的泽连斯基用乌克兰语说：“我要求你们放下武器，回到你们的家人身边。这场战争不值得我们为之死亡，我要求你们活下去，我也要活下去。”但这段视频很快被证实是假的，是一种运用人工智能技术制作的深度伪造作品。
五年前，甚至没有人听说过深度伪造，这是在人工智能的帮助下制作的具有说服力但却是虚假的视频和音频文件。现在，这种技术已经被用来影响战争的进程。除了这段疯传的假泽连斯基视频外，还有另一个广泛传播的深度伪造视频，画面上，俄罗斯总统普京在乌克兰战争中宣布和平。
多年来，虚假信息和内容鉴定方面的专家一直担心通过深度伪造传播谎言和混乱的可能性，特别是当这样的内容变得越来越逼真时。总的来说，深度伪造在相对较短的时间内有了很大的改进与提高，比如去年经过深度伪造的著名演员汤姆·克鲁斯进行硬币戏法并翻唱戴夫·马修斯乐队（Dave Matthews Band）歌曲的病毒式视频也被疯狂播放，显示了深度伪造在视觉上有着令人信服的逼真。
在tiktok上播放的汤姆·克鲁斯“深度伪造”视频截图
泽连斯基或普京最近的视频都没有达到TikTok上汤姆·克鲁斯的高制作水平。首先，它们的分辨率明显较低，但这是隐藏缺陷的常见策略。但专家仍然认为这样的视频是危险的，这是因为它们显示了高科技虚假信息现在可以以光速在全球范围内传播。随着深度伪造视频变得越来越普遍，也越来越逼真，人们在网上区分事实和虚构变得更加困难，尤其在一场在线展开并充斥着错误信息的战争中更是如此，即使是糟糕的深度伪造视频也有可能进一步把水搅浑。
“一旦这条线被侵蚀，真相本身将不复存在，”美国南加州大学研究副教授、该校视觉智能和多媒体分析实验室创始主任瓦伊勒·阿布-阿尔马吉德说，“如果你看到任何东西，你再也不敢相信，那么一切都变得虚假。这并不是说一切都会成真，只是我们会对所有的一切都失去信心。”
早在2019年，就有人担心深度伪造会影响2020年的美国总统大选，包括当时的美国国家情报总监丹·科茨就提出过这样的警告，幸好这种事情没有发生。
纽约州立大学奥尔巴尼分校计算机视觉和机器学习实验室主任吕思伟(Siwei Lyu)教授认为，这是因为当时这项技术“还没有出现”。制作一个好的深度伪造视频并不容易，这需要消除视频被篡改的明显迹象，例如一个人脸部周围看起来奇怪的视觉抖动，并让声音听起来像视频中的人在说他们似乎在说的话（要么通过他们真实声音的人工智能版本，要么通过一个令人信服的配音演员）。
现在，制作更好的深度伪造更容易，但也许更重要的是，它们的使用环境已经不一样了。专家告诉美国有线电视新闻网商业频道说，深度伪造视频现在正被用来试图在战争中影响人们，这一事实尤其有害，因为它们制造的混乱可能是危险的。
吕教授说，在正常情况下，除了在网上吸引兴趣和得到特别关注之外，深度伪造可能不会产生太大的影响。“但在危急情况下，在战争或国家灾难中，人们真的不能非常理性地思考，他们只有非常短暂的注意力，人们看到这样的事情，那就会成为一个问题，”他补充说。
在乌克兰战争期间，消除错误信息总体上变得更加复杂。俄罗斯对该国的入侵伴随着Twitter、Facebook、Instagram和TikTok等社交平台的实时信息洪流，其中大部分是真实的，但有些是虚假的或误导性的。所分享内容的视觉本质以及其通常的情感和内在性，可能使人们很难快速区分什么是真实的，什么是虚假的。
《深度伪造:即将到来的信息末日》一书的作者妮娜·希克认为，像泽连斯基和普京这样的深度伪造视频是网上更大的虚假信息问题的标志，她认为社交媒体公司没有采取足够的措施来解决这个问题。她指责说，Facebook等公司的回应往往只是一块“遮羞布”，这些公司很快表示已经删除了泽连斯基的视频。“你说的是一个视频，”她不满地说。但是，更大的问题仍然存在。
随着深度伪造技术变得越来越完善，研究人员和公司正努力研究能够发现它们的工具。
阿布-阿尔马吉德和吕教授使用算法来检测深度伪造，吕氏解决方案名为“深度伪造测量仪”(DeepFake-o-meter)，允许任何人上传视频以检查其真实性，但他指出，可能需要几个小时才能获得结果。一些公司，如网络安全软件提供商泽马纳（Zemana）公司，也在开发自己的软件。
但是，自动检测存在一些问题，例如随着深度伪造技术的改进，自动检测变得更加棘手。例如，在2018年，吕教授开发了一种通过跟踪视频中的人物眨眼方式的不一致来识别深度伪造视频的方法，但不到一个月，有人制造出能逼真眨眼的深度伪造视频。
吕教授认为，人们最终会比软件更擅长阻止此类视频。他最终希望看到（并有兴趣帮助）一种识别深度伪造的赏金猎人计划的出现，人们可以在网上根除它们而获得报酬。在美国，也有一些立法来解决这个问题，比如2019年通过的加州法律，禁止在选举后60天内发布政治候选人的欺骗性视频或音频。
“我们将看到更多这样的情况，依靠像Google、Facebook、Twitter等平台公司可能还不够，”吕教授说，“但实际上，没有什么能胜过人类的眼睛。”
原文题目：Deepfakesare now trying to change the course of war
原文出处：https://edition.cnn.com/2022/03/25/tech/deepfakes-disinformation-war/index.html
翻译：鲁沂
推荐阅读