泽伦斯基的Deepfake视频是人工智能驱动的虚假信息的预兆
Deepfake视频和其它形式的合成媒体使用人工智能算法来产生包括语音、图像和视频的媒体。术语“deepfake”通常用于描述产生的内容以描述错误地引导观众并且与电视和电影中的视觉效果相反的未发生的事件。
Meta安全政策负责人在3月16日的推特上表示，泽伦斯基的视频违反了媒体操作策略，经过审查迅速删除。
虽然描述了Zerenski的视频很快就被证明是低质量的Deepfake，但是随着技术的进步，人类很难分辨到他们在看和听的合成媒体。但有一些迹象表明Zelensky Deepfake视频不是真实的。
首先，视频分辨率非常低，这使得有助于隐藏明显的失真，并且需要产生总体上更少的计算能力和不太先进的AI。约1分钟的视频中，泽伦斯基不动手臂和肩膀，手的动作看起来不自然（Deepfake内容生成最大的挑战之一是自然地展示微妙的身体动作）。
尽管如此，这项技术正在不断进步发展，在不久的将来，很多人将更难识别Deepfake虚假视频。
然而，小网站最初不可能具有相同的复杂度来检测所操作的视觉内容。因此，这些网站很容易在平台上共享合成媒体，至少在Deepfake检测软件商业化之前，资源较少的公司可以购买访问权。
随着技术的成熟和扩散，不同的威胁行为者也可以利用合成媒体来进行恶意目的。包括俄罗斯在内的民族国家有着最多的资源和必要的动机，使用可靠的Deepfake内容进行复杂的影响力行动，这些内容有可能逃离先进的检测软件。
在俄罗斯持续的特别军事行动中，俄罗斯政府制作了泽伦斯基最近的Deepfake视频有明显的动机，但视频的低质量表明资源较少的威胁行为者，例如亲俄罗斯黑客组织可能是背后的黑手。无论这种合成视频的责任如何，随着时间的推移，用于生成合成内容的越来越先进的软件将更广泛地提供给不成熟的威胁行为者。
市面上有一种软件，可以将声音“克隆”，帮助播客或其他人编辑或变更音频文件。2021年，加拿大的风险企业发表了Wombo这一流行的图像处理应用程序，用户可以将任意人物或人物的脸部照片转换成支持AI的口红视频。
这个应用软件在Google Play商店和Apple Store上迅速普及，在最受欢迎的Wombo视频中，合成了俄罗斯普京总统和北朝鲜领导人金正恩等世界领导人演唱流行歌曲。
Wombo本身并没有向威胁参与者提供明确的应用程序，但显示了该技术的发展速度和访问范围的扩展速度。
除其他用途外，伪造的Zelensky视频还说明了Deepfake和合成内容将如何强化社交媒体平台上的选举影响力活动。特别是出于政治动机，考虑到合成媒体出现在美国，在美国2022年中期选举和2024年总统选举中，政治家发表声明，显示他们从未曾做过的活动的片段，可以看到视频活动伪造的传播。
2024年美国总统选举特别容易受到Deepfakes和其他合成媒体的影响。因为那个时候，这个技术会变得更先进。因为是总统选举，风险也变得高，更广泛的威胁行为者对结果产生影响是不可避免的。
高度积极的威胁行为，破坏俄罗斯或美国的政治制度和选举过程，拥有最多的资源来创造最真实、最真实的内容。越来越多的deepfake内容生成技术也有威胁行为者对地方公职候选人进行诽谤运动，对当选的官员进行诋毁的可能性。
除了西方的民选官员和对选举的潜在攻击外，俄罗斯和其他威胁行为者还可能寻求在像西非那样争夺影响力的国家的传播深度。
此外，越来越先进的合成媒体内容继续支持对组织和个人更加复杂有效的电子邮件入侵、身份盗用、社会工程攻击。
2020年，罪犯使用Deepfake的音频内容伪装成银行的董事，让香港的银行经理批准了3500万美元的电汇。如上所述，对于未来的威胁，播客和广播主持人使用的软件可以重新用于制作可用于在电话中冒充个人的通话语句和剪辑视频。
展望未来，由于其他类似技术的传播和犯罪者频繁地适应新的攻击媒介，因此很有可能在各种类型的欺诈中使用Deepfake视频，比如假冒名人捐赠救济基金（乌克兰相关基金等）、在线诈骗等。
合成媒体内容也将成为威胁行为者的另一个工具。自从这种视频出现以来，犯罪分子一直使用真实视频，例如被盗的闭路电视视频进行勒索。然而，合成内容可能会在勒索或勒索攻击中将标记置于更加妥协的情况下，犯罪者要求赎金或要求他们进行某些活动。
进行这样的攻击的例子是非常多的，但对组织来说最大的担心可能是对品牌代表性公众人物的攻击。政府组织，特别是随着Deepfake技术的成本降低和相关软件的激增，有可能直接被网络犯罪者勒索赎金，成为不同活动家的诽谤运动目标。
即使已经证明这是错误的，但是可操作音频和视频媒体也会带来持续的负面影响。Deepfake视频和音频文件可能很快被检测为假货，但对于小型组织来说，媒体公司可能需要很长时间的审查后才能响应删除请求，即使删除请求发生得很快，声誉损害也永远不会轻易消除。
另外，即使Deepfake已被广泛证明是虚假的，明显的虚假视觉和音频媒体的片段仍在网络上传播，这意味着Deepfake仍然可以作为虚假信息来支持政治议程，无论它们后来是否被揭露为骗局。
往期推荐