如何判断AI生成的特朗普被捕照是深度伪造的假货？

你在社交媒体上看到的特朗普被捕照是AI生成的，虽然疯传，但绝对是假的。不过，有些照片般逼真的图片倒确实非常令人信服。其他的看起来就更像是视频游戏或者清醒梦截图了。Bellingcat创始人Eliot Higgins的一篇推特帖子在该平台上的浏览量涨到了300多万次，帖子显示特朗普被合成作战警察包围，他四处奔逃，还挑选监狱连体裤。

Higgins难道指望看客能分辨出他帖子里这种AI生成的虚假图像，与这位前总统预期被捕时可能流出的真实照片之间的区别吗？ 

“我为这篇帖子生成了许多图片，很明显，焦点往往放在描述的首要对象身上——这个案例中也就是各位特朗普家族成员，焦点周围的一切通常不太对劲。”Higgins在电子邮件中说道。看向图片焦点之外。图片的这些其他部分看起来是不是后来加上去的？

尽管最新版AI图像工具取得长足进步，比如Midjourney（上述推特帖子中用到的就是该工具的第5版）和Stable Diffusion，但小细节中的错误仍是昭示伪造图像的常见标志。虽然AI艺术逐渐大行其道，但很多艺术家指出，现有的各种算法依然难以风格统一地自然呈现人体。 

仔细观察推特帖子中的特朗普AI生成图，很多图片中他的脸看起来很像真的，手也像，但身体比例就可能有些扭曲或融进旁边警官身上了。但是，虽然现在看起来这些违和之处还很明显，但经过更多训练和改进之后，算法或许就能够避免出现看起来奇奇怪怪的身体部位了。

还需要其他“马脚”吗？找找墙上、衣服上或其他物品上的奇怪文字。Higgins指出，乱七八糟的文本是区分真照片与假图像的一种方式。比如说，伪造的特朗普被捕图里，警察佩戴的徽章、帽子和拿着的其他文件上似乎有字。仔细一看，这些文字毫无意义。

另外就是，有时候你可以通过夸张的面部表情来判断图像是AI生成的。Higgins表示：“我还注意到，如果你让Midjourney生成表情，它往往会以夸张的方式呈现，连微笑这样的表情都能给你弄到笑出一堆褶子。”特朗普妻子脸上的表情更像是复刻了爱德华·蒙奇的《呐喊》，或者源自A24公司尚未发行的惊悚片剧照，而不像是摄影师拍下的照片。

谨记，世界领导人、名人、网红，以及网上流传有大量照片的任何人，其深度伪造照片看起来可能比AI为互联网曝光度低的人生成的照片更像真的。“很明显，人越出名，AI需要学习的图像就越多。”Higgins表示，“所以，非常著名的人士就渲染得极好，而不太出名的人往往就有点歪斜。”如果想要放下对算法能重建你面部的担忧，那你和朋友浪了一晚之后，就得三思而后发自拍了。（虽然AI生成器可能早就已经从网上抓取了你的照片数据。）

下届美国总统大选之前，推特关于AI生成图像的政策是怎样的？这个社交媒体平台目前的部分政策是，“不能分享可能欺骗或迷惑用户并引发伤害的合成、篡改或断章取义的媒体（‘误导性媒体’）。”但推特为并非故意误导浏览者的表情包、评论和帖子开了多个例外。 

就在几年前，我们还很难想象连普通人都很快就能在家里制作出非常逼真的世界领导人深度伪造图像。随着区别AI图像与真实图像越来越难，社交媒体平台可能需要重新评估自己对合成内容的处理方式，尝试找到各种办法，引导用户安然畅游生成式AI那复杂而又往往令人惶惑的世界。

以上图片转自Eliot Higgins的推特

---

参考阅读
AI可信吗？
对抗性AI攻击凸显基本安全问题
AI驱动的XDR解决方案和安全运营服务
ChatGPT爆火出圈带来的AI网络安全的思考