查看原文
其他

你看过周星驰和吴孟达版的《无间道》吗?AI换脸可以用来娱乐,也可以用来犯罪,而且很“成功”…

困难群众 LBS 2022-10-05

广告:仆力思警营纪念品商城


你看过周星驰和吴孟达版的《无间道》吗?


来看看这则使用AI换脸的搞笑视频,看过之后,还是你熟悉的那些人物吗:


上面这则视频的人脸换得还不算有“深度”,许多地方轻轻松松就能看出原来得样子——毕竟只是为了娱乐一下,而不是另有企图,如果是经过刻意、精心制作的呢?

别忘了在2018年,中非加蓬共和国就曾因一段AI炮制的总统Ali Bongo的视频讲话,险酿军方政变。

这些例子有好多好多,奥巴马、爱因斯坦…诸多政治人物和大牌明星都曾经被发言或被*照过,大家网络自行查找即可。

而像deepfake、zao等等之类换脸工具也早已不是新鲜事物了,最近,国内多地出现了不少利用伪造视频、伪造“原声”进行网络诈骗的案件(参考最近公安部提醒:注意防范利用AI人工智能等新型诈骗手段),足见“老技术”的作用依然没有过时。

所以,希望希望AI换脸只用来娱乐,而不是被用于诈骗。

但谁能保证没有蠢蠢欲动的人呢,火药可以做鞭炮也能做子弹呢。

所以也不知道提起来,会不会又算是泄密,协助网络犯罪呢?

之前本号曾介绍过的欧洲首例高仿人工合成声音诈骗案,利用伪造音频佯装成BOSS轻易地从出纳手中骗取22万欧元,背后所需的AI换(仿)声成本,仅仅是5秒的样本,且这样技术乃至源码都是开源可以取得的。

所以,生活高科技的时代,是福也是祸,真的是随时都可能“祸从口出”。

但我们需要封杀这样的技术和信息吗?是不要让更多的人们知道,社会才会变得更安全吗?还是反之?我们是要继续活在信息不对称的优势中自娱自乐自我满足吗?将来有多少人会惨遭诈骗呢?

本文提到AI造假,会让你觉得再也不能轻信所谓亲耳所闻,亲眼所见了吗?其实,AI如双刃剑,亦正亦邪,有空我们再讲讲如何反过来利用它辨别深度造假。

希望本文不会又要被删除 —— 有些东西只能在 请删除 系列里回顾。




广告:仆力思警营纪念品商城

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存