AI换脸的问题尚未解决,今天又有一位程序员“剑走偏锋”,引发了新一轮社会谴责。
当地时间2019年6月27日上午,美国科技媒体Motherboard报道,一名程序员最近开发出一款名叫DeepNude的应用。
只需要上传一张女性照片,该应用就能借助神经网络技术,自动移除女性身上的衣服并“填补”出裸体。
这与昨天我们扒皮的“原谅宝App”不同,DeepNude的确是使用了AI算法的——它能用裸露的器官和皮肤替换人物身上的衣物。
Motherboard使用DeepNude测试了Taylor Swift、Natalie Portman等女星的照片,无一例外都成功了。
尽管放大细节来看,用算法“填补”的部分仍然有人工痕迹,但如果被有心人利用,这些图片也足以以假乱真了。
虽然他们可以通过PS达到同样甚至更好的效果,但这个高效率工具依然可能引发更多的恶劣后果。
开发者“阿尔贝托”(Alberto)接受采访时表示,该应用基于开源算法pix2pix创建,并使用1万张女性裸图加以训练。这一算法与AI换脸和无人车技术所使用的算法相似。
Alberto表示,该算法仅适用于女性,因为裸体女性的图像更容易在网上找到,但他也希望将来创建一个男性版本。
此应用一经曝光,全世界的反对意见便如海浪般源源不断。
因为DeepNude比之前的AI换脸视频工具更容易使用和访问,用户不需要具备专业技术,只需点击一下即可在30秒内获得一张“真实”的裸体图片。
一来侵犯隐私,二来可能成为不法之徒敲诈勒索的工具。
反色情组织Badass的创始人Katelyn Bowden表示,“这是非常可怕的,现在任何人都可能成为受害者,即使她并没有拍过裸照。这种技术不应该向公众开放。”
马里兰大学凯里法学院教授Danielle Citron最近向国会举报了该应用,称这是“侵犯性隐私”。
新浪科技在微博报道后,目前转发已超过7000余条,同样是一片倒的骂声。
但这对于开发者Alberto来说,似乎没有造成什么影响。DeepNude官网已上线,包括免费版和50美元付费版。
“我认为你可以用DeepNude做的,同样可以用Photoshop做到,”他说,“并且DeepNude不会自己传输图像,只有创建了它们的用户才会用来做坏事。”
Alberto还表示:“技术已经发展到这一步了,如果我不这样做,别人也会在一年内做出来。”
最后,他称自己将继续提升这个算法,并且只是出于“有意思”和好奇心。
技术发展带来的伦理和法律问题已经刻不容缓,学术界和研究人员需要慎重思考如何利用技术带来进步,而不是令它们被“武器化”。
此外,社交媒体和立法者也需要深思熟虑,把这些新领域的技术纳入规则中来,以免造成另一种伤害。
目前,迫于全网压力,DeepNude已宣布下线。
网友直呼:技术无罪,技术无罪。有罪的是人,是那个有坏思想的程序员!!