女子地铁内“裸照”被疯传？AI换脸的法律边界在哪？

近日

#广州地铁#登上热搜

起因是一女子

在地铁上的“裸照”被疯传

但事实上

这张“裸照”并非真实照片

而是被AI一键脱衣生成的……

近日，广州一女子在地铁上的照片被AI一键脱衣，造谣图在网络广泛传播引发关注。

事实上，照片的女主角是小红书的一名博主，而所谓的“裸照”则是她去年7月在平台分享的一张照片。原图中她衣着正常，完全没有任何不妥之处，但却被有心之人用AI软件一键脱衣，故意全网散播。

目前博主已在评论区回复各位网友，称会进行相关的维权处理。

在这则图文分享的评论区

已经有众多网友评论提醒博主

催促其尽快报警

也有人热心地帮助其辟谣澄清

死灰复燃的AI脱衣
伪造谣言百口莫辩

早在2019年，国外程序员就开发出了DeepNude这款使用AI技术“脱衣”的应用，通过使用类似deepfakes的深度学习技术，DeepNude使用女性裸照训练之后可将图像中女性身上的衣服替换掉，创造出几可乱真的合成裸照，也就是大家所说的“一键脱衣”。

后因广泛的舆论争议

开发团队选择将该项目关闭

但目前在网站搜索“AI脱衣软件”

仍然会出现众多“替代品”

▲非法网站公然宣告提供“脱衣服”功能

点开其中一个AI脱衣软件

甚至在产品说明页中

有着详细的说明

和“优势”“亮点”

在现今AI强大的算法下，时间、地点都对得上的情况下，伪造谣言对普通人来说百口莫辩。而唾手可得的脱衣软件则更让造谣者有机可乘。

AI换脸换装
或涉嫌刑事犯罪

近年来，“AI换脸”走红网络，一些“AI换脸”的App使用明星的图片制作换脸视频进行推广，其趣味性背后暗藏不少法律风险和侵权纠纷。

明星刘昊然就曾在2021年8月26日发博打假，控诉网上流传的某淫秽视频为AI换脸技术伪造，并向警方报案。

此前一网红特效合成师利用电脑后期制作，合成与知名女星亲吻的影片在网上传播，这很容易让人认为AI合成的内容就是真实发生的，从而产生很严重的风险和侵害。

此前报道>>网红特效师“热吻”迪丽热巴，被粉丝抓破相！这操作算不算“隔空猥亵”？

专家表示，在《网络安全法》第二十七条的规定当中，特别强调，明知他人实施危害网络安全活动的，不能够为他提供技术支持，如果情节严重，还会构成帮助信息网络犯罪活动罪等刑事犯罪。

今年1月10日开始施行的《互联网信息服务深度合成管理规定》中也提出，要对深度合成技术应用提出规范。

《中华人民共和国网络安全法》

第二十七条 任何个人和组织不得从事非法侵入他人网络、干扰他人网络正常功能、窃取网络数据等危害网络安全的活动；不得提供专门用于从事侵入网络、干扰网络正常功能及防护措施、窃取网络数据等危害网络安全活动的程序、工具；明知他人从事危害网络安全的活动的，不得为其提供技术支持、广告推广、支付结算等帮助。

《中华人民共和国民法典》

第一千零一十九条 任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，但是法律另有规定的除外。

未经肖像权人同意，肖像作品权利人不得以发表、复制、发行、出租、展览等方式使用或者公开肖像权人的肖像。

对这类软件进行严格监管和取缔

对制造和传播不雅视频的人依法处理

不仅是维护女性的合法权益

更是维护我们每一个人的信息安全

抵制这种充满恶意的技术

每个人都有不可推卸的责任！

文章来源：广东普法综合整理，主要内容源自中国青年报、新闻晨报、央视网

推荐阅读