细思极恐的涉黄AI换脸案:任何人都能成为视频中的主人公
“AI换脸”相信大家都不陌生。只需要一张照片,通过人工智能深度合成技术,任何人都能成为视频中的主人公,甚至连表情和动作都能以假乱真。然而,这项新技术,却让一些人产生了不良想法。
杭州的虞某就利用“AI换脸”软件,生成大量淫秽视频进行传播,被换脸的有不少女明星等公众人物,虞某甚至还提供换脸定制服务。
2022年8月,杭州市萧山警方在网上巡查中获取一条线索,辖区内有人利用AI技术制作淫秽视频在网上进行大量传播。
警方依法对此立案侦查,并迅速抓获了犯罪嫌疑人虞某,随后该案被移送至杭州市萧山区人民检察院审查起诉。
杭州市萧山区人民检察院检察委员会专职委员章蕾:虞某通过在互联网上发现一个AI换脸的技术软件,他自己通过学习软件,掌握了使用技能,从此开始利用AI换脸的技术牟利。
杭州市萧山区人民检察院第七检察部检察官助理陈禹尧:他发现仅仅通过贩卖软件的方式,可能很难获取到一般人的关注。他在网络上看到有一些网络群组在传播一些淫秽色情视频,他就想到通过换脸软件制作一些淫秽色情视频,然后先放在互联网群组上,吸引流量,吸引大家来关注这个软件或者换脸视频。
据虞某供述,为了吸引更多的关注和流量,他在社交软件上创建了“浏览群”和“私人定制群”。“浏览群”主要用来传播“AI换脸”的淫秽视频吸引、招揽观看者,其中包括一些经过虞某换脸的视频,当有人提出“定制换脸”的需求,虞某会将这些人引入所谓“私人定制群”。
杭州市萧山区人民检察院第七检察部检察官助理陈禹尧:通过收取入(浏览)群费用的方式,198元、298元或者398元。另外,虞某还提供人脸视频定制服务,相当于客户如果需要定制一个换脸的视频,他可以根据时长,根据视频的难度大小收取相应的费用。
虞某某组建该聊天群并在群中传播合成的淫秽视频
私人定制,“只要能看到脸的都能换”
杭州市萧山区人民检察院第七检察部检察官助理陈禹尧:这个价格是他自己定的,初级、中级、高级,可能视频在最后完成换脸的效果上,有一定的区别。有些人可能一开始购买了初级的教程,初级的一些素材和材料,发现不能达到他所期望的效果,就有可能继续付费去购买一些高级的视频,包括高级教程。
杭州市萧山区人民检察院检察委员会专职委员章蕾:他通过VIP定制,就是客户提要求“我今天想要把脸换成是谁的脸,你帮我定制一下,我支付相应的报酬”,通过这样的方式牟利。
“定制”换脸对象,既有公众人物也有普通人
杭州市萧山区人民检察院第七检察部检察官助理陈禹尧:这个软件的入门的门槛其实是比较低的,它的操作相当于通过一些已经设定好了的运行的程序和代码,相当于只要按照你的步骤,把需要进行换脸的视频放在它规定的一个文件夹里,或者按照步骤来进行操作,它自动对你所要替换的人脸视频里面的人脸信息,或者照片里的信息是自动提取,自动建立学习模型进行学习,然后下一步是自动进行合成的。
检察机关认为,作为“AI换脸”技术的使用者,虞某通过传播侵犯公民个人信息的方法和手段,使得更多“不特定主体”个人信息被侵害的社会危险性进一步扩大。
因此,杭州市萧山区人民检察院在依法追究虞某刑事责任外,同时还提起民事公益诉讼。2023年7月,杭州互联网法院对这起公益诉讼案进行审理,这也是我国首例关于“AI换脸”侵犯公民个人信息公益诉讼案的审理判决。
杭州互联网法院互联网审判第一庭庭长肖芄:过去我们常常认为眼见为实,耳听为实,但是随着深度合成技术以及新技术的运用,我们眼见也不一定为实,新技术的不当应用或者是一种滥用,实际上冲击了我们社会公众主体相互之间的信任关系,特别是在互联网空间这样一种建立起来的信任关系。那么对于这种信任关系、社会关系的一种侵害,其实本身也是对社会秩序的一种损害。
杭州互联网法院常务副院长朱敏明:任何一项新技术,首先这个技术它总是有中立性的,那么在技术本身我们是持接纳支持的这种态度,但是技术开发应用的目的,它必须是有利于全人类的公益,不能是为了这个技术,用于个人的非法牟利,然后侵犯其他公民、集体、国家、社会的合法权益,一旦越界了就要承担相应的责任。那么这个案子中因为由检察院来提起公益诉讼,然后法院来依法审判,充分发挥审判司法职能对新技术的规范。
技术无善恶,但有边界,须在法律规制内使用
杭州互联网法院互联网审判第一庭庭长肖芄:我们国家的民法典对于侵害他人,通过深度伪造方式侵害他人人身权益是有明确的规定的,禁止通过深度合成的方式去侵害公民的人身财产权益,这是民法典的规定。随着技术的发展,个人信息保护法对于深度合成也有相关的规定,因为不管是面部的一个替换还是声音的替换,它实际上都需要收集公民的个人信息,那么这些都是属于个人信息保护法特别保护的敏感的生物识别信息。
杭州互联网法院常务副院长朱敏明:一项新技术的产生往往专门针对这项新技术的法律法规会有所滞后,但是总的来说我们现在国家整个的法治体系已经相当完善,每个人你哪些行为是可以做的,哪些行为是不可以做的,它的原则性规定都是已经比较健全了。我想正常人都是能够判断得出来的,你去运用这项新技术,你的目的是有益于整个人类,有利于就是人民生活水平的提升,福祉的提升,还是说为了个人谋取不当的利益。那么我就想把握好这个界限,这些新技术都是能够为我们美好生活服务的。
转自:潮新闻,综合自央视新闻、央广网
往期文章:律师未经邀请到司法局反映问题,算“扰乱单位秩序”吗?
往期文章:13岁男孩被害案VS未成年保护法,多少纵容违法是打着“保护”的名义
往期文章:一位为本号文章长期点“赞”“在看”的网友, 被寻衅滋事了
往期文章:能听懂方言骂他的外国人要求配备翻译...那些开庭“说话”趣事
为方便与网沟通,法律爱好者可添加小编微信号:kelly489112(劳拉)为好友,组建法萌法律微信群交流。请注明职业,以便分类建群。也欢迎法律网友投稿。