内幕曝光！涉黄AI换脸案冲上热搜，检察机关提醒…
3月24日上午
@央视新闻 发布了一则
“涉黄AI换脸案”的新闻
瞬间冲上热搜
“AI换脸”相信大家都不陌生。只需要一张照片，通过人工智能深度合成技术，任何人都能成为视频中的主人公，甚至连表情和动作都能以假乱真。然而，这项新技术在令人感叹“科技改变生活”的同时，却让一些人产生了不良想法。
通过AI换脸
违法牟利6万余元
2020年
浙江杭州的虞某接触了“AI换脸”软件
为吸引流量
他利用该软件
制作大量淫秽视频并传播
其中被换脸的有不少都是女明星
据虞某供述
为了吸引更多的关注和流量
他在社交软件上创建了
“浏览群”和“私人定制群”
“浏览群”主要用来
传播“AI换脸”的淫秽视频
吸引、招揽观看者
其中包括一些经过虞某换脸的视频
当有人提出“定制换脸”的需求
虞某会将这些人引入所谓“私人定制群
虞某声称
“只要能看到脸的都能换”
有人甚至要定制暗恋女生的换脸视频
而对于这些
未经同意就擅自侵犯他人敏感信息的违法行为
虞某也是来者不拒
据检察机关调查
虞某根据“AI换脸”视频的
长度、清晰度等难易条件
按照5分钟300元、10分钟500元等
标准来收取定制的费用
杭州市萧山区人民检察院检察委员会专职委员章蕾：他通过VIP定制，就是客户提要求“我今天想要把脸换成是谁的脸，你帮我定制一下，我支付相应的报酬”，通过这样的方式牟利。
据萧山检察
截至案发
公安机关共在虞某某所组建的公开群内
查获淫秽视频1200余部
图片1600余张
通过销售换脸淫秽视频以及
定制换脸淫秽视频等违法行为
虞某先后收取口令红包200余次
总金额共计6万余元
除追究刑责
检察机关还提起民事公益诉讼
检察机关认为
作为“AI换脸”技术的使用者
虞某通过传播
侵犯公民个人信息的方法和手段
使得更多“不特定主体”个人信息
被侵害的社会危险性进一步扩大
因此
杭州市萧山区人民检察院
在依法追究虞某刑事责任外
同时还提起民事公益诉讼
2023年7月
杭州互联网法院
对这起公益诉讼案进行审理
这也是我国首例关于“AI换脸”
侵犯公民个人信息公益诉讼案的审理判决
杭州互联网法院经审理认为
虞某利用“AI换脸”技术
侵犯公民个人信息的违法事实确凿
因此支持检察机关作为公益诉讼起诉人
提出的全部诉讼请求
👇👇👇
判令被告虞某：
删除非法获取的个人信息；
公开赔礼道歉、消除影响；
赔偿损失共60000元，这些款项将专门用于个人信息保护、人脸深度合成技术不当应用的治理等公益事项。
最终
虞某犯制作、传播淫秽物品牟利罪
被判有期徒刑七年三个月
并处罚金6万元
注意！“AI换脸”用来搞笑
也存法律风险
法官认为， “AI换脸”技术
即便只是用来搞笑或者制作恶搞照片
也有可能涉及侵犯肖像权、名誉权
造成严重后果的
还可能构成侮辱罪或者诽谤罪
而“AI换脸”技术的滥用
看似是对被侵害的个人的
人格权、肖像权、名誉权、隐私权的侵害
实际上更是对社会公序良俗的践踏
是对稳定的社会环境
和清朗的网络空间的挑战
杭州互联网法院常务副院长朱敏明：一项新技术的产生往往专门针对这项新技术的法律法规会有所滞后，但是总的来说我们现在国家整个的法治体系已经相当完善，每个人你哪些行为是可以做的，哪些行为是不可以做的，它的原则性规定都是已经比较健全了。我想正常人都是能够判断得出来的，你去运用这项新技术，你的目的是有益于整个人类，有利于就是人民生活水平的提升，福祉的提升，还是说为了个人谋取不当的利益。那么我就想把握好这个界限，这些新技术都是能够为我们美好生活服务的。
网友呼吁：尽快规范
看到审判结果
多数网友表示
支持严惩！坚决抵制！
有网友呼吁
规范AI使用
有网友提醒
在网上发布照片要小心
注意保护好自己的隐私
发现不法行为第一时间报警
来源/广州日报、中国青年报、央视新闻、央广网、潮新闻、网友评论等