“AI换脸”,想换谁的就换谁的?这起案件判了!
擅自使用他人人脸信息,制作换脸视频,不仅会侵犯他人的私益,还可能侵害公共信息安全,危害社会公共利益。
换脸,不是想换就换
——透视“AI换脸”侵犯个人信息公益诉讼案
“AI换脸”,相信大家都不陌生,只需要一张照片,通过深度合成技术,任何人都能成为热播影视作品中的主角,甚至表情、神态都足以以假乱真。然而,近年来,伴随着技术门槛的降低和应用场景的增多,“换脸技术”的应用早已突破原来的娱乐范围,甚至成为不法分子牟利的手段。
今年6月,浙江省杭州市萧山区检察院对一起利用“AI换脸”技术侵犯公民个人信息案依法提起民事公益诉讼。8月4日,杭州互联网法院经过审理后依法对该案作出判决,支持检察机关作为公益诉讼起诉人的全部诉讼请求:判令被告虞某立即停止侵权,删除其在社交软件群组中留存的所有涉案个人信息;在国家级媒体上刊发向社会公众赔礼道歉的声明,以消除影响、进行警示并支付侵害社会公共利益的损害赔偿款6万元。8月22日,这一判决正式生效。
仅凭几张照片
任何人都可能成为受害者
要捍卫隐藏在私益背后的公益
该案中,虞某作为“AI换脸”技术的使用者,不仅在互联网公共空间非法获取众多人脸信息,利用深度合成技术非法处理后,制作淫秽视频在超过2000人的网络社交软件群组中进行传播,违反了法律法规和社会公德,侵害了公共信息安全,破坏社会公共秩序,还在明知他人可能将“AI换脸”软件用于侵犯个人信息等不正当目的的情况下,向他人销售“AI换脸”软件、提供换脸素材并传授使用教程,传播侵犯公民个人信息的方法和手段,使得更多不特定主体个人信息被侵害的社会危险性进一步扩大。“因此在依法追究其刑事责任外,我们认为有必要提起民事公益诉讼对该类侵犯公民个人信息的行为予以规制。”
技术本无善恶
但技术的使用需要规制
庭审过程中,章蕾在法庭上发表的一段话令人印象深刻:“技术本身是中立无害的,只是技术中立并不意味着价值中立,特别是开发、应用者的价值中立,更不等于‘深度合成’的参与者不应当受到来自法律的规制、道德伦理的约束。”
经过审理,法院认定,虞某对于人脸深度合成技术的滥用行为损害了社会公共利益,依法判决其承担停止侵害、赔偿损失、赔礼道歉的民事责任。被告虞某服从法院判决,现判决已生效。虞某已履行道歉及赔偿义务。赔偿金额将专门用于个人信息保护、人脸深度合成技术不当应用的治理等公益事项。
“技术的运用是把双刃剑,用之为善可以造福社会,不当滥用则会造成社会风险和损害。对于换脸软件等深度合成技术应用的规制应当从其参与者入手,包括发明者、应用者、传播者等方面,以规制深度合成技术使用目的为路径,实现深度合成技术的合理使用,避免该技术对个人、社会、国家造成诸多方面的风险。同时,也需要引导技术开发、应用者自觉遵守法律规定和科技伦理道德,培育积极健康、向上向善的研发、应用环境,保护和鼓励新兴智能技术的有益探索。”承办此案的法官肖芄在该案宣判后说。
记者注意到,今年1月,国家互联网信息办公室、工业和信息化部、公安部联合发布的《互联网信息服务深度合成管理规定》正式实施,为深度合成服务划定了“底线”和“红线”,强调不得利用深度合成服务从事法律、行政法规禁止的活动,要求深度合成服务提供者要落实信息安全主体责任。
8月15日,国家网信办联合多部门公布的《生成式人工智能服务管理暂行办法》正式施行,对生成式人工智能产业作出了较为详尽的规定。“但在法律规定不断完善的同时,技术的迭代也在不断加速,如何克服法律对技术规制的天然滞后性,如何应对技术发展过程中的新现象、新问题,是监管部门和司法机关共同需要面对的新难题。”审判长、杭州互联网法院常务副院长朱敏明表示。
“在办理该案的过程中,我们也深刻地体会到,技术的迭代背后,‘侵权易’‘维权难’的矛盾更为突出。”章蕾说,以往在司法实践中,关于公民个人提起的保护个人信息之诉少之又少,其中维权成本高、专业性强、举证困难是主要原因。以本案为例,如何证明人脸信息侵权事实的存在,可能需要对信息处理者、处理方式、信息获取、信息处理加工是否违法等进行举证,而上述证据普通的公众很难仅凭自身力量完成初步举证,即便是司法机关,在调查取证的过程中也耗费了大量的时间和精力。而公民个人遇到该情况往往会基于无奈,放弃以诉讼方式维权,这将会间接导致对侵权行为肆意侵害公共利益的放任,使技术违法行为始终游走在法律底线之外。
据悉,今年6月,在最高检第八检察厅的直接指导和推动下,杭州互联网法院与杭州市余杭区检察院会签《关于推进互联网检察公益诉讼案件办理的协作办法(试行)》,旨在通过探索互联网检察公益诉讼新型办案模式,携手蹚出一条网络空间司法协同治理的新路。
各方声音
深入推进互联网检察公益诉讼
全国人大代表
浙江省检察公益诉讼形象大使
浙江省永康市阳光爱心义工协会
名誉会长 黄美媚
检察机关作为公共利益的代表,针对该类关于民生、关于普通群众切身利益的问题,更要立足检察职能,依法能动履职,冲破私益保护的局限性,更好地破解司法实践当中的困难,以司法实践来提升公众对国家法治、个人安全、社会治理的信心。互联网检察公益诉讼已成为依法治网体系建设的重要内容,深入推进互联网检察公益诉讼的时机已经成熟。建议推动在互联网相关领域立法中增设检察公益诉讼条款。
推动实现“善治”与“善智”的双赢
浙江理工大学数据法治研究院副院长
数据法学创新团队负责人 郭兵
我一直关注人脸信息安全,也关注着该案的办理进展。一方面,人脸信息如果被随意收集、存储、使用,势必会给个人带来严重的安全风险,进而造成网络空间的失序,任何个人都可能成为人脸信息滥用的受害者,身处网络空间的每一个人都将难以获得安全感,这对正常的网络秩序无疑具有极大的破坏力;另一方面,随着人脸识别技术在我们的日常生活中被越来越广泛地使用,类似“AI换脸”的技术应用也层出不穷,不法分子可以非常便利地通过“AI换脸”技术实施电信网络诈骗、敲诈勒索等违法犯罪活动,对公众的人身、财产安全具有极大危害。通过引导和规范新技术应用,强化源头治理,加强包括人脸信息在内的公民个人信息保护,既需要以检察履职推动实现“善治”与“善智”的双赢,更需要各方合力共治。
深化“AI换脸”系统治理源头治理
最高人民检察院第八检察厅副厅长
邱景辉
针对利用生成式人工智能技术生成淫秽色情、虚假有害信息等法律、行政法规禁止的内容,危害他人身心健康,侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益的犯罪行为,杭州检察机关协同公安机关、审判机关,在进行刑事追诉的基础上,通过民事公益诉讼以“诉”的确认体现司法价值引领,与今年8月15日起实施的《生成式人工智能服务管理暂行办法》同向发力,彰显了国家为了促进生成式人工智能健康发展和规范应用,维护国家安全和社会公共利益,保护公民、法人和其他组织的合法权益,进一步加大执法司法力度的信心和决心。
本案的启示还在于,结合反电信网络诈骗工作,对于利用生成式人工智能技术向公众提供生成图片、视频等内容的服务中出现的公益损害违法行为,检察机关可以协同公安机关和行政监管部门,对境内用户量大、问题隐患突出的即时通讯、网络直播、网络社交、电商平台、金融支付等重点App加强治理,及时发现人脸识别验证系统存在的风险隐患,督促服务提供者按照《互联网信息服务深度合成管理规定》进行查纠整改,督促服务提供者严格履行法律责任。同时,依据《互联网信息服务深度合成管理规定》,对于《境内深度合成服务算法备案清单(2023年6月)》中列明的应用于人脸图像、视频生成场景,将用户上传的照片与特定形象进行面部融合,生成融合后的人脸图像、视频等主要用途的算法,检察机关可以会同相关职能部门强化对技术支持者的监督,积极探索算法监督检察公益诉讼,深化“AI换脸”问题的系统治理、源头治理。
来源:检察日报·法治新闻版
编辑:曾艳芳
责编:刘影丽
●“红霞增辉耀南粤”——清城区检察院第六党支部到洲心街道连江社区开展结对共建活动
●清城区人民检察院2023年公开招聘劳动合同制司法辅助人员、专项工作聘员总成绩及进入体检人员名单通告
投稿邮箱:fazhiwangqy@163.com
清远检察新媒体矩阵
清远检察 清城检察 清新检察
英德检察 连州检察 佛冈检察
连山检察 连南检察 阳山检察