从刘昊然报警看AI换脸的法律规制

原创文章，已得到独家授权，转载请添加公共微信“qmfmggwx2”进行接洽，取得许可后方可转载。对未经许可转载导致的侵权，本编辑部保留追究的权利。

编者按：8月28日演员刘昊然工作室发布了一则报警声明：其发现有大量用户通过网络渠道传播含有使用AI换脸技术对刘昊然先生进行侮辱的视频、视频截图及含有侮辱诽谤言论的聊天记录。为了维护刘昊然的合法权益，工作室已经向警方报案。

这样一起备受关注的案件使得AI换脸技术的法律风险再一次进入公众视野。为了能够对这一前沿科技所潜在的法律问题有更加深入的了解，我们邀请了四所院校的同学，共同就这一问题从不同的角度以笔谈的形式展开了讨论。

 

思玙，P大2019级本科生。

我们讨论的对象是“AI换脸技术”，那么从最基本的语言分析来看，这一话题有基本的需要分析的三个要素：“AI”、“换脸”与“技术”，再对这些要素进行进一步的分析和整合，探究其中的关系，我们会发现，“AI”是“换脸”的底层支撑，而二者都属于“技术”的范畴。

那么这一对象为何会进入法律的视野，又进入了法律视野的哪些视角？法律又可能根据哪些规律，在哪些情形下对这一对象的社会存在作出怎样的争论与回应呢？

这些问题都属于法理学的研究范畴，当代法律视野主要分为两大视角，一个是应然角度的规范视角，一个是实然角度的实证视角。

就应然角度的规范视角而言，法律人的“经典思维模式”为“IRAC”，即“提炼问题（Issue）-找出规则（Rule）-适用规则（Application）-得出结论（Conclusion）”, 这一思维模式下，又有针对基本概念的法律本体论（legal ontology）、针对逻辑的形式法律科学（formal legal science）、针对价值判断的法律价值论（egal axiology）。

在提炼问题阶段，综合从各种事件中体现的“AI换脸技术的社会存在，由“AI”这一要素我们可以提炼出“自由意志”与“技术伦理/正义”等本体概念，由“换脸”这一要素可以提炼出“人格尊严”、“隐私权”、“数据”等本体概念。在找出规则并适用规则的阶段，我们可以从本体概念出发，从形式法律科学的角度对实体规范的逻辑完备性进行分析与讨论，并权衡其中的价值判断与选择，最终得出结论。

比如在刘昊然AI换脸事件中，根据《民法典》的相关规范刘昊然工作室对相关换脸造假者进行了起诉，其中涉及的一个法理问题就是：AI换脸技术使用的自由边界在哪里？自由又分为积极自由与消极自由，有关于自由的含义与论证，也具备自然法、法律哲学与功利主义法学、古典自由主义 “两大阵营”义务论与后果论的多重争议，许多子问题也可由此产生：如AI换脸制作的作品是否受到言论自由的保护、AI换脸是否违背了密尔的“伤害原则”等等。另一方面，刘昊然作为公众人物，其名誉权在规范上也具备一定的限制与克减义务，这种义务在应然层面是否成立，是否符合正义？所谓“克减”，其依据在哪里？限度又在何处？对于换脸本身而言，什么是“脸”，AI模拟的“脸”能否被称为“肖像”，AI自身能否承担相应责任等，也都是需要讨论的问题。

从实然的实证视角而言，法律人需要考虑制度的社会效果，这就更多地进入了社会科学与行为理论的范畴。以AI换脸技术涉及到的隐私话题为例，从心理学、经济学、社会学、人类学等外部视角来看，是否需要保护隐私支持与反对的理由、隐私保护的方法与范围等讨论都更加趋向多元：支持之理由有人的独处偏好、社会信息理论与风气环境等，反对之理由也有影响创新与市场交易效率、固化社会分层等。各国的历史传统与社会语境对隐私的定义也多有不同，对AI换脸技术的容忍度也自然不同，多元规制、模糊规制也自然成为了当下法律制度的理性选择。对于其它“数据规制”与“技术伦理”问题，多元角度的法理讨论在冲击传统规范分析的同时，也为规范分析注入了新的时代活力。

一番分析下来，似乎我们也并未解决任何“实际”问题，反而是不断地在提出问题、归纳问题，而这也正是法理学的意义所在，因为能够解决问题的，只有更深刻的问题，时代会不断用新的问题去取代旧的问题，历史不会重复，但会押韵。

AI换脸技术问题也会随着技术与社会本身的发展而消亡，若要举出合适的例子，作为“换脸”鼻祖的PS技术似乎最有代表性：在其诞生初期，PS也被广泛应用于证件犯罪与恶意诽谤行为，但随着技术的发展与群众对PS技术了解的不断深入，运用PS技术换脸的图像也在不断被识别，社会危害性也逐渐减少，乃至修图已经成为了人们日常拍照不可或缺的一部分。所谓AI换脸技术，其本质不过是“视频PS”罢了，需要重视，但也没必要大惊小怪。

 

Sia，某某大学民商法专业硕士研究生

前段时间，刘昊然因被AI换脸技术恶意制作为不雅视频的当事人选择报警，再次将已不再是新鲜话题的AI换脸技术拉回公众视野。AI换脸技术是典型地与肖像有关的技术，即附着在一定载体之上可以反映特定自然人外部形象（《民法典第1018条第2款》。在民事领域，AI换脸技术首要涉及的问题便是肖像权侵权问题。

《民法典》第119条第1款、第990条规定肖像权是一种受保护的具体人格权，第995条、第1182条亦规定该种人格权可成为侵权责任法所保护的法益。肖像权侵权是一般过错侵权责任，AI换脸若构成肖像权侵权，则需在责任成立和责任范围两个层面来进行检视。我的分享将围绕AI换脸的肖像权侵权责任的成立展开。

在责任成立层面，需满足法益受到侵害、存在加害行为、具有责任成立的因果关系、行为具有违法性、行为人主观上为过错等要件。就法益受到侵害而言，第《民法典》1019条第1款第2句，肖像权的制作和公开权能受法律保护。AI换脸技术通过提取脸图运用算法将训练好的A的脸部模型把B的脸换下来，制作成图片或视频，这涉及到肖像权的制作权能，多数也会因在网络上传播该肖像涉及肖像权的公开权能。因此，未经肖像权人同意，利用AI换脸技术，把源肖像替换成被害人的肖像，则会构成对肖像权这一法益的侵害。对于加害行为而言，《民法典》第1019条第1款第1句规定的侵害他人肖像权的一种典型方式是“利用信息技术手段伪造”，其所针对的便是AI换脸这种仿照源肖像，对肖像进行制作、加工处理、拼接、替换等以使得该肖像与源肖像可识别为同一人的行为。在责任成立的因果要件方面，根据“若无，则不”的条件说，AI换脸技术与被害人的肖像权法益受到侵害之间的因果关系显然满足。

在违法性方面，由于肖像权具有典型的社会公开性，侵害肖像权原则上具有违法性。根据《民法典》第999条、第1020条，公共利益的考量可阻却违法性。此外，基于私法自治的原则，被害人允诺亦可阻却违法性；但由于人格权旨在维护人的自由与尊严，不得放弃、转让或者继承，被害人的允诺也需要以公序良俗谓边界。就过错要件而言，《民法典》第1019套第1款第2句的“利用”一词反映了AI换脸技术是一种积极作为，主观上为故意，即明知或应知自己的行为会导致他人受法益受到侵害仍然为之。值得注意的是，肖像权虽然具有财产权性质，但更多体现的仍是精神性人格利益，因此，侵害肖像权并不以加害人主观上具有营利目的为前提。总之，AI换脸技术显然满足责任成立阶层要件。

对于责任范围而言，须存在损害以及损害与行为之间具有相当因果关系。人格权侵权中的损害可分为财产损害（《民法典》第1182条）和精神损害（民法典第1183条）。其中，对于财产损害而言，《民法典》第1182条第1分句规定的获利剥夺规则不仅会产生与权益侵害型不当得利返还请求权之间的竞合。对于精神损害，须以“严重性”为前提。有观点认为，“严重性”的认定需要以物质性人格权和精神性人格权为区分。对于肖像权等精神性人格权，需要综合考虑加害行为的性质、被害人的市场知名度、侵权行为的持续时间、影响范围、损害的后果等多种功能因素。例如《湖北省高级人民法院民事审判工作座谈会会议纪要》第13条第2款规定“对于姓名权、名誉权、荣誉权、肖像权、隐私权、婚姻自主权、监护权、人格尊严、人身自由等人身权益被侵害，严重的标准则要考虑受害人精神是否遭受极大的痛苦，受害人正常的工作、学习、劳动、生活秩序是否受到影响，是否造成了受害人精神疾病等后果。”就相当性因果关系而言，须满足行为对损害发生可能性的提升程度具有相当性。这也是肖像权侵权中判断的难点。

 

何泽昊，上海社会科学院法学研究所2020级国际法学硕士研究生

当我们探讨对“换脸”（使用深度伪造技术嫁接面部和身体）的法律规制时，最为常见的方式是将其置于部门法的框架内予以解读。以刑法中的敲诈勒索罪为例，行为人是否使用深度伪造技术并不影响法律的评价，关键在于该技术所实现的抽象的行为和效果，即是否满足“威胁或是要挟受害人以勒索财物”。我们姑且称这种规制路径为技术中立路径。技术中立路径通过对社会生活的抽象，确保不论是当下的技术还是未来的技术，只要用以达成相同的行为或者实现相同的效果，都能处于法律的规制之下。

然而，技术中立路径忽视了技术之间所存在的差异，及这种差异所带来的治理需求。以深度伪造技术为例，该技术并非是实现“换脸”效果的唯一技术选择，早在纳粹德国时期，摄影师John Heartfield便通过照片的拼贴手法对希特勒进行政治讽刺；而到了电影工业发达的时代，特效化妆与数字技术相配合完全可以实现“换脸”的效果。相比其他“换脸”技术对于个人而言较高的技术或资金成本，通过深度伪造技术制作一个以假乱真的换脸视频仅仅需要一台电脑、一个不错的显卡、一个开源的“换脸”软件，百余张目标个人的照片和数小时的时间。在技术中立的法律看来，这种使用成本上的差异，或曰技术民主化的阴暗面不会导致法律的区别性评价，但却是深度伪造技术对个人与社会的破坏性的源头。这种破坏性无异于让枪支在社会中唾手可得。

诚然，并非所有的治理需求都需要法律的回应，但如果将法律理解为一种将社会予以结构化的安排，法律与其他治理工具是牵一发而动全身的。即便法律本身难以完全实现对技术的差异化规制，法律也应当激励，或者至少为其他治理手段提供差异化规制的空间。从法律的内部视角到法律和其他治理工具协同的外部视角，笔者渐次想到了以下三种针对深度伪造等特定技术予以差异化规制的方法：

第一．制定技术特定的法律或者规范。为规制特定技术而频繁修法和立法显然有违法律的安定性要求，因此即便是应对技术发展而制定的法律仍然会有意采取技术中立的立法方式。例如，应对自动化信息处理技术而出现的保护个人信息的有关法律，其规制的对象是对个人信息的处理行为，而不必要通过自动化的技术。显然，通过法律规范独力实现技术的差异化规制有其局限性。

第二，将对技术的差异化对待作为一项法定义务。该路径的现有实践比如有欧盟《一般数据保护条例》第25条规定的“设计和默认的数据保护”（Data Protection by Design and by Default）第35条规定的“数据保护影响评估”（DPIA）。这两项义务要求数据控制者根据数据处理的“性质、范围、环境和目的,以及处理可能给自然人的权利和自由带来的风险和损害”采取差别化的技术和组织措施，以及开展对新技术的评估。以上规范本身是技术中立的，但却在义务主体的协同下实现了对技术的差异化规制。然而，这一方法同样存在缺陷，即多半只能针对掌握技术、资金和人力资源的企业或技术从业者，而难以在“换脸”这种民间恶意萌发的场景中发挥作用。

第三，通过法律原则性的规定和适当的行政监管，激励行业对不同技术采取差异化对待。此处还是以信息隐私法领域的实践为例，实证研究结果（见“Privacy on the Ground: Driving Corporate Behavior in the United States and Europe”）表明，原则性的法律规定，辅之以开放和能动的监管，能够激励企业采取更好的隐私实践。同理，以原则性的法律规定为前提，对技术差异化规制的需求或许也可以通过能动的监管传达到企业，从而促使企业对不同技术采取差异化对待。但显然，这种方法也局限在以企业为义务主体的情形。

以“换脸”为引子，笔者认为，“如何在法律的框架内寻求技术特定化的可能性”是一个充满前景的研究领域。

 

王茂泉，山东大学刑法学硕士研究生

以深度伪造技术为内核的AI换脸，实现了生物识别、机器学习与人工智能技术相结合的技术突破，但深度伪造技术利弊皆在其“伪”，从“伪”生“假”——高度的仿真性成为此类技术得以推广的重要原因之一，也正因此，AI换脸技术逐渐暴露出应用异化的风险。

“AI换脸”秉持技术中立原则，自其研发之时并无绝对意义上的技术风险偏向，恰恰是因为此后应用过程中，受经济利益导向驱使以及主观恶意利用而导致技术转化应用违背技术研创初衷，在技术发展传播以及创收价值方面，掺杂过量消极目的内容，以致技术效益产出有违法律法规等制度规范以及人文伦理等道德规范，高新技术的研发与应用给社会公众带来新奇体验同时，也启发公众逐渐意识到了“AI换脸”技术异化带来的负面影响。在信息导向的“后真相时代”，将极具识别功能的人脸信息从个体剥离，独立暴露在虚拟环境之中，缺乏信息所有者的实时保护，公众群体一旦落入信息媒体错误引导的闭塞环境，便极易引起社会认知的偏差，其潜在威胁是绝不可忽视的。

为了对潜在风险予以有效把控，除了技术设计的优化、辨伪技术的开发以外，法律法规以及规章政策等制度规范层面也应当为此提供有力的依据支持。从现有的一些实发案例来看，AI换脸技术所暴露出的侵害风险多集中于侵犯个人民事权利或延及个人刑事法益，在现有的制度规范体系中，绝大多数侵害行为都可以寻找到有针对性的惩处依据。除了民事案件中多发的肖像名誉侵权或者部分侵犯著作权的典例外，刑事领域也逐渐成为此类技术实害风险的多发地带。虽然刑事法律保有其内敛谦抑的个性，但并不意味着刑法退出对高新技术应用的规制舞台。

AI换脸的刑事风险可衍生于两个方面，一是技术应用的恶意使用触犯刑法，二是技术所创视频内容本身属于违法犯罪信息。两者区分的依据在于伪造视频内容的违法性，就前者而言，此类技术应用后所创作的视频内容并不隶属于刑事规制范围，但其技术应用领域或利用方式存在严重刑事违法性，故而予以刑事制裁。例如，行为人恶意利用AI换脸技术将原始视频篡改成被害人或其亲属朋友，通过视频连线的方式实施敲诈勒索或者诈骗行为，视频内容或因具备令被害人产生恐惧不安心理或者令其信服而陷入主观认识错误的情节而处分财产，内容并不一定有违法律道德但是此应用手段是导致被害人遭受损失的根源所在，正如刀枪不能被直接评价，只有利用刀枪的行为才是刑事评价的对象。这一分类可能会涉及到的具体罪名既包括侵犯公民人身法益类犯罪，如诽谤罪、侮辱罪，也包括侵犯公民财产类犯罪，如诈骗罪、盗窃罪、敲诈勒索罪。而对于后者而言，AI换脸伪造的目标视频内容本身承载刑事法律所禁止的内容。将技术应用所生虚假信息作为刑法所评价的对象，当然也将技术应用评价在内，但虚假内容的违法性才是后者的实害核心，故将两者一并评价。这一类别可能涉嫌传播虚假信息类犯罪，如非法利用信息网络罪，编造、故意传播虚假信息罪，编造、故意传播虚假恐怖信息罪，编造并传播证券，期货交易虚假信息罪等罪名，也会涉嫌妨害社会管理秩序类犯罪，如寻衅滋事罪，制作、复制、出版、贩卖、传播淫秽物品牟利罪或传播淫秽物品罪等。在《互联网信息服务管理办法》、《中华人民共和国网络安全法》、《互联网文化管理暂行规定(2017修订)》等法律法规文件中规定约十类违法信息，含括侵害国家法益、社会法益以及公民个人法益的内容，也为第二种类型的技术应用犯罪提供参考依据。

但是刑法在规制AI换脸类高新技术犯罪方面还有强化的空间。比如现有规制AI换脸技术的条文内容相对零散，在刑法中缺乏有针对性的条文内容对“深度伪造”一类的高新技术予以规制，一是非系统或针对性的条文规定，难以彰示此类技术应用的风险特征，二是列举式的规定使得违法信息内容覆盖范围有限，难以有效发挥刑事法律的预防与惩戒之功能。另外，部分刑事条文在规制此类技术犯罪时欠缺考量，比如两高发布的《关于办理利用信息网络实施诽谤等刑事案件适用法律若干问题的解释》，将点击、浏览以及转发次数作为认定网络诽谤“情节严重”的判定标准，量化性的指标虽然客观易于操作判定，但这一量化标准并不能实际反映行为的实质危害性，或言在现阶段信息网络传播极其便利且互联网受众基数巨大的背景下，此量化门槛过低，也就无形之中扩大了刑事犯罪的范围，虽然惩罚犯罪乃刑法之机能所在，但却扩张的刑罚范围却有违刑法谦抑精神所在。最后，我国的法律规范依旧遵循事后规制的路径，并不能对此项技术的不法应用产生强势控制效果。从上述罗列的条文来看，无论是民事侵权还是刑事犯罪，最终的责任追究都要求具体的损害后果，比如在刑事犯罪中均要求存在“情节严重”或者“造成严重后果”的入罪情节，这便意味着作为“AI换脸”目标对象的被害人要承担前期的损害后果，直至损害程度满足可追责条件才可回复自身权利。“AI换脸”所造成的损失可触发个体、社会甚至国家的三层次颠覆性效果，而且伪造行为所产生的误导效果在网络的催生下极易出现失控的局面，如果过分依赖于事后制裁并由此产生的警示效果，并不足以对潜在受害人带来充足的保护，也不会对此类不法行为的控制产生强力规制的效果，未引发公众对此类技术潜在风险的重视。

据此，为了优化AI换脸的刑事规制，即便目前不具备出台相关具有技术针对性法律规范文件的立法条件，但是仍然可以参照《网络音视频信息服务管理规定》的语言设计，将以“AI换脸”等深度伪造技术规定进入刑事法律条文中，以单独条文的形式突显此类技术不法应用的危害后果，发挥预警效果，而且以技术应用作为评价对象，可以含括此类技术犯罪的全部类型，避免出现有罪不能罚的情景。

此外，目前通过“AI换脸”从事不法行为的典型案例已经具有一定数量，为了引起各司法审判工作者的重视程度，可以通过发布审判指导案例的方式对各地方法律机关提供参考，借此加大宣传力度。为了发挥刑事法律更强有力的规制作用，除了要落实事后刑事追责之外，也可将刑法运用前置于技术设计源头以及中段信息网络服务提供方的责任落实，突破技术应用范围或者违反技术应用监督义务的从业者皆可纳入刑事归责主体范围，细究其中共犯关系以及犯罪主观方面，建立前-中-后的阶段性、多主体参与的刑事监管体系，以实现强势的刑事防控之功效。

青苗法鸣向全体青年学人进行长期征稿和专题征稿

一、征文大赛：

征文大赛以“娱乐圈违法犯罪问题的原因与规制”为主题，最高奖金800元。待10月31日收稿截止后，我们将组织评选。最终获奖结果将在11月上旬公布，并邀请获奖作者参加本主题的线上研讨会。线上研讨会记录将作为系列文章的“开幕式”进行首发。

大赛详细信息请点击：娱乐圈涉法问题有奖征文

二、长期征稿：

主要推送法学、文学、哲学、政治学、社会学、经济学等人文社会科学学科的学术类、思想类稿件，体裁不限，论文、时评、书评、影评、案例分析、译文等皆可。

以来稿质量为采用之标准，欢迎篇幅适中、论证详实、观点独到的稿件，来稿字数原则上不少于3000字。不对作者身份做要求，鼓励本科生练笔发声、交流进步。

为规范用稿，提高编辑质量和效率，来稿请以Word文档通过附件发至投稿邮箱：[e-mail]，并在邮件标题注明“投稿青苗法鸣”，邮件正文中附上150字内的作者简介（内容不限，需包含作者姓名等基本信息，亦可附上照片）。对于所收稿件，我们会尽快安排评审，并在3天内回复审稿结果。

稿酬等详情请点击：稿酬有多好？够买一箱钟薛高！

三、专题征稿

请务必在来信标题中注明“专题征稿+主题”。专题征稿期限为：2021年8月11日-2021年9月30日，超出期限范围内的投稿仍然可收录，但不享受基础稿酬提高的福利。

本次专题征稿聚焦的选题有：

1.“集资”“打投”有关纠纷及法律问题；

2. 疫情防控中涉及的刑法问题分析；

3. 中美贸易战与国际法；

4. 互联网企业不正当竞争分析； 

5.娱乐圈名誉权纠纷相关问题及反思； 

6.洗钱相关法律问题；

7.运动员的就业保障问题； 

8.个人破产法问题研究；

9.裁员与劳动争议；

10.劣迹明星的规制问题； 

11.监察机关法律监督工作研究； 

12. 校外办学的法律规制与分析。

稿酬等详细信息请点击：如何用知识获得超额收益？

本文责编 ✎ Zorro

本期编辑 ✎ Leila

推荐阅读

联系我们

长期收稿邮箱：[e-mail]

社群交流请添加公共微信：

公共微信1：qmfmggwx  

公共微信2：qmfmggwx2

付费咨询与讲座请添加小助手微信：qfxzsggwx

商务合作请添加微信：Fuermodian