刘学敏 | 人工智能时代“深度伪造辩护” 对刑事诉讼的挑战及其应对

点击蓝字关注我们

人工智能时代“深度伪造辩护”对刑事诉讼的挑战及其应对

推荐语

深度伪造技术的出现颠覆了合理辩护的格局，“深度伪造辩护”对诉讼程序的抗辩过程和寻求真相功能构成了新的威胁。文章就“深度伪造辩护”的内容及应用场景作出分析，就其可能对刑事诉讼制度产生的挑战进行阐释，从实体法、程序法和执纪规范三个角度就应对“深度伪造辩护”提出相关对策，为刑事司法应对人工智能时代新技术的挑战作了有益的探索和思考。

作者简介

刘学敏，厦门大学法学院教授，中国刑事诉讼法学研究会理事、厦门市诉讼法学研究会会长。主要研究领域为刑事诉讼法、证据法、司法制度。主讲《诉讼与正义》《刑事诉讼法学》课程分别入选国家精品视频公开课、国家级一流本科课程。主持国家及省部级科研教学课题十余项，出版《欧洲人权体制下的公正审判权制度研究》《量刑的理论与技术》学术专著两部，在《中国法学》《现代法学》等刊物发表学术论文数十篇。

摘要：深度伪造辩护的出现，可能消解刑事诉讼中对证据的信任基础，同时可能导致在刑事诉讼中出现“说谎者红利”的情形，甚至可能影响对案件事实的认定。面临人工智能时代“深度伪造辩护”对刑事诉讼的冲击，必须适时对刑事诉讼辩护制度进行改革。在程序法方面，需要由证据真实性审查，转向程序规则之限制；在实体法方面，应增设相关“深度伪造辩护”的罚则；在律师执业纪律规范方面，应将行政性监管罚则进行具体化。

关键词：人工智能；深度伪造辩护；刑事诉讼

一、问题的提出

深度伪造（Deepfakes）系一种能够生成高逼真度视频、照片的新一代数字操纵技术，正伴随着人工智能迅猛发展之风，越来越渗透进人们的日常生活。2017年，在网站“Reddit”上，一位匿名用户将名人面孔叠加到色情视频上，他的用户名为“深度伪造（Deepfakes）”，这一词汇便由此而来。这一技术最初很复杂，然而如今不需要任何成本，也不需要专门的设备和程序，任何人都可以在几秒钟内创建一个深度伪造视频。自深度伪造技术问世以来，自动深度伪造检测系统已经开发出来。起初深度伪造检测系统确实可以高效率检测某一图像或视频是否存在被伪造，然而随着深度伪造技术的进步，深度伪造检测技术只能检测出约65%的深度伪造产品。而这一技术的滥用可能性，也引发了社会各界的极大关注。2022年11月3日，《互联网信息服务深度合成管理规定》经国家互联网信息办公室审议通过。我国《法治社会建设实施纲要（2020—2025年）》提出，完善网络信息服务方面的法律法规，制定完善的涉及算法推荐、深度伪造等新技术应用的规范管理办法。

 深度伪造内容已经进入刑事诉讼程序，且产生了“深度伪造辩护”。深度伪造辩护是在深度伪造技术及其他人工智能技术发展及普及之下产生的一种辩护模式。国外已经出现多起涉及“深度伪造辩护”的案件。国内目前尚未见到公开报道的“深度伪造辩护”案件，但相关深度伪造内容已进入诉讼案件中。国内学者目前主要围绕“深度伪造”所产生的实体性风险及刑事违法犯罪问题展开讨论，研究“深度伪造”对刑事诉讼制度可能产生的影响者较少。

当前，深度伪造内容正在侵入我国司法系统，威胁到司法系统的真相调查功能。深度伪造可能影响法院诉讼的方式涉及多个方面，包括当事人伪造证据赢得民事诉讼，法官错误地认定他人构成犯罪，以及辩护律师故意利用“深度伪造辩护”来影响法官对事实的认定。随着深度伪造技术的进步，人们越来越难以分辨什么是真实的，法官可能会开始质疑适当接受的证据的真实性，这反过来可能会对司法系统产生腐蚀作用。

深度伪造内容的出现，也对我国刑事辩护产生了影响。我国《刑事诉讼法》第37条规定：“辩护人的责任是根据事实和法律，提出犯罪嫌疑人、被告人无罪、罪轻或者减轻、免除其刑事责任的材料和意见，维护犯罪嫌疑人、被告人的诉讼权利和其他合法权益。”辩护人应当积极、尽责地履行相关辩护行为，以维护犯罪嫌疑人、被告人的诉讼权利。我国目前的刑事辩护大致可以分为无罪辩护、量刑辩护、罪轻辩护、程序性辩护和证据辩护五种。目前，没有实体法律规范、程序规则及律师执业纪律规范直接涉及在法庭上提出“深度伪造辩护”的问题。现有的法律和执业纪律规范是在深度伪造技术出现之前制定发展的，它们能够提供的指导非常有限，并不能阻止律师利用“深度伪造”的存在进行辩护。

本文拟就“深度伪造辩护”的内容及应用场景作出分析，同时就其可能对刑事诉讼制度产生的挑战进行阐释，最终从实体法、程序法和执行纪律规范三个角度就应对“深度伪造辩护”提出相关对策。

二、“深度伪造辩护”的内容及应用场景

“深度伪造辩护”的兴起离不开。因此，在了解“深度伪造辩护”的内容之前，有必要先对“深度伪造技术”作相关的解释说明。

（一）“深度伪造技术”的内容

根据国家互联网信息办公室、工业和信息化部、公安部发布的《互联网信息服务深度合成管理规定》，深度合成技术是指“利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术”，具体包括了生成或编辑文本内容的技术、生成或编辑语音内容的技术、生成或编辑非语音内容的技术、生成或者编辑图像、视频内容中生物特征的技术、生成或编辑图像、视频内容中非生物特征的技术和生成或编辑数字人物、虚拟场景的技术。可以看出，“深度伪造技术”具有广泛的应用途径。以我们当下所熟知的“换脸”技术来看，便是应用了“深度伪造”中的人脸替换、编辑、操控等编辑图像、视频内容中生物特征的技术；而利用语音、视频进行电信网络诈骗，则是运用了“深度伪造”中的语音转换、人脸生成等生成或编辑语音内容、视频内容等技术。按照“深度伪造”内容主要表现形式的不同，本文主要讨论三类“深度伪造”内容，分别为照片和视频图像的“深度伪造”内容、语音克隆内容和文本合成内容。

1.照片和视频图像的“深度伪造”

当前深度伪造技术生成内容的方式主要包括两种，即生成对抗网络和自动编码器。生成对抗网络是机器学习算法，它可以通过分析一组图像来创建具有可比质量水平的新图像；自动编码器可以从图像中提取具有面部特征的信息，并利用这些信息构建具有不同表情的图像。

照片和视频图像的“深度伪造”，其技术本质在于对图像处理能力的突破，而这一技术之所以能得到迅猛的发展，“深度伪造”的照片、视频足以达到“以假乱真”的程度，得益于三项关键性要素。其一，计算机视觉科学家开发了可以自动映射图像中的面部标志的算法，从而产生了面部识别技术。其二，互联网的普及，尤其是各类自媒体、短视频等照片和视频分享平台的兴起，以及个人在社交媒体软件上上传大量的照片和视频等，无形之中生成了海量的可供获取的视听资源数据库。换言之，海量视听资源数据库成为深度伪造技术应用的基础源。其三，图像提取能力的提高。这三项关键性要素为深度伪造技术的蓬勃发展创造了先决条件。而生成式人工智能（GPT）的出现，彰显了人工智能在周期学习和自主学习方面的巨大潜力。它可以检测大型数据集中的模式，并生成类似的产品。同时，生成式人工智能还可以从推导算法的输出中学习，以便在下一个生产周期中改进相关算法。

实际上，早在数字图像技术发明之前，摄影图像就存在被操纵和修改的可能。在数字图像技术之前，可以将实际照片与底片进行比较，以验证图像的真实性。在数字成像中，原始文件格式是胶片底片的对应格式。原始文件格式由数码相机产生，是图像的原始或未受影响的像素信息。各种图像的取证方法都集中在特定的图像特征上，而这些特征往往与处理后的图像相去甚远。由于视频数据实际上总是以压缩格式可用，并且多次使用高压缩因子来存储它，所以大多数对视频内容的分析证明相对于静态图像的分析更加困难。强压缩比可能会取消或致命地损害现有的足迹，从而使处理历史完全或部分不可再恢复。这些挑战今天更加突出，因为在线上传和分发的视频，特别是社交软件、社交媒体平台上传的视频，一般都会被压缩。这些挑战也阻碍了对数字图像和视频的可信性、准确性和真实性的核查。

2.语音克隆内容

语音克隆技术可以让电脑模仿人类的声音，也被称为音频深度伪造、语音合成或语音转换，可以生成与目标人声极度相似的合成语音。我们所熟知的文本转语音技术（TTS）已经成为日常电子消费品的标准功能，如Google Home、Apple Siri以及导航系统。再如一家名为“Lyrebird”的公司提供了一款“TensorFlow”的音频版本，任何人都可以模仿一个特定人的声音说任何话。该公司网站的演示页面提供了奥巴马和特朗普的声音，足以达到“以假乱真”的程度。

由于各种易于使用的人工智能应用程序的出现，创建语音克隆的障碍正在减少。这些系统能够模仿人的声音，并能“朗读”输入的文本。随着生成对抗网络的应用，语音克隆的质量得到了迅速提高。生成式人工智能技术的应用为语音克隆的可信度和创建可信度高的语音克隆内容提供了支持。然而，语音克隆内容让人信服的不仅仅是声音本身，还包括与目标对象的风格和情景语词相匹配。由此可见，语音克隆技术与文本合成技术密切关联，文本合成技术可用于自动生成与目标对象风格相似的内容。

3.文本合成内容

在深度伪造的背景下，文本合成技术被用于生成模仿目标的独特说话风格的文本。这些技术严重依赖于自然语言处理（Natural Language Processing, NLP）。作为一门计算机科学和语言学的交叉科学学科，NLP主要应用于改善人类和计算机之间的文本和语言交互。这样的NLP系统可以分析大量的文本，包括特定目标的音频片段。这导致该系统在一定程度上能够解释语音（包括文字，以及对情感的微妙之处和表达意图的理解），从而形成一个人说话风格的模型，反过来也可以合成新的语音。

在实践中，深度伪造技术往往不是以单一技术的形式存在，而是两种或者两种以上的技术杂糅在一起而应用。例如，语音克隆技术会与文本合成技术相结合，形成更加符合特定场景化、人物匹配程度更高的“深度伪造内容”，再结合上照片、视频图像的“深度伪造”，将会给深度伪造检测造成很大的难题。目前来看，深度伪造检测主要有两种不同的方法：手动检测和自动检测。手动检测需要技术熟练的人员检查照片、视频材料，寻找可能暗示伪造的矛盾之处或线索。人工方法在处理少量可疑材料时是可行的，但与现代社会使用视听材料的规模不相适应。自动检测软件可以以一个（组合的）可检测的附随物为基础进行检测。多样的检测方法可能看起来可靠，但也存在一定的问题。检测算法的性能往往通过将其与已知深度伪造视频的公共数据集进行基准测试来衡量，然而对检测逃避的研究表明，即使对深度伪造生产技术进行简单的修改，也会大大降低检测器的可靠性。有学者表明，其研究团队通过基于深度学习的方法，设计了名为“Deepfake Tagger”的方法，结合了有效的编码器和解码器设计，将消息嵌入到面部图像中，有助于对深度伪造内容的检测。

许多检测方法已经被开发出来用于深度伪造检查。目前已经有几个数据库，如Face-Forensics++，包括数千个深度伪造和非深度伪造视频的例子，这些例子中的大多数依赖于深度神经网络。然而，真正的试金石是在这些数据库中被训练用来检测深度伪造的深度神经网络在真实情况下的工作能力。数据库包括原始和操纵的视频，因此，如果深度神经网络正确识别了深度伪造，就可以确定其是否伪造。此外，该系统还使用有限的可用数据来训练其对深度伪造的检测。

检测器面临的另一个问题是，在社交媒体和聊天应用程序等在线平台上分享音频图形材料时，通常会被压缩或缩小尺寸。声音和图像压缩所产生的像素和人工制品数量的减少可能会干扰检测器检测深度伪造的能力。也有学者从深度伪造技术规制角度，提出了主动防御深度伪造人脸的新方法，通过设计可持续痕迹和可擦除痕迹，将这两种痕迹添加到训练人脸中，可以影响深度伪造模型的训练。有了这些跟踪的训练人脸，深度伪造模型可以只在合成人脸上插入可持续痕迹，然后通过不同的解码器来解码图像中的这些痕迹，以有效检测相关视听资料是否被深度伪造。

深度伪造程序结合了“深度学习”和“伪造”，使用人工智能制作这些伪造的视听资料。这项于2017年底开发并在互联网上推出的新技术，使得任何拥有智能手机的人都可以将他人的动作和言辞以令人信服的方式映射到其他人的脸部和声音上，使他们看起来在说或做任何事情。将越多目标人物的视频和音频资料输入计算机的深度学习算法，其伪造的视听内容产生的效果就越令人信服。

（二）“深度伪造辩护”的含义

照片和视频经常被用作公安机关调查和法庭确认案件事实的证据，因为它们被认为是可靠的事实来源。然而，深度伪造技术的出现导致照片和视频变得不再可靠。深度伪造辩护系一种旨在推翻控方证据真实性根基的辩护模式，尤其应用于针对视听资料、电子数据证据的质证方面。其一般出现在两种情形之下：

第一，在法庭调查阶段，辩护律师反对接受真实证据，声称证据系深度伪造而来。这种反对意见对有效起诉提出了重大挑战。例如，在一个刑事案件中，视听证据被检察官认为是真实的，但被告辩称这是不真实的，那么检方的举证责任（the burden of proof）现在变成了被动举证而不是主动举证——许多检察官习惯于扮演主动举证的角色。这种情况下，深度伪造辩护不仅使检察官处于不同寻常的地位，而且可能证明这点是一个不可能实现的负担，因为要证明某项视听证据不是一个能够排除合理怀疑的深度伪造是非常困难的。2020年，凯尔·里滕豪斯(Kyle Rittenhouse)被控在威斯康星州的一次种族主义抗议活动中射杀了几名示威者。在这次备受瞩目的刑事审判中，深度伪造辩护得到了展示。在审判期间，里滕豪斯的律师反对检方要求在一台iPad上播放枪击案的监控录像。辩方反对的理由是尽管该录像显示里滕豪斯枪杀了其中一名受害者，但iPad内置的放大和缩小图像的功能是不可信的，因为iPad的人工智能操纵改变了图像。被该观点说服的法官在无法证明iPad的使用没有改变图像的情况下，不允许检察官播放这段视频。

第二，在法庭辩论中，辩护律师促使事实认定者质疑视听证据、电子数据的真实性，从而产生深度伪造辩护的效果。辩护律师提出这个论点，纯粹是为了利用法官潜在的对所有视听资料证据的真实性日益增长的不信任和偏见。其背后的逻辑在于，心理学研究表明，人类重视视觉高于其他指标，往往接受图像和其他视听资料所呈现的内容。基于此，法律制度历来表现出强烈的倾向于承认视听资料作为证据，因为它很有说服力。这种情况下使用深度伪造辩护的一个例子，就是2021年1月6日成千上万的视听图像记录了行为人袭击美国国会大厦的过程。在袭击美国国会大厦案件中，盖伊·雷菲特（Guy Reffitt）的辩护律师向陪审团提出了辩护意见，认为雷菲特携带枪支冲破了安全屏障并领导了袭警的视听证据都是伪造的。值得注意的是，雷菲特的律师在庭审期间没有任何证人或出示其他证据，深度伪造辩护是他向陪审团提出的唯一观点。

（三）“深度伪造辩护”与传统针对证据真实性存疑辩护的区别

如果说，将“深度伪造辩护”等同于传统刑事诉讼中针对证据真实性存疑而进行的辩护，那显然是大错特错，没有关注到“深度伪造辩护”之特性。

首先，两者所依赖的技术基础不同。“深度伪造辩护”依赖于深度伪造技术，这一技术利用深度学习和人工智能技术创建虚假内容的方法，具有高度的技术性基础，与传统的针对证据真实性存疑有着本质上的不同。传统针对证据真实性存疑的辩护，仅仅依赖于辩护人、被告人对证据真实性及其瑕疵的主观揣测，往往这种辩护所指向的证据本身“非真即假”，而法官往往可以通过一定的鉴别手段来辨明证据的真伪。以辩护人对某书证证据的签名真伪存疑为例，如果辩护人提出该书证证据的签名并非被告人本人所签署，在进行证据真实性存疑的辩护时，公诉机关可以申请对签名进行鉴定，以确定该证据的真实性，这在当下刑事诉讼中是极易解决的。然而，对于“深度伪造辩护”，其往往针对视听资料、电子数据系“深度伪造”取得，该种情形下，公诉机关很难利用现有技术对涉案视听资料、电子数据是否存在“深度伪造”进行鉴定。而且，由于技术存在较高的专业性，鉴定意见看起来也并不那么可靠。相较于传统针对证据真实性存疑而提出的辩护对整体刑事诉讼进程的影响较小，“深度伪造辩护”对整体刑事诉讼进程的冲击是不可想象的。

其次，从辩护效果角度来看，“深度伪造辩护”与传统针对证据真实性存疑辩护所欲追求之效果不同。传统针对证据真实性存疑之辩护，一般是一种“消极辩护”，其对某一证据真实性存疑所主张，往往在于排除该证据，一般不能从根本上推翻整体刑事追诉之基础事实。而与之不同的是，“深度伪造辩护”是一种“积极辩护”，辩护律师所提出的此辩护，意图从根本上消解被告人所实施的犯罪基础事实。例如，在关键性监控录像中，辩护律师提出该监控录像内容系经过“深度伪造”所得，监控录像中的被告人并非真实被告人而系“深度伪造”而来。因此，其辩护可以从根本上推翻公诉人所主张的被告人实施犯罪行为的基本事实。

最后，从辩护所产生的影响来看，传统针对证据真实性存疑辩护与“深度伪造辩护”所产生的影响也有本质的差别。在现有技术条件之下，传统针对证据真实性存疑辩护的证据真实性即使存在瑕疵，也可以通过相关手段进行查明，以确认最终案件事实。该种辩护不会对事实认定者产生影响。然而，“深度伪造辩护”作为一种底层技术极为复杂的辩护模式，其不仅对控方的举证造成影响，更对事实认定者准确认定案件事实及正确裁判造成重大影响。如果“深度伪造”证据频繁出现在刑事诉讼中，将会动摇刑事诉讼“证据审”之基本立场。事实认定者如何准确采信证据，将会面临巨大的障碍。

三、深度伪造辩护的挑战

（一）“深度伪造辩护”会消解刑事诉讼中对证据的信任基础

根据辩护人是否提出积极的案件事实或诉讼主张，可以将辩护分为消极辩护与积极辩护。所谓“消极辩护”，是指论证控方所指控的事实或主张不成立的辩护形态，其本质上是一种阻断从“起点到终点”论证模式的辩护，也有学者称之为“以子之矛攻子之盾”；所谓“积极辩护”，是指辩护方通过提出一种新的案件事实或论证一种新的诉讼主张来达到削弱或推翻控方指控的效果，其本质上是一种推翻“起点”论证的辩护，也有学者称之为“以己之矛攻子之盾”。基于“积极辩护”的基本理论，也有学者将其进一步分为“狭义上的积极辩护”与“广义上的积极辩护”，前者是指“案件实体性辩护”，后者则包含了前者及程序性积极辩护事由和量刑性积极辩护事由。

深度伪造辩护是一种积极性辩护，其直指刑事诉讼中关键性证据系深度伪造，旨在推翻控方的指控，这势必会给检察机关指控犯罪造成过高的证明成本。尤其在存在大量视听资料、电子数据的案件中，视听资料往往是最能够直接证明案件事实的证据，但若辩护律师提出相关视听资料系“深度伪造”而来，那么检察机关应当如何来应对这一辩护主张，如何证明相关证据并非“深度伪造”，则成为一件难题。

与其他感官相比，人们更信任自己的视觉。此外，视觉在大脑的解剖和功能中具有优先地位，导致图像处理比文字处理更快。因此，图像比其他交流工具更能唤起认知和情感，大脑处理它们的轻而易举可以增强对内容真实的信念。自19世纪摄影技术出现以来，公众对任何新视觉技术的最初反应都是对视觉证据地位的反复恐惧，这并不奇怪。与此同时，深度伪造技术的快速传播，加上社交媒体和消息应用的放大能力，为这些旧的担忧提供了新的视角。随着公众越来越意识到被逼真的深度伪造内容愚弄的风险，他们开始不信任真实的视频。以加蓬总统阿里·邦戈的视频为例：阿里·邦戈中风，在公众视线之外数月，据传病情严重或死亡。这段旨在平息公众恐惧的视频被攻击为“深度伪造”，进一步证实了人们对他健康状况不佳的猜测。对视频的控制甚至导致了一场不成功的军事政变。迄今为止，关于这段视频是否深度伪造的猜测仍在继续，但它引发的不确定性和不信任是一个警示故事，说明公众在深度伪造时代无法衡量真实性。

深度伪造辩护”对我们法律制度的抗辩过程和寻求真相的功能构成了新的威胁，其围绕作为对被告不利证据的视听资料是伪造这一前提而构建。深度伪造因其为律师创造机会针对包含真实证据在内的证据提出反对意见和论点而给庭审程序带来了挑战。此外，由于律师执业规范倡导律师积极辩护，深度伪造的存在无疑会促使律师利用事实认定者的偏见和对真实性的怀疑。正因如此，即使律师知道证据是真实的，他们也可能在事实认定者的头脑中播下质疑所有视听资料的真实性的种子。

（二）“深度伪造辩护”会导致“说谎者红利”

“深度伪造”内容是经过伪造或修改的视听内容，该内容可以使观察者认为它记录的是一个人的真实言论、行为或形象，至少让人认为视听内容与某人、某事件具备相似性，鉴别真伪难度极大。深度伪造通过将一个人的脸部特征叠加到另一个人的身体上或改变一个人的言语内容，创造出一个虚假的“现实”。深度伪造使得任何拥有智能手机的人都可以将他人的动作和言辞以令人信服的方式映射到其他人的脸部和声音上，使他们看起来在说或做任何事情。将越多目标人物的视频和音频资料输入计算机的深度学习算法，其伪造的视听内容产生的效果就越令人信服。

深度伪造存在的事实会导致人们相信真实的图像是假的，这被称为“说谎者红利”。谎言不仅涉及从未发生的事实，而且很多时候谎言也被散播以破坏真相。深度伪造使撒谎者更容易否认真相。刑事指控往往需要得到真实的视频或音频证据的支持，但随着公众越来越意识到视频和音频可以令人信服地伪造，撒谎者会利用这种认识来逃避对自己行为的指控，指称指控背后真实的视频和音频属于深度伪造。

在国外已经有试图利用“说谎者红利”的案例，尽管最终未能成功。弗洛伊德死亡两周后，来自密苏里州的一位共和党国会候选人发布了一份23页的“报告”，推出了一个阴谋论，即弗洛伊德已经在多年前去世，有人利用深度伪造技术将他的脸部叠加到一位前NBA球员的身上，制作了一段视频，煽动种族矛盾。深度伪造的存在促使当事人及其律师利用这一存在在事实认定者的头脑中播下怀疑的种子，使其质疑所有视听资料的真实性，即使律师知道证据是真实的。

深度伪造辩护在刑事诉讼中应用的“说谎者红利”，最直接的便是利用控方所举证的证据系“深度伪造”而否认实施了相关犯罪行为，最终实现脱罪的目的。尤其在“深度伪造”的视听资料证据真实性的辨认难度提升的情况下，“深度伪造辩护”的提出很有可能动摇事实认定者对案件证据的采信，可能导致有罪者逃脱刑事责任的“说谎者红利”。这反过来甚至会“激励”更多的辩护人故意在刑事诉讼中说谎，肆意提出“深度伪造辩护”。

（三）“深度伪造辩护”会严重影响事实认定者对案件事实的认定

如今，视听资料是许多刑事诉讼证据中不可或缺的组成部分。证据提出者在提交证据之前，必须证明其证据是真实的。这种事实认定的过程之所以有效，是因为证据可以被快速、高效和可靠地评估。法庭事实认定的系统依赖于人类的先天能力——通过相信自己的感官来判断什么是真实的，即“眼见为实”。深度伪造证据和“说谎者红利”颠覆了这个认定过程。随着深度伪造技术的不断改进并逐渐接近与现实难以区分的程度，事实认定者将难以通过肉眼判断证据是否代表其所声称的事实的真相。检测深度伪造的手段没有跟上用于创建它们的技术的步伐，因此，引入深度伪造证据和使用“说谎者红利”对刑事诉讼中事实认定者的司法工作造成了严重的认定挑战，其核心挑战在于如何证明视听资料的真实性或非真实性，进而影响案件事实的正确认定。

辩护律师提出“深度伪造辩护”，这个论点纯粹是为了利用事实认定者潜在的对所有视听证据的真实性日益增长的不信任和偏见。其背后的逻辑在于，心理学研究表明，人类重视视觉高于其他指标，且往往接受图像和其他视听资料所呈现的内容。基于此，法律制度历来表现出强烈地倾向于承认视听资料作为证据，因为它很有说服力，而且很容易让事实认定者理解和记住。

“深度伪造技术”依赖于人工智能和机器学习。机器学习是人工智能的一个分支，允许计算机系统直接从示例、数据和经验中学习，并通过从数据中学习来执行复杂的过程，而不是遵循预先编程的规则。GPT（Generative Pre-trained Transformer）等生成式人工智能的出现，表明人工智能已经具备了极强的深度自主学习能力。在此基础上，“深度伪造技术”势必可以制造出更多以假乱真，难以识别真假的相关内容。

深度伪造破坏了公众信任真实视频的能力。事实认定者可能对相信他们在真实的、未经校正的视频中看到的内容持怀疑态度，因为他们认为图像和视频很容易被伪造。换言之，由于深度伪造已经存在，而且很难被发现，这会让法官质疑视频证据所显示的案件事实。

四、当前规制“深度伪造辩护”的法律规范及不足

律师虚假陈述这一难题，从本质上来讲源自律师自身的角色冲突。受社会历史因素影响，新中国成立后的一段时间内，我国律师制度处于缺失状态。1979年底，司法部宣布恢复律师制度。1980年，全国人大常委会颁布《律师暂行条例》，该条例将律师定位为“国家法律工作者”。作为“国家法律工作者”，有职责去维护司法的纯洁。1996年，我国制定第一部《律师法》，对律师的定位由“国家法律工作者”转变为“为社会提供法律服务的执业人员”。2001年，我国修改《律师法》，但对律师的定位未有改变。直到2007年，我国再次修改《律师法》，将律师的定位修改为“为当事人提供法律服务的执业人员”，凸显了律师应当维护当事人合法权益。此后2012年、2017年修改的《律师法》，均未修改律师系“为当事人提供法律服务的执业人员”。因此，律师必须运用他们的技能和努力，积极主张和促进委托人的事业，以保护委托人的信心。但作为辩护人和受托人，律师往往利用言辞为委托人编造事实。

同时，律师作为法律职业者，也对司法系统内的其他人负有责任，包括对法庭的坦诚和对对方律师、当事人、证人以及其他人的公正。《律师法》第2条第2款规定，律师应当维护法律正确实施，维护社会公平和正义。1996年，我国第一部《律师法》颁布，后分别于2001年、2007年、2012年、2017年修正。无一例外，历次《律师法》均要求律师恪守执业纪律规范，并要求律师执业必须“以事实为根据，以法律为准绳”。当然，他们也有责任不参与涉及不诚实、欺诈、欺骗或不正当手法引诱的行为。

上述两方面相互矛盾的义务，增加了规范律师行为的法律的复杂性。随着我们的社会正在转变为一个被诸如人工智能和深度伪造等复杂新技术所主导的社会，立法者和律师协会必须考虑现有的程序法、实体法以及律师执业规范是否足以解决诸如深度伪造辩护等新问题。

（一）程序法规制内容及其局限性

我国《刑事诉讼法》第四章专章规定了“辩护与代理”的相关规则，其中第37条明确规定了辩护人的责任是根据事实和法律来开展相关辩护工作，维护委托人的相关诉讼权利和其他合法权益。既然辩护人可以提出被告人无罪、罪轻或者减轻、免除其刑事责任的材料和意见，那么旨在推翻控方证据真实性的“深度伪造辩护”，则看似成为一种合法的辩护手段。然而，基于前述“说谎者红利”理论，若辩护律师肆意提出“深度伪造辩护”，那么将会给刑事诉讼证据审查增加很多的诉讼成本和资源，同时又会消解法官基于案件证据对刑事案件事实的认定能力。

《刑诉法司法解释》对于辩护律师在刑事诉讼的不同阶段享有的权利作出了具体的规定，但对于辩护律师采取何种辩护以及具体的辩护方式和内容，并没有任何的限制。因此，从程序法规定来看，目前对于“深度伪造辩护”并没有有效的实质性规定。

从域外来看，美国《联邦刑事诉讼规则》中没有任何规定对律师不诚实行为进行制裁，也没有涉及律师进行虚假辩护的行为问题。因此，在刑事审判中，当被告毫无根据但令人信服地辩称针对他们的视听证据系“深度伪造”时，控方的回应选择是有限的。控方可以反对这些论点，并试图将其驳回，但损害可能已经发生了，因为事实认定者不太可能在他们的审议中忽略这个论点。在这种情况下，控方可能会寻求无效审判。《美国法典》第28编第1927条规定，任何律师“如果在任何情况下不合理并无理地使诉讼程序增加，法院可能会要求他个人支付因这种行为而合理产生的超额费用、开支和律师费”。根据这一条款作出制裁裁决的目的是“阻止拖延的诉讼实践，并惩罚远远超过积极辩护限度的侵略性策略”。这是法院可以用来限制律师使用“深度伪造辩护”的另一个工具。但对于律师提出“深度伪造辩护”是否属于“无理地使诉讼程序增加”，又缺乏明确的规定。

（二）实体法内容及其局限性

我国《刑法》第306条规定了“辩护人、诉讼代理人毁灭证据、伪造证据、妨害作证罪”，针对辩护人毁灭、伪造证据，或者帮助当事人毁灭、伪造证据，或者威胁、引诱证人违背事实改变证言或者作伪证的，构成“辩护人毁灭证据、伪造证据、妨害作证罪”。但仅仅就控方的证据提出“深度伪造辩护”，显然不符合前述犯罪构成要件，而且“深度伪造辩护”行为对法益所造成的危险或风险是否已经达到入罪的程度，也是一个有待商榷的问题。

我国《律师法》第四章专章规定了“律师的业务和权利、义务”，第36条规定：“律师担任诉讼代理人或者辩护人的，其辩论或者辩护的权利依法受到保障。”第37条第二款规定：“律师在法庭上发表的代理、辩护意见不受法律追究。但是，发表危害国家安全、恶意诽谤他人、严重扰乱法庭秩序的言论除外。”可见，我国在实体法上充分保障辩护律师的辩护权，其在法庭上发表辩护意见不受法律追究。而“深度伪造辩护”很难归于“危害国家安全、恶意诽谤他人、严重扰乱法庭秩序”的情形。

我国《律师法》第40条第一款第（七）项规定了律师在执业活动中不得“故意提供虚假证据或者威胁、利诱他人提供虚假证据，妨碍对方当事人合法取得证据”，同时第49条规定了该种情形之下，“由设区的市级或者直辖市的区人民政府司法行政部门给予停止执业六个月以上一年以下的处罚，可以处五万元以下的罚款；有违法所得的，没收违法所得；情节严重的，由省、自治区、直辖市人民政府司法行政部门吊销其律师执业证书；构成犯罪的，依法追究刑事责任”。由此可见，我国在刑事诉讼中对辩护人的规制，主要在于辩护人提供虚假证据或者妨害合法取证，对于辩护人发表何种辩护意见，除去三种情形之外，没有任何限制。这意味着从实体法角度来看，对于“深度伪造辩护”的规制，处于空白。

（三）律师执业规范及其不足

对于律师执业准则，我国自1979年恢复律师制度以来的相当长的一段时间内，仍处于摸索阶段。1993年司法部制定《律师职业道德和执业纪律规范》（下称“《纪律规范》”）。该规范第6条规定，律师在全部业务活动中坚持“以事实为依据，以法律为准绳”。可以看出，规范要求辩护律师在执业过程中应当尊重案件事实。《纪律规范》第13条列举了7项律师在代理参与诉讼和仲裁活动中应遵守的执业纪律，其中包括了“不得采用歪曲事实、曲解法律、伪造证据等手段影响和妨碍司法机关、仲裁机关和行政执法机关对纠纷案件的裁决和处理”。但对于辩护律师说谎如何规制，则缺乏明确的规定。换言之，在新时代对于辩护律师的“深度伪造辩护”，很难说其行为违反了《纪律规范》，而且也缺乏相应的惩处规定。

2008年7月18日，司法部发布《律师执业管理办法》（下称“《执业办法》”），后于2016年进行修订。根据《执业办法》第40条之规定，辩护律师不得以歪曲事实真相的方式，发表严重扰乱法庭秩序的言论。然而，该规定较为笼统，不够具体，如果仅仅依照该规定，对于辩护律师不合理地提出“深度伪造辩护”，无法判断是否属于违反行政性执业规范的行为。

从域外来看，美国律师协会1983年制定了《律师执业行为准则》（下称“《准则》”）。目前的规则涉及一系列人们可能认为不诚实、欺骗或不真诚的执业行为，包括在各种情况下未能纠正虚假陈述和其他不披露的行为、轻率的虚假陈述、具有误导性但不一定是字面上的虚假的陈述以及具有误导性的行为。《准则》第3部分规范了律师的行为，《准则》3.1要求律师只能在法律和事实的基础上提出索赔要求，律师向法庭提出无关紧要的指控违反了这项规定，会受到处罚。在大多数涉及《准则》3.1的案件中，主要的事实在于律师未能为其当事人的指控提供证据。但是，深度伪造辩护意在破坏事实，使人们质疑证据的真实有效性。律师使用深度伪造辩护可以辩称，相关视听资料证据是虚假的。在证据不存在的情况下，识别违反《准则》3.1要容易得多。但是，如果控方或原告的证据存在，而被告方断言证据是伪造的，那么就很难找到被告方违反《准则》3.1的证据。

由此可见，程序法、实体法和律师执业规范并没有明确规定律师因使用深度伪造辩护而受到纪律处分或法律制裁。各种有关律师不当行为案件的结果表明，在律师是否以及何时可以从事欺骗方面缺乏法律共识。对律师实施欺骗是否可以允许的具体判断可能会导致公众对律师的不信任、律师对执业规范的困惑，并最终导致执业规范无法执行或执行不力。事实上，如果每个律师都可以自由地单方面确定禁止欺骗的例外情况，那么律师执业规范将不再起到约束的作用，它们只是指导意见而已。为了维护法律职业的诚信和保护律师，必须制定健全、明确、可执行的法律和执业标准，有效地约束辩护律师提出“深度伪造辩护”的行为。

五、应对“深度伪造辩护”的策略

鉴于目前在规制“深度伪造辩护”方面，程序法、实体法和律师执业规范都存在一定程度的不足，因此，需要针对性地提出多维度的应对策略。

（一）程序法方面的解决方案：由证据真实性审查，转向程序规则之限制

毋庸置疑，在整个刑事诉讼中针对证据的审查都是重点内容，因此，刑事诉讼传统上对辩护律师涉嫌伪造证据给予了高度关注。但是，在较多人工智能证据尤其是生成式人工智能证据进入刑事诉讼的情况下，法官对证据真实性的认定越来越审慎，“深度伪造辩护”则可能对事实认定者认定案件事实产生较大的影响。因此，对于辩护律师可能提出的“深度伪造辩护”，应当在刑事程序法方面作出相关规定，以有效应对其可能对刑事诉讼产生的挑战。

一方面，随着人工智能和深度伪造技术的不断提高，通过技术手段检测某一视听资料证据是否为“深度伪造”的难度越来越高；另一方面，囿于智识能力所限，刑事案件事实认定者更无法直接识别、判断某一视听资料证据是否存在被“深度伪造”的可能，且该判断往往需要较长的时间成本。因此，对于辩护律师提出关键证据系“深度伪造”的辩护意见，事实认定者应当摒弃对证据客观真实与否的审查，从程序法上，设定相关的程序规则，规范“深度伪造辩护”的适用情形。

首先，应当对辩护律师发动“深度伪造辩护”的前提条件和适用情形作出明确规定。例如，一般情况下，针对书证、物证并不太存在深度伪造的情形，辩护人针对相关书证、物证，便不能提出“深度伪造辩护”。再比如，对于明显可以判断相关视听资料、电子数据不存在“深度伪造”可能的，亦不应当允许辩护律师提出相关辩护动议。总之，辩护律师提出“深度伪造辩护”，应当基于一定的基础判断和相关证据佐证，不可以在毫无依据的情况下随意提出“深度伪造辩护”。

其次，需要对辩护律师出于恶意或者毫无依据地提出“深度伪造辩护”，规定相应的程序性罚则。换言之，必须从程序法上对故意说谎或者有意增加刑事诉讼司法成本的辩护律师，苛以相关不利的程序性后果。通过相关不利后果和罚则的设置，实现对辩护律师随意发动“深度伪造辩护”的一般预防。对于辩护律师主观“恶意”之判断，主要从证据形式、提取过程、保藏条件等方面来判断相关证据是否明显不是“深度伪造”。换言之，辩护律师提出证据系“深度伪造”，必须有一定的合理依据，否则被推定为主观恶意。

（二）实体法的回应：增设相关“深度伪造辩护”罚则

运用程序性制裁来遏制“深度伪造辩护”的解决方案，可能不会是一种对深度伪造辩护的有力回应。因此，实体法的补救措施也应该被考虑。修改《律师法》相关内容提供了另一个对抗“深度伪造辩护”的答案。例如，对于查证属实的辩护律师故意提出“深度伪造辩护”来误导事实认定者的，可以对辩护律师处以一定的处罚。

《刑事诉讼法》规定了被告人有权获得辩护，而被告人辩护权的实现则主要依赖于辩护律师。辩护律师在刑事诉讼中充分履行辩护职责，从宪法角度来看亦是充分保障其言论自由之需要。而我国《律师法》也规定律师在法庭上发表的代理、辩护意见不受法律追究。目前，我国刑事诉讼法有关辩护律师应当遵守的禁止性规则，主要为不得帮助犯罪嫌疑人、被告人隐匿、毁灭、伪造证据，不得威胁、引诱证人作伪证等行为。刑事诉讼的事实主要依赖于证据，而“深度伪造辩护”的提出，旨在消减或摧毁事实认定者对证据的认定和对案件事实的判断。若不对此加以约束，其对刑事诉讼制度之冲击完全不亚于辩护人伪造证据或者引诱他人作伪证对刑事诉讼所造成的危害。我们考虑从实体法角度增设对于随意及恶意提出“深度伪造辩护”的罚则，最根本的原因在于“深度伪造辩护”与其他类型的辩护存在着本质上的区别。为了确保司法程序的正常运作，国家可以在必要时对律师的行为进行约束。在“深度伪造”的技术正在超越那些试图监测“深度伪造者”的能力这一背景下，“深度伪造辩护”对刑事司法构成了一个异乎寻常、前所未有的挑战，因此需要从实体法上对其进行约束，通过设定相应的实体法罚则予以规范。当然，对“深度伪造辩护”设定实体法罚则，并不是处罚所有提出“深度伪造辩护”的情形，还需要设置相应的判断标准，进行“合比例”的规制。

（三）行政监管规则的补救措施：执业规范的具体化

通过前文的论述我们可以获悉，我国对于辩护律师应当遵守的执业规则规定了较高的标准。然而，相关执业规范较为原则，缺乏相关的实施细则，影响到具体的应用效果。因此，应当对《纪律规范》《执业办法》作出相应的修订，增加关于辩护律师提出“深度伪造辩护”的相关内容。具体来讲应当包括：其一，辩护律师不得提供本人知道或者应该知道其是一项“深度伪造”的证据。辩护律师提出“深度伪造辩护”，应当经过合理的尽职调查。其二，辩护律师不得随意或故意质疑证据的真实性。除非律师有合理的理由相信证据是“深度伪造”的，否则不能随意提出“深度伪造辩护”。其三，辩护律师的委托人提供了深度伪造的证据，辩护律师知道证据是不真实的，应当采取合理的补救措施，必要时应当向法庭披露。除了被告人在刑事案件中的供述外，辩护律师可以拒绝提供其有理由认为是深度伪造的证据。

为了说明在法庭上引入深度伪造证据的严重性，《纪律规范》《执业办法》应当要求律师对他们知道和不计后果地使用深度伪造证据的辩护负责。这条规定迫使律师不仅要知道他们的证据是否伪造，还要求他们采取额外的步骤对证据进行合理的分析，以确保证据是真实的。

六、结语

毫无疑问，刑事诉讼制度的有效运行有赖于律师在法律和执业规范的范围内积极地为当事人辩护。当前，它还取决于事实认定者根据法庭上呈现的证据寻找真相。随着“深度伪造”的视听资料在社会上的泛滥，它们不可避免地侵入了刑事诉讼程序。这一现实给事实认定者带来了新的挑战，他们将更难从虚假的证据中发现真实的证据，因为他们面临着律师利用“深度伪造辩护”来虚假宣称审判中出示的证据是伪造的问题。对抗和制止“深度伪造辩护”，需要我们从程序法、实体法和律师执业规范等多方面作出回应，以保障刑事诉讼在预防犯罪和保障人权方面的机能。

原文刊发于《厦门大学学报（哲学社会科学版）》2024年第1期《科技与社会研究》专栏，第109-120页。因篇幅问题，注释删略。

相关文章：

欢迎关注“厦门大学学报哲社版”微信公众号

投稿平台

https://xdxbs.xmu.edu.cn/

https://xmds.cbpt.cnki.net/