张爱军，王芳：人工智能视域下的深度伪造与政治舆论变异
引用本文：张爱军，王芳.人工智能视域下的深度伪造与政治舆论变异[J].河海大学学报（哲学社会科学版），2021，23(4):29-36.
作者简介：张爱军（1963—），男，辽宁建平人，西北政法大学新闻传播学院教授，从事网络政治传播、民主政治研究。
摘 要：人工智能时代的深度伪造在政治维度、经济维度与社会维度得到扩展。深度伪造开辟政治舆论机器生成、复合生成新形式，机器生成包括机器单元生成、多机共造与人机共造，复合生成包括纵向生成、横向生成与立体生成。深度伪造为政治舆论增添了无中生有、真假莫辨、记忆与遗忘失衡等新内容。深度伪造导致政治舆论复杂化，表现在政治舆论主体的情绪化话语诉求、政治舆论形式上的话语动员与政治舆论内容上的话语混乱。规制深度伪造需要深度反制，深度反制的价值路径是智能伦理价值的输入，实践路径是深度反制平台的搭建，理念路径是智能拿来主义思维的树立。深度伪造使政治舆论出现形式与内容上的新转向与复杂化，需要警惕深度伪造对政治舆论的抑制与操纵，建立深度反制的价值路径、实践路径与理念路径。
关键词：人工智能；深度伪造；政治舆论；机器生成；复合生成
深度伪造技术在推动社会发展的同时，也引起了相关学科领域的反思与忧虑。从网络技术来说，深度伪造视频、音频与图片的生成原理、检测技术等面临着何种发展前景，还需要不断进行跟踪研究。社会科学领域主要从法律风险、信息安全与社会风险等方面研究深度伪造的法律规制、技术治理与风险规避。“深度伪造技术是人工智能算法的滥用，同时也侵害了个人生物识别信息这一公民个人信息中最核心的类别。”从政治学角度来说，网络政治传播中的政治舆论易受到操纵和左右，随着智能技术的发展，技术与资本对舆论的控制更加具有隐蔽性和颠覆性。政治舆论关系到国家安全、政治安全、经济安全、信息安全、公民安全等触及人民群众利益与诉求的安全领域，而深度伪造为政治舆论生成增添了新的形式与内容，政治舆论的生成变得更加复杂。
深度伪造通过多种维度展开，这主要包括政治维度、经济维度和社会维度。如果以政治维度为中轴，那么经济维度和社会维度就成为政治维度的两翼。以政治维度为核心的同时，经济维度与社会维度有转化为政治维度的可能性与现实性，也就是说，经济维度和社会维度具有政治“溢出”效应。经济维度的深度伪造重塑了文化产业的生态环境与公众的消费习惯，政治维度的深度伪造或会引起框架冲突与政治谣言从而加剧意识形态领域的斗争，社会维度的深度伪造在影响人类社会及社会关系的同时凸显了虚拟社会中人类的数字化生存。
第一，深度伪造的政治维度。深度伪造或加剧意识形态领域内的斗争。国际安全形势复杂，中美战略博弈持续，意识形态领域内的斗争没有停歇，深度伪造技术掌控者或会通过左右舆论走向威胁国家意识形态安全。国内外敌对势力和不法分子收集政治人物生物信息生成深度伪造后的视频或图像，操纵网络舆情事件引起框架冲突。框架理论经历了人类学、文化社会学以及公共管理学等领域的形成、丰富和完善，最初就是考察人的认知方式和传播行为的学术概念。框架是人认知和阐释客观世界的认知结构，深度伪造信息会冲击政治舆论主体的既有框架，造成分属不同阵营主体间的框架冲突，政治舆论中的框架冲突上升为意识形态的冲突，从而加剧公众与主流价值观的区隔，破坏主流意识形态建设。此外，通过无中生有的政治谣言或会动摇公民政治认同和政治价值理念，挑起极端非理性的民族情绪从而激发社会矛盾。经过深度伪造的政治现象和政治行为表现为政治谣言，公众对政治现象和行为的政治态度本身是理性与非理性并存，而网络政治传播中的深度伪造信息常常以戏谑化、娱乐化的形式传播，不利于网络公共政治建设中公民理性政治态度和严谨逻辑思维的培养。深度伪造造成框架冲突和政治谣言会加剧意识形态领域内的纷争。
第二，经济维度向政治维度转化。深度伪造渗入文化产业并重塑消费习惯。数字经济时代的文化产业向智能化、场景化与虚拟化方向转型升级，深度伪造技术在文化产业转型升级中得到应用，深度伪造信息的隐蔽性、操纵性与颠覆性正在重塑公众传统的消费习惯。互联网媒介使信息接收和传播打破了空间与时间的桎梏，相互连接的每个人掌握各自不同的信息获取端口，在竖屏前实现对内容的即时远程围观。文化产业的转型升级离不开对用户情感、态度和需求的把控，运营者利用智能技术，整合资源并将内容呈现向增强临场化和沉浸感的方向发展，深度伪造技术可以应用于满足用户感性诉求和氛围营造上。随着公域与私域界限的消弭，一部分用户可能更加倾向于接触满足某种窥私欲并且泛娱乐化的信息，消费者或在无意识中追求感官享受与心理愉悦，文化产业经营者若过度强调注意力经济，用户若过度强调注视性消费，而无视信息是否存在与是否真实，虚无或虚假信息则会渗透到文化产业与经济生活中从而重塑用户消费心理与消费习惯。深度伪造的经济维度会引起政治维度两个方面的后果：一方面，经济娱乐化、消费化会形成政治舆论场中公众对政治的疏离；另一方面，经济发展中的价值观扭曲会引发政治舆论变异而导致戏谑、调侃、愤怒等非理性狂潮。
第三，社会维度向政治维度转化。深度伪造凸显虚拟社会的数字化生存。智能技术无疑重塑了人类社会及人类的社会关系、生活环境。21世纪的人类生活在“超历史”和“超连接”的社会之中，“在人类的进化中，今天活着的人比以往任何时候都多，并且，我们中的大多数人比以往更长寿、生活得更美好。至少就我们明智地、安然地并持续地开发和使用技术而言，在很大程度上，我们把这归功于技术。”网络场域中个体与个体、个体与群体、群体与群体之间相互连接，公众实现了表演式、具身式与节点式的数字化生存。深度伪造技术推动公众进一步实现了角色自由的表演式生存，网络用户可以借助深度伪造技术在社群中更加随意自由地切换角色，不受任何组织规范的约束而转换身份，在信息分布式生产中参与解码与编码。深度伪造成为虚拟身份与现实实体合二为一的一种途径，具身认知理论关键指明身体与认知的关系，身体是人类认知世界的载体，网络用户赛博格化过程中的具身式生存可以收获政治认知和情感体验，但同时使社会与政治价值的建构面临一定的挑战。深度伪造技术的发展凸显了公众能动的节点式生存，网络个体可以利用深度伪造技术建构自己的前台角色和虚拟身份，内容生产由浅层片面转向深度全面，在网络空间中实现深度交流和沟通。技术的发展正在改变人类社会，网络空间中的人类实现数字化生存，深度伪造技术将进一步凸显虚拟社会中人类的表演式、具身式与节点式生存。同深度伪造的经济维度一样，社会维度的深度伪造同样会引起政治维度两个方面的后果：一方面，公众在数字化生存中丰富政治参与体验的同时优化了政治舆论生成的形式和内容；另一方面，公众的虚拟身份与现实实体界限的消弭抑制了政治舆论主体的政治身份乃至政治价值理念建构。
深度伪造技术影响下的政治舆论生成形式呈现多元化特点。网络场域中的政治主体在深度伪造信息大量传播的场景下形成互动关系，在各自互动关系中借助智能技术参与政治生活，在人工智能时代受到深度伪造技术影响的政治舆论存在机器生成和复合生成的倾向。政治舆论的机器生成包括机器单元制造、多机共造与人机共造，一方面，人工智能成为政治舆论主体的一员并利用深度伪造技术实现政治舆论的多机制造；另一方面，人机文明时代人的观点、情感与行为受到人工智能与深度伪造的左右，政治舆论出现人机共造的特征。政治舆论的复合生成包括纵向生成、横向生成与立体生成。深度伪造技术影响政治舆论形成、发展与反转的纵向生成，加速政治舆论虚拟性、内卷化与迭代式的横向生成，促使政治舆论的点、线、面的立体化生成。
1.深度伪造与政治舆论的机器生成
深度伪造的技术层面的生成包括机器单元制造生成、多机生成、人机生成。深度伪造技术生成的不同形式使得政治舆论的传播与扩散呈现出不同的维度和特点。
第一，机器单元制造。掌握深度伪造技术的人工智能机器加入政治舆论主体。人工智能开始接手人类工作并渗透进各行各业，包括人类的线上生活同样不乏人工智能的参与，社交平台上的人工智能机器有人类无法匹敌的信息传播效率和精确度，经过深度学习的人工智能机器会掌握人类的语言符号甚至是情感符号，在舆论表达中更具有隐蔽性和诱惑性。人工智能逐渐成为舆论制造者和推动力量，网络政治传播中的网络新生代和网络移民活跃在政治舆论场中表达各自不同的利益诉求，掌握深度伪造技术的机器单元参与到舆论生成中，其背后承载着不同政治利益主体的政治目的。
第二，多机共造。深度伪造影响下的政治舆论由不同机器利用和不同伪造技术生成。深度伪造中会应用到对抗式生成，仿造生物视知觉等方式生成视觉信息或听觉信息，对抗式生成即生成系统与判别系统通过相互博弈使深度伪造内容无限接近于真实模型，仿造生物视知觉即基于人体机制和功能研发视频、音频、图像等信息并进行智能化处理从而使得深度伪造内容最大限度被人体机制所接受和认可。综合应用不同的伪造技术，机器在技术优势者一方成为影响信息传播与政治舆论的工具，除上述方式之外还存在其他深度伪造方式，网络平台中数量庞大的数字机器人会利用各自擅长的伪造技术作用于信息传播并营造符合特定利益集团政治目的的政治舆论。
第三，人机共造。人工智能时代的信息是人机共造，深度伪造影响下的政治舆论同样存在人机共造。现代社会步入人机文明时代，这个时代具有不确定性的特征。“技术将为人、机器以及文明的发展带来巨大的不确定性。”网络空间中信息的有无与真伪无法确定，机器与人类共同制造的政治舆论风险无法被测量。不确定时代的一部分非机器的政治舆论主体会倾向于适应并跟随由机器营造出来的政治舆论，进而实现在人机文明时代与机器共同制造政治舆论，彼时的政治舆论不再是单纯的由人类认知、态度与情感作用下的观点聚合，而是与谙熟深度伪造技术的机器共同作用的结果。
2.深度伪造与政治舆论的复合生成
深度伪造的政治舆论包括纵向政治舆论、横向政治舆论、立体政治舆论。3种政治舆论既可以单一生成，也可以复合生成，其中复合生成的政治舆论是政治舆论生成的核心和关键。
第一，政治舆论的纵向生成。深度伪造技术的特征造成政治舆论形成、发展与反转的复杂化、极端化与常态化。深度伪造的隐蔽性致使政治舆论形成复杂化，深度伪造信息难以被识别使得公众生存在多元复杂的公共政治舆情空间中，“深度伪造视频难以鉴别，目前还没有鉴别深度伪造视频的商业工具”。技术带来的代际区隔与政治舆论本身的真假难辨都使人很难识别在日益升级的网络平台上所接受信息的真实性与可靠性，代际区隔也让本就真假难辨的深度伪造信息更加隐蔽，最终使得政治舆论空间更加复杂。深度伪造的操控性致使政治舆论发展极端化，算法技术通过拼贴与篡改信息操控人的情感与态度使得政治舆论发展朝向极端化，消费主义时代的技术与资本借助算法生成深度伪造信息从而操控个人对信息的选择。“在用户交互层面，社交机器人可以成功渗入社交网络，改变既有的信息交互结构。”深度伪造信息迎合注视性消费心理一定程度上加剧人在政治参与中信息选择上的倾向性，甚至国内外敌对势力借助社交机器人生成与传播深度伪造信息，操纵并煽动极端民族情绪。深度伪造的颠覆性加剧政治舆论反转常态化，深度伪造信息颠覆真相与假象，加剧眼球经济时代的政治舆论反转及舆论迭代的常态化。深度伪造信息直接颠覆了舆论生成中事实决定真相的基本规律，眼球经济下的权力与资本生成深度伪造信息博得注意力并轻易挑动公众情绪，人接受深度伪造信息后凭借自己的情感与价值取向进行解码与编码，通过社交平台实现二次传播，政治舆论开始不断迭代传播并朝着舆论反转方向发展。深度伪造技术的隐蔽性、操控性与颠覆性特征推动了政治舆论形成、发展与反转的纵向生成。
第二，政治舆论的横向生成。数字传播时代技术加持下的政治舆论存在虚拟性、内卷化与迭代式生成的倾向。深度伪造技术促使政治舆论的虚拟性生成，在数字技术、网络技术与电子通信技术为核心的科学技术的推动下，人类生存在虚拟社会中，虚拟社会作为现实社会的映射同样是人类交流与互动的空间场域，深度伪造技术被应用于生成沉浸式虚拟信息，通过左右人的视觉与听觉操控其精神世界和判断能力，丰富舆论场中政治传播形式与内容的同时，使得网络政治参与人沉溺于仿真的虚拟空间，消解社会公共性与政治敏感度。深度伪造技术加速政治舆论的内卷化生成，技术掌握者应用深度伪造技术进行情感分析与文本分析，最终生成深度伪造信息，实现对政治情感与政治文本的操控和垄断，经济势力侵入政治权力体系，将私权与私利包装成合法的公共利益，表面上政治舆论存在于平等、自由与公平的场域中并不断向上向善，实质上官方舆论场与民间舆论场中的政治情感与政治文本由于技术的操控而变得停滞不前。深度伪造技术推动政治舆论的迭代式生成，深度伪造技术突破时空限制无疑使政治舆论以秒为单位迅速迭代，数字传播时代的人类突破了时空限制，时间维度上的线性序列被打破变为碎片化，空间维度上人类不再局限于特定的空间情景，深度伪造技术在此基础上重新整合碎片化时间并创造出新的情景，类似于影视剪辑所用的蒙太奇手法，只不过深度伪造信息会模糊真相与假象的界限，公众生活在机器创造的深度伪造场景中，舆论场中政治传播的长期性、周期性和整体性被压缩或消解。深度伪造技术基于深度学习算法推动网络政治舆论的虚拟性、内卷化与迭代式的横向生成。
第三，政治舆论的立体生成。深度伪造技术促使政治舆论点、线、面立体生成，反映在政治舆论主体、政治舆论信息链、政治舆论多路径上。政治舆论主体有公众、媒体、官方机构等，深度伪造技术生成的深度伪造信息威胁公众的主体性、削弱媒体的公共属性、消解官方机构的公信力。公众在网络场域中享受技术带来的智慧生活和便利生活，但深度伪造技术生成信息是以抓取个体生物性数据为前提，公众作为政治动物与社会动物所拥有的政治权利与生存权利被挪用和威胁。国内外敌对势力借助深度伪造技术在社交媒体上抹黑中国政府形象并渗透其价值理念、政治制度与生活方式，使得民主社会得以运转的社会共识越发难以达成，损害了媒体的公共属性与官方机构的公共形象。深度伪造技术促使政治舆论借助视觉符号在短时间中形成信息链，社交媒体实现了符号民主，当前政治舆论一定程度上反映符号民主，深度伪造技术应用于视觉传播中，通过标识语言符号与非语言符号的能指与所指，淡化严肃问题的严肃性与敏感问题的敏感性，消费主义情景下形成狂欢式、非正式的深度伪造信息生产链，增强公众心理上的区隔度与政治参与的倦怠感。深度伪造技术促使政治舆论多路径生成、聚合和扩散，应用于影视仿真、艺术创作、学术研究等领域，视频信息、音频信息、图片信息等是深度伪造信息的主要形式，“在社会层面上，‘深度伪造’让虚假信息以高度可信的方式呈现给社会公众，从而操控公众情绪，引发舆论动荡”。
在深度伪造技术的影响下，政治舆论内容发生新的转向，出现无中生有、真假莫辨、记忆与遗忘失衡的政治舆论。深度伪造信息混淆了存在与虚无、现实与虚幻、记忆与遗忘的界限，对存在与虚无的混淆造成了无中生有的政治舆论，对现实与虚幻的混淆造成了现实与虚幻的互置，对记忆与遗忘的混淆造成了二者失衡的政治舆论。
1.无中生有的政治舆论
深度伪造技术使政治舆论混淆了存在与虚无的范畴。存在是物理世界和客观世界中包括抽象的语言与具象的建筑、工具等物质的现实状态，虚无与存在相反，是未经人工改造的世界与经主观精神改造和建构起的世界中都不存在的状态。虚无不是虚幻，虚幻是以现实为基础通过技术的改造或人的主观建构所产生的一种不符合事实本质的客观存在，比如现实中的镜花水月，而虚无是不以客观事实为基础凭空捏造的状态。深度伪造通过深度学习技术可以将若干个毫不相关的元素重新组合，对抗式生成机制又使组合而成的产物在短时间内逼近人类社会所接纳的状态，直到公众无法判断该产物是否存在，或是无需判断是否存在而直接接纳和认可该产物的存在。
政治舆论受到深度伪造技术的左右陷入虚无的漩涡。深度伪造技术掌控者针对社会热点与敏感话题生成深度伪造信息，由此进入公众视野，围绕意识形态、国家治理等方面的深度伪造信息更加刺激公众眼球，公众因对其所传达信息的不确定感而陷入高度紧张甚至恐慌的精神状态。虚无的伪造信息在网络空间中快速流动，引起政治舆情的裂变和扩散，政治舆论在虚无信息的漩涡中表现出非制度化抗争或政治冷漠，不存在的信息在网络场域中液态化传播，触及网络节点，出于对自身利益的维护等原因，公众在舆论表达中或是会通过宣泄情绪来维护权益和自我救助，甚至偏离理性轨道走向极端，或是会走向相反的方向表现出对政治参与的质疑和倦怠。伪造信息的无中生有使政治舆论将本是虚无的信息当作存在的事实，混淆存在与虚无之间界限的同时将政治舆论推向极端化。
2.真假莫辨的政治舆论
深度伪造技术使政治舆论发生了现实与虚幻的互置。现实是符合事实本质和真实存在的现象，而虚幻是不符合事实本质却客观存在的现象。网络社会是现实社会在网络平台上的延伸，网络社会中有真实存在的现实，同时也存在被操控和伪造的虚幻。被误判为虚幻的现实与被判定为现实的虚幻都会左右公众对政治现象的认知、态度和判断，从而使政治舆论更加真假莫辨。技术的升级换代伴随的是现实与虚幻之间的界限模糊甚至倒置，深度伪造信息的泛滥使公众关于政治问题的普遍意见同样受到影响，公众倾向于将真实存在的现实理解为虚幻，将被操控和伪造的虚幻判定为现实。
政治舆论受到深度伪造技术的抑制与操控变得真假莫辨。深度伪造通过片面化、虚幻性并且左右公众的政治认知，公众会由于缺乏对现实世界政治现象的客观认知和判断而被外在操控，政治舆论中由此出现虚幻与现实的博弈。柏拉图在《理想国》中提到“洞穴隐喻”。住在山洞从未离开的人会认为墙壁上的影子就是整个世界，这个人认为自己的认知是正确的，甚至我们很多人都认为自己在不同情况下获得的对现实世界的感知正确无误。实质上，人有可能将虚幻理解为现实，技术的发展甚至在某种程度上会模糊现实与虚幻、真与假的界限。伪造信息的真假莫辨导致公众模糊了虚幻与现实的界限，存在被误导政治认知、政治态度与政治判断的可能性。
3.记忆与遗忘失衡的政治舆论
深度伪造技术使政治舆论无法平衡记忆与遗忘。网络空间中的深度伪造信息通过篡改网民的记忆并左右记忆的留存来影响舆论。数字传播时代的人类记忆数字化，数字记忆存储在互联网中而非人类头脑中亦非印刷媒介中，如亚历山大图书馆付之一炬造成人类记忆丢失的事件不会再发生，遗忘变得格外艰难。记忆是人类的天性和权利，遗忘亦是人类的天性和权利，而人类对事物的观点和态度在网络社会中被转化成数据，记忆的权利很容易获取，而被遗忘权的获取陷入困局。深度伪造信息会篡改公众对政治现象的记忆，网络受众的政治素养和媒介素养不同，对深度伪造信息的辨别力和接纳度也不同，新技术的隔离使得某些政治素养不高或媒介素养不强的人丧失信息辨别能力，缺少信息甚至是接纳深度伪造信息，公众的政治记忆被篡改并在舆论场中表现出来。政治舆论中的数据和信息被复制甚至永久保存，由此引发一系列权责问题。
人工智能时代的深度伪造信息会篡改记忆甚至操控意识和舆论。深度伪造信息是大数据技术、深度伪造技术等科学技术综合应用而生成的，信息社会中的信息汇聚成庞大的数据量以供资本和技术积累财富和增强核心竞争力，工具理性思维驱使下，资本和技术会将数据优势应用在深度伪造信息的生成上。基于大数据技术与深度伪造技术生成的信息可能会作为数字殖民的手段，科技巨头、商业公司对互联网用户数据的挖掘与应用不断被质疑其中是否存在数字殖民现象，深度伪造信息会改变公众的思想内容和精神历程，认知逐渐沉淀为记忆，数字记忆难以被遗忘。伪造信息无法平衡记忆与遗忘或会改变公众的认知与记忆，政治话语和政治记忆被深度伪造信息引导或会加剧公共政治参与中的舆论失焦或情绪化争论。
深度伪造不仅使政治舆论的形式与内容发生新的转向，还促使政治舆论复杂化，表现在政治舆论主体、政治舆论形式与政治舆论内容上的复杂化。深度伪造在某种程度上有其存在价值与优势，但却不可忽略其对政治舆论的生成与传播造成的复杂与负面的后果。话语理论由福柯提出，福柯认为话语即权力，不过，此处的权力非强制力，更多指阐释力、影响力等，例如当前为了实现传播政治品牌和塑造国家形象的目的，各国纷纷加入国际话语权的争夺，也就是说，话语在一定程度上会影响国际舆论和政治舆论。深度伪造导致政治舆论主体尤其是公众的情绪化话语诉求，促使政治舆论形式上的话语动员，加剧政治舆论内容上的话语混乱。
第一，深度伪造导致政治舆论主体情绪化的话语诉求。政治领域中深度伪造信息的类型众多，其中围绕政治事件和政治人物的娱乐信息在网络空间中比较常见。深度伪造的娱乐信息一方面缓解政治舆论主体的情绪压力，另一方面导致政治舆论表达中的情绪宣泄现象。深度伪造信息中不乏以政治人物或政治事件为主体进行的娱乐化呈现。娱乐文化是以市场和受众需求为导向的信息生产方式，旨在最大限度满足受众个性化、多元化的需求，并且为受众心理放松、压力缓解提供了便捷和有效的渠道，此外，娱乐信息也可以承载一定的价值观念和意识形态，一定程度上可以助推其所承载的价值观得到快速传播并获得广泛认同，政治舆论主体也会就接收到的政治信息积极发声，或凭借互联网的便利性发挥自身的创意进行二次加工和二次传播来表达政治热情。深度伪造的娱乐信息如果在无中生有、真假莫辨的基础上过度娱乐，就会消解政治内容本身的严肃性，甚至是西方意识形态的入侵。社群化传播催生的“后真相”时代，理性滞后于偏见，真相滞后于情绪，深度伪造技术加持下过度娱乐的政治信息挤占公共话语空间，公众的注意力很容易被束缚在娱乐信息上而无暇顾及理性思维和批判思考，丧失对政治本身的关注度。当触发公共利益的议题在互联网中出现时，公众本该就公共议题进行理性讨论，整合意见最后汇聚成有代表性的政治舆论，但由于公众接收到过度娱乐化和深度真实的政治信息，加上社会转型期社会矛盾日益凸显，作为政治动物的公众，自身利益诉求得不到回应和解决时，政治参与的话语空间就易出现情绪化的话语诉求。政治舆论主体易受到深度伪造信息的引导与操控，模糊政治现象本身的重要性，同时强化和放大细节与情绪，被解构的政治真相又被伪真实的证据链串联，形成牵动政治舆论主体敏感情绪的网络新议题和新舆论。舆论反转、舆论失焦等都是政治舆论主体情绪化话语诉求的产物，对深度伪造信息的接收加剧了其情绪化话语诉求。
第二，深度伪造导致政治舆论形式上的话语动员。深度伪造技术广泛应用于政治、经济与文化领域，各个领域的信息生成方式发生了转变，政治舆论的生成形式同样也发生了转变。政治舆论开始由机器生成或人机共同生成，舆论场中出现了语言、行为甚至情感都与人类别无二致的政治舆论。公众的政治态度和政治行为很容易受到网络议题和外界因素影响，“在那些本身相对简单的舆论热点议题上，或者说与公众日常生活联系较多的议题上，例如食品安全、贪腐等舆论议题，公众的判断可能受到自身基础性政治态度、人格特性、生活经验、媒体信息等多种因素的影响；而在那些诸如贸易纠纷、领土争端、对外援助等复杂的、相对陌生的政治外交议题上，公众往往更有可能受到其所能接触到的媒体信息的影响。”深度伪造信息经由机器人扮演的舆论主体传播出去，引导并动员政治舆论主体的线上舆论表达和线下社会行为，经过深度学习的机器人会利用社群中易失去理性的“群氓”输出情绪符号，极具煽动性的情绪符号唤起政治舆论主体的正义诉求或民族情绪，并使其朝着技术掌控者所希望的方向表达政治认知与政治态度。深度伪造信息操纵舆论引起公众对现实的不确定感和危机感。“深度伪造技术的成熟使得虚假信息能够以逼真的形式传达给普通民众，进而轻易操纵网络舆论，严重危害社会安全。”社会精英和草根民众虽然在媒介的使用上达到基本平等，但依然存在由于信息的不对称而带来的政治认知差异，比普通意见领袖表现出更加稳定与理性心理的机器人可以获取大量人类数据，将舆论操控处理得更加隐蔽。政治舆论形式上，普通民众出于对现实的高度不确定感更容易受到深度伪造信息操控和话语动员。
第三，深度伪造导致政治舆论内容上的话语混乱。深度伪造信息的广泛传播会使政治舆论以极端化、情绪化与道德化的方式传播，技术掌控者将舆论焦点引向相关利益主体、政府部门或官方媒体，涉及贫富差距、宗教信仰、伦理道德或国家安全等敏感话题会被国内外敌对势力或是隐藏的议程设置者操纵，煽动不明真相的群氓制造混乱。深度伪造信息技术被应用在正性渠道则具有正向价值，在蕴含社会价值和公共价值的视觉信息、图片信息受到不可逆损害无法被修护的情况下，深度伪造技术可以被应用，将不可逆损失降至最低，但是当深度伪造技术被工具理性驱使而应用于意识形态领域，则会对政治舆论造成威胁。传播和培育正确的价值观念有助于政治舆论主体理性的话语表达、沟通和整合，可以在一定程度上借助情感符号将理想信念、价值信念与道德信念凝聚在一起，在情感互动中提升自我认同、社会认同、政治认同和国家认同，疏导负面情绪和夯实政治心理的同时有助于网络社会与现实社会的稳定。深度伪造技术影响下的政治舆论内容表现为对存在与虚无、现实与假象、记忆与遗忘的混淆，虚无、虚假以及凝固为互联网记忆的深度伪造信息作为政治谣言会抑制政治舆论主体正确的价值观念生成和培育。利己主义、极端主义以及消费主义等不良价值观念借助互联网强大的资源链接优势和整合分发能力迅速在民意集散地普及，负面情绪符号影响下的政治舆论主体在社群内的非理性表达开始互相借力和升级，对国家意识形态安全、政治安全与社会稳定造成威胁。政治舆论内容上，虚无、虚假甚至凝固为互联网记忆的舆论内容可能会生成负面的情绪符号引发政治谣言的裂变并引起政治舆论的话语混乱。
规制深度伪造需要深度反制。从政府管理角度看，深度反制应从价值、实践与理念路径输入智能伦理价值、搭建智能反制平台并树立智能“拿来主义”思维。深度反制的价值路径是输入智能伦理价值，智能伦理价值包括伦理底线与伦理原则，立足公共伦理立场将二者嵌套在深度学习智能系统中。智能反制平台是对话协商、设置议程与政治沟通的场域，有效的对话协商是反制的前提，主动地设置议程是深度反制的关键，最后达成理性的政治沟通。智能“拿来主义”是对深度伪造技术层面的纾困思维，理解拿来主义的含义与边界使其服务于对深度伪造的深度反制。
1.输入智能伦理价值
深度反制的价值路径是智能伦理价值的输入。深度反制要坚持伦理底线与原则。“识别伪造媒体所受到的关注、资金和机构支持，远没有创建伪造媒体的多，因为识别伪造媒体无法赚钱。”虽然过度的工具理性和数据伪造已经超越了底线与原则的约束，为人类带来不可避免的困扰，但是可以将既有的伦理法则和被广泛接受的伦理框架转化成人工智能可以识别的语言，并利用可识别深度伪造信息的系统或技术进行制约与监督。“科技如同有机组织，需要连续发展而达到特定阶段。”技术开发与应用的伦理底线是在法律与道德规范内为人类社会和政治生活造福，伦理原则是在坚守伦理底线的基础上坚持求真求善的科学精神和社会责任。伦理底线是指公共伦理最低限度和一定范围内的临界值，伦理原则是公共伦理目标达成所需要遵循的指示性准则，深度反制深度伪造信息离不开伦理底线，更加离不开伦理原则。将可以推动经济发展、政治稳定与文化繁荣的伦理底线与伦理原则嵌套入深度学习智能系统中，以智能伦理的输入对深度伪造进行价值层面的深度反制。
2.搭建智能反制平台
深度反制的实践路径是搭建智能反制平台。深度反制需要借助反制平台为舆论主体建立有效的对话协商、设置议程与政治沟通的场域。有效的对话协商是反制的前提，深度伪造信息借助线上空间的实时性、流动性和社群化特征传播政治谣言，舆论主体可以在切合的边界内展现意见差异，针对深度伪造技术的应用与特征展开讨论，分歧方在不断对话和协商中产生共识，是规范深度伪造技术并有效阻止政治谣言液态化传播的有效方式。主动地设置议程是深度反制的关键，反制平台需要从政策高度、社会广度与科学精度等维度提升舆论主体的政治信任度并消解其政治倦怠感。在政策高度上规范深度伪造技术对政治安全、网络安全与公民安全的威胁行为，在社会广度上针对深度伪造信息造成的消极情绪进行疏导，通过整合正向与真实的情感记忆唤起群体共鸣从而提升政治认同、集体认同与国家认同，在科学精度上以反生成制约生成，凭借智能化与数字化信息技术研发算法治理技术。有效的对话协商和议程讨论可以达成理性的政治沟通，最大程度弱化深度伪造信息对政治舆论的负面影响，反制平台不断拓展政治信息传播的广度、深度与精度，创新政治谣言治理和政治沟通能力以达到对深度伪造技术深度反制的目的。
3.树立智能“拿来主义”思维
深度反制的理念路径是树立智能“拿来主义”思维。深度反制需要智能“拿来主义”实现技术层面的纾困。“拿来主义”在不同语境下具有不同的词性，可以是褒义词，也可以是贬义词。西方基于对东方文化的刻板印象和漠视，利用深度伪造技术对东方政治符号或文化符号等进行有意的误读，是消费主义语境下的文化挪用，此处的“拿来”是贬义，古人云：“它山之石，可以攻玉”，此处的“拿来”是褒义。深度反制需要借鉴已成熟的技术路径，大国高新科技在竞争中升级换代，技术变革不断重塑全球经济结构，国外关于深度伪造的技术规制存在合理性，“目前，研究人员主要从深度学习检测算法、数字来源取证、生命日志记录3个主要方向探索应对Deepfake技术威胁的方案。”此外，还有立法方面的规制。“综合欧盟及美国的规制经验，有的国家和地区专门针对深度伪造予以立法规制，有的则将其涵盖在不实信息或虚假信息的规制空间内。”深度反制的“拿来主义”不是全部拿来为我所用，而是“新拿来主义”，是智能“拿来主义”，一方面对现存的深度伪造技术治理方式去伪存真，另一方面明确人工智能时代深度伪造技术治理的边界。
网络空间中的深度伪造信息使政治舆论在生成形式与生成内容上出现新转向的同时更加复杂化。人类在享受技术对生产与生活带来便利的同时，仍需要审慎思考其对人类社会及社会关系的影响。智能技术在微观层面上重构公众人际社会关系，中观层面上消弭私域与公域的界限，宏观层面上影响社会的整合和分化，解构和重构社会关系的同时，生成政治舆论表达的新形式与新内容，影响公众的认知、态度和行为，进而左右政治舆论中的观点表达和意见集散。人类不是技术的附庸，而是在明晰技术风险的基础上理性应用技术并使之服务于人类社会的实践者和思考者。技术的应用可以推动社会的进步，但不能把技术作为社会发展变革的唯一决定因素，更不应忽视具有隐蔽性、操纵性与颠覆性的深度伪造技术对政治舆论生成的影响。深度反制固然能从价值层面、实践层面与理论层面规制深度伪造对政治舆论生成的负面影响，不过人类仍需要审慎思考如何趋利避害，更好地运用技术维护经济安全、政治安全与社会安全。
河海大学学报（哲学社会科学版）
✦中文社会科学引文索引（CSSCI）来源期刊
✦AMI综合评价（A刊）核心期刊
✦中文核心期刊
✦全国高校社科名刊
长按识别二维码关注
本刊实行专家匿名审稿制，不收取版面费、审稿费等任何费用，并按照规定向作者支付相应稿酬。
往期精彩回顾
人工智能时代的社会风险治理创新
人工智能时代精准治理的隐忧与风险
人工智能时代的算法权力：逻辑、风险及规制
……
扫码关注我们
走近《河海期刊》
新媒体编辑：河海大学期刊部媒介传播工作室