刘国柱丨深度伪造与国家安全：基于总体国家安全观的视角

✦

✦

✦

摘要

深度伪造是人工智能技术和数字技术发展的产物，自2017年第一个深度伪造的作品出现，深度伪造正在世界范围内快速扩散。人工智能与大数据技术的发展和普及，使得有心者制作各种深度伪造作品的门槛大大降低，导致互联网和各种社交媒体充斥着各式各样的深度伪造作品。深度伪造技术既有造福于人类社会的正面功能，也有给国家安全带来风险与挑战的负面作用。它不仅给国际形势和国际安全环境带来了巨大的冲击，让国际社会本就存在的“信任赤字”更为恶化，而且在国防安全、政治安全、经济安全和国民安全等领域制造了更多、更为复杂的问题。国际经济犯罪团伙利用深度伪造对中国企业和民众进行诈骗活动；以美国为首的西方国家更是频频利用深度伪造的作品，在涉疆、涉港等问题上对中国发难；在重大国际问题上，国际上的各种势力更是利用深度伪造争取中国的民意，造成部分民众认知的错乱；等等。要治理深度伪造所带来的各种安全隐患，就要在总体国家安全架构下完善针对深度伪造的综合治理体系，同时倡导综合安全、合作安全和共同安全的理念，与国际社会共同打造数字时代人类安全的命运共同体。

作者：刘国柱，浙江大学世界史研究所/非传统安全与和平发展研究中心教授

摘自：《国际安全研究》2022年第3期

本文载《社会科学文摘》

2022年第6期

深度伪造是一个合成词，是人工智能领域由深度学习和伪造合成的一个词汇。包含两方面的含义，首先，它是一种技术，一种制作超逼真视听作品的技术；其次，它指根据深度伪造技术制作的视听作品。随着人工智能技术的不断发展，深度伪造技术同样在不断改进，带来的与国家安全相关的问题也在不断涌现。深度伪造不仅涉及新兴技术治理的问题，更是事关包括政治安全、经济安全和社会安全等在内的综合安全问题。因此，有必要站在总体国家安全观的高度，从国家治理和全球治理的角度对深度伪造问题进行分析并提出应对之策。

深度伪造技术特征

及其快速传播的原因

深度伪造是运用人工智能技术和大数据来描绘某人说和做的从未发生过的事情，辅之以社交媒体的覆盖面和传播速度，可以迅速影响成千上万甚至更庞大的群体，进而对社会产生难以估量的影响。

（一）深度伪造的类别及特征

从技术角度看，深度伪造可以分为三类：第一类是深度伪造视频技术，第二类是语音克隆技术，第三类是文本合成技术。

深度伪造产品根据其本身的性质可以分为三类。第一类是具有积极作用的应用。深度伪造技术在许多行业具有积极用途，包括电影、教育媒体和数字通信、游戏和娱乐、医疗保健以及各种商业领域等。第二类是较为中性的深度伪造，主要是娱乐和幽默性质的深度伪造作品。这类作品往往以公众人物作为娱乐对象。第三类属于恶意的深度伪造。这一类深度伪造被创作者用于某种特殊的目的，往往会给国家安全、社会治理带来严峻的威胁和挑战。如在深度伪造中占比最高的是利用深度伪造技术合成的色情视频，属于人工智能技术发展带来的新的性别安全问题；深度伪造还被用来抹黑政治人物，从而影响一些国家的政治进程，或者对一些国家正在发生的政治事件做出不利的描述，不仅可能激化社会矛盾，也会影响国家的政治形象；深度伪造还会给企业和个人在经济上带来损失。更严重的是，深度伪造可能会摧毁社会信任，信任赤字将恶化整个社会的心理生态环境。

总体而言，深度伪造具有以下几个特征：第一，网络社交平台是传播深度伪造作品的最主要渠道；第二，深度伪造发展迅猛；第三，深度伪造传播迅速且点击量巨大；第四，深度伪造以公众人物等为主要对象。

（二）深度伪造快速传播的原因

第一，人工智能技术的发展和普及使得制作深度伪造作品更简单易行。深度伪造和合成媒体不需要专门的硬件或设备来开发，拥有强大显卡的台式电脑就足够了。商业性甚至免费的深度伪造服务已经出现在公开市场上，这些服务将降低进入门槛，任何有兴趣的人都可以拥有创建专业级深度伪造作品的能力。

第二，互联网空间免费获取数据集使深度伪造的门槛变得很低。计算机视觉社区已经创建了带有标记的视觉材料的大型数据集，其中许多数据集都可以在互联网上免费获得，深度伪造数据的创建者可以很容易地访问这些数据集；此外，由于云计算提供的服务，训练机器学习算法所需的计算能力成本较低。

第三，深度伪造中占比最高的是色情和政治类作品。从传播学的角度看，色情和政治类作品往往具有低俗、虚假、传播快的特性，加上人性的猎奇心理，使得色情和政治类深度伪造作品传播最广。

第四，近年来欧美国家的政治极化也加快了深度伪造信息的传播速度。政治极化的一个重要后果就是减少了公众之间跨领域政治互动的机会；而同质的社交网络又降低了对不同观点的容忍度，放大了理念上的两极化，在一定程度上提高了接受意识形态兼容新闻的难度。这些趋势创造了一个深度伪造作品高度吸引特定受众群体的环境。

深度伪造对国家安全的威胁与挑战

从近年来世界上出现的各种深度伪造案例及其发展趋势来看，深度伪造无论是对国际安全、国家传统安全（如军事安全和政治安全），还是国家非传统安全，都带来了越来越大的冲击和挑战。

（一）对国际安全的威胁和对国际形势的影响

第一，深度伪造会破坏国际社会的战略互信并冲击脆弱的和平环境。从国际安全和国际形势稳定的角度看，深度伪造与其他颠覆性数字技术相结合，将极大地降低全球和区域多边机构以及国际关系行为体彼此间的信任。对于在国际社会和国际安全领域试图制造事端的国家与非国家行为体而言，它们可以随时获取和利用深度伪造技术，减少信息武器化的障碍，扩大参与并深度影响国际安全形势。

第二，深度伪造有可能会影响军事决策和军备控制。一些国家的政治和军事领导人依赖公开与秘密的信息环境做出重大决策，特别是在重大危机面前，需要快速做出决策。但武器化的深度伪造可以被用来扰乱信息环境，这在持续的政治和军事紧张局势中，可能会引发国际危机甚至导致对立或对抗的升级。

第三，涉及他国领导人的深度伪造作品不仅会给国家领导人带来负面影响，也会影响国家间关系。

第四，深度伪造很可能会成为国际恐怖活动的催化剂。恐怖组织可以通过深度伪造的视频或音频，展现对手包括政府官员发表煽动性言论或从事挑衅性行动，最大限度地对其目标受众产生有利于恐怖组织的影响。

（二）给国家传统安全带来的挑战

首先，指挥自动化系统方面的深度伪造为双方军事行动提供战术优势。在现代军事体系中，指挥自动化系统是军队的神经中枢，这一系统的核心就是战争或战场信息的获取、处理以及运用。这就给对手提供了利用信息的空间。在未来的军事行动中，可以生成高级指挥官的深度伪造，向对手的部队下达虚假或矛盾的命令。

其次，深度伪造给国家政治安全带来更大的挑战和威胁。数字时代特别是人工智能技术的发展给各国进行政治战带来了颠覆性的变化。人工智能驱动的系统可以快速生成修改过的内容和深度伪造的数字产品，从而推动针对目标国家民众和国家利益的虚假叙事，冲击目标国家民众的心理，侵蚀目标国家社会的信任，给政治安全带来更大的挑战和威胁。

最后，深度伪造会改变“脆弱国家”在国家治理方面的政治进程。经济合作与发展组织将脆弱性视为一种普遍现象，脆弱指数比较高的国家往往存在政治与社会局势不稳定、经济落后和治安混乱等现象。被视为“脆弱国家”的往往都是整体发展水平比较落后的发展中国家。在“脆弱国家”，深度伪造可能加剧社会分裂、内乱、恐慌和冲突，造成政局动荡，甚至会导致暴力冲突和军事政变。

（三）给非传统国家安全带来的挑战

首先是国家层面：深度伪造的内容会损害国家的经济稳定。深度伪造危害国家经济安全的常见手段有以下几种：一是通过捏造政府部门如财政、商务和金融监管机构的行为影响市场走势；二是制造虚假的突发性事件，对期货市场和股市构成重大冲击；三是恶意银行挤兑，当公众对金融形势或银行健康运转的怀疑开始变得普遍时，社交媒体可以迅速放大它们，让挤兑变得更加疯狂。

其次是企业层面：深度伪造给企业带来的威胁和挑战更为直接。受深度伪造信息的影响，全球企业每年损失高达780亿美元，其中包括90亿美元用于修复声誉损失和170亿美元因财务虚假信息而造成的损失。全球领先的战略传播和公共事务咨询公司富思博睿格润分析了深度伪造对企业构成的五种潜在威胁：网络钓鱼攻击、交易欺诈、对企业进行勒索、股票操纵、伪造监管行为。这五种“潜在威胁”，有一些实际已经发生了。

最后是个人层面：深度伪造主要被用于欺诈或勒索行为。针对个人的深度伪造主要有以下几种情形：一是身份盗窃，即有针对性地深度伪造来窃取个人身份；二是冒名顶替诈骗，诈骗者可能会复制特定个人的声音，通过人工智能系统拨打受害者的电话进行诈骗；三是网络勒索，即使用深度伪造来生成更有说服力的虚假勒索材料勒索受害人。

需要指出的是，单一深度伪造的影响并不局限于单一类型或类别的风险，而是会在不同层次引发连锁反应。深度伪造的影响往往从个人层面开始，进而对个人所在的团体或组织造成伤害，随着深度伪造案例的累积和叠加，可能会影响社会心理，导致社会信任的普遍缺失。

深度伪造治理：

基于总体国家安全观的视角

应对深度伪造带来的挑战，应该以总体国家安全观为指导，建立综合治理体系。

（一）必须坚持以人民安全为宗旨

作为新兴技术的副产品，深度伪造同样也给中国国民安全带来了威胁和挑战。对深度伪造的治理，要本着对社会负责、对人民负责的态度，加强对人工智能和网络空间的治理；还要广泛依靠人民培养积极健康、向上、向善的数字生态系统。

数字时代带来的一个巨大变化就是个人作为个体行为主体的角色参与培育和保护值得信赖的数字和信息生态系统。相当大比例的数字内容是由个人用户生成的，个人也可以确保准确和良性的信息被共享。所以，整个社会要有意识地在个人层面培养公众在数字时代、人工智能时代的道德意识和社会责任感。只有更多的公众意识到了深度伪造可能造成的危害，进而在整个社会培养防范深度伪造的公众意识，深度伪造对国民安全造成的威胁才能降到最低。公众意识是防范深度伪造的最好“疫苗”。

（二）必须以维护国家政治安全为根本

深度伪造对中国政治安全带来的挑战主要表现为宗教极端思想和民族分离势力的渗透和分裂活动，特别是西方国家利用所谓的新疆民族和宗教问题，试图分裂中国，以及利用“港独”势力祸乱中国香港，给“一国两制”在香港的实施制造麻烦。在涉疆、涉港问题上，西方媒体制作了包括深度伪造在内的大量虚假报道，极力抹黑中国政府的治疆、治港政策。所以，对深度伪造技术的治理，要上升到维护国家政治安全的高度，以严密防范和打击利用人工智能和数字技术进行渗透和颠覆活动、暴力恐怖活动、民族分离活动和宗教极端活动。

（三）既重视传统安全又重视非传统安全

在传统安全方面，深度伪造在国土安全和国防安全领域同样给中国带来了一些新挑战。无论是在和平时期，还是在未来可能的战争条件下，中国指挥自动化系统同样会面临竞争对手利用深度伪造技术进行干扰和误导的威胁；竞争对手和境外敌对势力也会继续利用深度伪造技术对中国发动政治战，降低中国民众对中国社会制度和执政党的信任度。为此，一方面，中国要加快国防和军队的现代化建设，贯彻习近平强军思想和新时代军事战略方针，统筹推进传统安全领域和新型安全领域军事斗争准备；另一方面，深度伪造基本上是以互联网为基本载体，维护政治安全一定要高度重视网络意识形态安全问题。

但我们也要看到，深度伪造更多是针对个体用户，其所带来的非传统安全问题也更为普遍和突出，这也是中国各执法部门必须面对的现实问题。因而需要把处理和应对深度伪造引发的非传统安全问题“放在贯彻落实总体国家安全观中来思考，放在推进国家治理体系和治理能力现代化中来把握”。

（四）要兼顾外部安全与内部安全及自身安全与共同安全两对关系

首先，各国须齐心协力应对。深度伪造作为全球共同安全威胁早已越出国界，任何一个国家的短板都可能会造成外部风险的涌入，形成安全风险洼地。

其次，建立良好的数字生态系统治理深度伪造问题。一是尊重网络主权。即要尊重各国自主选择网络发展道路和管理模式以及平等参与国际网络空间管理的权利，不干涉他国内政，不从事、纵容和支持危害他国国家安全的网络活动。二是维护和平安全。网络空间不能成为各国角力的战场和违法犯罪的温床。三是构建良好秩序。既要尊重公众交流思想、表达意愿的权利，也要依法构建良好的网络秩序。四是坚持多边主义。各国应加强沟通交流，完善网络空间对话机制，同时发挥政府、国际组织、互联网企业、技术社群、民间机构和公民个人等各个主体的作用。

最后，必须发挥联合国等机构的作用。在联合国及其相关机构的参与主导下，参考一些国家和地区处理深度伪造的监管机制和方法，制定国际公认的规范和技术标准，是目前能够被大多数国家所接受的、打造良好的数字生态系统的可行路径。

（五）在总体国家安全架构下完善针对深度伪造的综合治理体系

深度伪造技术出现后，中国比较早认识到这一新兴技术对国家安全的威胁，并不断采取应对举措加强在这一领域的治理，形成了较为完善的综合治理体系。首先，中国正在逐渐完善应对深度伪造的法律体系；其次，有针对性地颁布遏制恶意深度伪造行为的管理条例和规定；再次，从立法到执法，强化并压实信息发布平台的责任；最后，完善公民公共安全教育体系。

结语

人工智能和其他数字技术的不断进步，互联网技术的进一步普及，使得深度伪造技术产品的质量、数量和多样性在稳步上升。它所造成的潜在风险也为各国敲响了警钟。目前，包括中国、美国、欧盟和联合国在内的大国和国际组织都已经认识到深度伪造给国家和国际安全带来的挑战和威胁，并从新技术的研发、加强对信息发布平台的监管以及社会立法等方面采取行动，力求遏制恶意深度伪造带来的各种威胁。国际社会也必须摒弃国际安全治理的双重标准，倡导综合安全、合作安全、共同安全的理念，共同打造数字时代人类安全的命运共同体。

相关推荐

《社会科学文摘》往期目录

✦

✦

更多推荐