【厚度】哈佛大学报告：人工智能与国家安全(四)AI变革潜力之信息优势

---

---

应美国情报高级研究计划局（IARPA）的要求，哈佛大学肯尼迪政治学院贝尔弗科学与国际事务中心与2017年7月发布《人工智能与国家安全》报告，分析人工智能（AI）对美国家安全的巨大影响，为美政府AI政策提供建议。本报告分为以下几个部分，我们将在接下来几天内，摘选报告部分主主体内容与大家共同分享学习。

执行摘要：1

介绍和项目方法

第一部分：人工智能的变革潜力

第二部分：学习以前的变革性技术案例

第三部分：关于人工智能和国家安全的建议

结论

附录：变革性国家技术的案例研究

    案例研究#1：核技术

    案例研究#2：航天技术

    案例研究#3：互联网和网络技术

    案例研究#4：生物技术

---

哈佛大学报告：人工智能与国家安全(四)

人工智能的变革潜力之信息优势

AI技术的未来发展将如何影响

情报搜集能力、数据分析能力以及数据/媒体生成能力

以及6个潜在的变革场景

---

信息优势的意义

如果因一方控制了另一方的系统导致第三次世界大战在短时间内结束，那么我们最好拥有更智能、更快、复原力更强的网络。

——佩德罗·多明格斯，《主算法》⁵⁴

---

数据的收集和分析

---

美国情报机关收集的可能有用的原始情报数据比他们能够分析的数据多得多。

按照EMC公司的研究结果，地球上储存的数据量每两年就会翻一番，意味着在每24个月里生成的数据量都等于之前整个人类历史的数据量。 这些新的数据大多是非结构化的传感器数据或文本数据，并储存在未整合的数据库中。对于情报机构来说，这既是机遇又是挑战：可供分析并从中得出有用结论的数据很多，但“大海捞针”很难。美国情报机构每天收集的原始情报数据比他们全部工作人员一生中能有效分析的数据还要多。

通过利用机器学习，计算机辅助情报分析将很快能够提供非凡的能力，例如每天拍照及分析整个地球表面。

分析人员必须按优先次序列出并分类要分析的已收集信息。他们利用计算机检索和数据库来增加能处理的信息量。以前只能由人类工作人员来分析的一些数据集（例如照片）最近已能在机器学习的基础上进行自动分析。在2015年的“ImageNet”挑战赛中，由微软和谷歌开发的图像识别系统打败了人类竞争对手。 这些基于机器学习的技术经美国情报机构改进后，用于自动分析卫星侦察照片。 这样一来，美国就有可能每天拍照并自动分析地球表面的每平方米土地。由于机器学习在处理大多数类型的非结构化传感器数据方面很有用，因此机器学习的应用范围很可能会扩展到大多数类型的传感器情报，例如信号情报（SIGINT）和电子情报（ELINT）。基于机器学习的分析能力还可用于分析非结构化的文本并从中引申出意义。

---

数据/媒体的生成

---

AI不仅能用于分析数据，还能生成数据，包括自动生成照片、视频和文本。

研究人员已证明，AI的数据生成能力正在快速提升。现有的AI相关能力包括（但不限于）如下能力：

• 仅利用零售消费者网络摄像头，就能逼真地实时修改视频上个别人的面部表情和说话时的嘴唇运动 

• 为拥有足够训练数据的个人生成用真实声音合成的录音，即所谓的“音频Photoshop”

• 只根据文本描述就能生成逼真的伪图像

• 根据舆论调查、选举结果、财务报告、体育比赛统计数字等结构化数据，生成书面新闻稿 

• 根据一张或多张二维图像，生成物体（例如脸）的三维图像 

• 自动生成逼真的音响效果，给无声视频配音 

在不久的将来，甚至业余爱好者都有可能生成大规模的逼真高清晰度视频、音频和文件类伪造品。

如今，很多此类AI伪造能力都很逼真，以至于有时能骗过未受培训的人。在不久的将来，这些AI伪造能力的品质将会很高，足以骗过至少一些法医分析者。此外，这些工具将不仅供高级计算机科学家使用，还将面向任何人，除非政府有效地限制了这些工具的可获得途径。当品质高于当今好莱坞电脑成像（CGI）技术的伪视频生成工具向未经培训的业余爱好者开放时，信息生态系统的绝大部分可能被这些伪造品占领。

普遍存在的AI伪造能力将侵蚀社会信任度，因为以前可靠的证据因AI而变得极其不确定了。

自从照相机在20世纪中期被发明以来，用于捕捉高度可靠证据的技术与用于生成可信伪造品的技术相比已便宜得多，而且更容易买到。如今，每个有智能手机的人都能记录高清晰的事故视频，为发生的事故作证。此外，如今大多数人通常（虽然不一定总是）也能区分自己看到的哪些视频是假的。目前，制造高质量假视频的成本极其昂贵。一些好莱坞影片花数千万美元来制作可信的CGI，但仍有很多粉丝偶尔会抱怨这些CGI图像看起来像假的。 这种情形将会改变。就像我们中的某人在给WIRED写的一篇文章所说的：

如今，当人们从视频中看到政治家受贿、士兵犯战争罪或名人演性爱片时，观众肯定会认为所描绘的事件确实已发生——当然，前提是该视频已达到一定的质量水平，而且无明显的编辑痕迹。

但这个基于事实的世界——崇尚眼见为实——即将被人工智能技术弄颠倒 […]

当品质高于当今好莱坞电脑成像（CGI）技术的伪视频生成工具同时向未经培训的业余爱好者开放时，信息生态系统的绝大部分可能被这些伪造品占领。这种技术的发展将改变证据和真相在新闻工作、政府通信、刑事审判证词和国家安全等领域中的意义。

将来，当赝品很便宜、随处都可买到而且与真品别无二致时，个人与真相/证据之间的关系将会改变。这种发展态势将对新闻工作、政府通信、刑事审判证词和国家安全等领域产生深远的影响。如今，当某人看到泄露的视频中一名恐怖分子正在大肆屠戮或者一位政治家承认受贿时，（假设该视频已达到一定的质量水平，而且无明显的编辑痕迹），那名观众肯定会认为所描绘的事件确实已发生。将来，人们将不断地碰到逼真的伪造品。

我们将努力了解哪些值得信任。通过利用密码和安全通信信道，在一些情况下可能仍然能证明证据的真实性。但主宰着当今世界的“眼见为实”证据方面——人的眼睛或耳朵通常都足以值得依赖——将会大打折扣。

---

6个潜在的变革情景

---

上述分析表明，AI能帮助情报机构确定事件的真相，但也会让对手更轻松地撒个有说服力的谎。下面，我们将简述六种可能的情景，以说明AI能力可能会如何改变未来的信息优势。我们承认，这些情景中有的是互不相容的。我们的目的是揭示可能性变革结果的范围有多广，而不是要完美无误地预测未来。

1. 更有效的监视结束了游击战争状态。

未来的AI和监视貌似有“赢者通吃”的方面，尤其是对国家而言。恐怖分子和游击组织将努力策划并实施每次作战，不给国家行为者留下任何可以收集和联接的监视点。试想一下：如果美国在战斗最激烈的时期能够在伊拉克的每条道路上每隔200码就安装一个具有面部识别功能的低价数字照相机以及能与嗅弹犬的鼻子相匹敌的机器人，情况会是什么样。如果机器人和数据处理技术继续当前的指数级降价-增能趋势，那么这种用AI增强的威胁探测系统就有可能实现。如果这种系统确实存在，则我们目前所知的游击战争状态和叛乱将不复存在。

2. 在基于AI的情报分析方面有重大优势的国家会在生成决策和实施决策上获得决定性的战略优势。

从长远来看，AI很可能将很多不同类型的传感器数据源的分析结果有效地融入并集成到更统一的决策支持源中。净评估办公室的《夏季研究》敏捷地将AI情报支持的潜力与英国及其同盟国在二次大战期间破译了“Axis Enigma and Purple”密码后拥有的优势做了比较。

3. 独裁主义者和偏执政权的宣传变得与真相越来越不可区分。

鉴于用AI生成伪造品很容易，因此控制着官方媒体的政权将能够生产优质伪造品，从而大大改善公众的感受（甚至大于目前的程度）。按照推测，“泄漏的”视频可能由那些叫嚣着攻击性言论或下令实施暴行的敌方国外领导人制造的。虽然反对独裁主义政权的假媒体也能制造出来，但国家对媒体和社交媒体审查制度的控制可能会限制这些假媒体的散布能力。

4. 民主自由的出版因假新闻而变得骤然困难。

目前假新闻存在的主要问题是假新闻会欺骗个别市民和选民。将来，甚至高质量的新闻机构和政府也会不断地面临将假新闻与事实区分开来的麻烦事。由于高质量伪造品泛滥成灾，因此即使最好的新闻机构有时也会把恶作剧谣言作为事实来报道，而漏报了真实的新闻，因为他们被假新闻诱骗后认为真实的新闻也是假的。

5. 指挥控制机构面临着持久的社会工程威胁。

由AI生成的大量可获得的伪造品将对指挥控制机构构成挑战。那些发出和接收命令的人将努力地想知道哪些通信内容（文字、视频、音频）是真的。社会工程黑客——类似于数字黑客但针对的是人而不是计算机——在将来可能会棘手得多。而视频或音频电话让一个人能够具有他们要模仿的人的相貌和声音使得验证通信内容真伪又大大增加了难度。我们可以想象当敌人模仿军事官员或情报官员下令共享机密信息或采取一些会让军队受攻击的行动时会是什么情景。AI可用于生成伪造的国防部指令和政策声明，还能在互联网上广泛传播这些伪信息。一支军队的敌方可能利用这些技术生成大量伪证据，借此表明这支军队犯下了战争罪行。

6. 由AI实现的伪媒体与网络攻击和社交媒体僵尸网络相结合，威胁着经济体或政府政权的稳定性。

在2013年4月23日，黑客控制了美联社的官方推特账户，向该账户的将近200万跟贴者发表了一篇推文，标题为“破坏：白宫两次爆炸，巴拉克·奥巴马受伤”。在这篇推文发表之后两分钟内，美国股市的市值就下跌了近1360亿美元，直到发现被黑客攻击了为止。随着由AI实现的伪造品渐增，我们可以想象将来会出现一种更具毁灭性的黑客攻击现象：黑客将控制官方的新闻机构网站或社交媒体账户，用于散播不仅假的文本，还散播假的视频和音频。然后，社交媒体僵尸网络可能用于快速散播假消息，从而影响到很多人。据报道，在2016年的美国总统大选中，俄罗斯恰恰利用了社交媒体僵尸网络的这种影响途径来试图影响美国的大选结果。

这个问题在某种程度上并不新鲜。例如，在2014年，社交媒体上广泛传播着一些图像，据说是2014年以色列在加沙地区的空袭照片，但实际上是从叙利亚和伊拉克战争中选取的更加暴力的照片。 但如果伪造的证据非常令人注目，并能有效地散布，则可能导致股市崩盘、暴动或者更糟的局面。为达到此目的，敌人可能采取的一种方式是通过网络间谍活动获得成千上万份真实的（而且是机密的）文件，然后将这些真实的文件混入一些制作精良的伪造文件再配上“泄露的”伪造音频与视频后泄露出去。即使政府予以广泛否认并提出反驳的证据，但仍难以消除伪造的作战给人们带来的错误理解。在限制和补救由这种错误理解造成的潜在严重后果时，政府也将面临重重困难。

本报告中文译文版本将于近期成册

请您随时关注相关信息！

---

文章来源：/ 图片来自于原报告或互联网

英文原文阅读下载链接如下（英文报告篇幅较长，下载需时间，请您耐心等待❤）

https://www.belfercenter.org/sites/default/files/files/publication/AI%20NatSec%20-%20final.pdf

欢迎大家评论

---

    声明：版权归原作者所有。文章观点不代表本机构立场。

---

• 《中国电子科学研究院学报》欢迎各位专家、学者赐稿！投稿链接 http://kjpl.cbpt.cnki.net

• 学报电话：[phone]

• 学报邮箱：[e-mail]