【厚度】哈佛大学报告：人工智能与国家安全(三)AI变革潜力之军事优势：AI技术改变军事实力的10个​情景

---

---

应美国情报高级研究计划局（IARPA）的要求，哈佛大学肯尼迪政治学院贝尔弗科学与国际事务中心与2017年7月发布《人工智能与国家安全》报告，分析人工智能（AI）对美国家安全的巨大影响，为美政府AI政策提供建议。本报告分为以下几个部分，我们将在接下来几天内，摘选报告部分主主体内容与大家共同分享学习。

执行摘要

介绍和项目方法

第一部分：人工智能的变革潜力

第二部分：学习以前的变革性技术案例

第三部分：关于人工智能和国家安全的建议

结论

附录：变革性国家技术的案例研究

    案例研究#1：核技术

    案例研究#2：航天技术

    案例研究#3：互联网和网络技术

    案例研究#4：生物技术

---

哈佛大学报告：人工智能与国家安全(三)

人工智能的变革潜力之军事优势

AI技术改变军事实力的

10个潜在变革情景

---

上述趋势和主题结合起来，可能创建与目前大不相同的军事实力前景。下面，我们将通过10种情景，说明AI能力的增强会改变军事实力。这些情景并非要用作可靠的预测。相反，这些情景具有挑衅意味，揭示在目前趋势下国家和非国家行为者都有哪些可能的AI发展结果。此外，这些情景不是互斥方案，可能同时有不止一种或几种情景出现。

1.

致命的自主武器

占军事实力的绝大部分

---

近80年来，随着自动化系统和自主系统变得越来越功能强大，军队也越来越愿意把权力“下放”给这些系统。鉴于AI技术飞行员用价值$35的计算机就能在战斗模拟器中击败美国空军培训的战斗机飞行员，因此很多行动者越来越经不住诱惑将更多的权力“下放”给AI设备，否则他们将面临被打败的命运。俄罗斯军事工业委员会已批准了一份大胆的计划，准备在2030年之前将30%的俄罗斯战斗力部署成完全遥控的自主机器人平台。其它面临人口统计挑战和安全性挑战的国家很可能也会设定类似的目标。例如，日本和以色列拥有极先进的技术部门，但面临独有的人口统计挑战。这两个国家可能觉得致命的自主武器尤其有吸引力。美国国防部已颁布了关于限制使用致命自主/半自主系统的指令。其它国家和非国家行为者可能不会行使这种自我约束机制。

2. 

破坏性的群集技术

使一些军事平台被淘汰

---

截止2013年，美国已拥有14776架军用飞机，其中有的每架价值1亿多美元。 而高品质四旋翼无人机目前只值大约1000美元。这意味着，一架高端飞机的价格能让一支军队买到一百万架无人机。如果机器人市场继续保持当前的降价趋势，那么将来这个数字很可能会接近10亿。在这种情形下，无人机甚至比当今的一些射击弹药（例如约$150/枚的155 mm炮弹）都更便宜。商用无人机目前在航程和有效载荷上面临严重的局限性，但一年比一年便宜，功能也越来越强大。设想一下当一架低成本无人机的航程与加拿大雁相同时的情景——这种鸟能以60mph的平均速度在不到24小时的时间里飞越1500英里。航空母舰战斗群将如何应对数百万架携带炸药的“神风”自杀式无人机的攻击？由此，美国国家安全目前仰仗的一些主要平台和战略都可能难逃被废弃的命运。

3. 

机器人暗杀行动会很普遍

难以追究责任

---

网络的低成本让攻击者在有目标的数字攻击上占据优势。广泛使用的低价高能致命自主型机器人让有目标的暗杀行动变得更普遍，更难以追究责任。小型自主机器人可能会潜入暗杀目标的家里，给他注入一剂致命毒药，然后悄无声息地离去。或者，自动狙击机器人会从远处射击目标。

4. 

像移动机器人一样的简易爆炸装置（IED）

使恐怖分子拥有类似PGM的低成本武器

---

在伊拉克战争中，简易爆炸装置（IED）给美国军队构成了严峻挑战，因为这些装置成本低、易于制造，还能造成严重破坏。随着商用机器人和无人车技术变得越来越普遍，一些团伙会利用这一点制造更先进的IED技术。例如，一些强国目前在限制能将炸药快速投放到数英里外的一个精准目标上的技术能力，因为这些国家在每一枚精密制导弹药（PGM）上花的费用有时达到了数百万美元。如果无人机的远程炸药包递送成为现实，那么从远处精确投放炸药的成本将从数百万美元降到几千甚至几百美元。同样，自主驾驶汽车会让自杀式汽车炸弹变得越来越常用，越来越具有破坏性，因为这些车不再需要自杀式驾驶员。

5. 

军事实力的增长

与人口规模和经济实力

脱节

---

《中情局世界概况》仍把一个国家中达到参军年龄的男性人数作为该国军事潜力的决定因素之一。但在将来，甚至那些人口少、老且呈下降趋势的国家也可能利用机器人和自主技术获得远远超过其人口规模的机器“人力”。以韩国为例：在谷歌DeepMind的阿尔法狗（AlphaGo）系统打败韩国围棋冠军Lee Sedoul之后，韩国政府宣布将在今后五年内花将近10亿美元来搞AI研发。韩国每年的AI研发经费——包括政府的实物捐助和新计划基金——在今后一两年内可能达到10亿美元。

如果韩国确实达到这个数字，韩国的AI经费将达到经济实力大将近15倍的美国在2015年的AI研发预算。虽然这种情景是推测的，但像韩国这样人口少、技术先进的国家有可能在基于AI的军事系统上树立显著优势，从而在战场上派出与人口更多的敌国相比更多更有能力的机器人“战士”。

6. 

网络武器经常用于杀人

---

数字系统和实体系统相结合，将增加用网络武器杀人的可能性。自主驾驶汽车可能被黑客攻击，然后在公路上撞毁。虽然不用AI也可能发起致命的网络攻击，但AI会以两种方式改变局势：首先，AI能力让攻击者有可能甚至很容易实施大规模袭击，还有可能让具有有限网络知识但资金雄厚的行动者作恶。其次，AI应用率的增长有助于将更多可能遭到黑客攻击的事物带到物质世界中。

7. 

网络空间的大多数行动者都将别无选择

唯有实现相当高的自主水平

否则会面临被“机器速度”对手打败的危险

---

在一些军事实力领域中，高度自主性是获得成功的一个先决条件。例如，导弹防御系统不能总是等着人类操作员瞄准来袭的导弹之后再批准发射每个反导弹系统。同样，AI网络防御系统必须能够高度自主地应对高速的网络攻击，否则会有被打击的风险。近年来，政府网络的一些攻击者甚至在被发现之后还试图保持活跃状态，积极地与美国争夺控制权。“机器速度”AI防御者或攻击者很可能会在这种虚拟的“肉搏战”中抢占先机， 因为他们的运行速度达到了千兆赫级。就像导弹防御系统那样，那些不愿意将控制权转交给AI的防御者很容易被那些愿意将控制权转交给AI的攻击者所打败。

8. 

自主系统的意外交互会造成

偶发性的“闪电崩盘”

---

自主系统能以不可思议的飞快速度做出决定，这个速度比人类在没有机器的帮助下监视、制止自主系统时的速度要快得多。由于自主系统的速度很快，因此意外的交互和误差会很快失去控制。其中一个险恶的例子是2010年5月的证券市场“闪电崩盘”。据美国证券交易管理委员会报道，这次事件是因为使用了自主金融交易系统而造成并恶化的。 在“闪电崩盘”事件中，由于非故意的机器交互作用（意外影响），紧急证券交易所的有价证券额在几分钟内就损失了一万亿美元。我们必须考虑与“闪电崩盘”等效的网络安全或自主车事件。

对于基于机器学习的自主系统而言，系统验证与确认过程仍处于起步阶段。“闪电崩盘”表明，甚至那些在超过99%的运行时间里都优于人类的系统偶而也可能发生灾难性的意外故障。鉴于战争和间谍活动的对抗性，这一点让人尤其不安。行人及其他驾驶员希望自主车辆安全并获得成功。而机器人系统的军事对手——就像在金融市场上的那些对手一样——则没那么友好。

9. 

将机器学习引入军事系统中会形成新型漏洞

和以及以机器学习系统的训练数据为目标的新型网络攻击

---

由于机器学习系统依靠高质量数据集来训练其算法，因此将所谓的“中毒”数据注入那些训练集中可能会导致AI系统以不受欢迎的方式运行。例如，研究人员已证明，如果敌人有权使用深度神经网络图像分类器的训练数据，则可能接触到分类器以系统方式误分类的数据。我们可以想象，更加极端的数据中毒式攻击会让一个传感器错误地认友为敌或完全意识不到敌人的存在。现有的网络系统就可能存在这样的操纵。但随着我们越来越多地使用机器学习，网络攻击的性质会发生改变。鉴于自主水平在不断上升，网络攻击的影响力也可能会大大增强。

10. 

军事/情报AI系统的失窃和复制会导致

AI网络武器落入不合适的人的手中

---

在航空航天技术或其它技术中，偷窃武器设计图的窃贼实际上并不能获得该武器，或者甚至也不能保证有能力开发该武器。正如我们中的其中一人在以前的Vox相关文章中写道：

例如，当中国偷了美国F-35战斗机的设计图和研发数据时，中国F-35竞争对手的开发时间很可能缩短了数年。但实际上中国并没能获得一架现代喷气式战斗机，或者说没能立即制造出这样一架飞机。这是因为航空制造非常难，而中国在这方面还没有达到美国的能力。但是当一个国家盗窃某种网络武器的软件时，它不仅窃得了设计图，还得到了武器本身——并且能够以几乎为0的边际成本复制该武器。

在网络领域，据报道不法分子团伙已侵入美国政府的网络工具，并利用这些网络工具来感染数十万台电脑，以达到犯罪目的。 基于AI的网络工具还可能共享此特性，其结果——尤其是当攻击仍占主导地位时——将是：具有高度破坏性的AI网络武器可能会广泛使用，难以控制。 

黑客侵入机器人系统也可能会带来重大风险。Paul Scharre指出，自主武器“构成了一种新的风险，即大规模自相残杀。大量武器向友军瞄准[…] 这可能要归咎于黑客行为、敌人的行为操纵、与环境之间的意外交互或者简单的故障或软件错误。”

本报告中文译文版本将于近期成册

请您随时关注相关信息！

---

文章来源：/ 图片来自于原报告或互联网

英文原文阅读下载链接如下（英文报告篇幅较长，下载需时间，请您耐心等待❤）

https://www.belfercenter.org/sites/default/files/files/publication/AI%20NatSec%20-%20final.pdf

欢迎大家评论

---

    声明：版权归原作者所有。文章观点不代表本机构立场。

---

• 《中国电子科学研究院学报》欢迎各位专家、学者赐稿！投稿链接 http://kjpl.cbpt.cnki.net

• 学报电话：[phone]

• 学报邮箱：[e-mail]