【深度】哈佛大学：人工智能和国家安全（六）关键技术管理与政府的技术管理方法

---

【学术plus】 新添加号内搜索功能！

进入公众号→点击菜单【智库扫描】→【搜搜文章】

→输入关键词→一键检索您需要的文章。快来试试！

---

---

应美国情报高级研究计划局（IARPA）的要求，哈佛大学肯尼迪政治学院贝尔弗科学与国际事务中心与2017年7月发布《人工智能与国家安全》报告，分析人工智能（AI）对美国家安全的巨大影响，为美政府AI政策提供建议。本报告分为以下几个部分，我们将在接下来几天内，摘选报告部分主主体内容与大家共同分享学习。

执行摘要：

介绍和项目方法

第一部分：人工智能的变革潜力

第二部分：学习以前的变革性技术案例

第三部分：关于人工智能和国家安全的建议

结论

附录：变革性国家技术的案例研究

    案例研究#1：核技术

    案例研究#2：航天技术

    案例研究#3：互联网和网络技术

    案例研究#4：生物技术

---

哈佛大学报告：人工智能与国家安全（六）

学习以前的变革性技术案例

关键技术管理与政府的技术管理方法

---

在总结了用于证明人工智能为变革性军事技术领域的机理后，本节将总结我们对以前的变革性军事技术（核、航空航天、网络和生物技术）的分析结果，然后得到要吸取的、适用于AI技术管理的教训。我们对这些以往案例的全部分析结果已列入附录中，但第2部分将简要总结这些分析结果以及我们建议要吸取的教训。

关键的技术管理方面

---

虽然这些技术案例中的每一个对美国国家安全来说都是有改革意义的，但这些案例有不同的潜在科学条件和经济条件，会影响到美国政府对这些案例的最佳管理途径。我们从以下五个不同的方面评估了每一个案例： 

1. 破坏潜力：通过利用这种技术，武器能造成多大的毁坏程度？证明其破坏潜力容易吗？毁坏的把握有多大？

2. 成本状态：要开发这种技术，需要哪些资源？价格如何？武器大规模制造时的边际成本是多少？需要大型固定资产吗？

3. 复杂性状态：要开发这种技术，需要哪些类型的技术知识？是先购买再使用吗？这些专业知识主要取决于形式知识（例如数学）还是隐性知识（例如精良的制造工艺）？

4. 军用/民用两用潜力：有商用版技术的经验，是否意味着可以轻松地过渡到军用型？在其中一个领域中制造产品的企业是否倾向于还要在另一个领域制造产品？掌握了商用领域技能的工人是否也掌握了军用领域的相关技能？

5. 间谍活动和监视的困难程度：敌人是否容易监视军事开发计划的进展？开发人员是否容易隐藏其开发活动，或者将其描述为商用开发活动？这种技术是否容易被复制或反向设计？

再次强调，我们技术管理方面的详细理由已列入附录中。我们对每个案例的技术状态则总结在表1中：

表1：关键的技术方面

政府的技术管理方法

---

无可否认（而且有必要），为达到局部简化目的，我们将美国政府对上述四种技术的管理模式进行了分类。 我们的目标是阐明政府如何看待这些挑战的性质——尤其是在最初几十年——并描述政府最终采取了什么样的方法。我们分析结果的详细理由已列入附录中。在下面的表2中，我们总结了四种方法：

表2：政府的技术管理方法

政府管理方法的“记分卡”

---

下面，我们将评估在四个案例中政府技术管理方法的有效性。我们的评估工作依据的是我们对政府在达到以下三个关键目标时的绩效所做的评估：

1: 保持美国的技术领导地位

保证持续的军事与情报能力优势

2: 支持技术的和平利用

帮助民用/商用部门从技术应用中获利

3: 处理巨灾风险

防止及缓解由技术的事故性应用和对抗性应用带来的危险

我们对记分卡的详细说明已列在附录中。我们的研究结果则总结在表3中。

表3：政府技术管理方法的“记分卡”

AI技术状态：最坏情况模式？

---

通过将AI的技术状态与以前的技术案例做比较，我们发现AI的技术状态可能处于最坏情况模式。将来，正确的预防措施可能会改变这种状态，但目前的趋势表明这是一种尤其棘手的挑战。

破坏潜力：高

• AI至少会大大增加自主武器和间谍能力，并将成为未来军事实力的一个关键方面。

• 推测性的但貌似合理的假设表明，一般AI系统和（尤其是）超级智能系统将可能给人类的存在造成威胁。

成本状态：多样化，但可能较低

• 开发在机器学习和AI方面的尖端技术会付出很高代价：很多企业正在投入数亿或数十亿美元来搞相关研发。

• 但相对较小的团队会利用开源代码库和COTS或租来的硬件以不到100万美元的成本开发功能强大的技术；泄露的AI软件副本几乎是免费的。

复杂性状态：多样化，但可能较低

• 要推进AI基础研究的目前技术水平，就需要有世界级的人才，而这方面的人才很有限。

• 但将现有的AI研究成果应用于特定问题时，有时会相当直截了当，只需很少的杰出人才就能实现。

• 将商用AI能力转化为军用系统时所需要的技术知识水平目前很高，但随着AI的改进将来可能会下降。

军用/民用两用潜力：高

• 军队和商业企业正在争夺基本上完全相同的人才库，并正在利用高度相似的硬件基础设施。

• 一些军事用途（例如自主式武器）要求获得与AI不相关的专业知识，以提供AI技术。

间谍和监视活动的困难程度：高

• 商用技术和军用技术之间的重叠部分使得我们难以辨别哪些AI活动可能是怀敌意的。

• 即使有关于AI开发的实体标记，也只有少数几个。

• 开发及应用先进AI系统的行动者总数将明显高于开发核能乃至航天技术的行动者总数。

• 如果没有直接存取功能，监视器将难以评估自主武器系统的AI方面。

本报告中文译文版本将于近期成册

请您随时关注相关信息！

---

文章来源：/ 图片来自于原报告或互联网

英文原文阅读下载链接如下（英文报告篇幅较长，下载需时间，请您耐心等待❤）

https://www.belfercenter.org/sites/default/files/files/publication/AI%20NatSec%20-%20final.pdf

欢迎大家评论

---

    声明：版权归原作者所有。文章观点不代表本机构立场。

---

• 《中国电子科学研究院学报》欢迎各位专家、学者赐稿！投稿链接 http://kjpl.cbpt.cnki.net

• 学报电话：[phone]

• 学报邮箱：[e-mail]