智库跟踪 | 哈佛大学：人工智能与国家安全

再不点蓝字关注，机会就要飞走了哦

前言

过去五年人工智能领域的研究取得了重大的技术进步，发展速度比之前预期的要快很多。人工智能领域的很多进展主要归功于其分支技术——机器学习领域取得的成就。很多专家认为人工智能仍将继续快速发展,并且对国家安全的影响将逐步加深。哈佛大学贝尔弗科学和国际事务中心推出的这份研究报告，首先从军事、信息和经济三方面分析了人工智能变革的潜力以及对国家安全的影响；接着阐述了从以往的变革技术案例中可以学习到的经验以及吸取的教训；最后对美国向AI发展的国家安全政策提出三个目标和十一条建议，报告提出的三大目标是：保持美国技术领先、支持和平利用人工智能技术、减轻灾难性风险。

1. 过去五年人工智能领域的研究取得了重大的技术进步，AI发展比之前预期的要快很多

（1）AI领域的很多进步归功于人工智能的分支技术——机器学习领域取得的研究进展。

（2）很多专家认为人工智能仍将继续快速发展，甚至还有可能加速发展。

2. 大多数人工智能研究取得的进展主要集中在私营部门和学术界

私营部门在人工智能方面投入的资金远远高于美国政府。

3. AI技术对国家安全具有重大的潜在影响

例如：机器学习技术可以使劳动密集型工作（如卫星图像分析和网络防御）实现高度自动化，

4. 未来AI技术有可能带来美国国家安全技术的变革（与核武器、航空，计算机和生物技术一样）

● 核武器、航空，计算机和生物技术这些技术将使美国国家安全机构的战略、组织、优先重点工作和资源分配发生重大的变化；

● 未来AI将至少具有同样的影响力。

5. 人工智能的发展将推动三个方面的进步（军事优势、信息优势和经济优势），从而影响国家安全：

（1）在军事方面的优势——既能实现新的功能，也能使现有功能可支持更广泛的参与者

● 例如：商业上可用的、采用AI的技术（例如远程无人机包裹递送）可能会使弱小国家和非国家行为者获得一种远程精确打击能力。

● 在网络安全领域，目前需要大量高技能型人才完成的行动（如高级持续威胁操作），未来很可能实现自动化，并很容易在黑市获得。

（2）在信息方面的优势——将大大增强数据收集和分析的能力，以及创建数据的能力

● 在情报活动中，采用AI技术后将可获取更多的信息资源，有助于了解事情真相。

● 采用AI技术的音视频媒体赝品的质量正在快速提高，并且成本下降。未来，AI技术产生的赝品将对许多机构的真实性原则造成挑战。

（3）在经济方面的优势——可能会带来一场新的工业革命

● 前美国财政部长拉里·萨默斯认为，AI和相关技术的进步将导致美国对劳动力的需求大幅下降。

● 就像第一次工业革命一样，这将重塑世界各地经济体的资本与劳动力之间的关系。不断提高的工作自动化水平可能会导致发达国家经历类似“资源诅咒”的情形。

● 像第一次工业革命一样，人口规模对国家实力的重要性也会降低。在人工智能发展方面有显著优势的较小国家，影响力将会大大超过他们的规模。

6. 报告分析了四类变革性军事技术案例——核能、航空航天、网络、生物技术，为人工智能提供可借鉴的“经验教训”

（1）激进的技术变革催生了激进的政府政策理念

● 正如之前的变革性军事技术一样，人工智能带来的国家安全影响将是革命性的，而不仅仅是有所改变；

● 世界各国政府将会考虑（一些国家将颁布实施）不同寻常的政策措施，也许与核武器技术发展初期几十年考虑的情形一样激进。

（2）军备竞赛有时是不可避免的，但它们是可以管理的

● 人工智能在战争和间谍活动中的应用很可能是像飞机飞行一样不可抗拒的，防止扩大人工智能的军事用途大概是不可能的。

● 在国家安全部门严格禁止人工智能应用是不现实的，必须追求更加安全有效的技术管理目标。

（3）政府在促进AI商业活动的同时也要对其进行限制

● 拥有最大和最先进的数字技术产业对美国来说是一个巨大的优势。然而，政府与一些领先的人工智能研究机构之间的关系处于紧张状态。

● 人工智能政策制定者必须有效地支持双方的利益。

（4）政府必须正式确立技术安全目标，并提供足够的资源

● 在上述四种技术发展案例中，国家安全政策制定者面临着安全和技术性能之间的权衡，但政府很可能对某些风险做出适当的回应。

● 在所有案例中，当政府成立正式组织来提高各自技术领域的安全性，并提供所需的资源时，安全方面有所改善；

● 提供的资源不仅包括资金和物资，而且还包括有能力的人才和学术权威；

● 美国政府应该考虑成立正式的研究和发展组织，负责调查和促进整个政府和商业AI体系的人工智能安全。

（5）随着技术的改变，美国的国家利益也发生了变化

● 生物武器的成本和复杂性下降使美国改变了他们的生物武器战略，从侵略性的发展到自愿的克制。

● 通常来说，美国的战略策略是形成一个成本、复杂性和进攻/防御平衡的国家安全技术体系；

● 美国应考虑如何构建基于AI的军事和情报应用体系。

7．报告基于“政府整体”的构架，对美国向AI发展的国家安全政策提出三个目标和十一条建议：

（1）保持美国技术领先地位

● 建议1：DOD应进行以AI为重点的模拟军事演习，以识别潜在的颠覆性军事创新；

● 建议2：美国国防部应该投资对人工智能技术及其影响进行多样化、长期的战略分析。

● 建议3：美国国防部应该优先考虑人工智能研发支出领域，这些领域可以提供可持续的优势，并减轻重大风险。

● 建议4：美国国防和情报部门应该对“反AI”能力进行大量投资，以应对进攻和防守。

（2）支持和平利用人工智能技术

● 建议5：美国国防部高级研究计划局、IARPA海军研究办公室、美国国家科学基金会应增加对人工智能基础研究的资助。

● 建议6：国防部应该发布开发军事、民用两用功能AI技术的信息需求（RFI）；

● 建议7：高科技风险投资公司In-Q-Tel应提供更多的资源，以促进国家安全团体与商业AI行业之间的合作。

（3）实施对灾难性风险的管理

● 建议8：国家安全委员会、国防部和国务院需研究美国应通过制定条约限制哪些AI应用；

● 建议9：国防部和情报机构应建立专门的人工智能安全组织；

● 建议10：DARPA应该为人工智能系统的故障恢复和性能安全技术研究提供资金。

● 建议11：NIST和国家安全局应探索打击人工智能伪造行为的技术。

内容框架

（一）摘要

（二）简介和项目研究方法

（三）第1部分：人工智能的变革性潜力

1）对军事优势的影响

2）对信息优势的影响

3）对经济优势的影响

（四）第2部分：从先前的变革性技术案例中学习

1）关键技术管理

2）政府技术管理办法

3）政府管理办法“记分卡”

4）AI技术概况：最坏情况案例

5）吸取的教训

（五）第3部分：对人工智能和国家安全的建议

1）保护美国的技术领先地位

2）支持和平利用人工智能技术

3）减少灾难性风险

（六）结论

（七）附录：变革性国家安全技术案例研究

1）案例研究1：核技术

2）案例研究2：航空航天技术

3）案例研究3：互联网和网络技术

4）案例研究4：生物技术

关键图表

表1  四个案例中关键技术的各方面比较

表2  四个案例中政府技术管理办法

表3  政府技术管理办法打分表

本内容仅供研究参考，严禁用于商业用途。

校  审 | 陈立娜  贺璐婷

编  辑 | 路凌霄

”

推荐阅读

好文章，快分享，一起涨姿势~