深刻影响国家安全的变革性技术：哈佛大学发布《人工智能与国家安全》报告
2017年7月，应美国情报高级研究计划局（IARPA）要求，美国哈佛大学肯尼迪政治学院发布《人工智能与国家安全》报告（以下简称《报告》），分析了人工智能技术在军事、信息、经济等方面的变革潜力，总结核、航空航天、网络和生物技术四种变革性军事技术发展的经验教训，并从国家安全角度对美国政府人工智能技术发展及管理提出3个目标和11点建议。
一、人工智能技术对国家安全的变革性影响
《报告》认为，人工智能技术的发展速度超出预期，该技术将像核、航空航天、网络和生物技术一样，成为给国家安全带来深刻影响的变革性技术。
1．通过变革军事优势影响国家安全
人工智能的发展将产生新的能力，将有更多的国家和非国家行为体能以经济高效的方式获取当前的人工智能能力。例如，人工智能催生的相关商业技术，可使弱国和非国家行为体获得远程精确打击能力。短期来看， 人工智能的进步很可能会催生更多直接参与战斗的自动机器人，并加速有人作战模式向无人作战模式的转变。长期来看，这些能力将为军事领域带来革命性变化。例如，无人系统集群作战技术将改变作战样式；移动机器人携带简易爆炸装置，将使恐怖分子获得低成本恐怖袭击能力；网络武器将更频繁的用于作战；在军事系统中应用机器学习，将带来新型漏洞并催生新型网络攻击手段；人工智能网络武器一旦被盗或者非法复制，将被恶意使用，等等。
▲人工智能将催生更多直接参与战斗的机器人
2．通过变革信息优势影响国家安全
人工智能将大幅提升数据收集、分析以及生成数据能力。拥有先进人工智能分析系统的国家将拥有决定性的战略决策优势。对情报工作而言， 人工智能技术的发展意味着有越来越多的信息源可供分辨真相；相应的， 制造的假情报将变得更加令人信服。未来由人工智能生成的伪造技术将挑战众多社会公众机构的信任基础。比如，人工智能可用来伪造国防部指令和政治声明，并在互联网上大肆传播，或用来模仿己方军事或情报官员， 下令分享敏感信息或要求采取行动。
3．通过变革经济优势影响国家安全
人工智能的发展可能会引发一次新的产业革命，重塑世界经济中的劳资关系。人工智能技术将会加速创新、提高效率。但另一方面，不断进步的自动化将使失业问题和网络攻击问题更加严峻，进而影响政治稳定和国家安全。比如，通过网络攻击扰乱股市或影响电力企业的运营，将可能对经济产生灾难性的影响。
二、人工智能技术发展值得借鉴的经验教训
《报告》通过分析核、航空航天、网络和生物技术4个变革性军事技术案例，从中得出人工智能发展应注意的5个方面经验教训。
▲《报告》分析了核、航空航天、网络和生物技术4个变革性军事技术案例
1．激进的技术变革催生全新的政府政策及思想
为响应人工智能技术的发展，世界各国政府将考虑或采取非常激进的政策措施。例如，在冷战背景下，核武器技术的发展曾促使美国考虑实施毁灭性核打击。
2．军备竞赛虽然不可避免，但却可以进行管控
阻止人工智能用于军事目的努力必然是徒劳的，虽然不可能完全禁止人工智能技术在国家安全领域的应用，但必须对其设立更加审慎的、安全有效的技术管理目标。
3．人工智能技术固有的军民两用性，要求政府对人工智能的商业应用既要鼓励也要限制
政府一方面要鼓励人工智能技术在商业领域的应用以促进经济发展； 另一方面，对于军用人工智能技术要严格实施保密和限制，以确保国家安全。
4．政府必须制定确保人工智能技术安全应用的目标，并设立专门机
构实施监管
在所有四个技术案例中，国家安全政策制定者都曾面临安全与经济效益之间的取舍，但对政府而言，需要更加重视技术的潜在风险而非其它。只要政府建立专门的监管组织，并划拨适当的资源来改善所负责技术领域的安全，那么该技术领域的安全就能够得到保证。因此，美国应设立专门机构，负责监管整个政府与商用人工智能领域的安全问题。
5．随着技术的发展变化，美国国家利益也会发生变化
如随着技术进步和生物武器成本与复杂程度的不断降低，使美国认识到生物武器不只是军事强国能力和威慑力的体现，而且有可能成为“穷人的核武器”，鉴于重大的生物武器威胁，为推动建立限制生物武器的全球统一框架，美国单方面宣布主动放弃生物武器。
三、美国人工智能技术发展的三大目标
1．保持美国技术领先优势
美国防部应资助以人工智能技术及其影响为主题的各种长期战略分析和评估；开展以人工智能为核心的兵棋推演，以甄别潜在的颠覆性军事创新；国防部与情报界应考虑人工智能在军事和情报领域应用的技术布局， 大力投资“反人工智能”的进攻和防御能力等。
2．支持人工智能用于和平和商业目的
美国防高级研究计划局（DARPA）、IARPA、海军研究办公室和国家科学基金会应增加与人工智能相关的基础研究经费；国防部应发布关于人工智能军民两用能力的信息征询书；向专门服务于中央情报局的In-Q-Tel 公司提供更多资源，促进国家安全机构和人工智能商业公司的合作等。
▲DARPA对于人工智能的看法
3．管控灾难性风险
国家安全委员会、国防部和国务院需研究美国应利用条约的形式，限制哪些人工智能技术应用；国防和情报部门应设立专门的人工智能安全机构；DAPRA应支持人工智能技术的失效保护和性能可靠性技术研究；美国国家标准技术研究所和国家安全局应探索应对使用人工智能造假的技术方案等。
四、初步认识
《报告》从国家安全角度审视人工智能技术发展，分析其内容可得出以下几点认识。
1．把人工智能技术上升到能给国家安全带来颠覆性变革的战略高度
此次发布的《报告》，首次运用对比分析法，从军事优势、信息优势和经济优势等事关国家安全的角度，全面、系统审视人工智能技术的发展及影响，认为人工智能技术未来有可能与核、航空航天、网络和生物技术一样，成为引领未来发展，给国家安全带来深刻变化的颠覆性技术，其未来影响力至少可与核武器比肩，这必将对美国国家安全领域的战略、组织、优先事项和资源配置带来重大变革。
鉴于人工智能技术的重大战略价值，《报告》建议美国政府不能仅将其作为一项技术研究近期发展和应用问题，而应站在战略性、全局性的高度，思考人工智能技术的长期发展及其颠覆性影响，为人工智能技术发展提出国家目标和策略。近年来，美国政府、国防部、各军兵种和智库先后发布了十多份有关人工智能技术的报告，对人工智能技术及相关产业未来发展进行了总体布局，明确了人工智能技术在军事领域的发展目标、发展重点和应具备的能力，并对人工智能技术的发展进行了利弊分析等。这表明美国政府和军方已将人工智能技术上升到事关国家安全的战略高度来统筹考虑，重视程度可见一斑。
▲ 人工智能将给国家安全带来颠覆性变革
2．人工智能技术是柄“双刃剑”，政府和军方的首要问题是如何加强人工智能技术的风险管控
《报告》称，人工智能技术进步将催生新的军事能力，并可能引发新一轮产业革命，人工智能在为人类发展带来利益的同时也会带来巨大风险。例如，人工智能技术的扩散将使弱国或恐怖组织具备网络攻击能力，篡改证券交易数据影响汇率和股市、伪造证据冲击法律与社会伦理、侵犯个人隐私、挑战国际关系准则。此外，商业公司目前是人工智能技术发展的主力军，这些专利企业将尖端人工智能研究的人才和信息牢牢封锁，关键时刻政府难以掌控，这些都将对军事安全、经济安全和社会稳定等带来巨大风险。
《报告》指出美国政府在推动人工智能技术进步的同时，在利益和风险方面更应考虑风险管控问题。建议在政府部门建立一个类似于兰德公司的机构，对政府和商业人工智能一揽子投资计划的安全性进行调研和评估。在国防部和情报部门设立专门的人工智能安全机构，监管人工智能技术的安全运行，并确保人工智能安全性的研究成果有效地应用于国家安全部门的规划、系统和任务中。可以看出，美国政府在抢抓人工智能技术发展机遇的同时，重视着眼国家安全开展人工智能的有效管控，防范国家安全重大风险，确保人工智能安全、可靠、可控发展。
▲ 人工智能技术是“双刃剑”，需要加强风险管控
3．人工智能是典型的军民两用技术，政府和军方应各有侧重共同促进人工智能技术的发展
《报告》指出，人工智能作为一种通用技术，对商业、军事领域的方方面面都有影响。目前，人工智能技术领先的公司在许多情况下主要都是为商业性、与国防无关的客户提供专属服务。使国家安全部门成为这类公司的主要客户及盈利来源并不现实。
因此，为推动人工智能军民两用技术发展，政府部门一是要加大对国防高级研究计划局、情报高级研究计划局、海军研究办公室、国家科学基金会、高校等机构的资金支持，开展人工智能基础研究；二是要在可能的情况下，尽力确保有前景的创业公司能在政府框架下寻求发展机遇，政府通过向某些技术公司投放资金，增进国家安全部门与商业人工智能行业的协作与联系。国防部应就人工智能军民两用能力发布信息征询或举行听证会，明确人工智能军用和民用的范畴差异，并优先投资能提供可持续优势、颠覆性应用和降低关键风险的领域。
▲ 谷歌公司宣布从移动优先转向为AI优先
来源：哈佛大学网站/图片来自互联网
中国国防科技信息中心 李向阳
如需转载请注明出处：“国防科技要闻”（ID：CDSTIC）
更多精彩内容，请回复以下关键词查看：
综合分析
战略与规划
科技管理
国防创新
军民融合
人工智能
陆军
海军
空军
航天
网络空间
电子信息
核武器
高超声速
无人系统
精确打击
防空反导
新概念武器
基础科学
技术
先进动力
与能源
先进材料
与制造
生物与医学
战例与演习
试验鉴定
觉得不错，请点赞↓↓↓