查看原文
其他

【CNAS】人工智能时代的战略竞争

人定湖中听潮 学术plus 2019-03-28

人工智能时代的战略竞争

  • CNAS(2018.7.18)

  • https://www.cnas.org/publications/reports/strategic-competition-in-an-era-of-artificial-intelligence

前言(略)


人工智能国家权力

的基本要素


从历史的角度我们需要回答一个问题,即人工智能时代,国家权力的关键要素会是什么样子。如前所述AI是一种通用技术,更类似于内燃机或电力而不是核武器。电力几乎为军事技术的各个方面提供了能力和改进。其中一些是革命性的,例如无线电和雷达,有些仅仅是改良性的,例如用电子引信代替燃烧的保险丝。与电力一样,狭义人工智能技术的采用将提供影响经济和军事力量的各种能力。内燃机的发明及其在全球军队中的使用,使得安全的石油供给能力成为国家力量的关键要素。人工智能时代国家权力的关键要素是什么?目前也许很难给出确切回答,但可能包含以下有几种:


1.拥有大量正确类型的数据。目前最强大的机器学习技术(如深度学习)需要大型数据集才能实现。因此掌握较大数据集的组织在开发优质应用程序方面具有优势。出于这个原因2017年5月经济学家封面故事指出,数据已经取代石油作为“世界上最宝贵的资源。” 但AI和石油之间的类比并不完美。炼油技术或多或少使所有石油的价值等同,但数据不是这样。数据类型的正确性取决于应用程序的需求,如果人们试图开发一种狭义人工智能系统来识别卫星图像中的物体,那么拥有大量手机用户数据的人就没有价值。人工智能将增强那些能够识别,获取和应用具有高经济和军事价值的大型数据集的国家力量,以开发高性能的AI系统。


2.培训,维持和启用人工智能人才库。高级人工智能系统开发所需的人力资本技能目前比较稀缺。现有AI技术的应用远比熟练的程序员要多得多。因此最近AI博士学位的起薪已经达到每年30万至50万美元甚至更多。制定教育,培训和移民政策,以招募和培训来自本国和其他国家的顶尖人才的国家将具有优势。


3.计算资源。机器学习需要大量计算资源来训练机器。这很昂贵且需高科技支持。但资源较少的国家和地区可以利用训练成熟的系统,这意味着一些人工智能技术可能会更容易向弱者扩散。然而拥有更多计算资源的组织将在构建原始的,尖端的AI系统方面具有优势。

 

4.激励和协调有效采用人工智能的组织。仅仅开发最先进的人工智能系统并不足以确保国家权力的持久优势。如果公司和政府组织缺乏可以使用它的人,没有使用它的有效策略,不善于培训,那么技术本身的效用就很有限。美国顶尖的科技公司都已宣称“用人工智能重塑企业”,历史表明组织变革对于转型成功至关重要。


5.公私合作。目前为止人工智能的主要参与者是私营部门公司,而不是政府。为了政府有效利用人工智能技术以确保国家安全,需要能够利用私营公司的创新。中国在公私合作方面相比美国具有重要优势,中国的军民融合模式与五角大楼和硅谷之间的文化鸿沟形成了鲜明对比。


6.行动的意愿:各国选择监管,限制在特定领域使用人工智能,优先考虑隐私或其他价值而不是效率优先。例如一些国家正在制定复杂的法规,限制以隐私为由使用健康数据,虽然这样做可能会使这些国家在保护公民权利方面受益,但在限制使用人工智能应用程序方面可能需要权衡。如何发挥其作用以及对国家力量的影响(经济和军事的)都是悬而未决的问题。


AI是软件还是硬件?


技术如何传播通常取决于他人在复制该技术时的易用性。软件通常比硬件更容易扩散,这既是因为商业激励可以推动软件创建,也因为创建新软件所需的人才库甚至可以存在于非主要军事生产国,例如亚洲的发达经济体。 


当前机器学习AI的大部分革命都是大量数据集的可用性和足够强大的计算硬件来处理它们的结果。


人工智能国家权力的关键要素,与将其视为软件还是硬件息息相关。在某些方面,AI代表软件,它不是航空母舰或机动车,它不是一件物理设备。特别是在训练算法之后,AI也被实现为一个软件。但将AI仅仅视为软件就太简单了


近几十年来,计算硬件已经变得越来越商品化,使得具有多种不同数据类型的数据中心具有相对类似的硬件。人工智能技术是一个值得注意的例外,目前使用的大多数最流行和最强大的机器学习技术(例如深度学习)是非常计算密集的。实际上机器学习当前的大部分革命,都是足够强大的计算硬件来处理大量可用数据集的结果。


此外,AI算法倾向于支持相对较窄的数学计算集。因此其可以从使用更专业的计算机芯片(如图形处理单元)中获益,甚至可以从定制设计的芯片中运行AI算法。许多领先的软件技术公司已经致力于此类芯片设计,以便从这种定制设计的AI硬件中获益。 


目前AI硬件有三个方面至关重要:


首先,给定AI算法的机器学习训练时间可以通过先进的硬件显著缩短。训练时间可能会从几周或几天缩短到几小时或几分钟。因此开发人员可以更快地运行实验和开发原型。

其次,改进的硬件还可以降低功耗。机器学习培训阶段需要大量电力,电费通常可能是总成本的重要因素。

第三,一些尖端的机器学习应用程序是高度依赖算力,以至于它们目前无法离开重要的计算资源。

最后,计算速度的增加和功率的降低在最终用户应用程序上具有明显收益。例如许多智能手机现在拥有一个定制芯片,该芯片经过优化用以运行面部识别的机器学习算法。如果没有这样的定制芯片,这些应用会过快地耗尽电池。对于飞机或无人机上的物体识别AI系统也是如此。


这创造了一个有趣的潜在情况,即人工智能的重大进步需要硬件,而一旦完成算法的训练,人工智能就成了容易扩散的软件。人工智能的这一特性与人工智能技术社区的开放文化相结合,导致各种研究广泛发布,并且可以在线免费下载经过培训的人工智能模型。这种情况下AI是硬件还是软件就会更加复杂,如果使用算法比训练算法需要的硬件门槛低很多,那么全世界人工智能算法玩家的能力就取决于谁创建了这些算法,以及他们如何创建它。


人工智能国际竞争


美国只是人工智能领域的众多参与者之一,许多国家正在采取措施确保其在人工智能方面的竞争力。前国防部副部长罗伯特·沃克和前英特尔首席执行官埃里克·施密特将这场人工智能世界领导者的比赛,与美苏之间冷战时的比赛进行了对比。


但人工智能开发与太空竞赛之间的一个关键区别是,人工智能领域的竞争可能会更激烈。太空竞赛从根本上说是两极竞争,美国和苏联是世界上最强大的国家,也是唯一能够抵近世界空间技术领导者的国家。而人工智能的竞争可能会更激烈,因为它将更加多极化和多元化。世界各国都希望成为人工智能的领导者,并在某些方面利用先进的信息经济来获得优势,虽然美国和中国是人工智能的全球领导者,但许多其他国家正在大力投资。


以色列为军事和商业目的大力投资人工智能。作为人口相对较少但资本丰富国家,以色列将从人工智能技术中取得事半功倍的效果。

俄罗斯正在投资人工智能和机器人技术,尽管在军事领域比其他任何地方更集中。这些举动表明,俄罗斯的投资正在遵循弗拉基米尔普京2017年的声明,即“人工智能是未来,不仅是对俄罗斯,对全人类而言。它带来了巨大的机会,但也有难以预测的威胁。无论谁成为这个领域的领导者,都将成为世界的统治者。”

新加坡在人工智能投资方面处于领先地位,利用其作为技术中心的作用来吸引投资。

韩国不仅投资于人工智能的商业应用,而且还使用基于算法的系统来帮助监控非军事区。


这些投资模式表明,人工智能在资本密集型国家特别能够获得受益。考虑到AI允许公司或政府用资本替代劳动力,已经拥有领先技术部门的国家已准备好受益。因此人工智能系统可能为以色列和新加坡等国家提供最大的相对优势,这些国家可以从技术变革中受益最多,这些变革可能会带来更加低劳动力依赖的经济。


美国只是人工智能领域的众多参与者之一,许多国家正在采取措施确保其在人工智能方面的竞争力。


公平地说,美国和中国都有一些可以实现领先的优势。美国拥有世界上最好的大学系统和学术界最先进的AI研究人员。尽管商业和军事领域的溢出效应可能很慢,但这有助于保证美国技术领先地位。像谷歌这样的美国公司也已经拥有大量的数据,这使得他们比竞争对手从头开始生成机器学习算法更容易。中国同样可以获得大量数据,特别是因为国家对互联网的控制意味着中国可以以比美国更系统为训练算法收集数据。


教育政策日益成为人工智能时代的国家安全焦点。中学和大学趋势是支持科学,技术,工程和数学(STEM)而不是人文科学,这种趋势可能在人工智能时代加速。拥有强大科学家,数学家和工程师队伍的国家,将更好地准备在全球舞台上竞争,推进人工智能的前沿和设计新的人工智能应用程序。


人工智能领先地位的竞争将对国际政治产生重大影响。从军事角度来看,在人工智能技术竞争中处于领先,对于创建和部署有效的军事力量可能越来越重要。而竞争越激烈,人们就越需要重视人工智能在安全方面的问题。随着国家和公司认为成为先行者将具有很大的优势,他们渴望成为第一梯队,各国可能会舍弃安全性和可靠性问题,竞相降低安全门槛的竞争将增大人工智能引发事故的可能性。


美国人工智能战略

与中国不同,美国目前没有针对如何处理人工智能的国家战略。在奥巴马执政的最后一年,白宫发布了几篇旨在使美国走向更加连续的人工智能政策的论文。这些报告涵盖了从监管到创新再到偏见的各种问题,推动了科学家与政府官员之间的一系列对话。我们认为现在采用这些关键原则的恰恰是中国而非美国,中国的人工智能战略体现了奥巴马政府报告中的关键原则。


与中国不同,美国目前没有针对如何处理人工智能的国家战略。


特朗普政府已开始考虑如何处理人工智能问题。美国国防部在国防创新咨询委员会和国防科学委员会的警告下,似乎有兴趣更系统地确定如何整合人工智能。在国家政府层面,特朗普政府最初认为他们正在利用幕后资源来支持美国在人工智能方面的创新。然而最近特朗普召开的AI峰会指定了研发重点,并宣布将致力于确保美国在人工智能的世界领导地位。正式的国家人工智能战略虽然不是灵丹妙药,但可以倡导政策导向变化,以更好地利用人工智能提供的机会。至少国家战略可以成为美国对人工智能创新承诺的象征,确保美国仍然是人工智能的领导者。


最近众议院议员Elise Stefanik提出了旨在实现更加协调一致的美国国家人工智能战略的立法。正如本报告所示,美国政府的问题不仅仅是军事或经济挑战。任何成功的人工智能战略都必须涉及多个政策领域,包括:


  • 培育最初的人工智能投资

  • 为未来的AI技术开发建立人才库 

  • 建立行业领导地位 

  • 确定下岗工人的经济政策选择 

  • 考虑政府在军队内外使用 

  • 评估使用AI的道德和道德问题

  • 应对算法偏见的挑战


任何成功的人工智能政策都会与一些列政策领域产生交叉。包括贸易,教育,福利,军事等。技术创新与政府内外对其使用的差距,是国家人工智能政策的最佳切入点。美国的市场力量足以产生可以使企业处于最前沿的技术创新。但创造尖端技术并不能保证政府能有效地实施这些技术,或者政府会制定法规来确保安全使用。


对权力平衡的影响


预测总是很困难,特别考虑到全球经济和国际体系等复杂和互动的环境时。国家权力在很多方面来自经济权力与军事力量的交叉,尽管随着时间的推移,强大的经济基础对于维持军事优势是必要的。


作为未来经济成功的关键推动因素,人工智能的领先地位可能对宏观的权力平衡和国际竞争至关重要。这意味着几件事:


首先,那些拥有AI特定用途公司的国家将具有显着的经济优势,特别是对于其他人难以复制的大型算法。先发优势很大程度上取决于AI创新被复制的难易程度。换句话说这将取决于商业AI应用和军事AI应用之间的相似程度。人工智能在军事领域的应用越具有明显商业适用性(如图像识别),世界各地的公司发明类似技术的动机就越高,能力传播的速度也就越快。人工智能在军事领域的应用越广泛,越容易使其在更长时间内不受竞争对手影响,从而产生更可持续的先发优势。


其次,人工智能对国家经济和军事力量的影响,可能在很大程度上取决于政府如何对待狭义人工智能。很少有国家能在基础技术类别中获得可持续优势,也很少有国家能从技术本身中获取决定性胜利。隐身飞机技术是第二次抵消战略的产物,它可能是为数不多的例子,这种技术被其他技术“孤立在外”,以至于美国获得了几代人的长期优势。而与特定的军事技术相比,大规模使能技术则不是这样,这一点在诸如内燃机或电力等技术创新中尤其明显。


因此,最有可能在人工智能革命中取得长期优势的国家将是那些因此获得经济成功的国家,并且能够以将AI能力应用于优化其军队战斗和赢得战争,哪怕是这些应用对组织和官僚主义上具有破坏性。而人工智能的领先国家不仅要利用人工智能的优势,还应具备应对它造成的社会破坏的能力。 


国别案例

(介绍了中国、印度、俄罗斯的现状,篇幅关系略)


结论


本报告建议美国政府与私营部门合作,采取一系列广泛的行动,为应对人工智能所带来的挑战做好准备。 


战略:为了应对未来的挑战,美国需要一项国家人工智能战略,以利用人工智能的优势,同时减轻其破坏性影响。


研发(R&D):美国应以现有的国家AI研发计划为基础,根据AI的技术发展更新计划,建立有效执行的指标和流程,并专门投资制定国家安全AI研发计划。


资金:美国政府应该通过不可能由私营部门资助的独特国家安全应用来增加对人工智能研究的投资。为支持这一努力,管理和预算办公室应制定跨领域指标,以评估各机构的人工智能资金水平以及该资金的有效性。


收购:美国应扩大政府不同部门的新努力,如国防部的Project Maven,并建立一整套政府计划,以便在政府机构快速整合人工智能工具。这应包括打破创新障碍,使政府更容易快速整合新兴技术。


安全:美国政府应增加对人工智能安全的投资,以改善在国家安全环境中建立强大,可靠和可解释的人工智能系统的前景。由于许多当前的人工智能方法存在严重漏洞,美国应将对抗操纵的安全性和稳健性作为其纳入人工智能技术的关键要素,并在部署之前使用“红队”来测试人工智能工具。


指标:美国政府应制定一项综合计划,以衡量,评估和跟踪国际人工智能能力的进展,以及人工智能在国际体系中向各种行为者的传播。这将降低战略意外的风险,并帮助政策制定者为国家和非国家行为者对AI的潜在恶意使用做好准备。


教育:在人工智能时代,发展适当的人力资本对于经济和军事领导至关重要。投资STEM教育将继续成为美国国家安全的首要任务。投资商科学校和在美国境内培养编程人员和专业人员,可以帮助确保美国仍然是全球人工智能领导者。政策制定者必须帮助工人为向人工智能经济过渡做准备,应将教育目标重新定位为与自动化相辅相成。


移民:美国政府应该采取移民政策,鼓励全球顶级人工智能人才来到美国并留下来,为美国人工智能人才库提供支持,并提升美国整体经济竞争力。


数据:美国应制定适当的法规来管理用于人工智能目的的数据的收集,存储和使用。数据是有助于为先进的狭义AI系统供电的燃料。数据法规必须平衡一系列相互竞争的利益:个人隐私和保护,经济竞争力,激励创新和国家优势。


竞争:美国应采取适当的改革措施,以保护人工智能的重要国家优势,包括保护知识产权免遭盗窃,限制敏感技术的出口,以及对美国外国投资委员会进行立法改革。 


规范:美国应该与志同道合的盟友合作,率先制定国际规范和原则,以便在国家安全环境中安全和负责任地使用人工智能。 

点击“阅读原文”下载报告PDF完整版

    您可能也对以下帖子感兴趣

    文章有问题?点此查看未经处理的缓存