CNAS《人工智能与国际安全》
本文转载自微信公号“人定湖学者”
作者：CNAS
时间：2018.7.10
地址：
https://www.cnas.org/publications/reports/artificial-intelligence-and-international-security
国家安全
在美国和其他地方，有许多AI直接应用于国家安全目的。凯文凯利指出，在私营部门“下一万家创业公司的商业计划很容易预测： X+AI” 人工智能在国家安全方面也有广泛的应用。本文例举在网络安全，信息安全，治国方略的经济和金融工具，国防，情报，国土安全，外交和发展等方面的一些例子。这并非旨在作为这些领域中AI的所有可能用途的综合列表，而只是作为说明性示例，旨在帮助国家安全界的人们开始思考这种不断发展的技术的一些用途。
网络安全
网络领域是人工智能的一个突出的潜在使用领域，各界领袖近年来表达了这一观点。2016年10月的国家安全局（NSA）局长迈克尔·罗杰斯说，该机构认为AI的“基础网络安全的未来。”罗杰斯发生的言论DARPA召开了第一次网络大挑战，仅两个月后，在网络空间的自动机器之间进行斗争。每个系统都能够自动发现和利用其对手的网络漏洞，同时修补自身的漏洞并保护自己不受外部网络攻击。对比赛的结果印象深刻，国防部开始实施一项新项目Voltron，以开发和部署自主网络安全系统，以扫描和修补整个美国军队的漏洞。
国防部已经开始实施这项技术，人工智能在网络安全方面的潜在应用也在不断发展。第一次Cyber Grand Challenge中的系统使用了基于规则的编程，并没有大量使用机器学习。如果今天举行类似的比赛，机器学习可能会发挥更大的作用。以下是网络安全领域中机器学习的几个说明性应用，这些应用可能对国际安全环境特别有影响。
提高自动化程度、降低人力需求
与增强或替代的传统人类监视方法相比，网络监视的劳动密集程度往往较低。增加机器学习的使用可以加速这种趋势，可能会提供复杂的网络能力，这些能力通常需要大型公司或国家级资源，而这些资源在较小的组织甚至是个人的范围内。4 已经有无数相对简单的程序员的例子，即所谓的“脚本小子”，他们不够熟练，无法开发自己的网络攻击程序，但可以有效地混合，匹配和执行其他人开发的代码。狭窄的人工智能将增加这些参与者可用的能力，降低个人和非国家团体的攻击标准，并增加所有参与者的潜在攻击规模。
发现新的网络漏洞和攻击媒介
微软和太平洋西北国家实验室的的研究人员，已经演示了一种利用神经网络产生和对抗网络恶意输入，并确定哪些输入最有可能导致安全漏洞的技术。传统上，这样的输入只需通过随机修改(即“fuzzing”)非恶意输入进行测试，这使得确定那些最有可能导致新漏洞发现的输入变得低效且费力。机器学习方法允许系统从以前的经验中学习，以便预测文件中的哪个位置最有可能受到不同类型的fuzzing突变的影响，从而产生恶意的输入。这种方法在网络防御(探测和保护)和网络攻击(探测和利用)中都很有用。
机器人红队和软件验证
虽然对新的漏洞发现给予了理解，但许多网络攻击利用了众所周知的但系统设计人员无法保护的老漏洞。例如，SQL注入是一种具有数十年历史的攻击技术，许多新的软件系统仍然成为它的牺牲品。人工智能技术可用于开发新的验证和验证系统，可在新软件运行部署之前自动测试软件是否存在已知的网络漏洞。DARPA有几个有希望的研究项目，试图利用AI来实现这一功能。
自动定制社交工程攻击
许多重大的网络安全失败始于“社会工程”，其中攻击者操纵用户危害自己的安全。电子邮件网络钓鱼诱骗用户泄露密码是一个众所周知的例子。最有效的网络钓鱼攻击是针对特定受害者（即鱼叉式网络钓鱼攻击）进行人工定制的 - 例如，冒充他们的同事，家庭成员或他们使用的特定在线服务。人工智能技术提供了自动化此目标定制的潜力，将目标数据与网络钓鱼消息相匹配，从而提高社交工程攻击的有效性。此外，能够创建逼真的低成本音频和视频伪造的AI系统（将在下面讨论）将把网络钓鱼攻击空间从电子邮件扩展到其他通信域，例如电话和视频会议。
信息安全
在不断变化的威胁形势中，人工智能的作用对信息安全具有严重影响，反映出人工智能通过信息时代的机器人和相关系统产生的泛在影响。人工智能的使用可以加剧和减轻不断变化的信息生态系统中虚假信息的影响。类似于人工智能在网络攻击中的作用，人工智能提供了一种机制，可以对目标受众进行狭隘的宣传，并大规模扩大其传播范围，提高其效力和覆盖面。自然语言理解和其他形式的机器学习，可以训练计算机模型来检测和过滤宣传内容及其放大器。然而创建和传播虚假信息的能力往往超过检测它的AI驱动工具。
精准定向宣传和深度伪造
计算宣传极大地影响了当前的信息生态系统及其显而易见的脆弱性。这种生态系统的特点是社交媒体的进入门槛低，这使得匿名参与者（有时是机器人）可以传播虚假，误导或超党派内容而几乎不负责任。大规模放大此内容的机器人，量身定制的消息传递或强制执行现有偏见的广告，以及推广燃烧内容以鼓励点击的算法指向此环境中的隐含漏洞。麻省理工学院研究人员发现，谎言[扩散]显著更远，更快，更深入，更广泛的’比真理在Twitter上，尤其是关于政治新闻，进一步说明了拥挤的信息环境的风险。人工智能通过使宣传更加高效，可扩展和广泛，在信息生态系统中发挥着越来越重要的作用。人工智能驱动的技术和原则样本，用于定位和分发宣传和虚假信息，包括：
行为数据的利用：AI针对特定受众的应用建立在行为数据收集的基础上，机器学习通过越来越多的数据进行解析。由在线平台的用户生成的元数据（通常用于描绘针对目标广告的消费者行为的图片）也可以被用于宣传目的。例如，剑桥Analytica基于Facebook数据的“心理学”微型定位使用在线足迹和个性评估来为个人用户定制消息和内容。
模式识别和预测：当应用于人类行为分析时，AI系统识别模式和计算未来事件概率的能力可以加强回声室和确认偏差。社交媒体平台上的机器学习算法优先考虑用户已经期望支持的内容，并生成针对那些已经对他们敏感的消息。
议程设置和放大：研究表明，机器人行为已占2016 年所有在线流量的50％以上。人为推广内容的实体可以操纵“议程设置”原则，这要求人们看到某些内容的次数越多，他们就越多认为这很重要。放大可以增加公众心中的重要性。此外，根据计算宣传研究人员塞缪尔·伍利和菲利普·霍华德的说法，如果政治机器人是“为了学习和模仿真实的人而写的”，那么他们就会影响辩论。例如，Woolley和Howard指向部署与用户互动并攻击政治候选人的政治机器人，权衡活动家的行为，夸大候选人的追随者数量，或转发特定候选人的消息，就好像他们是人类一样。通过“网络纵火队”扩大有关政治候选人的破坏性或分散注意力的故事也可以改变向公众传播的信息。这可能会影响政治讨论，特别是当与匿名相结合时，会减少归因（因而也就是问责制）以模仿合法的人类话语。
自然语言的情绪分析：自然语言处理的进步可以利用情绪分析来针对特定的意识形态受众。“ Google首次针对”左倾“和”右倾“用户提供政治利益广告2016年是朝着这个方向迈出的一步。通过使用系统方法识别，检查和解释文本中的情感内容，可以将自然语言处理作为宣传工具。澄清语言对机器的语义解释可以有助于构建更多情绪相关的宣传。此外，通过收集印象来量化用户反应可以通过评估和重新校准方法来最大限度地发挥影响，从而改进这种宣传。私营部门公司已经在尝试量化这种行为跟踪数据，以便为其平台上的广告商提供未来的微目标定位。这些努力本质上是双重用途 - 而不是利用元数据为用户提供有针对性的广告，恶意行为者可以为他们提供量身定制的宣传。
深度伪造：人工智能系统能够为任何有足够大的语音训练数据集的个人，生成逼真的合成语音，视频也越来越普遍。在撰写本文时，即使对于未经训练的人来说，“深度伪造”的伪造音频和视频外观和声音也明显很假。然而，按照这些技术正在取得进步的步伐，也许不到五年它们就能够愚弄未经训练的耳朵和眼睛。
打击假消息
虽然没有任何技术解决方案能够完全抵消虚假信息对国际安全的影响，但AI可以帮助降低其负面影响。用于检测，分析和破坏虚假信息的AI工具可以清除恶意内容并阻止僵尸程序。一些以人工智能为重点的缓解工具和示例包括：
自动化审查和虚假新闻检测：公业正在与组织合作，其具体目标是增加过滤假新闻的能力并使用AI强化已知事实。2017年，谷歌宣布与波因特研究所的国际事实检查网络建立新的合作伙伴关系，麻省理工学院的假新闻挑战导致了一种成功率达到80％的算法。实体像AdVerif.ai扫描，并通过扩大与自然语言处理和深度学习人工审核发现“有问题”的内容。通过语义文本分析训练机器查找邪恶内容的自然语言理解也可以改善这些举措，特别是在私营部门。
Trollbot检测和阻止：研究表明Twitter上的机器人数量估计在9％到15％之间，并且复杂程度正在提高。机器学习模型，如Botometer API，一种基于特征的Twitter分类系统，提供了一种AI驱动的方法来识别它们以便进行潜在的移除。减少机器人的数量将取消杂乱的信息生态系统，因为一些政治僵尸程序创建单独放大造谣宣传，“假新闻”。此外，消除特定的漫游器会降低他们的恶意用途，如分布式拒绝服务攻击，例如2016 年期间由模仿机器人传播的攻击.
真实性验证：数字分布式分类帐和机器速度传感器融合，以验证图像和视频的实时信息和真实性，也可以帮助清除篡改数据。此外，区块链技术正在像PUBLIQ这样的非营利组织中使用，PUBLIQ对每个故事进行加密并通过对等网络进行分发，以尝试提高信息可靠性。
内容过滤通常需要判断调用，因为不同的真实感和信息的可靠性。因此，很难基于纯粹的技术手段创建通用过滤器，并且在AI驱动的内容识别期间保持人在循环中是必要的。技术工具可以限制和减缓虚假信息，却无法消除它。
经济和金融的治国工具
非法资金通过全球金融系统进行，并支持恐怖主义，洗钱和大规模杀伤性武器扩散。为了应对这些流动，美国官员自9/11以来扩大了全球反洗钱和反恐融资工具网络。然而，联合国估计执法部门只占有1％的犯罪资金。人工智能工具的一个潜在的国家安全应用是它们用于加强反非法融资业务。
通过分析和学习大量数据，人工智能可以完成以人为中心的反非法融资系统无法实现的任务。AI的异常检测和模式识别功能可以帮助系统从金融机构收集的非结构化数据中学习。在一个案例中，一家整合人工智能工具的监管技术公司发现了改变浏览器语言的用户与一种欺诈行为之间存在关联。32该分析揭示了金融调查人员传统上未使用的指标，并扩展了可用数据的定义。更好的模式识别也将更有用地对信息进行排序。更好的排序可以减少误报，否则会导致警报。例如，AI可以通过用更有效的红旗替换不精确的地理输入来减少“高风险”管辖区中的误报。更少的警报将节省时间和人力。
即使缺乏大规模的模式分析，人工智能也可以改善反非法融资框架。即使没有金融机构优先考虑，自动化也可以确保持续关注非法融资威胁。此功能可以对潜在的危险施加持续的压力。它还可以减轻金融机构的压力。银行将不再需要转移注意力来应对不断变化的政府优先事项 - 例如，从伊朗到朝鲜。自动化还可以整合有关实体和个人的可用非财务信息。今天，大量可公开获取的信息不会自动成为调查的一部分。通过图像识别，人工智能程序可以使用目前不通知反非法融资过程的开源社交媒体信息。对客户的社交媒体存在或通过公开可用图像绘制的网络所做的更改可以阐明客户的风险状况。
人工智能能力可以解决反非法融资框架的主要挑战。首先，AI可以提高效率。以人为中心的反非法融资过程会产生误报，从而减损调查并使威胁无法发现或未经调查。一项研究发现，80％至90％的可疑活动报告没有产生任何价值。通过更好的模式识别和数据分割，更少的误报将节省时间和金钱。
人工智能系统可以节省的时间和金钱在打击非法资金流动方面尤为重要。自9/11以来，各国政府已将金融机构作为打击非法金融的伙伴。银行承担了越来越高的合规成本，以满足不断增长的监管要求，包括打击非法融资。2011年至2017年间，大多数银行的合规成本增加了20％以上。36降低成本将确保银行继续合作。较低的成本还将使高风险管辖区内较小的区域性银行能够开展目前只有大型跨国机构才能负担的合规工作。小型银行的更多参与将减少进入全球金融体系的脆弱进入点。
AI还可以帮助政府和金融机构解决数据隐私和保护问题。目前，隐私法阻碍了充分利用所收集信息的努力。在某些情况下，金融机构甚至可能难以在不同司法管辖区的分支机构之间共享信息。37这些限制为整合信息创造了障碍，更重要的是，从过去的非法融资类型中学习。使用算法来理解大量数据的数据科学公司Giant Oak的首席执行官Gary Shiffman博士认为，AI可以解决这个问题。人工智能系统可以从分析一个辖区的数据集中学习。然后，系统可以将其算法移动到其他管辖区域，并从新数据集中学习，而无需移动基础数据本身。隐私限制将不再妨碍学习。
虽然人工智能可以逐步改善反非法融资框架，但它也可能从根本上破坏它。金融机构经常使用静态规则来打击非法资金。例如，超过10,000美元的交易将触发货币交易报告。然而，流氓玩家可以比规则发展更快地适应。出于这个原因，像金融行动特别工作组（FATF）这样的国际标准制定者敦促金融机构使用主动适应和降低风险的基于风险的系统。由于这种方法成本高且耗时，FATF要求采取基于风险的措施来解决洗钱和恐怖主义融资问题，而不是为扩散融资提供资金。基于AI的系统，不断学习和整合新信息，例如人工智能系统可以发现个人使用的模式，以逃避10,000美元的限制，连接这些非法网络，并可能在转移金额变得太大之前阻止电线离开银行。
本节的重点是将人工智能应用于资金流动，而不是支持这些流动的基础设施和市场。“闪电崩溃”显示了程序化交易机制对负面交互的敏感性以及目前对此威胁的准备不足。反对者可以使用人工智能操纵市场或破坏货币稳定。然而，这类威胁不属于传统的经济治国领域。相反，它类似于恶意网络攻击。
充分利用财务数据将是非常重要的。随着越来越多的通信被加密，财务记录将成为调查和情报工作的更重要的数据来源。但是，使用数据的工具尚未相应发展。AI提供了一条前进的道路。
国 防
全球各地的军队已经将更多的机器人和自主系统纳入其部队，这一趋势一直是CNAS之前工作的重点。人工智能和机器学习将使这些系统能够在更广泛的环境中应对更具挑战性的任务。由于人工智能技术无处不在，非国家团体和个人也将能够利用和使用这项技术。
在作战行动中，机器人，群体和自治系统有可能加快战斗速度。对于机器到机器交互的领域尤其如此，例如在网络空间或电磁频谱中。AI不仅可用于创建更智能的机器人技术，还可用于为更先进的传感器，通信和其他关键驱动器提供动力。
情境感知：小型机器人传感器可用于收集信息，启用AI的传感器和处理可帮助更好地了解该信息。作为国防部Project Maven的一部分，深度神经网络已被用于无人机视频输入的图像分类，以帮助人类处理收集的大量数据。虽然目前的AI方法缺乏将其转化为对更广泛背景的理解的能力，但AI系统可用于融合来自多个情报源的数据并将人类提示给感兴趣的项目。AI系统还可以用于生成定制的欺骗攻击以对抗这样的传感器和处理器。
电磁频谱优势：人工智能系统可用于通过自我游戏产生干扰和通信的新方法，类似于AlphaGo Zero通过自我游戏改进其游戏。例如，一个AI系统可以尝试通过有争议的电磁环境发送信号，而另一个系统试图阻塞信号。通过这些对抗方法，两个系统都可以学习和改进。DARPA在2014年举行了频谱挑战赛，人类竞争者在竞争激烈的环境中竞争发送无线电信号。42 DARPA现在正在使用机器学习来辅助无线电频谱分配，但这个概念也可用于干扰和产生抗干扰信号。
诱饵和伪装：生成对抗网络可用于创建与军事相关的伪装伪装和诱饵，而小型机器人系统可用作消耗性诱饵。随着军队将更多支持AI的传感器用于数据分类，针对此类系统的欺骗攻击也将越来越重要。
策略：进化和强化学习方法可用于在模拟环境中生成新策略，在其他环境中提供令人惊讶的解决方案。
指挥与控制：随着战斗步伐的加快以及信息量和速度超过人类作战人员的能力，人工智能对指挥和控制将变得越来越重要。已被授权执行某些操作的自治系统可以在战场边缘以机器速度做出反应，而无需等待人工批准。AI还可以帮助指挥官更快地处理信息，使他们能够更好地理解快速变化的战斗空间。通过自动化，指挥官可以更快，更精确地将他们的命令传递给他们的力量，人力或机器。
人工智能系统还可以为军队提供一系列非战斗支援功能。人工智能的一个用途是帮助国防领导人更好地了解自己的力量。通过分析大量数据，AI系统可以预测各种组件中的力的压力：设备何时需要维护; 当节目可能面临成本超支或进度延误时; 当服务人员可能遭受性能下降或身体或心理伤害时。总体而言，AI具有巨大的潜力，可以帮助国防领导者通过汇总和融合数据以及进行预测分析来提高自身力量的准备程度，从而在问题成为关键问题之前解决问题。
人工智能也已成熟，可以改变军事和其他政府组织内的传统业务流程。例如，美国国防部开展了一系列非军事特定的商业活动，包括会计，旅行，医药，后勤和其他行政职能。许多这些功能对于自动化来说已经成熟，因为它们涉及常规认知或体力劳动。在许多情况下，军事组织可能能够直接从商业部门导入成熟且经过验证的技术，这些技术可以提高效率并降低人员成本，例如更加自动化的会计系统或医疗保健中的AI工具。国防组织可以通过利用这些商业技术和精简其组织来节省大量资金。
总的来说，人工智能可以帮助军队提高理解，预测行为，开发新的问题解决方案，并执行任务。一些应用，例如使用AI来实现自主武器，会引发困难的法律，道德，操作和战略问题。自动化将战斗行动速度提高到人类对战争行为控制较少的程度的可能性引发了人类与战争关系甚至战争本质的深刻问题。
情 报
AI在情报收集和分析方面有很多用途。对于收集，由于智能设备，物联网和人类互联网活动而发生的数据爆炸是潜在信息的巨大来源。这些信息对于人类来说是不可能手动处理和理解的，但AI工具可以帮助分析数据之间的联系，标记可疑活动，现货趋势，融合不同的数据元素，映射网络以及预测未来行为。这可能会使秘密活动在许多方面更具挑战性，因为大数据，数据泄露和增加的开源信息的组合可能使情报专业人员更难以保持秘密。例如，面部识别和生物识别技术，结合大型监控系统，
与此同时，AI系统可能容易受到反AI欺骗技术的攻击，例如愚弄图像，这将对情报界产生影响。深度假货和大规模数据创建的自动化可以为卧底人员创建深层背景。人工智能甚至可以通过改进可以将大脑成像与思想相关联的系统来改变人类报告的验证，对反情报和审讯具有重要意义。
人工智能在情报分析方面也具有巨大的潜在价值。人工智能系统可用于大规模跟踪和分析大量数据（包括开源数据），寻找可疑活动的迹象和警告。异常检测可以帮助找到恐怖分子，秘密特工，或潜在的敌人军事活动的迹象和警告。基于AI的语音到文本和翻译服务可以极大地增加处理音频，视频和基于文本的外语信息的规模。人工智能系统可用于生成简单的自动报告，因为它们已经用于某些体育比赛。
人工智能系统通常在阅读理解方面表现不佳，但随着它们的改进，它们可以越来越多地用于编写成绩单摘要，使人类分析师更容易快速筛选不断增长的信息量。46人工智能系统在对报告进行语义分析时也可能越来越有价值，这些报告有助于链接人类可能遗漏的不同数据。人工智能系统缺乏可以让他们理解信息的常识性推理，但他们大规模精确操作的能力将有助于人类分析师对大量信息进行分类。人工智能系统不会取代人类智能分析师，但可以通过卸载日常任务和大规模处理数据来帮助他们，使人类分析人员能够专注于理解对手。
国土安全
AI还可以帮助各种边境安全和国土安全应用。人工智能驱动的感知，处理和分析对于收集，分类和解释数据至关重要，以便更好地为人类决策提供信息。美国国土安全部（DHS）已经开始采用并实施其中一些技术进步。
过去和当前由AI驱动的DHS计划的示例包括：
语音识别算法：美国海岸警卫队使用人工智能分析语音，以建立他们的外表。这有助于在法律上解决虚假遇险信号。
用于机器学习的开源数据：与Alphabet Inc.的Kaggle平台相结合，DHS从运输安全管理局提供数据，以开发更好的算法来评估非法和危险物品的乘客行李。
了解数据：通过推理，提取和综合理解数据的助手（AUDREY）由DHS和NASA喷气推进实验室开发的AI平台集成了实时数据，为消防员提供了如何最好地发挥团队作用的建议。
AI还广泛适用于各种国土安全功能，例如边境安全。50由于美国政府不能驻扎在每一英里或检查每个集装箱，因此可能与无人机和地面机器人相结合的人工智能系统可通过自动监视和异常检测的进步帮助监测边界。监控人类情绪表达和行为的系统可以帮助识别出看起来很紧张或行为奇怪的人，在边境口岸作为“第六感”。用于博弈论/风险评估的人工智能系统在确定最佳应用稀缺资源的位置以及如何对抗自适应对手（例如贩毒者）方面也很有价值。实际上，这些系统已被用于改善非洲偷猎者的安全。
外交和人道主义
人工智能的进步也可以重塑外交实践。图像识别和信息分类中的AI技术可以通过监控人员和识别潜在漏洞的异常来使外交复合物更安全。此外，语言处理算法将降低国家之间的语言障碍，使他们更容易与外国政府和公众沟通。更多的理论技术，如政治预测，仍然是一种选择，挖掘越来越多的可用数据，以更好地了解和预测政治，经济和社会趋势。
但外交不会没有破坏性的挑战。在可预见的未来，人类仍然是决策者，必须正确使用人工智能技术提供的产出。更令人担忧的是，随着努力伪造证词并在国外传播虚假信息变得更加容易，人工智能技术将不得不采取防御措施来应对，纠正甚至删除恶意内容。
国际人道主义行动也可以从人工智能技术中获益。人工智能技术可以帮助监督选举，协助维和行动，并确保通过异常检测不会滥用财政援助支付。当然，人工智能还可以通过提高生产力，医疗保健和无数其他经济效益，帮助直接改善欠发达国家的生活质量。人工智能还可以帮助避免导致国际干预的灾难。例如，从气候和土壤模式中提取重要可行警告标志的人工智能技术将成为农业效率和灾害准备的福音。
启示
作为一种支持技术，AI在各种国家安全设置中有许多用途。美国应该扩大政府不同部门的新生努力，并建立一整套政府倡议，以便在政府运作中利用和快速整合人工智能工具。由于许多当前的人工智能方法存在重大漏洞，因此美国应该将对抗操纵的安全性和稳健性作为其整合人工智能技术的关键要素，并在部署之前使用“红队”来测试人工智能工具。人工智能技术的普遍存在意味着美国必须迅速采取行动，以保持领先潜在的竞争对手。
全球安全的间接影响
除了直接的国家安全影响外，人工智能如何产生与国际安全环境相关的政治和社会变革？鉴于经济和军事力量之间的整体联系，特别是在中长期，理解人工智能创新将如何影响全球经济，信息环境和世界各地的社会至关重要。
经济实力与工作的未来
人工智能，全球经济和经济实力之间最明确的联系是人工智能对国家和企业积累资本的能力以及对未来工作的影响。问题是人工智能的后果是否可以与之前的大规模经济转变相提并论甚至更胜一筹。例如在1820年，71％的美国人据报从事农业职业。然而在随后的一个世纪，美国人在养殖工作的比例由于工业化显著下降，下降到1920年的1％的。
有很多预测都称人工智能将影响劳动力市场，而这些预测存在很大程度的不确定性。例如麦肯锡全球研究所最近的一份报告表明，目前几乎所有行业的工作任务都是自动化的，超过30％的工作任务是自动化的。根据麦肯锡的数据，到2030年流离失所的就业人数中值估计为4亿，而最大估计是两倍：8亿人。这些巨大的总量以及它们之间的广泛传播不仅反映了人工智能将对劳动力市场产生重大影响的观念，而且这些后果很难预测。研究人员对自动化效果的估计差异很大。卡尔本尼迪克特·弗雷和Michael A.奥斯本在牛津大学的研究表明，美国工人的47％可能是从自动化的风险大约2030年，另一份报告审查32个发达的国家组织，经济合作与发展论证的那14％工作岗位面临自动化的高风险，另外32％的工作岗位面临巨大风险。与此同时，基于1990 - 2007年工业机器人数据的Daron Acemoglu和Pascual Restrepo在美国国家经济研究局的美国劳动力市场模型表明，“在通勤区再增加一个机器人可以减少6.2名工人的就业率。” 相比之下，Forrester研究报告认为，到2027年，只有2,470万个就业岗位将被取代，创造了1400万个就业岗位。而麦肯锡表示，目前只有约5％的工作可以完全自动化......
然而问题不仅仅在于它消灭了多少工作岗位，还有它创造了多少工作，以及这些流离失所者是否能够在新经济中找到工作。即使宏观经济影响相对稳定，创造性破坏的过程也会产生重大的政治后果。前财政部长拉里·萨默斯（Larry Summers）在2017年提出，自动化压力加上在以后的生活中为劳动力参与创造新技能的难度，可能导致“年龄在25岁至54岁之间的男性中有三分之一不在这个半世纪末。“
面临的挑战是，在人工智能革命开始时，当今尖端公司创造的就业岗位数量已远远小于前几代领先公司创造的就业岗位数量。例如，2017年，Facebook雇佣了超过25,000名员工，这是迄今为止最大的一次。与此同时，福特汽车公司，其劳动力峰值的一小部分，在2017年仍然雇用了202,000名工人。风险是，经济增长的最佳经济未来更像是“劳动力轻工经济”，如Erik Brynjolfsson安德鲁·迈克菲认为，资本可以带来持续的生产力提升，但工人却无法从中受益。在这种情况下，工人不仅仅是工厂工人。他们将是律师，医生，投资银行家和其他目前拥有中产阶级，中产阶级或上层阶级收入的人。所有这些工作都有重复的任务，无论多么熟练，狭窄的自治系统都可以掌握。在这种情况下，执行重复身体和认知劳动的工人变得不那么重视。即使失业率很低，降低工资也会产生影响。实际上，Brynjolfsson和迈克菲认为，在过去几十年中，自动化一直是美国中等工人实际工资停滞或下降的原因。
具有这种破坏程度的时代可能对权力平衡和安全环境产生重大的间接影响。经济基础的变化可能导致产业转移，使一些国家受益而牺牲其他国家。例如，第一次工业革命帮助推动了美国的崛起 - 美国的地理位置使工业化达到了欧洲难以实现的规模。政府利用这些变化的政策可以导致相对力量平衡的长期变化。英国政府在政府借贷和债券市场方面建立现代融资的能力使英国在19世纪末创造了世界上最强大的海军。
政治和社会混乱
经济混乱也可能助长社会和政治动荡。大量以前就业的工人，甚至只是因经济环境而处于新的弱势群体，都是政治抗议和鼓动的一种方式。维持稳定需要一定程度的政治灵活性和官僚主义能力，这在最好的时候很难实现 - 经济不稳定时期几乎不是最好的时期。这是经济转型可能导致政治冲突的机制之一，在最坏的情况下，政治冲突可能导致国内动乱，叛乱，内战，民族主义，仇外心理和转向威权主义。
自动化产生的不稳定性已经成为全球民粹主义民族主义运动兴起的潜在推动力。由于煤炭工人等强大的利益集团经历了显着的衰退，他们变得更加激进，他们希望变革能够回归到无法实现的旧现状。这可能会推动政治两极化。
自动化如何影响不同的人口群体的差异可以想象地推动内部政治冲突。为了更好地理解自动化将如何影响美国工人中，作者比较了麦肯锡全球研究所自动化的治疗效果，行业分析，到工人每个扇区的年龄，所确定劳工统计局。
结果表明，自动化很可能会影响到美国最年轻的工人。这并不奇怪，因为年轻工人最有可能执行易于自动化的日常任务。对于16-19岁和20-24岁的工人来说尤其如此，他们不太可能受过高等教育。在20世纪80年代，工人工资与教育水平大幅度脱钩，通货膨胀调整后的工资为大学或研究生学位上升，高中毕业生的工资和辍学率下降。这表明自动化经济的一个影响将更加放大教育的影响 - 甚至是特定的专业或学科，有助于人们为未来的工作做好准备。
从管理创造性破坏的后果的角度来看，一线希望是受自动化影响最严重的工人是那些最年轻，最有时间接受教育和适应的人。然而，一个风险是，依靠入门级工作来完成大学学业并获得教育的年轻工人可能会失去在自动化经济中保持相关性所需的经济机会。如果不进行政策调整以使大学和研究生教育更加可负担，那么结果就会导致不平等加剧。
人工智能与宏观经济
政府不是被动的自动化浪潮所左右的被动参与者。各国有一系列政策选择可用于应对人工智能可能产生的经济压力，从监管行业到引入普遍的基本收入。毫无疑问，各国希望尽可能地利用人工智能，同时尽量减少其有害影响。采取何种形式将取决于每个国家的政治经济和国家对经济增长，失业，政治动荡和社会福利的态度。
人工智能加上国家政策反应的后果可能差异很大。以下是一些说明性的情景，说明各国在风化和适应人工智能驱动的创意中断之后可能会如何结束。
薪酬增加：人工智能在提高生产力和繁荣方面的优势可能远远超过工人的劣势，结果可能是所有人的财富和丰富，甚至是那些因自动化而流离失所的人。
不平等加剧：即使因人工智能而流离失所的工人找到新工作，结果也可能是劳动力轻工业的不平等加剧，因为资本变得更有价值，而富人变得更富裕。随着不平等的扩大，可能导致社会和政治不稳定。
资源诅咒：人工智能可能导致经济悖论，就像自然资源丰富的国家所面临的“资源诅咒”一样。即使是普遍基本收入等政策措施也无法有效地转化为社会福祉和个人幸福。
卢德派的复仇：可怕的情况可能是大规模的失业，因为19世纪卢德派的恐惧终于实现，机械消除了新的工作没有取代的工作。狭义人工智能的一个影响可能是，人类根本不像以前那样具有经济价值，就像马匹在第一次和第二次工业革命后在全球经济中的作用下降一样。
代际错位：就像从外地到工厂的转移一样，人工智能可以引起劳动力市场的转型，需要一代人才能解决。由于失去工作的人与人工智能创造的新工作所需技能之间的基本技能不匹配，结果可能是持续一代人的社会和政治混乱。这种中断随着时间的推移逐渐消失，因为在AI经济中受过教育和培训的新一代人主导着劳动力市场。
落后：由于担心潜在的经济和政治混乱，未能利用人工智能甚至抵制人工智能的国家可能落后于其他国家，维持稳定但却以增长和国家竞争力为代价。
普遍基本收入
对人工智能的大规模错位潜力以及由此产生的巨大社会和政治后果的恐惧，是最近关于普遍基本收入可能性的讨论的一个重要推动因素。普遍的基本收入代表了政府为每个人提供足够的生活收入的想法。像理查德布兰森这样备受瞩目的商业领袖认为，由于人工智能，普遍的基本收入可能成为必需品。从本质上讲，如果人工智能对劳动力市场产生影响，新的产业和人类工作的可能性不会出现，那么大部分人口可能会或多或少失去工作，资本集中在更多的手中。富裕。这不一定是由于腐败或糟糕的决策，只是市场的逻辑走向了极端。因此，一种可能的解决方案是为那些因自动化而流离失所的人提供保障收入的潜力，因为他们不太可能拥有未来的工作场所选择。
当然，普遍的基本收入引发了许多问题。谁在为普遍的基本收入付费，以及在什么基础上？普遍的基本收入可以降低系统搭便车的成本。普遍的基本收入也有可能降低人们创新的动力，否则他们会努力寻找新的生产性产业，人类在人工智能时代比机器具有相对优势。这些是难以解决的问题，也是政策制定者在未来几十年必须考虑的问题。
民族主义与国际冲突
如本报告其他部分所述，与人工智能经济学相关的最明确的国家安全后果，将是经济权力与军事力量之间的整体联系。随着经济衰退，随着时间的推移，维持领先的军队是不可能的。然而上述分析还表明，人工智能造成的经济，社会和政治混乱可能产生额外的国际安全后果。
今天，美国和英国等西方国家已经存在政治压力，这些压力主要集中在各国变坏的方式上。尽管上面提到了有关自动化已经对劳动力市场产生的影响的证据，但自动化和人工智能还没有受到指责。西方的政治争论往往集中在诸如移民，外包或与中国等国家的贸易逆差等问题上。如果人工智能加速失业，甚至只是劳动力的不稳定，就会引发更大的民粹主义和民族主义浪潮，因为越来越少的精英手中的财富集中会产生怨恨和政治不稳定。
在全球舞台上，人工智能可能产生的劳动力不稳定在过去导致大规模动荡，政变和其他紧张局势，以及可能产生冲突的极端民族主义，特别是如果人们将其他国家归咎于他们的经济困境。
信息域
数字技术在短短几十年的时间里彻底改变了信息环境，使声音数量民主化，扩大了音量，加快了社会话语的速度。随着计算机越来越能够针对特定用户定位信息，放大消息，过滤信息，甚至生成虚假的音频，图像和视频，AI将继续改变信息环境。互联网，社交媒体和虚假信息的快速发展表明，无法预测信息环境将如何演变。然而，以下是一些可以基于现有技术预测的挑战。
真相终结
AI已经证明了创建音频和视觉伪造的能力。达特茅斯大学（Dartmouth University）计算机科学教授Hany Farid博士为美联社咨询检测伪造图像和其他媒体，他将伪造技术和认证技术之间的竞争描述为“军备竞赛”和“信息战争”。目前认证技术和鉴伪技术还占据上风，但趋势并不乐观，也许不用几年时间，这些伪造品不仅可以欺骗未经训练的眼睛和耳朵，还可以欺骗复杂的鉴伪专家和系统。
这种转变将对企业沟通，法庭证据，新闻和国际安全等各种领域产生深远影响。以水门丑闻为例。即使经过两年积极的调查报道，理查德尼克松总统仍在参议院得到足够的支持，以阻止他被免职。只有在椭圆形办公室的录音带（可以听到尼克松妨碍司法的明确证据）被释放，他在国会才不受支持。在一个基本上不可能实现伪造的世界里，录音带不仅是证据，而且是铁证。
人工智能技术可能会削弱（即便不是终结）录音作为证据的能力。某些技术（如区块链）可以验证视频和音频文件的来源。但这些技术发展可能还不够快。它们也可能被证明太难以在许多环境中使用，或者仅仅可能不足以抵消人类对“眼见为实”的认知易感性。结果可能是“真相的结束”，人们会回归到更加部落化的和派系化的新闻来源，每个都呈现或感知他们自己的现实版本。
在世界正在努力应对假新闻和战略宣传的新挑战时，人工智能的伪造已成为现实。2016年美国总统大选期间，数亿美国人接触到假新闻。牛津大学的计算宣传项目发现，在选举期间，“专业新闻内容和垃圾新闻以一比一的比例分享，这意味着Twitter上分享的垃圾新闻数量与专业新闻相同。 ”
人工智能伪造技术，假新闻和战略宣传的同时兴起，对民主治理构成了巨大挑战。
结论
我们最终会成为什么样的世界？人工智能是否开创了繁荣与国际和平的新时代？它是否会导致全球舞台上权力平衡的变化，伴随着冲突和误判的风险？人工智能是否会导致大规模的混乱，政治动荡，民粹主义和保护主义？人工智能是否集中力量控制少数人掌握的信息，或者继续实现计算机，网络和社交媒体释放的信息的民主化？
人工智能带来的技术机遇塑造了未来，但并未确定它。国家，团体，个人可以选择如何使用人工智能并对其做出反应。他们的政策回应可以指导，限制或鼓励人工智能的某些用途。为了应对未来的挑战，美国需要采取国家战略，以便如何利用人工智能的优势，同时减轻其破坏性影响。
（全文完）