兰德：人工智能的安全隐患以及未来的就业 | 智库跟踪

导语

分析人工智能在安全和就业政策领域可能带来的风险，并提出了建议。第一，人的注意力有限，而AI处理的是远超出人类注意力极限的海量数据，政策决策必须预先考虑各种可能的意外风险，这与挖掘利用AI的好处同样重要；第二，过于依赖自动化的AI，一旦发生错误可能造成爆发性破坏且难以复原，为此需要制定适当的失效保护措施，纳入非自动化流程；第三，AI对经济社会影响巨大，例如零工经济增加将改变就业结构，由此可能造成社会混乱，这要求政策及时调整以应对AI带来的变化；第四，AI发展具有地缘政治意义，中国等在人才和创新方面的崛起有可能威胁美国的先导地位，为此美国应当加强国内数学、科学基础教育，并实施移民政策吸引全球人才。

（一） 引言

在短短的几十年里，我们已经从机械的社会变成了一个信息化的社会，随着信息时代的不断成熟，社会已经被迫对数据驱动和算法系统产生了一种新的、亲密的熟悉感。我们使用“人工智能”这个术语，指的是依赖于自动化、数据驱动或算法学习程序（包括人工智能）的设备和决策辅助工具。这些设备包括Roomba机器人和在线推荐引擎，以及IBM的沃森等更高级的认知系统。

这些系统正在成为我们正常决策过程的内在组成部分。他们的出现和采用带来了一系列相关的政策问题。我们如何重新调整这个新领域的相关政策?我们的盲点在哪里?用户和受影响的人群如何识别和纠正逻辑或假设中的错误?哪些成熟行业的就业受到了人工智能的破坏，哪些监管方法将是最有效的?本报告将关注这些问题。

（二） 安全

本报告把安全性讨论分为两部分：国家安全和国内安全。国家安全主要讨论外部国家和非国家行为者对国家构成的风险。“国内安全”这个词作为一个笼统的术语，用来表示国家内部出现的影响稳定的风险。

国家安全方面，基于人工智能的自动化决策过程可能造成国家安全工作的重大失误，主要表现在：

•人工智能漏洞引发风险最大的领域就是网络安全，恶意软件入侵物联网将带来巨大威胁；

•机器学习如果使用偏差和虚假的数据危害巨大；

•来自国外的网络攻击；

•个性化的互联网服务造成人们关注面狭窄偏听偏信。

国内安全方面，将人工智能用于政府监控会引发保障安全与维护民众个人权利的矛盾，需要做好协调。

（三） 未来的就业

自从人工智能出现，围绕着未来的就业以及工作模式的讨论从未停止过。在未来的工作中，人工智能对人类劳动力供给和需求的影响是值得关注的。焦虑的关键点是人工智能的进步使得人工智能能够以低廉的成本完成任务，从而取代那些通过做这些任务赚取收入的人。

本报告研究了人工智能对劳动力市场造成影响的中短期趋势。研究表明，人工智能正在对传统的工作模式产生破坏性影响（《经济学人》，2014）。但这种破坏并不总是负面的，因为劳动市场的混乱导致了新的就业机会。例如，“微工作”的出现和特征（Irani，2015）。“微工作”指的是短期任务或手工工作，比如调查、驾驶、清洁和其他任务。以往这些类型的工作灵活协调雇佣合同，然而使用人工智能平台大大降低了这些成本。同时，对微工作进行协调的相关服务也在逐渐成长。

在对就业的长期趋势研究中，人类在预测科技对未来工作的影响方面，历史记录是相当糟糕的。例如，在16世纪，伊丽莎白女王因对其臣民的工作感到担忧而拒绝授予一项机器专利。尽管如此，英国还是继续引进工业革命，在这期间，甚至连儿童都被用来满足对劳动力的强烈需求。又如，大约在2004年，Levy和Murnane认为，无人驾驶汽车不可行（Levy和Murnane，2004）。Uber、谷歌和特斯拉（以及传统的汽车制造商）最近的发展表明，这一预测是失败的。

对未来工作的关注表明，研究人员还没有找到一个好的框架来判断职业和任务对信息化、自动化以及人工智能的敏感性。人工智能研究人员和经济学家已经开始阐述人工智能的局限性（Ng，2016：Autor，2015）。从本质上，人工智能擅长的任务是有良好的防御机制、重复性或常规性的，而且性能优劣很容易判断的。但这些界限仍然是可塑的，并有待于进一步的研究。为检验各种职业对人工智能敏感性，兰德建立了一个框架（如图2）。

（四） 主要问题和建议

（1）人的注意力有限，而人工智能处理的是远超出人类注意力极限的海量数据，政策决策必须预先考虑各种可能的意外风险，这与挖掘利用人工智能的好处同样重要；

（2）过于依赖自动化的人工智能，一旦发生错误可能造成爆发性破坏且难以复原，为此需要制定适当的失效保护措施，纳入非自动化流程；

（3）人工智能对经济社会影响巨大，例如零工经济增加将改变就业结构，由此可能造成社会混乱，这要求政策及时调整以应对人工智能带来的变化；

（4）人工智能发展具有地缘政治意义，中国等在人才和创新方面的崛起有可能威胁美国的先导地位，为此美国应当加强国内数学、科学基础教育，并实施移民政策吸引全球人才。

（五） 结论

本报告主要探讨了人工智能在两个关键政策相关领域的影响：安全性和就业。我们的重点是强调正确看待并合理利用人工智能在这两个社会层面上的潜在脆弱性和不公平现象。其他领域也包括（在这篇文章中未探究）：健康、决策、冲突解决/争议调解和网络安全。我们所发现的问题的交叉学科性质说明，有必要继续使研究人员和分析人员具有多样化的知识和经验，以便使政策决策者对人工智能的立场和行动有更广泛的了解。

内容框架

（一） 引言

1.1 概述

1.2 报告结构

（二） 研究方法:：一种人工智能研究的跨学科方法

（三） 安全性

3.1 国家安全

3.2 国内安全

（四） 未来的就业

4.1 中短期趋势

4.2 用于检验行各种职业对人工智能敏感性的框架

（五） 通用的主主要问题和建议

5.1 主题1:：人工智能是一种基本的“注意倍增器”

5.2 主题2:：对人工智能的依赖增加了抵抗力复原力下降的风险

5.3 主题3:：人工智能有可能引发经济和社会的快速破坏

5.4 主题4:：人工智能具有地缘政治含义

（六） 结论

图表目录

图1  艺术家对兰德小组运动成果的再现

图2  用于检验各种职业对人工智能敏感性的框架建议

关键图表

图1  艺术家对兰德小组运动成果的再现

图2  用于检验各种职业对人工智能敏感性的框架建议

本内容仅供研究参考，严禁用于商业用途。

校  审 | 陈  力、凌  霄

编  辑 | 陆  廷

”

推荐阅读