我们要像应对自然灾害一样对待人工智能的风险 | Oliver Wyman报告编译

美国知名咨询公司奥纬咨询(Oliver Wyman)近期发表了"We Need To Approach AI Risks Like We Do Natural Disasters"一文，("我们需要像处理自然灾害一样处理人工智能风险")，中国人民大学金融科技所对此文章核心内容进行了编译。该文章认为随着信息技术的发展，人工智能风险将会日益严重，而现有的应对措施不足以完全处理风险。所以，可以借鉴处理自然灾害的经验，建立公司、保险和政府之间的合作，来更好地应对人工智能风险。

来源 | Oliver Wyman

作者 | Prashanth Gangu

翻译 | 詹钥凇

从工业机器人和安全系统到自动驾驶汽车和家用电器，数以亿计的传感器被嵌入到各种设备中。与此同时，伴随着人工智能的迅速发展，我们越来越依赖如此之多的相互连接的智能设备。但是，在享受人工智能所带来的便捷的时候，也要注意这背后隐藏的全球范围内的人工智能风险。

慕尼黑再保险公司表示，自然灾害在2017年只造成了全球3000亿美元的经济损失，这种应对自然灾害的方法为如何减轻日益严重的人工智能风险提供了一个模板。像应对极端天气和自然灾害一样，企业不仅可以开始建立国际协议和国际标准，在自己的领域范围内管理人工智能，还可以建立起与其他公司、保险和政府之间的合作。

智能设备恢复计划

如今，许多公司都面临着智能设备风险，这些风险可能会影响到公司正常的运营，损害公司客户的利益。然而，很少有人正式量化了这些风险和潜在的负债的规模，也没有为潜在的黑天鹅人工智能事件建立安全协议。

公司应该像应对自然灾害相关的风险，不能仅仅通过购买保险来完全防范智能设备的风险；公司必须有应对最坏情景的恢复计划。管理者分别需要找出他们的高风险和低风险智能设备漏洞，增加备份系统，并可能建立类似海啸预警系统的人工智能预警。此外，公司的系统还需要能够切换到手动控制的环境，并及时召回故障智能产品，以防出现必须关闭人工智能系统时，失去对公司整个管理流程的控制。

人工智能的应急计划必须比自然灾害的更加严密。因为存在自许多潜在的连接点，所以预测、识别和纠正大规模智能设备故障将更加困难。而且由于不清楚机器遵循的规则是什么，调试和重新编程一个有故障的智能设备比创建一个补丁来对抗恶意的网络攻击要复杂得多，

因此，没有一家公司能够自力更生。为了从一系列与人工智能相关的潜在的全球性冲击影响中恢复过来，管理者将不得不考虑从供应商到客户的无处不在的弱点。解决这些漏洞需要大量技术服务提供商和其他公司的协调，不仅如此，这些公司也会成为传播人工智能风险的媒介，不管对象是谁，进行无差别地感染。

那么能否信任人工智能？人工智能有能力改变企业和我们的生活，但也会变得充满风险。自2015年以来，越来越多的人工智能故障引起了全世界的关注。

人工智能保险产品与服务

保险公司应该量化全球智能设备崩溃的风险，提供新的产品，并为企业和政府提供建议。即使美国也只有大约 7000亿美元的资金，全球还有数千亿美元,。从资金的角度看财产和伤亡保险公司的资产负债太小，无法弥补全球智能设备灾难造成的所有潜在损失。但保险公司可以利用从各行业的损失数据，就如何最好地量化企业在最坏情况下的潜在风险，向企业和政府提供建议。

正如他们应对自然灾害一样，保险公司也可以鼓励公共部门采取保障措施。由于保险公司无法完全缓解极端天气事件造成的特大风险，许多发达国家政府和国际组织通过诸如联邦突发事件管理局和洪水保险计划等政府机构所提供的自然灾害救济来弥补损失。保险公司需要动员公共部门的资源，以帮助人工智能灾难的潜在受害者。

此外，保险公司还可以开始就如何增强安全协议向客户提供建议，以避免智能设备崩溃带来的危险后果。今天，一些主要的保险公司建议，在互联系统出现全球故障的情况下，公司可以遵循安全程序来处理信息泄露和中断等问题。但他们也应该开始探索当智能设备变得更加复杂，能够自己设定并遵循目标的情况下应对人工智能风险的措施。

人工智能国际协议

最后，政府应建立国际信任和道德准则，以管理更先进的人工智能产品和系统的开发和实施。就像为了减少未来自然灾害的影响一样，各国政府和国际组织（如红十字会和世界银行）收集和分享有关灾害后果以及灾后救援的数据。Juniper Research的数据显示，随着人工智能的发展，类似抑制潜在人工智能冲击影响的措施至关重要，预期到2021年互联网，物联网、传感器和执行器的数量将超过460亿。

大约有十几个政府、技术公司和国际组织，如电气和电子工程师协会和世界经济论坛等，开始探索全球人工智能信任和伦理协议，以保证对互联人工智能驱动系统和产品的控制。这些论坛开始加深我们对智能设备可能造成的潜在危害以及最佳实践的理解。但还需要做更多的工作。

建立应对措施，以减少世界向更智能的世界发展所带来的风险，所需要的努力和资源将会是困难而昂贵的。但我们必须这样做，因为我们应对一些世界上最严重的灾害，比如“100年一遇的台风”的经验为我们了解如何应对可能更严重的灾难提供了一个宝贵的起点。我们只需要公司、保险和政府认识到，这些努力是我们对未来的一项重要投资。

获取英文文章，请后台回复“人工智能”

获取下载链接

END

编辑/卿碧钏

审校/黄兹睿

责编/詹钥凇

关于我们

中国人民大学金融科技研究所（以下简称 “研究所”），英文名“FinTech Institute of Renmin University of China”，简称“RUC FinTech Institute” ，是专注于金融科技理论、应用与政策的新型智库和研究机构，也是人民大学金融科技学科“双一流”建设的延伸科研平台。研究所充分利用中国人民大学在金融、经济、管理、统计、法律以及计算机科学等方面的跨学科优势，打破学科壁垒，加强交叉融合，不断推进金融科技的前沿研究。研究所坚持理论联系实际，注重应用成果转化，不断加强学界、业界和政策部门的良性互动，重点打造一个“产学研政”四位一体的多元化平台，为推动金融科技行业健康可持续发展提供决策参考。

加入群聊

为了增进与粉丝们的互动，研究所建立了金融科技微信交流群，欢迎大家进群参与。

入群方法：后台回复“加群”，加小助手为微信好友,添加时备注个人姓名（实名认证）、单位、职务等信息，经群主审核后，即可被拉进群。

中国人民大学金融科技研究所

扫码关注我们

Research portal for all FinTech trends and policies.