时评 | 安全问题不是“各扫门前雪”，应对人工智能要保持谨慎

点击上方“社会科学报”关注我们哦！

原文 ：《发展人工智能，客观看待其安全挑战是前提》

作者 | 国防科技大学国家安全与军事战略研究所所长  朱启超

图片 | 网络

进入21世纪，信息技术、新材料技术、新能源技术、先进制造技术等领域的发展突破，驱动着人工智能的第三次浪潮席卷全球，塑造着科技革命、产业革命和军事革命的崭新面貌，引起许多国家的高度重视。近年来，人们在津津乐道人工智能带来无限发展机遇的同时，政界领袖、学界大咖、科技大佬等也纷纷表达了对人工智能可能带来安全挑战的担忧。比如，俄总统普京认为人工智能是整个人类的未来，但同时也存在某些无法预测的威胁。马斯克声称人工智能是关系人类文明存亡的最大威胁。

到底应如何客观看待人工智能可能带来的安全挑战？笔者认为，人们对于人工智能的安全担忧是由于人工智能本身的技术复杂性、科幻色彩和应用实践的初始性造成的，是一定阶段人们对人工智能粗浅认知的折射反映。

人工智能本是个外来词，来自英语artificial intelligence的翻译。狭义的人工智能是指机器人及其相关技术，广义的人工智能则是指能够模拟、延伸、替代人的行为的相关技术。这种定义方式其实为我们理解人工智能带来了技术上的难度。无论是狭义还是广义，人工智能不是一项单一的技术，而是多项技术构成的复杂体系。这就为我们理解人工智能及其可能引发的安全问题带来的困难，甚至由于对于技术的不了解造成了对于人工智能想象中的安全担忧或认知黑洞。

人工智能的技术特性决定了人工智能具有鲜明的科幻色彩。《太空漫游》《异形》《机械姬》《终结者》等与人工智能相关的科幻大片很多，给人们留下了深刻印象，也提供了丰富的想象空间。由于对于技术细节缺乏了解，对于未来的无限憧憬，对于未知世界的本能恐惧，导致人们对于人工智能及其可能产生的安全挑战有了更多的想象。

美国著名科幻电影《终结者》

半个多世纪过去，人们迎来了人工智能发展的第三次浪潮。这一次浪潮最大的特点是人工智能引发科技革命、产业革命、军事革命的交织并进，激发了人工智能发展的强劲动力。但即便如此，人工智能无论是从科技创新本身，还是产业业态以及军事应用的实践，都还是处于一种远未成熟的初级阶段。

客观看待人工智能可能带来的安全挑战，是我们理解人工智能、发展人工智能、管控人工智能的前提。首先需要树立正确的思维理念。

一是要秉持科学的态度。人工智能带来的安全挑战必须用科学的态度，进行实事求是的分析。一般来说，人工智能引发的安全问题可以分为三个层次：一是某行业某领域或某系统内安全操作规程管理方面的安全风险；二是国家安全层面对于政治、经济、金融、科技、国防等领域带来的安全挑战；三是由于人工智能技术的跨国使用引发的网络安全、太空安全、核安全、反恐行动乃至国际安全治理等方面的挑战。人工智能在不同层面带来的安全挑战具有不同的特点及应对要求，需给予区别对待。

二是要坚持发展的态度。总体上看，人工智能带来的安全挑战仍处于可控的范围，人们对人工智能未来发展的担忧，主要在于人工智能作为一项技术可能触发更多的安全问题。另一方面，人类作为这个星球上智力水面最高的灵长类生物，一旦人类发明的人工智能超越了人类自身，将不可避免地引发对未来的本能的恐慌。

作为不断发展演进的人类文明的产物，需要我们用发展的眼光看待人工智能的正面作用和可能引发的安全挑战，既充分发挥人工智能的潜力造福人类，又能够未雨绸缪管控人工智能可能引发的安全危机。当人们越是能够客观看待人工智能带来的安全挑战，就越能够开辟人工智能安全科技与安全产业创新的蓝海。

三是要坚持合作的态度。人工智能技术与信息技术的发展紧密相关，尤其是移动宽带通信、物联网等领域的技术突破，将促进人工智能相关技术和产业的成熟。从技术特点看，人工智能具有低成本、易扩散、难封控的特征，并且技术一旦成熟，市场的边际成本将大大降低，甚至被认为属于“零边际成本”的技术。这使得人工智能可能引发的安全问题也将具有易扩散、难封控的特点。

从理论上说，社会信息化智能化水平越高，将会对于技术体系愈加依赖，而一旦原有的技术体系受到冲击，将产生新的不确定性和脆弱性。在信息技术、人工智能技术等大发展的时代，我们面临的安全挑战呈现出技术复杂性、体系脆弱性的双重特征。正因如此，必须坚持开放合作的态度，国家政府部门、社会行业领域及公民个体等应共同加强对人工智能的技术认知和实践体验，共同应对人工智能可能带来安全挑战，那些“各人自扫门前雪”独善其身的想法已与这个时代越来越脱节。

总之，对于人工智能新的发展浪潮，既不能只看到其利而盲目追捧，也不能因为其潜在的安全威胁而踟蹰不前。必须客观认识人工智能的发展应用，如果人们能够在未来的实践中不断避免对人工智能相关安全问题的误解、误判和误用，人类仍然能够掌控自己的命运。

文章原载于社会科学报第1628期第1版，未经允许禁止转载，文中内容仅代表作者观点，不代表本报立场。

相关文章

社会科学报

做优质的思想产品

官网

http://www.shekebao.com.cn/