激荡全球：携手应对人工智能风险 | 社会科学报

点击上方“社会科学报”关注我们哦！

2018年9月17日至19日，世界人工智能大会（WAIC）在上海开幕，本届大会以“人工智能赋能新时代”为主题。人工智能引领的第四次工业革命，带动了新技术、新产业、新生产方式的快速兴起，对全球社会的经济、政治、安全、国际合作、法律规范等方方面面产生了颠覆性的影响。习近平主席在给大会的贺信中指出，“处理好人工智能在法律、安全、就业、道德伦理和政府治理等方面提出的新课题，需要各国深化合作、共同探讨。中国愿在人工智能领域与各国共推发展、共护安全、共享成果。”如何更好地利用人工智能为全人类谋福祉，同时减少人工智能带来的巨大冲击是国际社会共同的课题。

原文 ：《激荡全球：携手应对人工智能风险》

本报记者 王立尧

图片 | 网络

迎接人工智能新一波浪潮

人工智能是一个不断演进中的概念，1956年在达特茅斯会议上首次被正式提出，到现在已经有60多年的历史。通常意义上讲，人工智能的发展被划分为弱人工智能、强人工智能和超人工智能阶段，目前还处于弱人工智能阶段。国际社会对人工智能的利用以大数据计算能力为支撑，呈现加速发展的态势，主要变现手段是以智能学习为主，看似智能，实则并不具备自主意识，更多地表现为工具性特征，并不会对人类主导地位造成威胁。

自动驾驶、智能影像诊疗、语音图像识别……人工智能技术在诸多领域都取得了重大突破。无人商店、智能家电已悄然出现在我们身边，未来人们的日常生活场景中还会有更多人工智能产品的出现。中国工程院院士、国家新一代人工智能战略咨询委员会组长潘云鹤指出，“自主智能装备涌现，是人工智能发展的又一新端倪”。随着人工智能走向2.0时代，在大数据智能、群体智能、跨媒体智能、人机协同智能、自主系统智能等五大领域将迎来全新发展。全球人工智能早期开拓者、中国工程院外籍院士罗杰·瑞迪认为，“我们该做好准备与人工智能相处。接下来的50至100年间，实时语音翻译等人工智能技术将为更多人的生活、工作带来帮助。未来，大数据资源能够为每个人所用”。

人工智能作为引领未来的战略性技术，已成为国际竞争的新焦点。美国高度重视人工智能对国家安全的影响。2018年3月20日，美国国会发起提案，建议成立“国家人工智能安全委员会”，并将制定“2018年国家安全委员会人工智能法”。欧盟在人工智能的发展上集中于人工智能对隐私、就业及伦理的影响。2018年3月27日，欧洲政治战略中心发布了《人工智能时代：确立以人为本的欧洲战略》，针对人工智能发展过程中可能遇到的劳动者被替代的问题和人工智能偏见的问题，提出了欧盟应该采取的对应策略。

2001年出品的美国电影《人工智能》海报

单从人工智能企业的数量上看，根据中国信通院数据研究中心的全球ICT监测平台数据，截至2018年上半年，在全球范围内共监测到4998家人工智能企业。其中，美国以2039家位居第一，其次是中国1040家，其后依次是英国392家、加拿大287家、印度152家。除此之外，以色列、法国和德国的人工智能行业也在蓬勃发展，企业数量超过了100家。

同时，人工智能的国际技术标准制定也在不断更新，而技术标准主要由技术社群主导建立。目前国际社会中以ISO/IEC JTC 1、ISO、IEC和ITU为代表的国际标准化组织，已经围绕基础标准、计算方法、可信赖和社会关注、工业机器人、智能金融、可穿戴设备等方面开展了大量工作。

在国内层面，2018年1月，人工智能标准化论坛在北京召开，并发布了《人工智能标准化白皮书》，呼吁社会各界共同加强人工智能领域的技术研究、标准建设与服务应用，推动产业发展。

2017年7月8日，国务院印发《新一代人工智能发展规划》，明确指出人工智能是影响面广的颠覆性技术，可能带来改变就业结构、冲击法律与社会伦理、侵犯个人隐私、挑战国际关系准则等问题。中国互联网发展基金会理事长马利表示，对中国来说，如何利用好人工智能这一波发展机遇，成功应对新的挑战，在国际舞台上发出中国声音，是中国人工智能安全发展的重中之重。探索构建人工智能网络安全限制边界，推动建立人工智能法律法规、伦理规范和政策体系，通过倡议等形式促进各项机制的落实，推进中国人工智能技术健康发展。

人工智能如何坚守国家安全底线

人工智能作为引领未来的战略性技术，日益成为驱动经济社会各领域从数字化、网络化向智能化加速跃升的重要引擎。然而，技术的进步往往是一把“双刃剑”。人工智能作为一种通用目的技术，为保障国家网络空间安全、提升人类经济社会风险防控能力等方面提供了新手段和新途径。但同时，人工智能在技术转化和应用场景落地过程中，由于技术的不确定性和应用的广泛性，带来冲击网络安全、社会就业、法律伦理等问题，并对国家政治、经济和社会安全带来诸多风险和挑战。

从1942年阿西莫夫提出“机器人三大定律”到2017年霍金、马斯克参与发布的“阿西洛马人工智能23原则”，如何促使人工智能更加安全和道德一直是人类长期思考和不断深化的命题。当前，随着人工智能技术快速发展和产业爆发，人工智能安全越发受到关注。比如人工智能是否有失控的风险？未来人的主体地位是否会被机器挑战？“阿尔法狗”战胜全球顶尖围棋高手，人工智能是否能超越人类智力的极限？全球第一位机器公民“索菲亚”诞生，“她”是否享有与人类公民同样的权力？

2018年，剑桥分析公司被曝出利用大量的脸书用户数据影响美国2016大选，这已经充分说明技术公司掌握了利用个人信息干预国家政治的能力，无独有偶，最近外媒报道称谷歌公司也迎来了它的“剑桥分析”时刻。亚历山大·克林伯格早在《黑暗网络：网络空间的战争》一书中就指出，“信息战”一词如今已经有了更具体的含义。而接踵而来的一大批人工智能新技术，又将对国家安全产生怎样的影响？

2018世界人工智能大会·人工智能安全高端对话论坛上发布的《人工智能安全白皮书》中提到，人工智能对国家安全的风险分两大类。第一即是可用于影响公众政治意识形态间接威胁国家安全。而第二则是可用于构建新型军事打击力量直接威胁国家安全。世界主要国家加紧研制智能、无人武器装备，可能导致大国间新一轮军备竞赛。

联合国人工智能和机器人中心主任伊莱克利·伯利兹做了这样一个惊人对比：在2003年，全世界军用机器人的数量还是0，而仅仅15年之后，到2018年这一数字已经飙升至100万。

国防科技大学国家安全与军事战略研究中心主任朱启超指出：“从世界局势来看，世界各国尤其是军事强国都在抢先布局人工智能。美、俄等国家政府部门均发布了人工智能相关战略或规划，彰显国家层面对人工智能的高度关注”，“各类智能化无人系统与作战平台将在地面、空中、水面、水下、太空、网络空间以及人的认知空间获得越来越多的应用，深刻改变未来战争人工智能的技术比重”。

伊莱克利·伯利兹认为，人工智能为解决网络安全事件、系统漏洞、信息保护等提供了更加高效、智慧的解决方案，但同时也容易被非法利用，对社会造成危害。因此，应对现阶段人工智能的发展充分评估，并建立起各方参与的协同合作模式。欧亚集团科技战略主任保罗·特里奥洛也在会上提到，“先见和敏捷的监管在促进创新和维护公共利益之间发挥着作用。要做到这一点，科学界和监管机构需要更好的沟通。”　　

展望蓝海 守护命运共同体

人工智能所带来的风险具有全球属性，超越了国家边界。人工智能，这一曾经常于科幻作品中得见的词汇，现在已经成为一个越来越向我们逼近的可预见的未来。在这场席卷全球的颠覆性变革中，任意一个问题都可能是全球性的问题，任何一个国家都可能无法独立解决这一问题。耶路撒冷希伯来大学历史系教授尤瓦尔·赫拉利在其最新著作《今日简史》中提到：“计算机并不是彼此相异的独立个体，因此很容易把计算机集成为一个单一、灵活的网络。”网络作为一个巨大的整体，无人驾驶、围棋对弈、智能算法都只是其中的一部分，世界面临的不是某个个体、职业被替代的问题，而是整个人类社会作为一个整体与网络、人工智能在对抗。

目前各国推动人工智能发展的重点集中于大力扶持和创新，而应对风险的能力却准备不足。在2018年6月的《大西洋月刊》上，美国前国务卿亨利·基辛格以启蒙运动为对比，提醒人类社会目前无论从哲学领域还是智力层面，都还没有对人工智能的崛起做好准备。他就此呼吁，对人工智能的研究应该上升到国家战略层面。但或许在此基础上，我们还应该设法让人工智能研究的福祉惠及全人类。如何用好人工智能这把“双刃剑”？本次大会上，人工智能大会“安全高端对话”专家组共同发起了《人工智能安全发展上海倡议》，倡议涵盖“面向未来、以人为本、责任明晰、隐私保护、算法公正、透明监管、和平利用、开放合作”八个方面。

推进人工智能在理论研究、政策支持、产业落地方面的安全发展依然任重道远。基础理论研究和创新是推动人工智能突破的持续动力。推动跨国界人工智能学术研究合作，为各国人工智能实验室搭建平台，为政策决策提供理论基础，加速树立行业标准，加强“产研合作”，孵化更多AI企业。加速人工智能技术的产业化落地，形成全面的生态圈。加强人工智能入门教育，向大众普及人工智能应用与趋势，致力于推动人工智能技术安全长远发展。

2017年10月13日，中国人工智能产业发展联盟（AIIA）在北京宣布成立，一系列跨国人工智能合作项目正在展开。腾讯首席执行官马化腾在世界人工智能大会上表示，人工智能技术是一场跨国、跨学科的科学探索工程，对于任何一个企业、城市和国家来说，我们不能拒绝人工智能领域的“奥林匹克”，更不能“闭门造车”。人工智能安全风险是人工智能发展过程中各国必须直面的挑战。在面临共同的威胁时，最优的做法是携手应对，通过相应的国际合作机制来降低安全威胁，增加合作空间，让人工智能更好地服务于人类社会的发展，守护人类命运共同体。（文中部分专家观点及资料由上海赛博网络安全产业创新研究院授权使用）

文章原载于社会科学报第1628期第1版，未经允许禁止转载，文中内容仅代表作者观点，不代表本报立场。

相关文章

社会科学报

做优质的思想产品

官网

http://www.shekebao.com.cn/