谭铁牛 | 人工智能: 天使还是魔鬼?
谭铁牛
孙哲南
张兆翔
随着大数据的兴起与计算资源的丰富, 人工智能在诸多应用领域取得了显著突破, 成为了世界各国竞相争先的战略制高点. 与此同时, 人工智能的社会影响日益突出, 得到广泛关注的同时也备受争议. 《中国科学: 信息科学》(中文版)第9期发表了谭铁牛院士(第一作者)的观点文章“人工智能: 天使还是魔鬼?”. 文章从宏观视角概览人工智能的基本概念、发展历程、发展现状和未来趋势, 试图揭示人工智能的真实面貌和发展规律, 致力于引导全社会对人工智能技术的正确认知, 并倡议在人工智能发展中应未雨绸缪、形成合力, 确保人工智能的正面效应与健康发展, 保障人工智能始终造福于人类.
1
引言
人工智能是近些年最受关注同时也富有争议的科技领域之一. 任何高科技都是一把双刃剑, 人工智能也不例外.
一方面“天使派”认为, 人工智能领域的科技创新和成果应用取得重大突破, 有望引领新一轮技术和产业革命, 对社会、经济、军事等领域将产生变革性影响, 在制造、交通、教育、医疗、服务等方面可以造福人类;
另一方面“魔鬼派”认为, 人工智能是人类的重大威胁, 甚至比核武器还危险.
2018 年2 月21 日, 牛津大学、剑桥大学和OpenAI公司等14家机构共同发布《人工智能的恶意使用: 预测、预防和缓解》报告, 指出人工智能可能给人类社会带来数字安全、物理安全和政治安全等潜在威胁, 并给出了一些建议以减少风险.
为了客观认识人工智能的本质内涵和来龙去脉, 本文试图通过介绍人工智能的基本概念、发展历程、发展现状和未来趋势, 揭示人工智能的真实面貌.
2
人工智能的基本概念和发展历程
1956年夏, 麦卡锡(McCartey)、明斯基(Minsky)、罗切斯特(Rochester)和香农(Shannon)等科学家在美国达特茅斯学院(Dartmouth College)开会研讨“如何用机器模拟人的智能”, 首次提出“人工智能”这一概念, 标志着人工智能学科的诞生. 人工智能的目标是模拟、延伸和扩展人类智能, 探寻智能本质, 发展类人智能机器.
人工智能充满未知的探索道路曲折起伏, 如何描述1956年以来60余年的人工智能发展历程, 学术界可谓仁者见仁、智者见智. 我们将人工智能60余年的发展历程划分为以下6个阶段:
(1) 起步发展期
1956年～20世纪60年代初. 人工智能概念在1956 年首次被提出后, 相继取得
了一批令人瞩目的研究成果, 如机器定理证明、跳棋程序、LISP表处理语言等, 掀起了人工智能发展的第一个高潮.
(2) 反思发展期
60年代～70年代初. 人工智能发展初期的突破性进展大大提升了人们对人工智能的期望, 人们开始尝试更具挑战性的人工智能任务. 然而, 接二连三的失败和预期目标的落空(例如无法机器证明两个连续函数之和还是连续函数, 机器翻译闹出笑话等), 使人工智能的发展走入了低谷.
(3) 应用发展期
70年代初～80年代中. 20世纪70年代出现的各类专家系统, 实现了人工智能从理论研究走向实际应用的重大转变. 随着一般思维规律探讨到专门知识运用的重大突破, 人工智能走入了应用发展的新高潮.
(4) 低迷发展期
80年代中～90年代中. 随着人工智能的应用规模不断扩大, 专家系统存在的应
用领域狭窄、缺乏常识性知识、知识获取困难、推理方法单一、缺乏分布式功能、难以与现有数据库兼容等问题逐渐暴露出来.
(5) 稳步发展期
90年代中～2010年. 由于网络技术特别是互联网技术的发展, 信息与数据的汇
聚不断加速, 互联网应用的不断普及加速了人工智能的创新研究, 促使人工智能技术进一步走向实用化. 1997年IBM深蓝超级计算机战胜了国际象棋世界冠军卡斯帕罗夫(Garry Kasparo), 2008年IBM提出“智慧地球”的概念, 这些都是这一时期的标志性事件.
(6) 蓬勃发展期
2011年至今. 随着大数据、云计算、互联网、物联网等信息技术的发展, 泛在感知数据和GPU等计算平台推动以深度神经网络为代表的人工智能技术飞速发展, 大幅跨越科学与应用之间的“技术鸿沟”, 图像分类、语音识别、知识问答、人机对弈、无人驾驶等具有广阔应用前景的人工智能技术突破了从“不能用、不好用”到“可以用”的技术瓶颈, 人工智能发展进入爆发式增长的红利期.
3
人工智能发展现状
人工智能经过60多年的发展, 理论、技术和应用都取得了重要突破, 已成为推动新一轮科技和产业革命的驱动力, 深刻影响世界经济、政治、军事和社会发展, 日益得到了世界各主要国家政府部门、产业界和学术界的高度关注.
(1) 专用人工智能取得重要突破, 但是人工智能总体发展水平仍处于起步阶段.
从可应用性看, 人工智能大体可分为专用人工智能和通用人工智能. 面向特定领域的人工智能技术(即专用人工智能)由于任务单一、应用背景需求明确、领域知识积累深厚、建模计算简单可行, 因此形成了人工智能领域的单点突破, 在局部智能水平的单项测试中可以超越人类智能. 人工智能的近期进展主要集中在专用智能领域, 例如AlphaGo在围棋比赛中战胜人类冠军李世石和柯洁, 人工智能程序在ImageNet图像识别和LFW人脸识别中达到了超越人类的水平, 微软语音识别系统5.1% 的错误率比肩专业速记员, 2017年斯坦福大学Nature的论文工作诊断皮肤癌达专家水平.
人的大脑是一个通用的智能系统, 能举一反三、融会贯通, 可处理视觉、听觉、判断、推理、学习、思考、规划、设计等各类问题, 可谓“一脑万用”. 真正意义上完备的人工智能系统应该是一个通用的智能系统. 通用人工智能研究与应用刚刚起步, 依然任重道远.
人工智能系统的能力维度可分为信息感知(perceiving)、机器学习(learning)、概念抽象(abstracting) 和规划决策(reasoning). 目前人工智能系统在信息感知和机器学习方面进展显著, 但是在概念抽象和规划决策方面能力还很薄弱. 总体上看, 目前的人工智能系统可谓有智能没智慧、有智商没情商、会计算不会“算计”、有专才无通才. 人工智能还有很多不能.
(2) 统计学习成为人工智能走向实用的理论基础.
近些年来, 深度学习、强化学习、对抗学习等统计机器学习理论在计算机视觉、语音识别、自然语言理解、人机博弈等方向取得显著成果. 例如通过深度神经网络的应用创新, 国际计算机视觉竞赛ImageNet图像分类的Top 5误差率从2012年的16%降到了2017年的3%左右, 在人机博弈方面, Nature 在2016 和2017 年分别发表了AlphaGo 和AlphaGo Zero的工作, 其中AlphaGo Zero 不依赖人类知识, 通过强化学习算法完胜AlphaGo, 探索了特定应用中不依赖外部数据和知识的人工智能技术发展新路线.
(3) 人工智能技术生态建设备受重视.
人工智能技术生态包括数据平台、开源算法、计算芯片、基础软件、GPU服务器、垂直应用等. 全球科技巨头如Google, IBM, Microsoft, Facebook等积极推动AI技术生态的自主研发, 抢占人工智能相关产业制高点. 目前人工智能算法、数据、GPU/TPU/NPU计算、运行/编译/管理等基础软件已有大量开源资源, 例如Google的TensorFlow、Facebook 的Torch-net、Microsoft的DMTK、IBM 的SystemML等. Google、IBM、英伟达、Intel、中国科学院等都在积极布局人工智能领域的计算芯片. 例如IBM的TrueNorth芯片模拟人脑神经网络设计, 已具有相当于包含6400万个神经细胞和160亿个神经突触的类脑数据处理能力, 并应用于超级计算机和美国空军.
(4) 人工智能创新创业如火如荼.
全球产业界充分认识到人工智能技术引领新一代科技产业发展的重大意义, 比如2017谷歌I/O大会明确提出发展战略从“Mobile First”转向“AI First”, 微软2017财年年报首次将人工智能作为公司发展愿景. 人工智能领域处于创新创业的前沿, 麦肯锡报告2016年全球人工智能研发投入超300亿美元并处于高速增长, CB Insights报告显示2017 年全球新成立人工智能创业公司1100家, 人工智能领域共获得投资152亿美元, 同比增长141%.
(5) “智能+”成为人工智能应用的创新范式.
“智能+”创新范式是指人工智能技术向创新性的消费场景和不同行业快速渗透融合并重塑整个社会发展, 也为人类社会交通、医疗、教育、安防等领域带来普惠服务, 这是人工智能作为第4次技术革命关键驱动力的最主要表现方式. 例如: 智能手机——华为Mate10 搭载人工智能领域的深度学习芯片; 智能交通——Google 自动驾驶汽车已经在公路上行驶了400 万英里; 智能医疗——2016 年Google 检测糖尿病诱发的视网膜病变; 智能安防——视频的行人和车辆属性分析技术已经广泛应用于我国公共安全领域的雪亮工程; 等等.
(6) 人工智能加速成为国家战略.
人工智能将成为新一轮产业革命的引擎, 必将深刻影响国际产业竞争格局和一个国家的国际竞争力. 世界主要发达国家纷纷把发展人工智能作为提升国家竞争力、维护国家安全的重大战略, 加紧积极谋划政策, 围绕核心技术、顶尖人才、标准规范等强化部署, 力图在新一轮国际科技竞争中掌握主导权. 例如人工智能成为德国“工业4.0”、美国“工业互联网”、日本“超智能社会”、“中国制造2025”等重大国家战略的核心技术. 2017年7月20日, 国务院发布了《新一代人工智能发展规划》, 开启了我国人工智能快速创新发展的新征程.
(7) 人工智能的社会影响得到广泛关注.
2017 年11 月, Nature 文章“Four Ethical Priorities for Neurotechnologies and AI”提出人工智能和脑-机接口必须尊重和保护人的隐私、身份认同、能动性和平等性. 2017年1月, 在美国加州召开Asilomar会议, 近千名人工智能和机器人领域的专家联合签署了Asilomar人工智能23条原则(Asilomar AI principles), 呼吁保障人类未来的伦理、利益和安全. 2018年, 来自澳大利亚、美国、日本等30多个国家和地区的研究人员签署公开信, 敦促韩国科学技术院停止对AI武器的研发.
(8) 人工智能领域的误解和炒作普遍存在.
由于人工智能与人类智能密切关联且应用前景广阔、专业性很强, 容易造成人们的误解, 也带来了不少炒作. 例如, 有些人错误地认为人工智能就是机器学习(深度学习), 人工智能与人类智能是零和博弈, 人工智能已经达到5岁小孩的水平, 人工智能系统的智能水平即将全面超越人类水平, 30年内机器人将统治世界, 人类将成为人工智能的奴隶等. 这些错误认识会给人工智能的发展带来不利影响.
还有很多人对人工智能预期过高, 以为通用智能很快就能实现, 只要给机器人发指令就可以干任何事. 另外还存在有意地炒作并通过包装人工智能概念来谋取不当利益. 一些地方不切实际一窝蜂发展人工智能产业, “一拥而上、一哄而散”的跟风行为不利于人工智能的可持续发展. 因此, 科学家有义务向社会大众普及人工智能知识, 引导政府、企业、民众科学客观地认识和了解人工智能.
4
人工智能的未来发展趋势
当前人工智能处于从“不能用”到“可以用”的技术拐点, 但是距离“很好用”还有数据、能耗、泛化、可解释性、可靠性、安全性等诸多瓶颈, 理论创新和产业应用发展空间巨大. 总体而言, 人工智能的发展趋势是理论更完备、技术更先进、产业更繁荣、应用更广泛、法规更健全.
(1) 从专用智能到通用智能.
如何实现从狭义或专用人工智能(弱人工智能, 具备单一领域智能)向通用人工智能(强人工智能, 具备多领域智能) 的跨越式发展, 既是下一代人工智能发展的必然趋势, 也是国际研究与应用领域的挑战问题.
2016年10月美国国家科学技术委员会(The National Science and Technology Commission, NSTC) 发布了《国家人工智能研究与发展战略计划》, 提出在美国的人工智能中长期发展策略中要着重研究通用人工智能. DeepMind创始人Demis Hassabis提出朝着“创造解决世界上一切问题的通用人工智能”这一目标前进; 微软在2017年7月成立了包括100多位感知、学习、推理、自然语言理解科学家的通用人工智能实验室.
(2) 从机器智能到人机混合智能.
机器智能的一个重要研究方向就是借鉴脑科学和认知科学的研究成果, 研究从智能产生机理和本质出发的新型智能计算模型与方法, 实现具有脑神经信息处理机制和类人智能行为与智能水平的智能系统.
在美国、欧盟、日本等国纷纷启动的脑计划中, 类脑智能已成为核心目标之一. 英国工程与自然科学研究理事会EPSRC 发布了“A Strategy Roadmap for Human-like Computing”并启动类脑智能研究计划.
人机混合智能旨在将人的作用或认知模型引入到人工智能系统中, 提升人工智能系统的性能, 使人工智能成为人类智能的自然延伸和拓展, 通过人机协同更加高效地解决复杂问题. 人机混合智能得到了我国新一代人工智能规划、美国脑计划、Facebook脑机语音文本界面、Elon Musk人脑芯片嵌入和脑机接口计划等的高度关注.
(3) 从“人工+ 智能”到自主智能系统.
当前人工智能的大量研究集中在深度学习, 但是深度学习的瓶颈是“智能”来自于“人工”: 人工设计深度神经网络模型、人工设定应用场景、人工采集和标注大量训练数据、用户需要人工适配智能系统等.
因此已有科研人员开始关注减少人工干预的自主智能方法, 提高机器智能对环境的自主学习能力. 例如AlphaZero从零开始, 通过自我对弈强化学习实现围棋、国际象棋、日本将棋的“通用棋类AI”. 在人工智能系统的自动化设计方面, 2017年谷歌提出的AutoML试图通过自动创建机器学习系统降低AI人员成本.
(4) 人工智能产业将蓬勃发展.
随着人工智能技术的进一步成熟以及政府和产业界投入的日益增长, 全球人工智能产业规模在未来十年将进入高速增长期. 例如, 我国发布的《新一代人工智能发展规划》就提出到2030年, 人工智能核心产业规模超过1万亿元, 带动相关产业规模超过10万亿元. 人工智能的产业生态构建成为竞争制高点. 在未来的布局中, 谁能够占据人工智能的产业生态, 谁将在竞争中占据有利地位. 以人工智能模型创新为源头, 以算法、数据和计算开源为途径, 以与领域和行业的快速渗透和颠覆为呈现的人工智能技术和产业生态将会形成.
(5) 人类将进入普惠型智能社会.
“人工智能+X”的创新模式将随着技术和产业的发展日趋成熟. 人工智能在未来将与社会生产生活的各个行业紧密结合, 将重塑整个社会发展. 我国经济社会转型升级对人工智能有重大需求, 在消费场景和行业应用的需求牵引下, 需要打破人工智能的感知瓶颈、交互瓶颈和决策瓶颈, 促进人工智能技术与社会各行各业的融合提升, 建设若干标杆性的应用场景创新, 实现低成本、高效益、广范围的普惠型智能社会.
(6) 人工智能的法律法规将更为健全.
世界各国都将制定完善的人工智能法律法规, 甚至在立法方面开展合作. 2017 年9 月, 联合国犯罪和司法研究所(UNICRI)决定在海牙成立第一个联合国人工智能和机器人中心, 规范人工智能的发展. 2018年4月10日, 欧洲25个国家签署了《人工智能合作宣言》, 从国家战略合作层面来推动人工智能发展, 确保欧洲人工智能研发的竞争力, 共同面对人工智能在社会、经济、伦理及法律等方面的机遇和挑战.
(7) 人工智能将成为更多国家的战略选择.
2018 年3月29日法国发布人工智能发展战略, 旨在推动法国成为人工智能领域的全球领先国家之一. 俄罗斯总统普京也表示, 掌握人工智能的国家将成为“世界的统治者”.
(8) 人工智能教育将会全面普及.
国务院《新一代人工智能发展规划》指出要支持开展形式多样的人工智能科普活动, 全面提高全社会对人工智能的整体认知和应用水平.
5
结论
人工智能经过60多年的发展已取得了重大进展, 但总体上还处于初级阶段. 人工智能既具有巨大的理论与技术创新空间, 也具有广阔的应用前景. 高科技本身没有天使和魔鬼之分, 人工智能亦是如此. 人工智能这把双刃剑是天使还是魔鬼取决于人类自身. 我们应未雨绸缪, 形成合力, 确保人工智能的正面效应, 确保人工智能造福于人类.
人工智能: 天使还是魔鬼?
谭铁牛, 孙哲南, 张兆翔.
中国科学: 信息科学, 2018, 48(9): 1257–1263
长按并识别以下二维码，下载完整PDF！
文章下载排行榜TOP10 | Science China Information Sciences