吕乃基：人工智能作为科学与技术的两重性

来源：吕乃基科学网博客，作者授权转载

人工智能是科学技术的前沿，不仅影响当下人类社会的方方面面，而且关系到人类的命运。正因为此，人工智能引发来自科技界内外的广泛关注和争议。这些争论大致可以归为三类：

其一，人工智能是否会危及人类的命运；

其二，强人工智能与弱人工智能的竞争与合作；

其三，强人工智能与弱人工智能各自内部发展路径辨析。

本文探讨第一、二两点，这两点都涉及对人工智能的科学属性与技术属性的理解。人工智能一身而二任，既是科学，也是技术，是科学和技术的一体化。

无论置身于其中的业内人士还是身处局外的观察者，实际上自觉不自觉地不是把人工智能归为科学，就是认作技术。在某种意义上可以说，眼下关于人工智能的种种争论，或多或少均与此有关。

一、强人工智能与弱人工智能

1.强人工智能与弱人工智能分别对应于科学和技术

强人工智能与弱人工智能之争可以归结到科学与技术的关系。相对而言，强人工智能强调跟随并再现人的自我意识，偏向于认为人工智能是探索人脑与意识的科学；弱人工智能则沿着图灵的思路，认为人工智能能够执行人脑相应的功能而得到应用即可。显然，在弱人工智能一方的心目中，人工智能是技术。

正因为强人工智能与弱人工智能的背后有科学与技术之分，所以二者的思路和发展路径存在种种差异。

强人工智能的目标是发现未知，揭示人脑及其运行背后未知的秘密，核心是主体的意向性。强人工智能的驱动力是其背后人类数千年如一日的好奇心，是一往无前永不遏止的探索精神。

作为科学，强人工智能清楚肩负的重任。且不要说人类的“意向性”，身边猫狗等宠物的意向性说的清楚吗？有必要沿生物进化的路径回溯，先从模拟昆虫、鱼和哺乳动物的大脑开始，再一步一步进阶到对人脑的模拟。“强人工智能还太远了。”（北京航空航天大学自动化学院副教授秦曾昌）。面对如此宏大的目标，眼下的弱人工智能，哪怕是阿法狗，还是阿法元，只能是一个字：“弱”；而那些媒体为此的摇旗呐喊，只能是泡沫，从而给人工智能，特别是弱人工智能泼冷水。

强人工智能嘲笑弱人工智能之“弱”，距人的智能何止千里之遥。“中文屋子”与其说是“怼”强人工智能，不如说是在羞辱弱人工智能。强人工智能要求揭示功能背后的结构，必须以“具有意识功能的材料为基质”（中山大学人际互联实验室主任翟振明），譬如说“微管”，由结构解释功能，在量子层面阐明意识的本质，以知其所以然。潘建伟认为，“不到量子人工智能的时代，我是一点儿不担心人工智能会取代人类。”。马兆远认同这一点，在由纳米尺度理解意识之前，“人工智能至少在三百年内还没什么机会超越人脑”。

站在技术的立场，弱人工智能则认为强人工智能没有必要，实现功能无需舍近求远，不如且行且进。如果人们的目标是制造“工具”，那么考虑特定类型的智能行为就已足够，何必再去考虑独立意识（南京大学教授、计算机软件新技术国家重点实验室常务副主任周志华）？

一部技术史，从工作机-动力机-控制学习机的线索来看，工作机、动力机、控制学习机，分解开来，逐一攻克。汽车并不是马，电机和热机未必如九牛或二虎，电脑虽在普适与情感等方面不如人脑，却越来越多的个别场合胜似人脑。

从科技黑箱的视角看，使用者只在乎其能否执行功能。就此而言，科技黑箱并不介意牛马的结构，从基本物理运动、化学运动、生命运动一路走来，突破曾经的一个个界限，在实际上同样进入意识运动的王国。

弱人工智能的目标是看得见的眼前，数年或数十年，在一定程度上可以预测，渗透到经济、社会和文化的各个领域，在个别的特定的领域逐一替代人。所谓“个别”、“特定”，就是边界明确，规则严密，赏罚分明，也就是有“激励机制”。弱人工智能，在这些特定的领域攻城略地，日益，以及坚定地扩大自己的营地。

从知识论的视角来看，弱人工智能把人的日常生活与工作中有规可循的行为编码编程，大数据加算法加算力，做成控制学习机。再结合工作机与动力机，脚踏实地步步为营，对人工智能持乐观立场，集腋成裘，在近数十年间将会迎来“奇点”。

其实，历史地看，科学和技术的发展都离不开对方的支撑和拉动，已经有太多的研究成果说明了这一点，人工智能至今的发展同样是科学和技术，在某种意义上，也就是强人工智能与弱人工智能，双方携手并进的结果（此处期待业内人士拍砖和完善）。

2.强人工智能人机回圈中的“机”与“人”

如果接受这一观点，那么不难看出，笔者在（人机回圈：人类的科技化与科技的人文化（序及纲要）；人机回圈：人类的科技化与科技的人文化（一、2）“机”的演化...人机回圈：人类的科技化与科技的人文化一、人机回圈中的“机”）中所分析的“机”，工作-动力-学习机，以及科技黑箱，都是把人工智能看作是技术。既然如此，作为科学的强人工智能，“机”的含义自然有所不同，那就是科学研究过程中所提出的“模型”，例如一个多世纪前对于原子的“葡萄干面包”和“行星式”模型，关于银河系的“水缸里的漩涡”模型，以及DNA的“三螺旋”和“双螺旋”模型等。对于强人工智能来说，“机”，也就是模型，主要并不有意实现什么功能，而是旨在认识大脑的结构，理解和揭示意识的本质，这是模型的目标：人的大脑和意识。

强人工智能与弱人工智能的人机回圈中的“机”不同，人机回圈中的“人”也不同。在作为技术的弱人工智能看来，人机回圈中的人是现实社会中的各色人等；那么作为科学，既然强人工智能中人机回圈的“机”是认识过程中的模型，那么人机回圈中的人就不是现实社会中的人，而是人作为“类”的典型。在一次次回圈中，模型无限逼近原型。眼下的一项最新进展是麻省理工学院的“类脑芯片”[i]，人造突触，是可以用于终端的便携式低功耗神经形态芯片，可将人脑能力“复制”到芯片，从而为实现神经网络硬件化打下坚实的基础。

值得注意的是，强人工智能在某种意义上沿袭了西方近代以来的步点。秉承笛卡尔的“认识论转向”，“脑”登场，“心”只是“处理机械自然中为物理学无法解释的一切感性经验的倾倒垃圾的场所”[ii]。所以需要“以头立地”，重“知”（智）轻“行”。

然而，人是“工作机-动力机-控制学习机”的融合，不可分割。身体，不仅是工作机和动力机，而且全方位参与认知与实践活动。这就是“全身心”，心智合一，灵与肉不可分离。

如果考虑到身心合一，那么强人工智能人机回圈之“机”，就必须以一个完整的人作为“回圈”的目标。2016/9/25上海AI小组闭门讨论会称，生命形态的不完整情况下发展的人工智能为“伪智能”。

或许正是在此意义上，乔布斯曾在自传里预言：20世纪80年代是IT时代，而21世纪绝对是基因科技时代。生物技术将从技术之“机”和科学之模型两个纬度推进人工智能。

考虑到科学与技术之间的互动，作为技术的弱人工智能中的“机”与作为科学的强人工智能中的“机”，也就是科学模型之间的互动，有待拓宽和强化。（此处同样期待业内人士拍砖和完善）

二、人工智能双刃剑

科学技术是双刃剑，这一点已经在科技界和社会上形成广泛共识。人工智能也是双刃剑。分析强人工智能与弱人工智能双方对人工智能双刃剑的立场会饶有兴味。

1.科学与技术，何者更是双刃剑

科学技术是双刃剑，这一说辞笼统了。进一步的分析可以发现，科学与技术相比之下，技术更是双刃剑。

可以在自然与社会之间设一谱系，将人类的各项活动排序。相对而言，科学更接近自然，技术更靠近社会。科学源于好奇心，强调自由探索，“为科学而科学”，其成果是与特定的主体、对象和语境无关的非嵌入编码知识。科学的成果虽然可以为各方所用，但科学本身止于认识阶段。作为认识活动，科学与社会的互动主要在观念层面，科学实验虽然是实践活动，但目的主要是为了认识，而不是效益。

技术旨在效用和控制，需要调动更多自然和社会资源，其成果满足特定社会成员的特定需要。作为实践活动，技术需要社会调集更多资源，技术的成果（科技黑箱）也会更直接广泛影响社会。技术与社会之间在经济、政治和文化诸领域发生全方位的互动。较之科学来说，技术的双刃剑效应，无论是正面还是负面，都更为显著，更为“锋利”。如果说作为认识活动，“科学无禁区”，那么作为产生后果的实践活动，技术必须有禁区。由此可见，技术必须更多顾及负面效应。

2.强人工智能与弱人工智能对人工智能双刃剑的不同立场

弱人工智能一方把人工智能看作是技术，因而人工智能必须考虑可控与效益，考虑双刃剑的负面效应。技术有禁区。因而担心人工智能最终影响人类的命运，霍金（科学家可以持人工智能是技术的观点，或者其成果终究会转化为技术，从而关注其负面效应）与马斯克是持这一观点的代表人物。他们担心的威胁，实际上是来自强人工智能。“严肃学者不该去碰强人工智能”（周志华）。如果限定在弱人工智能，则只会是人类乖巧而顺从的助手。

如果看作是科学，更多强调自由探索精神，科学无禁区。难道“强人工智能是潘多拉魔盒？”（北京邮电大学人机交互与认知工程实验室主任刘伟）[iii]。

即使是“潘多拉魔盒”，如果因此“说不要研究强人工智能，这就有些一厢情愿了。因为强人工智能是科学发展的必然趋势。”

回顾一部科学史，刘伟所言不差。合成尿素打破无机与有机的界限，生命科学和生物技术架起通往生命的桥梁，往日的界限已经攻克，意识运动同样没有禁区。

大脑，即使加上身体，全身心，无论多么复杂，无限，毕竟是“已经生成”之物（或弦）；人工智能，无论是“强”还是“弱”，其发展却无穷无尽。这一点与《三体》中描绘的“黑暗森林”类似。这一追赶的步伐，在弱人工智能看来近在咫尺，就在数十年后，即使在强人工智能心目中，也就数百年。

3.人工智能双刃剑前景

先看作为技术的人工智能。

科技黑箱将越来越黑。除了少数科技精英，人类中越来越多的人将不知其运行的机理，而科技精英的解释如“纠缠”、“叠加”、“塌缩”，则往往令常人如云里雾里，甚至科技精英也无法以经典的科学概念解释得出的结果，乃至求助于已“恭候多时”的佛教徒。

与此相反的趋势是，在相当程度上正是因为越来越黑，所以科技黑箱在操作上越来越简单。

上文述及，科技黑箱沿量子阶梯上升，由无机到有机、生命，以及大脑，从生理到心理；工作机越来越能干，动力机越来越强大持久，控制学习机越来越聪明，因而对人类社会的影响在正负两方面都越来越大。这一点再加上双刃剑越来越黑，越来越简单，因而双刃剑那一刃都变得越来越锋利。

人性有两个根本的弱点：自利与有限。无自利，或许唯有耶稣和佛陀。有限，不可能洞察一切。沿弱人工智能的途径，人工智能的发展将最终超越人性的弱点。弱人工智能没有自我意识，意味着无所谓“自利”， 无关尊严、荣誉，对于所有的情感“没感觉”，而是遵循规律。弱人工智能不是克服，而是绕过人性的自利。而在时空上无穷无尽的大数据和超凡脱俗的计算能力则超越人之“有限”。

“让机器工作，让人们思考”，这是2011年9月22日，IBM公司在计算机纪元50周年的题词。这十个字是弱人工智能的宗旨。

回顾历史，在普里戈金的分岔图上，每一次科技创新或多或少都是一次分岔。每一次分岔，往往针对上一次创新的不足之处与负面效应，换言之，人类毕竟还拥有一定程度的控制权，可以由新的分岔弥补修正上一个分岔的负效应。展望前程，人类正在越过的是人类历史上最大，或许也是对于人类来说的最后一个分岔。人工智能的发展将可能一劳永逸地结束人类社会历经万年，“从分岔到分岔”的“曲折前行”的道路。

再看作为科学的强人工智能。

即使在不涉及实践后果的纯粹的认识领域，强人工智能同样有令人毛骨悚然的效应。在围棋界，来无踪去无影的“棋感”已被阿法狗解密。试想，例如在人类最神奇私密的爱情领域，强人工智能将其中难以乃至不可言说的微妙之处一一解码，娓娓道来，以示天下，人类还花前月下，谈情说爱吗？要是同情心、审美和宗教情怀都可以在“微管”与量子的层面上得到解释，这一说辞不禁令人想起历史上曾经的还原论。

强人工智能与弱人工智能的一个共同点是，踏在往日科学技术的肩上，沿量子阶梯和运动形式升高，直至生命和意识。

斯蒂芬·沃尔夫勒姆（Stephen Wolfram）表示[iv]，模仿人类，既是错误的路线，又是唯一可行的路线。

强人工智能与弱人工智能结合，能否是“上帝的归上帝，凯撒的归凯撒”的模式。人，照看自己的灵魂，做出决策；机，人工智能从事计算，提供决策的依据和选项。“人心机脑”，是可欲的理想，还是一厢情愿？

人是双刃剑。

虽然有上述种种反思，但是强人工智能也好，弱人工智能也好，二者的相互结合也好，人工智能继续推进的趋势不可阻挡。说到底，在这一趋势的背后，依然是人工智能苦苦追寻并试图超越的人性。

人性推动人工智能超越（否定）自身。科技双刃剑的根源是人。

人自身就是双刃剑。一刃是善，一刃是恶；一刃是自我控制，一刃是放纵自我；一侧是对世界无穷的知与控制的欲望，另一侧是有限的认识和实践能力；一边是对不确定未来的向往或恐惧，一边是对确定往事的留恋或背离。

说到底依然是两句话，人是自利的，人是有限的。

前者的表现之一是控制欲，控制自然，控制他人，与此同时则是放纵自我。个人的控制与放 54 42278 54 23091 0 0 2267 0 0:00:18 0:00:10 0:00:08 4636，在人际就是控制与反控制。

后者在于，由于自然界（大脑）的极端复杂、相互关联与不确定，由于人（国）际关系的博弈或合作，以及由于主观能力所限，人不可能把握全局，不可能预知未来。回首往事，历历在目；展望未来，充满了分岔和不确定。两千年前，伊壁鸠鲁的原子论认为原子的偏斜造就了世界，上世纪居里的名言是，非对称创造世界。或许应该补充的是，非对称也会毁灭世界。

潘多拉魔盒释放了科技，也就是释放了双刃剑。打开了，就不可能再关上。

弗洛伊德在1930年写道，能否理解，文明在多大程度上是建立在对本能的满足之上，又是在多大程度上是以对强大的本能的力量（以压迫、镇压或别的方法？）不予满足为前提？

凯文·凯利谨慎地表示，互联网产生的相当大一部分都是不好的。但只要互联网的积极的一面仅仅比负面效应多出1%，我认为这1%会年复一年地滚动，历经数十年甚至上百年的复合产生收益。所以，为了长远获得正效应的复利，现在互联网产生的正面效用，必须要比负效应哪怕多那么一点点。

本能（好奇、控制……）或许正是比对本能的控制大了1%。正是这1%的不对称,“建构”了迄今的文明史。除了邪教，几乎所有的宗教都在于劝诫放弃对自然和他人的控制，代之以控制自我。

要是宗教大获成功，或许人类将止步不前；要是没有宗教，人类将自我毁灭。

自然界，正物质恰好比反物质多了“一点”，那多出来的“一点”构成了人类和大千世界。

说到底，人自身双刃剑的不对称，这才是科技双刃剑——无论是正面还是负面——的原动力。

只要人类一息犹存，就不会停下好奇与控制的脚步；只要人类不停下探索与支配的步伐，最终的征服对象就是人类自己。这是人类最大的悖论。

向死而生，这是哲学家对个人的教导，现在成为人类本身的宿命。

人类，能否凤凰涅槃浴火重生……

---

[1]鉴于科学与技术之间没有截然分明的界限，强人工智能与弱人工智能之间也没有截然分明的界限，因而本文中的论述也会带有这一印记。

---

[i]http://mp.weixin.qq.com/s/UkIBPqfVJ4_wbOcwQPZv3w

[ii]伊·巴伯．科学与宗教．成都：四川人民出版社，1993．35

[iii]强人工智能是潘多拉魔盒吗？秦曾昌、翟振明、周志华、刘伟，2018-02-05《科技日报》：张盖伦http://blog.sciencenet.cn/blog-40841-1098625.html

[iv]http://www.php230.com/weixin1430105795.html

一网打尽系列文章，请回复以下关键词查看：

创新发展：习近平 | 创新中国 | 创新创业 | 科技体制改革 | 科技创新政策 | 协同创新 | 成果转化 | 新科技革命 | 基础研究 | 产学研 | 供给侧

热点专题：军民融合 | 民参军 | 工业4.0 | 商业航天 | 智库 | 国家重点研发计划 | 基金 | 装备采办 | 博士 | 摩尔定律 | 诺贝尔奖 | 国家实验室 | 国防工业 | 十三五 | 创新教育 | 军工百强 | 试验鉴定 | 影响因子 | 双一流 | 净评估

预见未来：预见2016 | 预见2020 | 预见2025 | 预见2030 | 预见2035 | 预见2045 | 预见2050 |

前沿科技：颠覆性技术 | 生物 | 仿生 | 脑科学 | 精准医学 | 基因 |  基因编辑 | 虚拟现实 | 增强现实 | 纳米 | 人工智能 |  机器人 | 3D打印 | 4D打印 | 太赫兹 | 云计算 | 物联网 | 互联网+ | 大数据 | 石墨烯 | 能源 | 电池 | 量子  | 超材料 | 超级计算机 | 卫星 | 北斗 | 智能制造 | 不依赖GPS导航 | 通信 | MIT技术评论 | 航空发动机 | 可穿戴 | 氮化镓 | 隐身 | 半导体 | 脑机接口

先进武器：中国武器 | 无人机 | 轰炸机 | 预警机 | 运输机 | 战斗机 | 六代机 |  网络武器 | 激光武器 | 电磁炮 | 高超声速武器 | 反无人机 | 防空反导 | 潜航器 |

未来战争：未来战争 | 抵消战略 | 水下战 | 网络空间战 | 分布式杀伤 | 无人机蜂群 | 太空站 |反卫星

领先国家：俄罗斯 | 英国 | 日本 | 以色列 | 印度 

前沿机构：战略能力办公室 | DARPA | Gartner | 硅谷 | 谷歌 | 华为 | 俄先期研究基金会 | 军工百强

前沿人物：钱学森 | 马斯克 | 凯文凯利 | 任正非 | 马云 | 奥巴马 | 特朗普

专家专栏：黄志澄 | 许得君 | 施一公 | 王喜文 | 贺飞 | 李萍 | 刘锋 | 王煜全 | 易本胜 | 李德毅 | 游光荣 | 刘亚威 | 赵文银 | 廖孟豪 | 谭铁牛 | 于川信 | 邬贺铨 |

全文收录：2016文章全收录 | 2015文章全收录 | 2014文章全收录 

其他主题系列陆续整理中，敬请期待……