人工智能会不会阻碍人类进步？AI先驱如果看到这问题…… | 袁岚峰

最近，有网络平台邀请我讨论一个问题：AI发展会不会阻碍人类进步？这个问题其实很有反讽意味，因为人工智能本来就是为了推动人类进步提出来的。1956年达特茅斯会议（图1）提出人工智能这个概念的时候，约翰·麦卡锡（图2）、马文·明斯基（图3）、纳撒尼尔·罗切斯特、克劳德·香农（图4）等先驱肯定不会想到，许多人一提到人工智能，首先问的居然是它会不会阻碍人类进步。

图1

图2

图3

图4

我对人工智能远不是专家，不过稍微有些了解，来自图灵奖获得者、法国科学家杨立昆（Yann Le Cun）（图5）的自传《科学之路》以及我的朋友、复旦大学张军平教授的《人工智能极简史》（图6）等科普书。基于这些了解，我至少可以说，人工智能取得了很多实实在在的成就。实际上，大家现在每天都在用的各个媒体平台的推荐算法，就是人工智能的典型应用。

图5

图6

稍微往回看一点，例如对手写阿拉伯数字的机器识别，这在现在看来似乎平谈无奇，但杨立昆1993年实现它时可是革命性的。现在我们对人脸识别已经习以为常，甚至会有点无法想象没有这种技术怎么办。然而，准确率超越人的机器人脸识别是什么时候实现的呢？其实仅仅是2014年，还不到10年前！这是我的科大师兄汤晓鸥（图7）实现的，堪称人工智能改变生活的一个惊人例子。

图7

又如机器下棋，先是跳棋，然后是国际象棋，最后是围棋，人工智能一步步地超越了人类。国际象棋和围棋在被人工智能超越前都曾经被认为是人类智慧的王冠，许多人找出种种理由论证机器永远不如人。但被超越后大家很快就习惯了这个现实，转头就觉得，人脑比不上机器，这不是天经地义的吗？立刻又掉过头来向机器学棋，甚至在比赛中用机器作弊。拿破仑都要给这种机智的转向点赞！

然而另一方面，我也可以理解许多人对人工智能的担心。机器取代人的工作一直是个令很多人担心的问题，当然对此的回答也很明显：技术进步总是会消灭一些工作岗位，同时产生另一些工作岗位。从社会整体上看，人工智能提高了很多行业的效率，这就是好的。

然而，人工智能也提高了一些负面行业的效率，例如诈骗。伪造的图片、视频、音频，已经遍地都是。以前是眼见为实，现在是眼见都不见得为实。

一个更深层次的问题，是人工智能的可解释性，或者说不可解释性。随着模型越来越复杂，许多系统越来越像黑盒子，谁也搞不清结果是怎么出来的，也就不知道它对不对。如果用到对生命财产有重大影响的判断上，就更加令人担忧。那怎么办呢？人们提出了各种办法，包括用模型来监管模型。但这听着就像一个恶性循环：现在训练人工智能所需的材料有很多就是人工智能生成的，这种对材料库的污染持续下去，最终许多错误与偏见就会固化在模型中，从根源上危害社会。

因此，人工智能会不会阻碍人类进步？实际上，它的成功就隐含着它的破坏性。这是需要我们深入去研究的，从技术到伦理层面需要很多努力，才能让我们不陷入“勇敢新世界”类型的反乌托邦。

我对人工智能了解有限，不过刚好12月11日，我就会和我的若干位专家朋友做一场直播。这些专家朋友包括中国计算机学会科学普及工作委员会执行委员高庆一博士（图8）、复旦大学计算机科学技术学院张军平教授（图9）、科大讯飞AI研究院副院长李鑫博士（图10）、中国科学技术大学网络空间安全学院执行院长俞能海教授（图11）、中国科学技术大学科技商学院特任副教授李春晓博士、中国电子企业协会副会长宿东君老师等人，他们将从学术界、产业界、投资界以及数据科学、行业协会的多个角度为大家解读。欢迎大家12月11日18:00 - 21:00观看直播，“通用人工智能，路在何方”，不见不散！

图8

图9

图10

图11

■ 扩展阅读

■ 作者简介

袁岚峰

中国科学院科学传播研究中心副主任

中国科学技术大学科技传播系副主任

中国科学技术大学合肥微尺度物质科学国家研究中心副研究员

科技与战略风云学会会长

风云之声

科学 · 爱国 · 价值