人工智能会毁灭人类吗？

（阿尔法棋能大败李世石，当然也就能大败柯洁，没什么奇怪的，顶尖棋手的水平是差不多的。所以对阿尔法棋与柯洁的比赛，我并不怎么关心。这是阿尔法棋与李世石比赛之后写的。）

　　这一阵子比较吸引眼球的一件事，是谷歌的围棋程序AlphaGo以4比1战胜了韩国的世界冠军李世石。AlphaGo很多人把它音译成阿尔法狗，其实是不确切的。Alpha是希腊字母第一个，Go是日语围棋的发音，其实是中古时期汉语“棋”的发音，所以我觉得应该翻译成阿尔法棋。

　　下围棋被认为是最高级的智力游戏，阿尔法棋赢了世界冠军，让人觉得非常神奇，以为阿尔法棋有了高超的智能。有个记者还浮想联翩，说不知道阿尔法棋赢了以后在想什么。阿尔法棋就是一个下棋程序，会搜索、计算、判断怎样下围棋最好，如果人不编程序告诉它干别的事情，他就什么都不会，哪会“想”别的。

　　阿尔法棋并不是真正会下期，只是在模拟人类下棋，知其然不知其所以然。比如在第四盘它输给李世石那盘，第97手它莫名其妙地白送了李世石一个子，并不是有战术意图的弃子，完全就是送死，一个人学会了下棋后不管水平多差都不会那么下，这说明阿尔法棋其实没有智能，并不是真会下棋。

　　以后研发出真正有智能的人工智能程序，当然有可能，甚至在某些方面的能力比人类大脑强，也有可能。毕竟，计算器的运算能力早就超过了人脑。但是又有人浮想联翩，说再过几十年电脑的智商就会高到人类无法理解的地步，甚至会失控灭绝了人类。有人问，你能理解智商200的智能，但是你能理解智商2千、2万的人工智能吗？所谓智商，其实并不是一个能衡量智能高低的概念。智能是一种非常复杂的、多方面的现象，是没法用数字都衡量的。智商测的只是智能的某个方面，主要是逻辑推理能力，而且测得并不准确。所谓智商高不过是逻辑能力强，在某些领域有超强表现，并非不可理喻，并不具有超能力，更不是上帝。我们说一个人聪明、有智慧，是因为他思维严密、敏捷、判断力强，而不是因为他无法被别人理解。

　　比如爱因斯坦通常被认为智商非常高，很聪明很有智慧，但是我们并非不能理解爱因斯坦，他也没有超能力。假如未来真有智商非常高的人工智能，也不过意味着其思维更严密、更敏捷、判断力更强、解决某些问题更快而已，有什么恐怖的？对未来人工智能胡思乱想的人，有的是工程师思维，以为世界上的东西都能够量化、数字越大越好而且增长没有止境。但世界不是这样的一条直线。智能的进化是有限的，不管是通过生物进化还是通过机器进化，再怎么进化也进化不出超能力。人类的智能与二十万年前并无区别。人类的进步不靠智能进步，靠的是知识的积累、技术的进步，人工智能最多能加速这个进程。

　　科学技术是中性的，可以用以造福人类，也可以用以祸害人类。技术的威力越大，能带来的效果也越大，可能的恶果也会越严重。实际上人类早就拥有了毁灭自己的能力了，一旦爆发核战争，现有的核武器储备足以把人类毁灭很多次。全球变暖也给人类的生存带来严重的挑战。这些全球性危机不用等到出现发疯的人工智能才出现。人工智能和其他技术一样，是福是祸取决于人类怎么使用它。如果将来人工智能毁灭了人类，那也不是它自己的选择，而是被人类滥用，比如被用来做武器。人工智能未来会发展到什么程度，我不知道。但是那些认为人工智能总有一天会像上帝或魔鬼一样反过来控制人类、消灭人类，那是科幻电影、科幻小说看多了。

　　2016.3.14.

（识别下面二维码购买方舟子著作签名版）