《沙丘2》上映，AI将来会控制人类吗？｜二湘空间
思想的碰撞 民声的回鸣
《沙丘2》海报 图源网络
AI将来会控制人类吗？
文/远方有梦
继《麻辣滚烫》、《周处除三害》后，美国科幻大片《沙丘2》又在各地院线刮起一阵旋风。《沙丘2》与三年前上映的《沙丘》属一个系列，表现了公元一万年左右人类征服银河系后英雄保罗反抗银河帝国统治，夺回宝贵资源“沙丘”星球的史诗般的故事。
《沙丘》系列讲的是距今一万年后的故事。它有一个重要设定，就是人类那时候已经完全抛弃了人工智能（AI）。据说在那之前人工智能已经在很大程度上控制了人类和世界，忍无可忍的人类与人工智能之间进行了一场大规模战争，人类胜利了，但付出了惨重的代价。于是人类决定销毁人工智能，建立一个完全由人控制的世界。所以《沙丘》故事系列里没有人工智能的影子。
《沙丘2》剧照 图源网络
那么，人工智能真的会在未来或遥远的未来（例如几千年后）控制人类吗？
而在公元2024年的今天，AI方兴未艾，ChatGPT、Sora等强大的AI产品不断推出，人们在欢呼AI时代的到来！由于AI的能力强大和快速迭代，我们今天确实有这样的担忧：
AI会不会在将来的某一天强大到能够控制人类？
本文介绍一下AI的来龙去脉并尝试回答一下我们的担忧会不会成为现实。本文面向普通读者，所以不可避免地提到一些技术术语时会尽量解释清楚。
AI（人工智能）其实已经有很长时间的历史，下面讲一讲它的发端。了解发端就有可能把握它的未来。
上世纪二三十年代，一些从事数理逻辑研究的数学家们开始思考一个问题：人们可以解决各种各样的问题，那解决问题的算法究竟是什么？那时候有个叫图灵的年轻人思考后提出了一种简单机器，说算法就是这个机器，人们解决问题的过程都可以用这个机器的运行过程来模拟或描述。人们把这个机器称为图灵机。
图灵机表明了人类可以造出机器来帮助人们解决各种问题，这个机器后来叫计算机（理论上叫通用图灵机）。图灵并没有给出来造计算机的具体方案，这个方案是另一个著名的数学家冯诺伊曼提出来的，直到现在我们还是在按他的方案制造计算机包括智能手机。
在上世纪四十年代末计算机造出来之后，人们思考：以前的机器只能做一件事情，而现在能做很多事情的计算机发展到未来会不会具有智能。图灵这时又闪亮登场（之前他破解了希特勒的密码），他提出了检测计算机是否具有智能的方法，即著名的图灵测试。
图灵 图源网络
介绍一下图灵测试很有必要，这能让我们确信ChatGPT具有智能。
一个房间放两块屏风，一块后面是计算机，另一块后面是一个人（心智成熟的人），房间里有一个秘书。测试者走进这个房间向秘书提出问题，秘书分别到两块屏风后面向计算机和人转达问题，计算机和人都给出答案，由秘书抄写后交给测试者。提问题的过程重复足够多次，测试者最后猜哪块屏风后面是人，哪块后面是计算机。如果他猜不出来，计算机就通过了图灵测试。
图灵测试的道理就是检验计算机的智力和人的智力是否能区分，如果不能区分，计算机就有了智能。
现在你可以测试ChatGPT，看看结果如何。如果把ChatGPT猜成人了，那说明它的智力已经超过人了。
让我们回到上世纪，那时候的人们期待计算机智能即人工智能时代的到来。数学家们、计算机科学家们努力让计算机在帮助人们解决计算问题之外还能解决图像语音识别、辅助决策、预测等智力问题。
然而，人工智能技术进展缓慢。例如计算机图像识别效果一直不理想（语音识别相对好些），决策支持系统、专家系统等几乎一直停留在纸面上。当然计算机技术还在飞速发展并在各个领域大显身手，改变着世界的面貌。
以前计算机解决的问题必须是能够精确描述的问题，技术上讲是能够建立模型或能够形式化的问题。我们让计算机做的计算、word文字处理、图像处理、微信文字语音视频交流等都是能够精确描述的，所以计算机（包括智能手机）能做的非常好。
而智力问题没有办法精确描述。例如，图片里一个人体的边缘永远无法精确描述，图片里一个青少年和一个成年人的区别永远无法精确描述，还有，如何写一篇二湘作品的读后感永远无法精确描述。
人们尝试用很多方法例如统计方法等来描述这些智力问题，它是精确描述的一种改进，目的其实还是在一定范围内精确描述，但效果仍然不理想，都不可能通过图灵智能测试。
智力问题非得描述吗？人类大脑能够轻松解决智力问题，但怎么解决的无法说清楚。那么能不能像人类大脑一样不精确描述问题，直接解决呢？
有趣的是，计算机和人的大脑是互补的，非智力问题例如计算问题计算机比人做的又快又精确，但智力问题人比计算机做的又快又准。
看来解决智力问题需要直接模仿人的大脑。
早在1943年，在美国，年轻的数学家皮茨和神经学家麦卡洛克合作提出了大脑神经元的数学模型（在那之前，人们已经得知了大脑神经元的解剖结构）。1957年，Rosenblatt在这个模型基础上设计了感知机，它是几个神经元组成的双层神经网络，它能进行简单的学习、计算和逻辑运算。它有点像低等动物的大脑了。
感知机是科学家模拟人类大脑的真正尝试，它是现代AI的雏形。当然，在1957年，设计感知机的科学家Rosenblatt还没有意识到他工作的里程碑意义。
罗森布拉特(Rosenblatt)和他的Mark I型感知机 图源网络
感知机开启了人工神经网络的研究，到上世纪八十年代，几项重要的研究成果特别是反向传播算法给人工神经网络带来了革命性的突破，人工神经网络的基础理论基本奠定。
从上世纪四十年代到八十年代，人工神经网络研究只是极少数人的跋涉。与此形成鲜明对比的是走“描述”路线人工智能研究的喧嚣热闹。这里请我们怀着崇敬的心情向那些在微暗星火下孤独跋涉的人们致敬。
上世纪九十年代初，由于之前的突破性进展，人工神经网络吸引了很多研究者，成为一个研究热点，然而一阵热闹之后很快归于沉寂。
大家知道，从上世纪九十年代开始，IT时代到来，网络、多媒体、大数据……热潮一浪高过一浪，在这些热潮面前，人工神经网络显得非常落寞，甚至几乎被很多计算机科学家遗忘。但真正的跋涉者们并没有停止他们艰难的脚步，直到21世纪开始取得惊人成就，开启了人工智能时代。
笔者认为这里具体介绍一下人工神经网络很有必要。
人工神经网络实际上就是以简单的神经元数学模型（中学生都能理解的模型）为单元组成的多层次网络，它的最初意图是模拟大脑，但它一开始就偏离大脑！
研究表明，人类的大脑有800多亿神经元，是人类观测到的最复杂结构，人们完全无法真实模拟。于是人们采取了与真实大脑完全不同的结构：规则的层次结构。在这个规则结构上我们可以方便地把握，可以方便地进行数学处理！
数学，它是我们人类发明的最可靠最好用的工具。
可以说，人工神经网络除了基本单元与脑神经元类似外，与大脑神经网络再无相同之处。如果把脑神经元比作积木，那两者就是积木搭出来的完全不同的房子，一个复杂无比，一个非常规则。
现在人工神经网络已经进化到大模型阶段，它的神经元和联结规模已经可以和大脑相比，但它们的结构有根本性的不同。
实践证明，人工神经网络神经元结点数和层次达到一定规模后，解决图像识别等智力问题的效果非常好，比传统的“描述”路线方法好很多，完全可以实用。这样的人工神经网络我们称之为深度学习，具体地说就是把数据输入给层次很多的人工神经网络，优化神经元之间的联结，优化完成后的人工神经网络就是ChatGPT、Sora这样的AI产品。
人工神经网络与传统的问题“描述”路线不同，它不精确描述问题，它只需要学习问题的有关数据，在神经元之间建立适当联结后就能解决问题了。这和大脑的学习、工作机理是相似的。
图源网络
传统的“描述路线”例如统计方法只能适应有限的我们所掌握的统计模型，而深度学习可以适应任意情况，只要把任意情况下的数据交给人工神经网络学习得到“经验”就可以了。
由于缺乏问题的精确描述，我们不能给予人工神经网络解决问题的过程一个准确明了的解释，这是人工神经网络的“不可解释性”。这是习惯了用精确描述（即模型）理解、解释世界的人们有点难以适应的。
人工神经网络在目前21世纪的发展得力于算力和数据的爆炸式增长，还有利用这些资源的天才架构设计。
现在我们知道人工神经网络解决智力问题的强大能力了，例如你可以让ChatGPT为你写一篇二湘小说的读后感，你最多需要提点简单要求；你可以让Sora制作一个视频，你只需要给几个提示词（prompts）。
看来，人工神经网络虽然采取规则的层次结构，没有真正模拟大脑，但已经呈现出大脑的能力，它完全能通过图灵测试。AI时代到来了。
在AI时代，社会必然会有所改变，在AI给我们带来极大便利的同时也会影响到一些职业，比如AI很可能替代秘书文员、还有一些技术要求不高的设计人员等等，Sora可能替代电影从业人员。但AI也可能产生一些职业，例如提示词（prompts）工程师等，甚至产生出一些现在无法预测的新型行业。
《沙丘2》剧照 图源网络
下面回到最初的问题，就是AI将来会不会控制人类？
AI的聪明与强大已经显现，人们会自然思考AI发展下去会不会强大到控制人类。
首先，控制人类需要有控制的动机，动机来自哪里？来自意识。我们身边有很多力量强大的机器，我们不会怕它们控制我们，因为他们没有意识。
那么上面的问题就成了：AI将来会出现意识吗？
其实这个问题很难回答，因为尽管每个人都有意识，但人类目前还不清楚意识究竟是什么。不过我们还是可以尝试分析一下。
上面说了，人工神经网络是一个层次结构的网络（非常复杂的层次结构），我们对它的每个单元、每个部件和整体结构都可以精确描述（这个可以精确描述），人工神经网络的联结方式是数学优化的结果，说到底，它就是一个计算机程序，这个程序“模仿”我们所“了解”（其实并不真正了解）的大脑工作。
这里值得注意的是：第一，大脑神经网络的结构极其复杂，我们了解非常有限；第二，大脑神经网络联结方式极其复杂，同样我们了解非常有限。
所以大脑神经网络是在结构不了解、联结方式不了解的情况下产生了我们更不了解到底是什么的意识！
试问，人工神经网络会产生意识吗？
我们有勇气回答不能。
那还用担心将来AI会控制人类吗？
所以，尽管AI会越来越聪明，越来越强大，但在可预见的未来，它不会有意识，它会一直受到人类的控制，它始终是人类的一个工具而已，只不过这个工具表现得足够智能。
还有，AI不会产生意识，也就不会创造知识，不会自我迭代，不会自动进化，不会产生硅基生物.......不会出现很多科幻电影中的可怕情景。
需要指出的是，计算机科学家们并不关心真正的大脑神经网络是什么样子，他们所做的工作就是改进、加强目前的人工神经网络，使其效果更好。他们完全没有和神经学家合作，探讨将AI向真正的大脑神经网络方向发展，因为他们知道：这不可能！
可是，有没有可能在遥远未来的某一天，人类把意识搞明白了，然后让AI也具有意识呢？
就在图灵提出图灵机之前几年，有个叫哥德尔的数学家（研究数理逻辑）思考人类是否能解决所有问题，他的答案是：不能！他提出了一个人类永远无法解决的数学问题。哥德尔的研究成果可以和爱因斯坦的相对论媲美，但却没有相对论那样广为人知。哥德尔第一次发现了人类智力的极限。
哥德尔 图源网络
其实图灵就是在哥德尔研究工作的基础上思考并提出图灵机的，有趣的是图灵在他的图灵机上也发现了一个人类永远无法解决的问题——停机问题。
意识究竟是什么、它是怎么从大脑中产生的是不是另一个人类永远无法解决的问题呢？从逻辑的角度看，（人的）意识自己理解（人的）意识可能陷入自指逻辑怪圈，可能导致悖论，得不到答案。理解（人的）意识可能需要更高级的（超人）意识。有点科幻了，哈。
人类可能永远无法完全了解自己。这可能是人类永远不会停止探索的终极动力。
更多作者文章：
更多书籍进入二湘空间书店
更多往期精粹
投稿点击此链接，记得公号加星标