比“技术性失业”更恐怖的，是“技术性失智”
这是思维补丁的第713篇文章
很喜欢的一首歌，推荐听听
头图by 电影《机械姬》
“技术对人的驯化，才刚刚开始”
“第一台超智能机器将是人类的最后一个发明，前提是机器要足以温顺到告诉人类，该如何控制它。”
作为一则预言，1965年英国数学家、密码学家 I.J. 古德的这句话，已经被众多科幻电影生动地演绎了一遍又一遍。
这句话亦可作为“智能爆炸”（intelligence explosion）这一概念的核心。这一概念认为，第一台超智能计算机的诞生，将意味着人类文明的黄昏：
因为它本身已经在智慧和知识储备方面超越了所有人类，而“超智能”意味着它无时无刻不在自我学习和认知迭代，所以它自己会自行设计并建造下一台更智能、更强大的“超智能计算机”。
从《终结者》到《我，机器人》中智能终端的觉醒和对人类的反控制，再到《机械姬》和《西部世界》中，智能仿生人的自我意识萌芽及对人类的反抗，所有这些科幻作品反复呈现的剧本，无非是I.J. 古德上面那句话的注脚。
在公众的认知中，如科幻电影中强大到足以终结人类的AI，仍是一件过于遥远的事。不过这并不妨碍每一次技术的升级，都能掀起一波舆论和公众心理层面关于“技术恐惧”的可怖想象。
ChatGPT的横空出世以及其所带来的技术层面“划时代”的跃升，同样引发了从学界到民间的“技术恐慌”。
“技术性失业”是一个古老的鬼故事，只是这一次，人类遭遇的这只名为ChatGPT的“厉鬼”确实神通广大。
ChatGPT确实称得上是“划时代的产品”，它第一次让公众跳出如Siri这类愚笨的“搜索式对话”的旧框架，重新想象AI的能力边界。
即便只是初代产品，ChatGPT已然能够通过硅谷年薪18万美金的工程师招聘考试。不仅如此，它还能帮程序员检查代码错误，甚至可以自己写一段代码，且没BUG。
ChatGPT不仅可以帮助小学生和中学生，数秒钟写出一篇措辞优美的命题作文，北密歇根大学一位学生，甚至依靠ChatGPT写出了全班最高分的论文。
美国西北大学的一篇研究论文显示，ChatGPT写出了令人信服的研究论文摘要，连人类科学家都难以分辨真假。
当然，作为一个襁褓中的“初生儿”，在很多方面ChatGPT依然很笨拙，很稚嫩，在相当多问题的回答中，它都表现的不尽如人意。
但它在未来的应用，以及对人类世界的影响，怎么高估都不为过。
（二）
我相当肯定，以ChatGPT为代表的新一代AI工具，在未来几十年之内，将相当深刻地改变人类社会和当下的职场分工。
但对于“技术性失业”这样一个已被摩挲到褪色的古老话题，我没有再次重复的兴趣。
大规模的技术性失业，确实是一个值得社会和政府关注的问题，但在我看来，这并不是最值得警惕的问题。
事实上，公众和舆论将太多精力聚焦在“技术性失业”之上了，以至于忽略了一个我认为更危险，更值得警惕的问题：
技术性失智。
我丝毫不怀疑，以ChatGPT为代表的AI工具，可以帮助我们更有效率地学习和工作，也能够帮助人类完成许许多多的“不可能之事”。
但是，是的我要说但是，一个强大的AI工具，它也可能变成一个舒服温暖且不自知的套子。
创造力、想象力、独立思考和独立判断的能力，会借助一个强大的AI工具获得质的飞升吗？
坦白讲，我对此持悲观态度。
我甚至认为，一个无比强大的，无处不在的AI工具，会反向降低个体的创造力、想象力和独立思考的能力，让这些稀缺的品质，更稀缺。
我并不是一个“技术悲观主义者”，相反，我愿意拥抱一切新技术和新创造。
但我仍呼吁社会和公众警惕某些技术可能带来的“危害性”，是因为我骨子里有些“人类悲观主义者”的钙质。
我总怀疑以人类惯有的疯批程度，某些伟大的技术革新，不一定将人类引至美好的伊甸园中，恰恰相反，它有可能因为人类本性的自私、狭隘、傲慢和贪婪，把我们推向“地狱”。
（三）
许多年前，《南方周末》刊发了一篇后来被誉为特稿典范之作的报道，文章的标题是一个宏大而模糊的词汇：《系统》。
这是一篇雄心勃勃的稿子。
它的好既不是揭露了某种不为人知的阴暗，也不是批判了某种需要巨大勇气才敢触碰的权力腐败。
后来这篇稿子获得了《南方周末》的最高荣誉“总编奖”，授奖词指向了这篇稿子真正的野心，它是这样写的：
“母词系统的深度发掘，不仅是对现实的有力映射，更是对新闻易碎品属性的一次挣脱。”
《系统》所着重描写的，是当时刚刚在中国大陆兴起的网络游戏，以及这些网游玩家们所处的世界。它所深入展现的那款游戏，相信每一个80后都不陌生，即把史玉柱再次送上富豪榜的网游“征途”。
这篇稿子以令人印象深刻的笔触，描写了游戏中那个无所不在的“系统”对人的驯化、异化和控制，“随着人民币的不断加速投入，和很多人一样，吕洋发现，金钱铸就的，其实是通往奴役之路。”
新闻当事人吕洋是游戏中的“国王”，为了保住这个虚拟的位置，她一个晚上开过上千个箱子，“一天不上线，就会觉得自己又落后了，实在太累了”。几万块人民币扔进去，连个响声都听不见。
这是一个向你承诺可以带来幸福、快乐、友谊甚至爱情的“新世界”，但当你沉浸于它，却发现那个你曾极力向往和拥抱的“新世界”，早已褪去梦幻般的光芒，展露出它真正的样子：
一间囚室。
这些人玩到最后，完完全全沦为了一种工具，非常可怜。吕洋现实中是医院的B超检查师，她甚至在医院的电脑里也下载了游戏客户端，以便在给患者检查的间隙挂机、升级。
这些人夜以继日，牺牲了巨大的时间、精力和金钱，成功地使自己变成了驱动游戏公司利润的一个齿轮。
至于曾经希望在游戏中获得的休憩、快乐和新鲜感，早已荡然无存，只剩下焦虑，虚荣，攀比，仇恨，和近乎无休无止的相互谩骂与PK。
这篇稿子是一个明晃晃的隐喻，不仅仅反映了网络游戏中“系统”对玩家的驯化和控制，它还指向了一种更宏大，更现实，更无孔不入且无法逃脱的“系统”。
“系统”对人的反驯化无处不在，这个系统可能是一种被精心设计的制度体系，也有可能是一种公众曾经欢呼拥抱的新技术。
（四）
回到那个问题：
人工智能的普及和应用，可以帮助我们更好的认识这个世界吗？能够帮助人类提升整体的智识观念吗？
坦白讲，我对此持保留意见，至少不那么乐观。
对于这一点，移动互联网对人群的影响和驯化，是一面骇人的镜子，殷鉴不远。
如果您是一位初代网民，我想一定会对刚刚接入到互联网的那段时光记忆犹新。
那真是一段闪烁着梦幻般光芒的时光，海量的知识和数据不断被传输到网络上，数不清的高知网友不求回报，日以继夜地在网络上贡献自己的知识、观点，中英文论坛上充斥着高质量的帖子和讨论……
第一代网友畅想着，在互联网真正普及的那一天，当每一个人都能方便、廉价地接入互联网，当每个人都可以平等地获取海量的信息与知识——
那整个人类社会的文明水平会获得质的飞跃，网络一定会开创人类文明史上第二次“启蒙运动”，观念的最大公约数将由自由、平等、包容、博爱的个体认知所构建。
如今这一天真的来了，无论你是身处北上广的地下铁，还是置身偏远山区的田埂间，每一个人都可以方便快捷地接入到4G网络中。
但今天的公众，整体的智识追求和观念水位，每个人内心里对自由、平等、包容、博爱的精神，比50年前读报纸的人，真的认识更高了吗？
昨天的新闻是，一位刚刚考上研究生的姑娘，因为把头发染成红色遭遇了汹涌的网络暴力，最终致郁而选择了自杀……
离谱吗？
我觉得照此发展下去，有一天“少女缠足美呆了，三寸金莲绝绝子！”要是冲上热搜，也不值得大惊小怪了。
我觉得，一位“五四运动”的前辈，如果穿越时光来咱们的微博上泡上几天，他一定会大惊失色，今天的人类可以方便快捷地在隧道和蓝天上连接互联网，但他们所参与的公共讨论，无论是话题质量还是话题深度，显然，都呈现断崖式的下降。
100年前五四新青年们探讨的话题，在今天非但没有取得更广泛的共识和更深刻的体悟。这些问题如果放在今天的互联网，反而变成十分勇敢，十分前卫，甚至十分激进的话题……
这不得不说是一个令人刺痛的讽刺。
（五）
这就是我想表达的隐忧：
在某个隐秘的维度上，相对于稀缺的图书馆和高昂的学费，廉价、平等和拥有海量知识的网络，非但没有“极大”提升个体的认知、观念和思考能力，反而将许多人驯化成了一只只傲慢、狭隘、闭塞的“井底之蛙”。
在社交媒体之上，人与人之间认知的差别，有时甚于人和狗之间的认知差距，它完完全全是一种跨物种的，无法沟通的，全然属于两个世界的认识水平。
对此，我想每一位热衷于网络冲浪的朋友都感同身受。
无论对于原子化的个体，还是作为一个整体的社会，我想我们需要警惕的，不是技术升级所导致“摩擦性失业”。
我们需要警惕的，是类似人工智能这样的技术爆炸，对公众的“反向驯化”，以及这种驯化可能导致的“认知灾难（观念滑坡）”。
即人的工具化，思维的懒惰、固化以及由此带来的群体认知失调和社会观念崩塌。
在一个空前强大的AI工具面前，在一个面对人类提出的问题，能够瞬间给予一个答案的“代脑”面前——
我不知道，我们距离真实是否会越来越近？
但我本能地怀疑，它极有可能反过来驯服我们，让我们离偏见、狭隘和自以为是，愈来愈近。
所以我说，真正值得警惕的不是技术性失业，而是技术性失智；真正的恐怖不是技术性致贫，而是技术性“致盲”。
PS.「超慧选」小店今日上新，可点击下面文字链接购买。
【继续阅读】
【作者简介】
慧超，前媒体人、资深品牌公关顾问
作家，已出版《这个世界不欠你》
本文系网易新闻•网易号特色内容激励计划签约账号【思维补丁】原创内容，未经账号授权，禁止随意转载
—End—
若觉可读，欢迎推荐给朋友，甚幸！
思维补丁只提供观点，不提供救赎！