细思极恐却无法抗拒——当科学成为新“上帝”

细思极恐却无法抗拒

当科学成为新“上帝”

策划：先知书店

文：愈嘉、屏营   编：先知书店店长、柏果

﹎

斯塔尔夫人是法国大革命时期的自由主义思想者，她的言论曾让拿破仑恐惧：“没有哪个女人比她更邪恶”。然而，比这更著名的，是她那句“自由是古老的，专制才是现代的”名言。不过，直至今天，恐怕也没有人意识到，这句在当时惊世骇俗的话，却成了随后200年的历史预言。

从1789年法国大革命爆发，到1989年柏林墙倒塌整整两百年间，资本主义的发展和科学技术的进步，将人类推上了前所未有的文明巅峰，但随之而来的，是强人对权力集中的渴望，穷人对财富不均的怨恨。结果，乌托邦主义、纳粹主义等自由的敌人粉墨登场，经济崩溃、政治动荡、人伦毁灭、文明倒退交错出现，这些历史，至今仍让人心有余悸。

200年来，有多少罪恶假自由之名大行其道？所幸，灾难换来的，是自由、平等、和平等美好的价值，逐渐成为深入人心的普遍价值。今天，文明与野蛮的冲突仍在继续，但再也没有人会公开反对这些普遍价值。

然而，当普遍价值成为一种信仰时，他们的敌人，已不只是“强制”等显而易见的敌人，更包括“技术”“算法”等非常隐蔽的敌人。长远来看，后者比前者更可怕——不仅因为后者很容易成为前者的利器，更因为当科学成为新的上帝，直接动摇着人类普遍价值的根基。

▍科学对人脑的革命：

抑郁，不是因为痛苦，而是芯片没电了

自由等普遍价值，之所以能够从历史的残酷竞争中胜出，是因为它的两大基本前提最符合人类的天性：

◎人类拥有自由意志，文明社会必须尊重每个人独一无二的体验，无论市场中，还是政治生活中，每个人都有自由选择的权利。

◎没有人比他本人更了解自己，只有自己才知道自己想要什么，没有人能替自己做决定。

然而，技术和算法的崛起，正在动摇着这两大基本前提。

在“第一推动丛书”之《皇帝新脑》中，自西班牙科学家卡哈尔发现人脑运行的本质，不过是神经元之间的互相作用以来，科学对人脑的了解越多，就越发认定，人几乎99%的行为模式，与计算机无异，无论是记忆还是外部的刺激，无非就是神经元的电信号和化学反应。

“真实头脑”与“模型头脑”越来越相近

例如，当一个人面对一只老虎时，视觉将影像传递给大脑，而大脑根据基因设定的“生物算法”做出“非常危险！”的判断，再将此信号传递给腿，腿收到信号后立刻开始狂奔。

这一过程接近于计算机程序的运行模式——人类给计算机下达指令，计算机再根据算法，给出人类想要的结果。

整个过程中，人类的思想、观念几乎没有参与的余地——没有人会停下来思考一下，老虎会不会吃我，我需不需要和它谈谈心。

科学家由此得出结论，人脑和计算机在本质上没有区别——人的行为，无非就是各种算法的集合，外界给予什么样的刺激，人就会做出什么样的反应。他们甚至认为，所谓意识、观念、思想不过是一个额外的副产品。

那么，我们日常的很多行为和各种欲望，到底是我们想做的，还是“生物算法”根据外界刺激给我们下达的指令？我们究竟能否选择自己的欲望？我们究竟是否拥有“自由意志”？

科学实验给出的答案是否定的。尤瓦尔·赫拉利在《未来简史》等书中，介绍了著名的“机器人老鼠”实验，并分析了科技进步对文明的挑战。

该实验是由美国纽约州立大学的吉夫·塔瓦尔教授主持完成的。实验开始，只要在老鼠大脑中插入三个电极，就可以遥控指挥——让它直行、爬梯子、绕着垃圾堆转圈，怎么都行。科学家控制的其实是老鼠的“自由意志”！遥控器指向哪里，老鼠并不是被迫走向那里，而是老鼠“想要”走向那里。我们看到的是老鼠被遥控了，而老鼠自己的感觉是，自己想去哪就去哪，它很“自由”。

由于伦理限制，这样的实验当然不能在人的身上进行，但是以色列科学家仍然打了一个擦边球。为了治疗抑郁症，他们在患者脑中植入一个芯片，结果患者果然恢复了快乐。

有一次患者问，为什么这几天我反而更抑郁了？科学家打开他的大脑一看，原来是芯片没电了。

在大脑中植入芯片，就能控制人的体验。因此，在科学家看来，机器人老鼠”实验的结论同样适用人脑。——科学技术可以控制人、甚至直接消解人的自由意志。“人类拥有自由意志”——普遍价值的第一个前提，就这样被新的技术撼动了。

“机器人老鼠”实验

更可怕的是，技术对“自由意志”的操控，已经走出实验室，正在被迅速商品化——

◎美军研发了一种头盔，它可以通过电极对大脑的某些部位施加影响，戴上它，士兵不再感到恐惧与紧张，还能让士兵注意力更加集中、反应更快、作战更有效率。这项技术还被越来越多的人用于工作、游戏中。

◎据美国媒体调查显示，早在2015年，全美大学生中有1/3的人使用“聪明药”——这种药能让人在一段时间内集中注意力。根据科学研究，人脑每时每刻都会有各种欲望和想法。吃下“聪明药”，可以清空人脑中的“杂念”，帮助人们专注于一件事，从而达到“忘我”的状态。

据说，类似的“聪明药”，乔布斯吃过，美国许多顶尖工程师、数学家都吃过了。CNN的一位专家表示，他所认识的几乎所有亿万富翁都靠吃“聪明药”来提升思维能力。

目前，对这类现象讨论的焦点是，服用“聪明药”算不算公平竞争？但实际上，这一现象的意义远远超出我们的想象。

在过去，毒品上瘾以最为直接的方式刺激多巴胺的分泌，使人享受到前所未有的快感。其实，毒瘾不仅腐蚀人的身体，而且还剥夺了人的自由意志——瘾君子无法选择不吸毒。因此，贩卖毒品被视为违背人类伦理的罪行。

但现在，如果任由“聪明药”，或者“脑中的芯片”发展下去，人类也将像对毒品的依赖一样，依赖这些控制感官和自由意志的技术，总有一天，“快乐”“希望”“自信”“爱情”等各种体验，也将明码标价，堂而皇之地被放在货架上贩卖。那时，人类社会将进入“礼崩乐坏”的黑暗时代。

人的“自由意志”成了科技的收割场

经常听人开玩笑说，有钱人的快乐我们不懂，但未来，很可能是：有钱人的快乐跟穷人的快乐都一样，只不过穷人没钱买而已。

过去，专制对人们自由的剥夺是显而易见的；未来，技术对人们自由的剥夺却悄无声息。

▍算法与大数据：

从“算命先生”到“人类的新上帝”

日常生活中，我们都会冲动消费，经常买回一堆用不着的东西；在公共生活中，可能会选出一个坏总统，等等。然而，这些还不是最坏的结果。最坏的结果，是我们的选择权被剥夺，由别人代替选择。从父母包办婚姻、包办工作，到由少部分人代替我们选择获取什么样的信息，学习什么样的知识，施行什么样的政策，等等。

这是基于人类普遍价值的第二个基本前提：没有人比自己更了解自己，只有自己才知道自己想要什么。所以，自由选择，而非强制，是一项不证自明的基本权利。但是，如果技术和算法比自己更了解自己呢？

美国曾发生过这样一件事：一名男子愤怒地投诉塔吉特超市，说“你们居然向我上高中的女儿推销孕妇试用品！你们想鼓励她怀孕吗?”可一周后，这位父亲却道歉了，因为他女儿真的怀孕了。原来这家超市通过大数据分析，认为该女孩有怀孕的可能，于是向她推送了相关商品。

在这个真实的故事中，冷冰冰的大数据，竟然比朝夕相处的父亲更了解自己的女儿。

大数据已经改变了世界，但技术更新迭代的步伐，根本就停不下来。据报道，谷歌等科技巨头正在开发一个强大的超级系统——可以实时监控人体的各种指标，结合每个人的基因，随时随地给人们提供各种健康建议。什么时候起床，什么时候吃饭，什么时候健身，什么时候工作，什么时候睡觉。

谷歌还开发了一个类似于“虚拟人生”的助手系统——它将在面临人生抉择时，给出重要的参考意见。无论是上大学读什么专业，选什么工作，去哪里生活，还是和谁结婚，要不要孩子等问题，它都能根据大数据，给出具体的建议。

当遇事不决时，谷歌助手会告诉我们说：“我从你出生那天就认识你了，你DNA的完整资料，读过的书，说过的话，你最喜欢的电影，甚至是你约会时候的心跳......我比你更了解你自己，明年，你应该和XX结婚，他/她更适合你。”

如此科学、精准，而又贴心的服务，谁能拒绝呢？

当然，人是可以逆向操作，通过改变大数据来驯服人工智能的。但是，这需要耗费大量的时间和心智，而且必须常态化。否则，刚刚被驯服的新数据，很快就会变成人工智能的老数据。到最后，我们不得不承认，最划算的做法，就是在大数据面前俯首称臣。

今天，越来越多的人习惯于记录、上传、分享自己的数据，人们在不知不觉中成为数据流的一部分，所谓“个人”，正在成为大数据时代一个不足道哉的“电极管”。最终，科学算法与人类的关系，大概会分三步走：

·算法相当于我们身边的“算命先生”，有问题问他一下，但人依然拥有决策权。

·算法是我们的代理人，我们告诉它该做什么，让它去执行。

·算法最后成为了我们的君主，我们主动交出决定权，什么都只能听它的了。

在不远的未来，科学将无所不能，它俨然成为了人类的“新上帝”。

相比之下，当下被广泛讨论的“人脸识别技术侵犯个人隐私”“手机APP上传个人数据”等热门话题，可能都微不足道。

人类社会历经数千年形成的关于自由等价值的基本逻辑和伦理，竟然被技术和算法在短短几十年就动摇了，人们从不情不愿，到主动自愿地成为数据和算法的奴仆。我们购物、健身听助手的，去哪里生活、和谁结婚也要听助手的，甚至连投票等公共生活也要听助手的，曾经不证自明的“自由选择”，还剩下什么呢？

当算法工程师成为最能影响我们决策的人，当科学家、技术专家可以不断给人脑打“补丁”时，当科技巨头和政治强人掌握核心算法时，一切的强制，看起来都是那么的“自由”。当他们联盟，又会怎样呢？细思极恐！

奥威尔在《1984》中所写的“战争即和平，自由即奴役，无知即力量”，以前看是政治寓言，现在看原来是预言。

▍科学与理性：

人类文明之光，但常被滥用为历史之殇

“自然与自然的法则在黑夜中隐藏。上帝说，让牛顿出世！于是，世界一片光明。”这是英国诗人亚历山大·蒲柏为牛顿所题写的墓志铭。

18世纪，牛顿力学的诞生掀起了科学革命；工业革命将大英帝国推向了前所未有的文明巅峰；20世纪，爱因斯坦相对论的问世，再次引发了一场科学崇拜的狂潮。新技术的大规模应用，不仅让经济出现了井喷式的增长，也彻底改变了人类的生活方式......

科学的兴起，是人类理性的产物，但科学思维很快就被滥用到社会领域。比如，社会达尔文主义者试图用“科学方法”控制人类进化路径，结果造成二战期间的纳粹种族大屠杀；乌托邦主义者试图用“科学思维”规划、改造人类社会，结果却灾难遍地。用科学思维改造人类社会，是20世纪主要灾难的源头。

然而，与今天相比，20世纪科学的滥用，最多也就小巫见大巫。近些年，移动互联网、人工智能、生物科技的发展，已经在直接改变人脑本身，改变人的意义。在技术和算法面前，所有人都“自愿”地奔向奴役。

科学似乎无所不能，这一趋势看似不可逆转。对此，哈耶克在《科学的反革命》一书中写到：

那些试图用科学方法，把每个人当做毫无生命的原子，致力于操控人类“自由意志”的“唯科学主义者”，恰恰忽略了科学的基本前提……当科学试图干涉人类伦理问题时，就会追求价值中立，消解伦理道德，驱逐价值判断，最终必然将人类社会引向奴役之路。

哈耶克当年在写罢本书后，曾作出异常悲观的预言：人类天然具有崇尚理性和乌托邦的冲动，我们将无法摆脱滥用科学对个人自由的永恒诅咒！

然而，无论科学有多么强大，都有它天然的局限性——无论实验室能得出多少数据，能发现什么新结论，它都无法证明谋杀、抢劫等行为是正确的。但是，当科学强大到可以风平浪静地消解掉普遍价值时，我们不能再视而不见，更不能不警惕。

为此，力荐哈耶克这部被遗忘许久的经典《科学的反革命：理性滥用之殇研究》。如果说哈耶克的《通往奴役之路》《自由宪章》等书，是反击20世纪盛行的纳粹主义、乌托邦主义的思想武器，那么，《科学的反革命》则是21世纪我们讨论如何摆脱“自由的奔向奴役”这一荒谬宿命的重要入口。

潜心研究哈耶克十多年的刘业进老师说：“只要科学进步的辉煌一直持续，用‘科学与工程思维’组织人类合作秩序的人类理性自负就永远不可避免，因此，哈耶克《科学的反革命》一书将具有永恒的价值。”

然而，本书曾一度绝版，先知书店深知此书价值，携手译林出版社与国内一流翻译家冯克利教授，有幸复活本书，点击下图，可独家收藏，还可选购哈耶克其他作品。购书即赞赏先知书店。

▍延伸阅读