查看原文
其他

细思极恐却无法抗拒——当科学成为新“上帝”

吃果读书 2021-09-14

The following article is from 千字文华 Author 先知书店


斯塔尔夫人是法国大革命时期的自由主义思想者,她的言论曾让拿破仑恐惧:“没有哪个女人比她更邪恶”。然而,比这更著名的,是她那句“自由是古老的,专制才是现代的”名言。不过,直至今天,恐怕也没有人意识到,这句在当时惊世骇俗的话,却成了随后200年的历史预言。

 

从1789年法国大革命爆发,到1989年柏林墙倒塌整整两百年间,资本主义的发展和科学技术的进步,将人类推上了前所未有的文明巅峰,但随之而来的,是强人对权力集中的渴望,穷人对财富不均的怨恨。结果,乌托邦主义、纳粹主义等自由的敌人粉墨登场,经济崩溃、政治动荡、人伦毁灭、文明倒退交错出现,这些历史,至今仍让人心有余悸。


200年来,有多少罪恶假自由之名大行其道?所幸,灾难换来的,是自由、平等、和平等美好的价值,逐渐成为深入人心的普遍价值。今天,文明与野蛮的冲突仍在继续,但再也没有人会公开反对这些普遍价值。


然而,当普遍价值成为一种信仰时,他们的敌人,已不只是“强制”等显而易见的敌人,更包括“技术”“算法”等非常隐蔽的敌人。长远来看,后者比前者更可怕——不仅因为后者很容易成为前者的利器,更因为当科学成为新的上帝,直接动摇着人类普遍价值的根基。


科学对人脑的革命:抑郁,不是因为痛苦,而是芯片没电了


自由等普遍价值,之所以能够从历史的残酷竞争中胜出,是因为它的两大基本前提最符合人类的天性:


  • 人类拥有自由意志,文明社会必须尊重每个人独一无二的体验,无论市场中,还是政治生活中,每个人都有自由选择的权利。

 

  • 没有人比他本人更了解自己,只有自己才知道自己想要什么,没有人能替自己做决定。


然而,技术和算法的崛起,正在动摇着这两大基本前提。


在“第一推动丛书”之《皇帝新脑》中,自西班牙科学家卡哈尔发现人脑运行的本质,不过是神经元之间的互相作用以来,科学对人脑的了解越多,就越发认定,人几乎99%的行为模式,与计算机无异,无论是记忆还是外部的刺激,无非就是神经元的电信号和化学反应。


“真实头脑”与“模型头脑”越来越相近


例如,当一个人面对一只老虎时,视觉将影像传递给大脑,而大脑根据基因设定的“生物算法”做出“非常危险!”的判断,再将此信号传递给腿,腿收到信号后立刻开始狂奔。


这一过程接近于计算机程序的运行模式——人类给计算机下达指令,计算机再根据算法,给出人类想要的结果。


整个过程中,人类的思想、观念几乎没有参与的余地——没有人会停下来思考一下,老虎会不会吃我,我需不需要和它谈谈心。


科学家由此得出结论,人脑和计算机在本质上没有区别——人的行为,无非就是各种算法的集合,外界给予什么样的刺激,人就会做出什么样的反应。他们甚至认为,所谓意识、观念、思想不过是一个额外的副产品。


那么,我们日常的很多行为和各种欲望,到底是我们想做的,还是“生物算法”根据外界刺激给我们下达的指令?我们究竟能否选择自己的欲望?我们究竟是否拥有“自由意志”?


科学实验给出的答案是否定的。尤瓦尔·赫拉利在《未来简史》等书中,介绍了著名的“机器人老鼠”实验,并分析了科技进步对文明的挑战。


该实验是由美国纽约州立大学的吉夫·塔瓦尔教授主持完成的。实验开始,只要在老鼠大脑中插入三个电极,就可以遥控指挥——让它直行、爬梯子、绕着垃圾堆转圈,怎么都行。科学家控制的其实是老鼠的“自由意志”!遥控器指向哪里,老鼠并不是被迫走向那里,而是老鼠“想要”走向那里。我们看到的是老鼠被遥控了,而老鼠自己的感觉是,自己想去哪就去哪,它很“自由”。


由于伦理限制,这样的实验当然不能在人的身上进行,但是以色列科学家仍然打了一个擦边球。为了治疗抑郁症,他们在患者脑中植入一个芯片,结果患者果然恢复了快乐。


有一次患者问,为什么这几天我反而更抑郁了?科学家打开他的大脑一看,原来是芯片没电了。


在大脑中植入芯片,就能控制人的体验。因此,在科学家看来,机器人老鼠”实验的结论同样适用人脑。——科学技术可以控制人、甚至直接消解人的自由意志。“人类拥有自由意志”——普遍价值的第一个前提,就这样被新的技术撼动了。


“机器人老鼠”实验

 

更可怕的是,技术对“自由意志”的操控,已经走出实验室,正在被迅速商品化——

 

  • 美军研发了一种头盔,它可以通过电极对大脑的某些部位施加影响,戴上它,士兵不再感到恐惧与紧张,还能让士兵注意力更加集中、反应更快、作战更有效率。这项技术还被越来越多的人用于工作、游戏中。

 

  • 据美国媒体调查显示,早在2015年,全美大学生中有1/3的人使用“聪明药”——这种药能让人在一段时间内集中注意力。根据科学研究,人脑每时每刻都会有各种欲望和想法。吃下“聪明药”,可以清空人脑中的“杂念”,帮助人们专注于一件事,从而达到“忘我”的状态。


据说,类似的“聪明药”,乔布斯吃过,美国许多顶尖工程师、数学家都吃过了。CNN的一位专家表示,他所认识的几乎所有亿万富翁都靠吃“聪明药”来提升思维能力。


目前,对这类现象讨论的焦点是,服用“聪明药”算不算公平竞争?但实际上,这一现象的意义远远超出我们的想象。


在过去,毒品上瘾以最为直接的方式刺激多巴胺的分泌,使人享受到前所未有的快感。其实,毒瘾不仅腐蚀人的身体,而且还剥夺了人的自由意志——瘾君子无法选择不吸毒。因此,贩卖毒品被视为违背人类伦理的罪行。


但现在,如果任由“聪明药”,或者“脑中的芯片”发展下去,人类也将像对毒品的依赖一样,依赖这些控制感官和自由意志的技术,总有一天,“快乐”“希望”“自信”“爱情”等各种体验,也将明码标价,堂而皇之地被放在货架上贩卖。那时,人类社会将进入“礼崩乐坏”的黑暗时代。


人的“自由意志”成了科技的收割场


经常听人开玩笑说,有钱人的快乐我们不懂,但未来,很可能是:有钱人的快乐跟穷人的快乐都一样,只不过穷人没钱买而已。


过去,专制对人们自由的剥夺是显而易见的;未来,技术对人们自由的剥夺却悄无声息。


算法与大数据:从“算命先生”到“人类的新上帝”


日常生活中,我们都会冲动消费,经常买回一堆用不着的东西;在公共生活中,可能会选出一个坏总统,等等。然而,这些还不是最坏的结果。最坏的结果,是我们的选择权被剥夺,由别人代替选择。从父母包办婚姻、包办工作,到由少部分人代替我们选择获取什么样的信息,学习什么样的知识,施行什么样的政策,等等。

 

这是基于人类普遍价值的第二个基本前提:没有人比自己更了解自己,只有自己才知道自己想要什么。所以,自由选择,而非强制,是一项不证自明的基本权利。但是,如果技术和算法比自己更了解自己呢?

 

美国曾发生过这样一件事:一名男子愤怒地投诉塔吉特超市,说“你们居然向我上高中的女儿推销孕妇试用品!你们想鼓励她怀孕吗?”可一周后,这位父亲却道歉了,因为他女儿真的怀孕了。原来这家超市通过大数据分析,认为该女孩有怀孕的可能,于是向她推送了相关商品。

 

在这个真实的故事中,冷冰冰的大数据,竟然比朝夕相处的父亲更了解自己的女儿。

 

大数据已经改变了世界,但技术更新迭代的步伐,根本就停不下来。据报道,谷歌等科技巨头正在开发一个强大的超级系统——可以实时监控人体的各种指标,结合每个人的基因,随时随地给人们提供各种健康建议。什么时候起床,什么时候吃饭,什么时候健身,什么时候工作,什么时候睡觉。

 

谷歌还开发了一个类似于“虚拟人生”的助手系统——它将在面临人生抉择时,给出重要的参考意见。无论是上大学读什么专业,选什么工作,去哪里生活,还是和谁结婚,要不要孩子等问题,它都能根据大数据,给出具体的建议。

 

当遇事不决时,谷歌助手会告诉我们说:“我从你出生那天就认识你了,你DNA的完整资料,读过的书,说过的话,你最喜欢的电影,甚至是你约会时候的心跳......我比你更了解你自己,明年,你应该和XX结婚,他/她更适合你。”


如此科学、精准,而又贴心的服务,谁能拒绝呢?

 

当然,人是可以逆向操作,通过改变大数据来驯服人工智能的。但是,这需要耗费大量的时间和心智,而且必须常态化。否则,刚刚被驯服的新数据,很快就会变成人工智能的老数据。到最后,我们不得不承认,最划算的做法,就是在大数据面前俯首称臣。



今天,越来越多的人习惯于记录、上传、分享自己的数据,人们在不知不觉中成为数据流的一部分,所谓“个人”,正在成为大数据时代一个不足道哉的“电极管”。最终,科学算法与人类的关系,大概会分三步走:

 

  • 算法相当于我们身边的“算命先生”,有问题问他一下,但人依然拥有决策权。

 

  • 算法是我们的代理人,我们告诉它该做什么,让它去执行。


  • 算法最后成为了我们的君主,我们主动交出决定权,什么都只能听它的了。


在不远的未来,科学将无所不能,它俨然成为了人类的“新上帝”。


相比之下,当下被广泛讨论的“人脸识别技术侵犯个人隐私”“手机APP上传个人数据”等热门话题,可能都微不足道。


人类社会历经数千年形成的关于自由等价值的基本逻辑和伦理,竟然被技术和算法在短短几十年就动摇了,人们从不情不愿,到主动自愿地成为数据和算法的奴仆。我们购物、健身听助手的,去哪里生活、和谁结婚也要听助手的,甚至连投票等公共生活也要听助手的,曾经不证自明的“自由选择”,还剩下什么呢?


当算法工程师成为最能影响我们决策的人,当科学家、技术专家可以不断给人脑打“补丁”时,当科技巨头和政治强人掌握核心算法时,一切的强制,看起来都是那么的“自由”。当他们联盟,又会怎样呢?细思极恐!


奥威尔在《1984》中所写的“战争即和平,自由即奴役,无知即力量”,以前看是政治寓言,现在看原来是预言。



科学与理性:人类文明之光,但常被滥用为历史之殇


“自然与自然的法则在黑夜中隐藏。上帝说,让牛顿出世!于是,世界一片光明。”这是英国诗人亚历山大·蒲柏为牛顿所题写的墓志铭。

 

18世纪,牛顿力学的诞生掀起了科学革命;工业革命将大英帝国推向了前所未有的文明巅峰;20世纪,爱因斯坦相对论的问世,再次引发了一场科学崇拜的狂潮。新技术的大规模应用,不仅让经济出现了井喷式的增长,也彻底改变了人类的生活方式......

 

科学的兴起,是人类理性的产物,但科学思维很快就被滥用到社会领域。比如,社会达尔文主义者试图用“科学方法”控制人类进化路径,结果造成二战期间的纳粹种族大屠杀;乌托邦主义者试图用“科学思维”规划、改造人类社会,结果却灾难遍地。用科学思维改造人类社会,是20世纪主要灾难的源头。



然而,与今天相比,20世纪科学的滥用,最多也就小巫见大巫。近些年,移动互联网、人工智能、生物科技的发展,已经在直接改变人脑本身,改变人的意义。在技术和算法面前,所有人都“自愿”地奔向奴役。


科学似乎无所不能,这一趋势看似不可逆转。对此,哈耶克在《科学的反革命》一书中写到:

 

那些试图用科学方法,把每个人当做毫无生命的原子,致力于操控人类“自由意志”的“唯科学主义者”,恰恰忽略了科学的基本前提……当科学试图干涉人类伦理问题时,就会追求价值中立,消解伦理道德,驱逐价值判断,最终必然将人类社会引向奴役之路。


哈耶克当年在写罢本书后,曾作出异常悲观的预言:人类天然具有崇尚理性和乌托邦的冲动,我们将无法摆脱滥用科学对个人自由的永恒诅咒!


然而,无论科学有多么强大,都有它天然的局限性——无论实验室能得出多少数据,能发现什么新结论,它都无法证明谋杀、抢劫等行为是正确的。但是,当科学强大到可以风平浪静地消解掉普遍价值时,我们不能再视而不见,更不能不警惕。

 

为此,力荐哈耶克这部被遗忘许久的经典《科学的反革命:理性滥用之殇研究》。如果说哈耶克的《通往奴役之路》《自由宪章》等书,是反击20世纪盛行的纳粹主义、乌托邦主义的思想武器,那么,《科学的反革命》则是21世纪我们讨论如何摆脱“自由的奔向奴役”这一荒谬宿命的重要入口。

 

潜心研究哈耶克十多年的刘业进老师说:“只要科学进步的辉煌一直持续,用‘科学与工程思维’组织人类合作秩序的人类理性自负就永远不可避免,因此,哈耶克《科学的反革命》一书将具有永恒的价值。”

 

然而,本书曾一度绝版,先知书店深知此书价值,携手译林出版社与国内一流翻译家冯克利教授,有幸复活本书,点击下图,可独家收藏,还可选购哈耶克其他作品。购书即赞赏先知书店。


▍延伸阅读:
王人博:共和,中国的百年之累
索维尔:理解人类的局限性,是智慧的开端
刘瑜:把世界搞得一团糟的糊涂蛋
中国人在逻辑思维上具有明显的三大缺陷
王人博:人其实很矮小,是被书垫高的
北大教授告诫:人这一生,需要多读文史哲
认识自己的无知就是最大的智慧
经济自由:自由之母,宪政之路
刘军宁:威权主义属于保守主义吗?
刘军宁:“五四运动”决定了中国的走向
人脸识别技术的广泛应用,让人不寒而栗!
哈耶克的36句经典名言,让你清醒认识当下社会
秦晖:自由优先于“主义” ——纪念托马斯·莫尔
陈嘉映:为什么人们会说事实本身并无价值?
人类绝大多数的灾难,恰恰是自以为最聪明的群体造成的

▼点击阅读原文,与思想者同行
: . Video Mini Program Like ,轻点两下取消赞 Wow ,轻点两下取消在看

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存