命运和选择：你以为你能跑赢Roko&#39;s Basilisk那个怪兽？

查看原文

其他

命运和选择：你以为你能跑赢Roko's Basilisk那个怪兽？

From 何袜皮没药花园 2019-04-28

一起20年前发生在浙江的命案终于告破，嫌犯被捉拿归案。

大洋彼岸，特斯拉的老板马斯克新交往了一个哥特式的加拿大歌手Grime，据说两人相识于一个和Roko's Basilisk思想实验有关的笑话。

（上面那首歌是马斯克和Grime的定情之歌，其实是个爱情歌。）

两者有什么关系呢？

它们都有关“命运”和选择。

什么是Roko's Basilisk？

Roko是个人名，

Basilisk则是传说中的蛇和蜥蜴混合的怪兽。

大概Basilisk就长马斯克女朋友专辑封面

上那个样子吧。

最早在一个叫LessWrong的论坛上，一个叫Roko的人提出了一个理论：有个非常邪恶而又绝顶聪明的AI（人工智能），曾立下誓言，一旦它被创造出来了，就会知道当初谁没有为它的诞生出过力，并且惩罚这些人。而它惩罚的方式极为恐怖，会让他们永生永世在痛苦中煎熬。

于是，Roko问大家，此刻的你会如何选择？A：帮助这个邪恶的AI实现其存在，还是B：不帮助它，甚至反对它的出现？

如果选择A，你为这个邪恶的AI的出现助了力，它一旦存在，就会统治人类，而你本身也是人类之一。

选择B，它或许不会诞生，什么都不发生；但也可能，它一样会诞生。而它若诞生了，可就冲着你来了……

这个论坛上的人大多相信AI发展最终会毁灭人性，因而反对AI。（马斯克以及他的新女友也是这个立场的。）

也正因为相信AI，他们中的许多人光想想这问题，就崩溃了。有些人害怕以后这怪兽来找自己麻烦，把自己以前发的反AI的帖子都删了。版主为了大家的心理健康，删除相关帖子，也禁止再讨论Roko's Basilisk。

其实Roko的想法脱胎于“纽科伦悖论” （Newcomb’s paradox）。这个悖论是这样的：

超级智慧的外星人在你面前放了两个分别标为A和B的盒子。

玩家有两个选择，要么只选B盒子，要么AB两个盒子都选。

A盒子是透明的，你能一眼看穿里面装了1000元。

B盒子是不透明的，里面可能什么都没有，也可能有一百万元。

你会选哪个？

但这个外星人绝顶聪明，什么都知道，他在一周前就预测到了你的选择，并把结果放进去了。

如果他猜到了你会选A+B两个盒子呢，他就在B盒子里什么都不放，于是你最终只得到1000。

如果他猜到了你只选B盒子，他会放进去100万，你会得到100万+1000。

他的预测从未出错。毕竟都说了它绝顶聪明不是吗？

但谁知道他接下来的选择会不会出错呢？

其实想想我们生活中，哪会遇见“纽科伦悖论”这等好事？哪来如此可爱的怪兽凭空让你选两个盒子：运气好可以赚上100万有余，运气不好也不过是分文不入，而已？

Roko's Basilisk才是现实。

人生中充满了选择，而某些重大选择往往很残酷。

在现实中，A和B的盒子往往至少一个藏的是噩运。人们要选择的不是获得最大收益，而是如何规避风险。

比如下面这几个选择，都是真实存在生活中的。

某人跟亲戚朋友借了100万，套牢在股市：

A盒子是透明的，现在卖掉，亏30万，止损。

B盒子是持有。里面的结果看不见，或许100万全部亏光，或许涨到200万。

某人得了重病：

A盒子是透明的，截肢，失去两条腿，可以活下来。

B盒子是拒绝医生的截肢建议。结局或许可以完全恢复健康且不用残疾，或许是失去生命。

III

某人面临一个困境：

A盒子是透明的，失去家庭、金钱、地位，甚至自由。

B盒子是XXX。结局或许是平安无事，或许是失去生命。

你选什么？

这些都是现实中真实存在的，也是我亲眼见过身边的人的经历。

就我的小样本而言，他们都选了B盒子。

而其中第三条正是许多罪犯曾有过的选择机会。

III

某人面临一个困境：

A盒子是透明的，失去家庭/金钱/地位/名誉，甚至自由。

B盒子是XXX。结局或许是平安无事，或许是失去生命。

相当一部分谋杀案都是为了回避A盒子里的风险，而选择了B盒子。

我说这些选择残酷，不仅是对选择的主体而言，更是对因主体的选择而受影响的人而言。

20年前，1998年8月9日凌晨，19岁的浙江台州椒江女孩王婷（化名），被家人发现死在自家车库中。

前一天晚上，王婷还在姐姐的裁缝店帮忙干活。11点多，王婷感到困倦，和姐姐说自己先回家睡了。而王虹则要帮下单的客户赶制衣服，留在了店里。

第二天凌晨，王虹拖着疲惫的身体回到家，她想把车停回车库里，发现车库的房门是开着的，她推门进去，发现了惨死的妹妹。

自此，王婷家人在车库的墙上，刻下“天网恢恢，疏而不漏”八个字，车库原封不动地保持了20年。

2018年5月，台州市局刑侦支队用新的技术手段，锁定嫌疑人的身份，并在宁波市江北区一工地上抓获了嫌疑人张飞（化名）。

张飞被抓后，表示对自己当年的“一念之差”非常后悔。

他交代，1998年8月8日晚上，他一个人骑自行车在椒江七号码头附近闲逛，看到漂亮的王婷骑着自行车从他前面经过。

他一路尾随王婷进了小区，并在王婷推车进入车房时，试图实施强奸。王婷激烈反抗，在制服王婷的过程中，张飞掐住王婷脖子，使之昏迷。

尽管张飞做出一系列错误选择，但此时他还是拥有两个选择。但他一眼看见了A盒子里的结局：王婷看见了他的长相，会在醒来后指认他，而他会被抓住，因强奸罪入狱，前途尽毁。

于是他选择了B盒子：杀死王婷。他用随身带的扳手多次猛击昏迷中的王婷的头颅，致其死亡。

张飞打开盒子，发现里面装着20年提心吊胆的生活外加死刑。

人们经常为了掩盖一个谎言，而撒一个后果更严重的大谎；为了掩盖一个小罪行，而犯下更严重的罪行。

一个已婚官员，在某次聚会上认识了一个女子，随后发展为情人关系。两人曾有过长达数年的蜜月期，他向她透露了自己的财务状况，也为她在政府安排了工作。

终于有一天，当他对女子逐渐失去兴趣时，女子也察觉到了，她提出自己年纪不小了，想要一个名分。她以举报两人关系和他的经济问题为由要挟他离婚。他当然想过其他办法，比如让一个有利益关系的商人送去封口费，好言相劝，但女子坚持不收。

官员捧着手里一目了然的A盒子。如果没答应她的要求，她会公布两人的关系甚至检举，他面临着失去名誉、地位、金钱……甚至自由。如果答应她的要求，他的家庭支离破碎，他的妻子可能也会因为愤怒而用同样的手段惩罚他。

他无论如何，都无法接受A盒子里的结局。

他有了一个想法，如果她们中间能有一个死掉就好了。他无数次幻想情人出车祸的美妙画面。

他把目光放到了B盒子。他抱有侥幸心理：或许度过了这个难关，以后一切都相安无事呢。

他把情人约出来谈判，开车带她去了郊外。他亲手掐死了她，把她的尸体抛进大海。

（以上的情节是我综合了近年来若干起官员买凶或者亲自杀死情人的案子。真实情节差不离，有兴趣可自行搜索。）

为什么罪犯总是选择B？

是太蠢看不到B盒子里隐藏的厄运？

或因为人本身是一个目光短浅的动物？

其实他们的选择早被2002年获得诺贝尔经济学奖的前景理论给说中了。

心理学家卡尼曼（ Kahneman ）曾提出了一个前景理论，其中提到人们做选择时的三个特征：

一，大多数人在面临获得时是风险规避的；

二，大多数人在面临损失时是风险偏爱的；

三，人们对损失比对获得更敏感，损失时的痛苦感要大大超过获得时的快乐感。

前两条定律可以通过两个实验证实：

一：有两个选择，A盒子是赢100万，B盒子是50%可能性赢200万元，50%可能性什么也得不到。你会选择哪一个呢？大部分人都选择A，100万落袋为安。

二同样两个选择，A盒子是你肯定损失100万元，B是50%可能性你损失200万元，50%可能性你什么都不损失。结果，大部分人选择B。

由此可见，人们获得时往往是见好就收，不愿冒风险；我感兴趣的是第二条。在面对失去/损害时人们会很不甘心，容易冒险。比如说，在股市下行时，人们更倾向于持有下跌的股票，而不愿意亏本卖出，从而变成所谓的“套牢”。

Roko's Basilisk也属于这一类。

选择A盒子，Roko's Basilisk会被创造出来，这其实就是一种确定的损害，一种负面结局。在这时候，人们会甘于冒险选择B盒子，寄希望于Roko's Basilisk不会被创造出来。

这也解释了，为什么形形色色的罪犯在面对确定的损害（譬如被捕、被检举、车祸撞人赔款）时，他们会倾向于选择B盒子，去冒险（杀人灭口），以赌一把（脱罪）。

处于损失预期时，大多数人变得甘冒风险，更别说那些潜在的罪犯了——他们本身的性格就偏风险型。

从被药家鑫杀死的张妙，到每年众多入室抢劫的受害人，到被家人怀念了20年的王婷……我时常想，如果不是因为罪犯总是遵循这个心理逻辑，他们至少还活着，可以为自己声张正义，也可以给家人一个念想。

知道了人类的这种选择偏好后，我们或许就对自己的处境有了更清晰的判断。

经常有人留言问，万一我们遇到了恶魔，处于危险，要怎么做才能保障自己的安全。

我认为，当我们确定自己无力反抗和逃脱的情况下，只能尽量减少他们能看见的A盒子里的风险，从而变相鼓励他们选择A盒子，而不要去动B盒子。

这也是为什么一些指导文，会让你在已经遭到入室抢劫而又来不及逃脱时，以“装睡”寻求自身安全；在遇到劫色时，假意应允并提出转移地点比如去酒店，再寻求逃脱。

至于那些想要用别人的秘密去要挟他人、寻求自身利益的人，就是自作孽、不可活。

暴徒会干掉你，以摆脱你送上的A盒子。

而心软之人可能以自杀，摆脱整个困局，譬如苏享茂。

卡尼曼和特韦斯基把人们在面对风险时选择冒险称为“反射效应”（reflection effect）。

但其实这种反射效应是非理性的，换言之，从理性分析，选择B盒子毫无道理。

暂且不论谋杀比起重婚/贪污/抢劫/强奸来说，量刑重得多（在以上案子里，凶手几乎都被判死刑），而且从概率上讲，当你去冒了一个更大的险、落实一个更大的罪行时，你露出马脚，被抓到的概率也大大提高。

可人们一旦遇到眼前的难题，总会以一种动物性的应激方式/条件反射的方式去解决。

A盒子一眼看穿，他们无法接受，充满恐惧，于是只能转向B盒子。

愚蠢之人，更会用最直接、暴力的方式解决难题，在极端情况下就是来一个麻烦，杀一个。

什么人才会面临Roko's Basilisk的残酷选择？我之前举例的三种中，前两种也是人生无奈。但第三种，常常是自己主动走到了这一步，面对蛇怪送上的两个盒子。

为什么人们总是存在侥幸心理，仿佛把困难往后推，困难就会不存在？为什么他们没想到，后面的困难可能更大？

个体从本质上来说都不是高瞻远瞩的，既然是动物，大多数时候更在意即时满足的。

而排在最前面的是什么？是生理的欲望。比如尿急，比如性欲。有时候为了解决或者满足最接近、急迫的欲望，人们会忽略长远的风险。

眼前的困境像大山，挡住了一切，由于透视关系，他会觉得这是最大的困难，愿意以一切手段去移除，但却忘记了移除这座大山会引发地震。

法律量刑的设定也面临这样的困境：

对于入室抢劫/拐卖儿童/强奸幼女等人神共愤的罪行，如果量刑轻，根本起不到震慑的作用，罪犯觉得后果无非就是选择A盒子，会先寻求私欲的满足。

如果量刑太重（A盒子内容严厉），则可能导致罪犯作案时更为激进（选择B盒子），杀害受害人。

罪犯的一念之差，对于他本人是个不理性的错误，对于受害人更是悲剧。

事实远比以上的更复杂。

到底是谁决定了A和B盒子里是什么？又是怎么决定的？

一个平步青云的高官必然做对了许多人生的选择题才能到达那个位置，他自然也知道B盒子（杀死情人）里面会有两种结局，不至于笨到以为B盒子里只有彩蛋。

这涉及到一种更深的思维，他们如何权衡B盒子里两种结局发生的概率？

他们认为B盒子里的结果在他们做出选择前已经放入了吗？

还是会随着他们的选择而改变？

对这些问题的不同答案会带来三种不同的世界观。

唯物励志论

这种理论崇尚的是个人的选择。B的结局早已放在了B盒子里，你的选择只是一个打开盒子的过程。但选择哪个盒子很重要，所谓99%是靠自己，1%是天意，做出正确选择便是发挥自己的主观能动性。

和此理论配套的是很多励志书，教你如何选择股票，如何选择专业，如何择偶，如何换行……它相信你所谓的命运其实是你的每一个选择组成的。

就像做心理测试一样，你在每道题目中做的选择会把你引向一个不同的下一题。有可能你的某个错误选项把你引向了一个不归路。但也有可能，开始几个选择把你引向了岔路，但只要你后面做对了某几个答案，还是会到达相同的结果。

宿命论

人生是从出生一刻就注定了，所以用生辰八字就可以算出你的命，并不用知道你成长路上如何选择，怎么活法。

比如注定某人不会赚大钱，那么无论他是不是回到当年重新换一个大学专业报考，还是毕业后早早地开始买房子，反正他到最后都是个穷鬼。

命运就像魔术师把你身前的两个盒子变来变去，反正无论你怎么选，你打开那个总是空的。反之亦然。

（有点像《死神来了》哦）

这也是很多算命的人相信的：所谓个人的选择其实并不重要。（我此前写过一篇叫《算命的两个理论》，后来删了，最近突然很多人问我，就是这段内容哦。）

这种理论认为人的命运是注定的且很难窥探的，就像那个B盒子。

某人去找算命先生，算命说他2018年会有一笔重要投资，且失败。他想要改变自己的命运，于是整个2018年根本没有做任何投资，全部推迟到了2019年。好了，这下打破了预言吧？

不。宿命论认为，其实你本来就是2019年投资的，只是算命先生算错了。至于失败成功，也是早注定了的，走着瞧。

我认识一个美女，曾在美国找一个著名的老先生算命，说她这辈子不会有自己的孩子。她对这点恰好非常在意。她近40岁尚未结婚，在某次和前男友重逢时，竟然相处一夜后怀孕了。她明知对方和她不可能，但正因为特别介意当年算命先生的话，便执意要把孩子生下来，当单亲妈妈。一宿命论朋友对此评论道，如果算命是准的，那么孩子可能会夭折……

总之：只有算错的卦，没有能更改的命运。

这种理论认为，你无论怎么否定，对着干，你的每一次对抗和扭转恰恰是命运中注定的一部分。你所谓对抗的不是命运，而只是对抗一个无知的算命先生的结论而已。你再怎么挣扎都是在走一条命运布置好的道路。

神论和Roko's Basilisk

第三种认为世界上的最高能量（神），并没有在你出生时就决定把幸福、钱、成功放在哪个盒子里，它只会根据你的选择而做决定。

譬如佛教中就有三报：现报、生报、速报，都是让人通过自己的行为来改变自己即刻命运或长远的、甚至来世的命运。

其他宗教亦是如此，既不是宿命论，也不是唯物励志论。

个体的命运是由个人选择和制定规则的神意共同形成。

TA鼓励你做出正确的选择，但同时TA又是裁判，必须由TA亲自把结局放进盒子里。

譬如，当上帝知道他背信弃义，抛弃穷穷的前女友，娶了白富美，没准他打开婚姻的盒子发现里面藏了一个重大疾病……

人类想象中可以通过无限学习而获得超级智慧的AI，在某些程度上和神有几分相似。

既然Roko's Basiliks的智力是绝对碾压人类的，那么就几乎不存在它预测错误的情况，也就是说你怎么都不可能自作聪明钻到纽科伦悖论的空子，你也不可能钻神的空子。

为什么说这个AI和神相似？