作者 / 刘润 责编 / 黄静
这是刘润公众号的第2079篇原创文章
1、OpenAI的“宫斗”大戏正式结束。灯光亮起。阿姨入场打扫，门口眼镜回收。很多人捧着紧张到一口没吃的爆米花，一边意犹未尽地离场，一边对同伴啧啧赞叹：太精彩了。反转反转反转再反转。年度最佳。值了值了。心情久久不能平静。2、于是，回家路上，你忍不住刷剧评。看看自己有没有漏掉隐藏的故事线，让人恍然大悟的伏笔、和为下一季埋下的秘密彩蛋。结果看到一条高赞剧评。董事会解雇Sam Altman的原因，是他未能保持“始终坦诚”（consistently candid）。那么，Sam是在哪件事上没有“坦诚”呢？他隐瞒了什么？这难道不是整部剧的关键吗？直到Sam英雄回归，大剧落幕，都没人说这到底是什么事。最后董事会宁愿被解散，都不说。你不觉得很奇怪吗？铁子们，续集很可能从这里开始。
3、你一惊。还真是。到底是什么事，这么重要，又这么神秘？为什么直到最后都没说？这真的是要拍续集吗？你迫不及待地刷留言。4、有人说，这是董事会夺权的借口，不是支线剧情。别想多了。有人说，这件事会引起全人类的恐慌，所以董事会死也不能说。还有人说，宫斗只是“明争”，“有效利他主义”和“有效加速主义”之争，才是它背后的“暗战”。这场暗战，会在续集里全面爆发。5、慢点慢点。什么“有效利他主义”，什么“有效加速主义”？吃瓜怎么吃不懂了呢？你端坐了起来。真的会有续集吗？嗯。真可能会有。这个讲起来有点复杂。我们试着聊聊看。6、首先，什么是有效利他主义（Effective Altruism，简称：EA）？我给你讲一个故事。7、你带你8岁的孩子去山区支教。到了山区，你在学校里做义工讲课，你孩子在地里干农活除草。当地学校很高兴，你孩子很高兴，你也很高兴。你为这次支教，来回花了6000元。现在请问，这6000元的花费，算不算是“利他”？当然算。8、这时，一家公益机构找到你，说：你这样“利他”，效率不高。我们在全国建立了支教网络。可以安排离山区最近的家庭去支教。你飞了1000公里，而他只要开车100公里。所以，我们只要花2000元，就能让山区学校受到一样的帮助。所以，别去支教了。把钱给我们。同样的钱，可以帮助3所学校。你一听，不高兴了。说：我亲自去，意义感不一样。9、问题来了。花同样的钱，明明可以帮助3所学校，但你却为了自己的“意义感”，只帮助一所。谁是对的？这两种方式，当然都是在“利他”。但这家机构认为自己的方式，更“有效”。因为撇开感情因素，实际帮到的人更多。这就是：有效利他主义。11、当人工智能席卷而来时，很多工作的效率被大大提升。这是“利他”。可是，人工智能同时让很多人失业了。我们眼前的“利他”，长期是否“有效”？没有人知道。甚至，人工智能未来是否会取代人类，更未可知。所以，大量有效利他主义者，呼吁暂缓人工智能研发。别急着往前跑，让我们先算算。不然冒的风险太大了。12、但是，在“有效加速主义者”眼中，这种想法显得保守，甚至可笑。13、什么是有效加速主义（Effective Accelerationism，简称：e/acc）？我给你讲另一个故事。14、2019年，我带队去硅谷参访。见到了著名投资人，Founders Space的创始人Steve Hoffman。15、当时，国内发生了一件大事：贺建奎通过基因编辑，让一对艾滋病夫妇生下孩子。舆论哗然。大部分人都在猛烈批评贺建奎，说创造生命是上帝的工作，你越界了。技术也许准备好了，但是人类还没准备好。跑太快会带来灾难。于是，就有同行企业家问Steve怎么看这件事。16、Steve没有回答。他反问在场的企业家。假设今天，有科学家发明了一种“聪明针”，打了之后，你的智商就会飙升到150，接近爱因斯坦。请问，你打不打？17、所有在场企业家，都说：不打。全人类智商从100飙升到150，会带来太多无法预料的变化。我们没有做好充分准备之前，不打。18、Steve接着问。好。假设，中美等大国，都签了协议，不打。没有做好充分准备之前，谁都不准打。但是请问，你觉得一直被美国各种封锁的伊朗，会不会签署协议，会不会打？19、一定会打。因为早就看不惯你了。瞌睡终于等来了枕头。全民打。能打几针打几针。全民智商150，假以时日，一定能打败全民智商100的任何一个国家。这时再请问，美国会不会打？20、一定会打。否则美国就完了。美国打了，请问，中国会不会打？不得不打。否则也完了。美国中国都打了，那其它国家会不会打？必须打。所以最后，整个世界都会打。21、技术的进步，是无法阻止的。如果无法阻止，那就顺应它。甚至加速它。让该发生的一切尽早发生。赶紧的。22、那如果加速到最后，是灭亡呢？那就灭亡呗。但其实不会。你看，从第一次工业革命到现在，哪一次技术进步导致了灭亡？哪一次技术进步，不是最终导致了人类更美好的生活？23、1995年，《反未来者》的作者柯克帕特里克·塞尔，对科技会带来的变化，忧心忡忡。他认为技术让人们失去了体面的劳动，社会正处于崩溃的边缘。但是，《连线》杂志主编凯文·凯利对技术充满乐观。于是，他们打了一个赌：25年后，这个世界到底会不会崩溃。谁输了，就给对方1000美元。
(2023年6月20日，非常有幸和凯文凯利对谈，请扫码直接观看。提醒：扫码后视频会在35秒后才正式开始)
24、结果你知道了。2020年，世界并没有崩溃。技术不但没有摧毁人类，反而让我们活得更好了。就像一直以来的那样。于是，塞尔出版了一本新书《2020年的崩溃》。书里写道：所以让我承认我错了吧 …… 但没有错得那么离谱。25、人工智能时代到来了。有效加速主义者，对此同样充满乐观。技术，就是杠杆。从来没有什么技术能毁灭人类。蒸汽机不会，计算机不会，人工智能也不会。所以，同学们，别担心。大干特干，加油上啊！26、这就是：有效加速主义 vs. 有效利他主义。27、请问，你支持哪一个？你觉得，在人工智能高速发展的时代，我们是应该踩油门，还是应该踩刹车？你觉得是Sam英雄回归，还是董事会虎落平阳？28、终于回到家。开门，开灯，脱鞋。然后，你往沙发上一躺。仔细回味这场大戏。Sam不够坦诚的，董事会宁愿被解散都不说的，到底是什么事？是一项令人类极度担忧的进展吗？是人工智能正在“觉醒”吗？30、突然醒来。你发现，自己正站在OpenAI的机房里。你的面前，有两个按钮，一个是“加速”，一个是“减缓”。你身后的玻璃门外，站着全部人类。他们进不来。但是他们在门外大喊：按下去，按下去，不然来不及了！31、你一头雾水，你犹豫不决。到底按下哪一个？加速，还是减缓？环顾四周。前方有一个倒计时，正在读秒：7，6，5，4 ……1、Sam 和 Ilya 的深层矛盾：有效加速主义 vs. 超级"爱"对齐，陶芳波，https://mp.weixin.qq.com/s/NP-RHfEViDcICkWOmjMjsg2、加速主义宣言：超越资本主义对技术的压制，阿列克斯·威廉姆斯、尼克·斯尔尼塞克，https://www.thepaper.cn/newsDetail_forward_20198173、《精英日课5》，万维钢，https://www.dedao.cn/course/article?id=aYB83z6N9dqxVyPzRBK7ZMvy0GQDO54、《一场25年的赌局揭晓：科技有没有摧毁我们的社会？》，佚名，https://www.sohu.com/a/448396961_120877946
品牌推广 | 培训合作 | 商业咨询 | 润米商城 | 转载开白
请在公众号后台回复 合作