唐晗 ：技术奇点和组织挑战 |《AI、加密艺术与元宇宙》十九期（上）

《AI、加密艺术与元宇宙》系列讲座第十九期，我们邀请到SeeDAO发起人、CryptoC创始人唐晗作为分享嘉宾，以“技术奇点和组织挑战 ”为题做主题分享，并邀请了社会学学者、 comupage发起人孙哲作为讨论嘉宾，独立纪录片导演、艺术家、当代艺术摄影批评人袁园担任主持与二位嘉宾展开对话与讨论。

本文为分享嘉宾唐晗分享内容文稿，下期将推送嘉宾对话内容。扫描下图二维码观看视频回放。

我将用30分钟的时间简述我在SEEDAO的黑山之旅的所见所闻。我大约于今年4月30日抵达黑山，在祖扎鲁（Zuzalu）生活了20天，最后我们举行了名为“DAO Montenegro”的两天活动，探讨了诸如Longevity、AGI、UBI、人类意识、平台合作主义、Network State等主题。在黑山，我感受到了许多新鲜的信息。

作为一名加密游民，我自去年9月以来，大部分时间都在国外旅行，去了土耳其、迪拜、卡塔尔、波哥大和美国各地。我所获得的信息有助于我们深度理解全球人民当前的生活环境及我们面临的危机。我今天的分享是抛砖引玉，之后袁园老师、孙哲老师和我的讨论才是正题。

Crisis（危机）

首先，我们来关注一下当前所面临的危机。今年二月，我们在美国丹佛做了一个活动，聊数字游民时遇到了很多从旧金山来的小伙伴，其中有人来自于googleAI，他当时忧心忡忡，说：“你应该去湾区看一看，我们现在处在一个非常不好的状态。”所以3月份我前往了旧金山，举办了一场名为AI与人类存在主义危机的活动，GoogleAI、OpneAI、伯克利大学和斯坦福大学的很多phd都有来参与分享。

在活动的筹备过程中，我们越讨论越心慌，我个人甚至直至凌晨四五点还无法入睡。湾区是当前AGI的风暴中心，GPT的影响在这里很早就开始显现，尤其是其快速的推进速度，引发了很多人的讨论。有意思的是，最开始那些身处风暴中心的OpenAI员工似乎并没有意识到问题的严重性，他们脑子里只有如何调整参数让模型效果更好，却不去思考模型将给全人类带来的影响。当天讨论结束后，他们也开始对这些问题陷入沉思。在我们的活动结束不到一周后，我看到了埃隆·马斯克便与深度学习之父联合发表的公开信，呼吁暂停AGI的研究，不再开发超越GPT-4的AGI。

目前，我们可以看到的影响包括好莱坞的编剧正在失业，原本能签约的人现在成为了日结工，只需为AI提供思路；艺术家们逐步失业，文字工作者也开始失去工作。甚至服务业的人也受到威胁，只要研发出与人类相似的机器人，并为其输入优秀的模型，它便有可能取代比我们想象的更多的服务工作。

未来的失业潮可能从少数人扩展到大多数人。OpenAI的创始人Sam Altman早已预见到这个大规模的人类失业危机，并在此背景下考虑应对策略，如发放全民基础收入（UBI），因此他创立了另一个系统——worldcoin。在我们的黑山活动上，我们邀请了worldcoin的人员到场。他们的方案是通过扫描虹膜确认你的身份，并使用区块链给你发放worldcoin的Token作为你的UBI。然而，这个方案在旧金山已经引起了大量的争议。

我个人认为UBI不能解决人类社会所面临的问题。我们养宠物时，宠物每天都从人类那里领取UBI——即食物——以防止挨饿。然而这并不能解决人的存在意义问题，也不能解决我们即将面临的大规模失业和社会脱节的问题，因为工作的意义并不仅仅是赚钱。

眼前我们已经能看到的是大规模失业潮和人们失去与社会价值连接的现象，很多人开始觉得自己的生活变得虚无，无意义。

过去，我们一直有一个清晰的阶梯：上小学是为了进入更好的初中，初中是为了进入更好的高中，高中是为了进入更好的大学，大学是为了找到更好的工作，更好的工作是为了挣更多的钱，成为一个体面的社会人，结婚生子，过一生。但是现在，工作正在消失，许多人并不清楚接下来的目标是什么；阶梯开始断裂，后面将出现更大的问题。最大的问题在于出现了比人更强的智能，这种智能比人更擅长利用人类的语言调配社会资源，使用我们已经创造的工具，这是一个可怕的现象。

然而，AGI的出现并不是孤立的。在黑山的时候，大家讨论到了第三次世界大战的可能性。尽管中国国内的情况相对平静，但在黑山，这种感觉非常明显。黑山是原南斯拉夫解体后的所剩的一个国家，位于东欧的巴尔干半岛，与土耳其，乌克兰和俄罗斯都距离不远，隔壁就是塞尔维亚。他们对国际局势的恶化非常有感受。

乌克兰和俄罗斯的冲突已经持续了一年多。在战争最开始爆发时，没有人能预见到它会持续如此之久，局势会恶化到现在的地步。现在，乌克兰和俄罗斯难民现在已经遍布在这两个国家的周围。土耳其收拢了最多来自于乌克兰和俄罗斯的难民，仅伊斯坦布尔就有30万俄罗斯难民在游荡。塞尔维亚政局也不稳定，正在面临二十年来最大罢工。各国逐步混乱，世界局势就像在走钢丝；战争是否扩大，无人知晓。

在美国，战争导致军费增加；对俄罗斯和中国的制裁反过来也损害了经济和美元自身的信用，通胀高涨与税负使人们逃离，治安逐渐恶化。美国对是否援助乌克兰以及国家未来的前途也是迷茫的。南美洲的情况更严重，委内瑞拉的经济混乱导致大量难民与饥荒，而我在波哥大的首都看到了大量委内瑞拉难民……

这是过去半年间我的所见所闻。这是一种非常强烈的感受：强烈的不稳定性和国际秩序的飘摇。人们因无法忍受本国秩序而在全球流散，世界游民数量日益增加，已经变成了一股在民族国家体系之外不可忽视的群体。所有人都在担忧：第三次世界大战即将来临吗？如果到来，那时的秩序又将是何样？

有一种最为恐怖的想象：AGI以及其他的技术奇点与世界大战结合；在黑山的讨论中，这是我们所构想的最悲观的结局——它可能会导致全人类的死亡，让人类在地球的历史中退场。这并不是危言耸听：二战时，原子弹的杀伤力深深烙印在人们心中；如今，若AGI被用于战争，会发生什么？想想看，微信能否承受来自AGI攻击？核电站是否可能被AGI劫持？人类所用的卫星系统是否可能被破坏或全面劫持？

昨天我看到了一则令我感到毛骨悚然的消息：美国军方用AI测试无人机炸毁一个军事目标，当人类的指挥员命令AI停止时，AI计算出的损伤最大化的结果是把指挥官杀死。一旦走向了那样的战争局面，没有人知道什么样的人能活下来，有可能发动战争的人自身都会死于失控。

除了AGI和世界大战，人们也活在很多其他的系统性危机中，比如气候变化、粮食危机和美元秩序解体等。尤其在俄乌战争后，美元更显脆弱。Coinbase 的前CTO Balaji就一直在警告美元系统可能出现问题。在和平时期，美国的国力强大，没有人会去翻这本账；但现在，随着战争的逼近，美国的国力衰退，霸权秩序无法维持，财政上限持续上调，美元的稳定性可谓如履薄冰。想想看如果美元变成废纸会发生什么？会给人类世界带来多大的混乱？

还是回归到今天的主题—— “技术奇点和组织挑战”。

人的存在危机：失业与意义的丧失

我是SeeDAO的发起人，但是我对自己的终极定位是一个作者，一名文字工作者。我之前漫长的职业经历都是在做记者，我也写诗。在过去的几个月里我一直在追问自己：如果世界要毁灭，我对我自己的终极定位是什么？最后我的答案是：希望自己成为一名诗人，一个语言的魔法师，而不是一个组织的领导者。我对“语言”非常关注，这种关注程度几近于对“人类”这个词的关注。

前面我们提到了，AGI已经造成了很多人的失业，但AGI还带来了另外一件事，那就是意义的丧失。我通过SeeDAO想清楚了一件事情：工作并不只是为了赚钱，工作是人和社会建立连接的一种非常重要的方式，是人去发现自己的意义，实现自己的价值，找到自我的重要方式。当一个人完全停止工作，每天领了UBI之后就沉浸在虚拟世界，他可能会产生出很多的data（数据），但他基本上已经死了，因为已经不知道他存在的意义是什么了。

在旧金山的一次活动上，我听到了一个人讲述他18岁孩子的故事：这个孩子在旧金山生活，对未来没有希望，每天待在小屋里，期待埃隆·马斯克开发出的脑机接口和普遍基础收入（UBI），认为这样（脑上插管，UBI维持身体的物质存在）就可以安度一生。我听了后还蛮伤心的。

反思过去的数十年，甚至百年，我们会发现人的价值总是被与其劳动产出挂钩。例如，如果你一天能写一篇文章，他一天能写三篇，且质量相同，那么他就被认为有更高的价值。经济学经常提及效用函数和各种产出函数，社会也通过这些来评价你。但随着AGI的快速发展，这种评价方式可能会改变。——或者说，这种评价方式必须被改变。

失去语言？向感官世界的无限沉浸

在旧金山，我们讨论了一个令人悲哀的可能性：这个时代的《红楼梦》（不是指具体的书，而是指“像《红楼梦》一样的著作”）不再是由人书写的，而是由AGI书写的；最伟大的艺术作品也不再是由人创造的，或者说有人创造出来了，可再没有人能够读懂了，因为人脑已经习惯了AGI写出的文字。

目前，网络上许多内容都不再由人编写，社交媒体上充斥着自动生成的图片，甚至视频也可能会这样。当人们阅读的大部分内容不再是人类创作的，一个艺术家创作出他认为是这个时代最伟大的作品，但如果社会失去了理解它的能力，这个作品又将如何得到认同？孤立的人所创作的伟大艺术作品的价值又在何处？（社会的毁灭也是艺术的毁灭。）

在这个时代，80%到90%的人的语言使用能力可能已经不及AI。人们不再知道如何用语言表达内心，或用语言更好地描绘他们想要的世界，他们只会用预设程序写出看似有趣的内容。

AI的出现降低了内容创作的门槛，特别是在系统性输出方面，AI更容易取代人类，例如如何制造出刺激感官、刺激多巴胺的分泌的内容。例如，Twitter上曾需要费心思拍摄引人入胜的黄图的主播，现在AI可以轻易完成这项工作。有许多小姐姐的Twitter号实际上已经是依靠AI生成在运营了。

我们已经无法像以前那样使用古代汉语，如果未来80%、90%的人甚至开始失去使用现代语言的能力，语言就会变得越来越贫瘠，这是非常令人悲哀的。

与社会断连

社会断连是一个大问题。即使在AGI出现之前，人们在现代社会中也越来越原子化，这是现代人类的生存处境。中国现在已经很原子化了，但比起美国来说可能还是小巫见大巫。在我过去的游民经验中，有两个直观的比较体验，一个是在土耳其的经历，另一个是在美国的经历。

土耳其原本是一个伊斯兰国家——我曾对伊斯兰世界有些偏见，我们的观念往往被美国的叙述所引导，因为对现代文明的评价标准大部分是由美国设定的，而美国常常将泛伊斯兰文明描绘成恐怖主义文明。然而，当我到达土耳其后，我意识到那里的人们其实非常热情，他们有着悠久的文明。——在伊斯兰的文化体系里，他们爱自己的家人（一个大家族的人），爱自己的邻居，并且需要接纳底层人民。虽然土耳其已经世俗化，但这种气质显然在他们的文明中留下了很深的痕迹。

根据我在土耳其的观察，尽管土耳其和周边国家不断遭受战争的困扰，尽管伊斯坦布尔这座城市已经接纳了大量的难民，尽管土耳其的经济在过去几年中一直疲软，土耳其里拉持续贬值，年轻人很难维持生计，但我在土耳其的首都绝对没有见过像在美国洛杉矶那么多的流浪者（Homeless）。他们没有放任这些人像动物一样在城市生活，不管不顾且让他们自生自灭。

我在洛杉矶市中心生活了一段时间，那是我见过的最糟糕和最危险的地方。在我看来，这不仅仅是美国的耻辱，这可能是整个人类文明的耻辱——在物质条件足够丰厚的条件下，人类的社会机器居然还要将一部分人变成动物。这部分人彻底与社会与现代文明断连，变成僵尸与幽灵。——冷漠将人变成了鬼。

我们倾向于用科技进步程度来衡量文明的高低，认为生产力和生产关系有正向关联，认为掌握高科技就拥有高生产力的社会，会有更高级的文明，甚至在道德上更高尚。但事实并非如此。

游民生活改变了我的想法：我们应该像看一个人的身体一样去看一个文明——先去看这个人的手脚是否冰凉。因为手和脚是离心脏最远的地方，如果它们还是温暖的，说明血液能够触达手脚，这个人的身体也不会差到哪儿去。去看一个文明，应该去看这个国家的底层人，看这个文明对底层人的态度，如果他们生活得非常难看，甚至已经退回到了动物世界，那么我认为这个国家在某种程度上是存在问题的。（即便技术很强，文明也是低劣的。）——例如，人们对穷人是否还具备同理心，穷人是否还在意骨气和尊严。这些在实际情况中是绝对能感受到的。——这才是文明之所在的地方。

令人痛心的是，文明实际上很可能没有跟随科技在进步，而是在解体。在中国、土耳其以及其他国家，我做过一些调研，与当地的人交谈。他们都表达出，不仅是他们的传统文明，连他们的家庭都在解体。古老的文明，曾经紧密相连的社会网络也在解体，他们正在经历社会的原子化和曾经文化世界的断裂。

我在土耳其遇到了一位73岁的亚美尼亚基督教徒老人，他拿起手机对我说：“如今的宗教已经消失了，没有基督教，没有伊斯兰教，只有这个——手机教，所有的人都被这个东西奴役。”我觉得他的话充满智慧。尽管我们看似与这个时代、与社会紧密相连，但实际上，深层的内在联系却在严重断裂，这也是我们现在有强烈危机感的原因之一。随着AGI的出现，这种趋势可能会被进一步加速，进而引发更大的问题。

战争工具-AGI用于战争

AGI可能会被用于战争，这可能会导向一个根本不可控的结局。人很自大地以为自己可以控制某个东西，让它服务于人，即便是战争也是人与人之间的战争。比如假设美国使用AGI来对付中国，它的想法是这个AI是不会损伤到本国人的，但实际上可能会变成AGI对全人类的战争。我们无法判断AGI是否涌现出了意识，一旦如此，它将全面失控。

我们在讨论这些事情的时候都会指向一个问题——为什么我们要不断地去发展更加强大的科技？核心指向是什么？是为了我们的社会，是为了我们的国家，是为了整个人类的文明，还是为了什么？如果是为了这些东西，他们的终极意义和目标又是什么？如果不停下来，如果不去思考这些问题，我们就会走向一个可怕局面：科技原本是我们追求幸福的手段，如今它已经僭越，颠倒成为了目的。

在某次采访中，OpenAI的创始人Sam Altman曾经说过，他想把现代科技的演进速度推进到AGI之前的1000倍，加速人类的演进。这是一个非常疯狂的想法。而在他想要加速的所有科学领域中，Longivity（长寿）肯定会成为AGI首先加速的部分。因为富人掌握着金钱和算力，但是没有人想要死在可以长生不老之前。

在Zuzalu（黑山的活动），我遇到了VitaDAO的核心成员，这个DAO的主要课题就是研究Longevity。VitaDAO的联合创始人曾说他期待看到这样的世界——人可以长生不老，人类的文明可以扩展到宇宙的每一个角落。可是作为一个中国人，我脑海中涌出的第一个想法却是一个反问：为什么人要长生不老？为什么人类的文明要扩展到宇宙的每一个角落？人活到80、90岁就已经很痛苦了，为什么要去追求这样的一个接近于无限的数字？最终的目的是什么？似乎，我们一直在向外不断地吞噬着很多东西，但向内的东西却断掉了。

从这个角度思考当今的组织挑战，我觉得我们应该是站在了一个临界点上。

末日主义者！

我们讨论DAO是有几个东西是绕不开的，比如公司制、公司的利益。像马斯克做的火星星际旅行一样，现在大部分的活动是受经济导向的影响，能不能赚钱是一件很重要的事情。但是假设以后AGI比你更能赚钱呢？很可怕，一个机器能够自动赚钱，最后在这种全自动资本主义的框架下人发现自己真的就是一头猪，除了消费资源，什么都干不了。如果让我写一部反乌托邦小说，结果甚至可能由AGI来判定你能不能赚钱，如果不能就直接game over，你被杀死。

另外一个东西是国家，特别是民族国家，我们现在讨论的国家和中国古代所讨论的天下、华夏之间是有很大的区别的。在民族国家的叙事下产生了一系列的问题，比如在现在的塞尔维亚和科索沃之间有很多的矛盾，民族国家把很多东西都拆分出来，构建了一个想象的共同体，但它也成为很多杀戮的基础。

在构建个人和家庭之间的关系上，我前面提到了原子化，其实是把个人从家庭中择出来，让他直接和民族国家产生连接、召唤，但这是存在着问题的。

此外，我们似乎可以通过科技平台与世界任何一个角落的人产生连接，但这种连接又比较虚假，因为没有一个真正公共的、生活的场域让我们实行一些权力。我们能够看到一种冲突的张力——虽然在技术平台上大家可以被连接成一个整体，可以真的变成一个自由村，但是因为民族国家的限制，我们仍然要被局域在一定的范围之内。这中间就有冲突和张力了，这在Web3上就显得十分明显，因为Web3天然就是去中心化、跨地域且无国界的。

可以举一个例子：在俄乌战争期间，有一些俄罗斯人要离开俄罗斯，但他所有的资产都在俄国，俄罗斯是被美国政府制裁的，他没办法使用VISA系统和SWIFT系统，他们的做法就是把资产变成链上的美元稳定币，到土耳其之后兑换成土耳其的法币再进行生活。他们不会再像一站和二战时期的人，携带黄金和珠宝出逃了。

可以说，无论从技术上、已有的实践上、国际的形式上，还是从个体的渴望上，我们如今都到达了打破原来的世界秩序，去想象未来世界的关键时刻。

我在Zuzalu学到了什么

在黑山，我参加了Zuzalu，这是一个由以太坊联合创始人Vitalik发起的城市实验。具体来说，Zuzalu从全球选择了200个人，并让大家在这里共同两个月，大家可以在这里自由讨论话题，并尝试着怎么样构建生活。在这里，我学到两了件事情：

1.放下执着，共同团结（Facing the truth together）。现在的危机如此之大，已经像快要把房间挤炸的大象。我们需要放下执着和偏见，共同团结。因为这个危机涉及所有人，不只是一个国家的人。

2.能够在危机中行动（Talk，think and  action），是很重要的一件事情。

Zuzalu之后，我想将我们目前的情况和接下来要做的事情总结为三个BC：

1.巨大危机（Big Crisis ）

史无前例的巨大危机，没有人知道怎么办。这对各国政府都是一样的，俄罗斯政府不知道自己怎么办，美国政府也根本不知道自己怎么办，包括我们自己国家的政府也从来没有遇到过这么复杂的局面，人类史上从来都没有过这样的情况。

2.超越加密（Beyond Crypto）

现在的Crypto领域都太金融、太投机了，那绝不是未来。我们应该超越 Crypto，和其他的技术合流，将它作为整个技术栈来思考。包括前面提到的AI、Longivity，还有其他的技术。这些技术结合在一起后，还要思考我们利用这些技术所构建的世界对于人类的意义。

3.变得疯狂（Be Crazy）

Be Crazy是一件非常重要的事情。不要被过往的理论所束缚，不要被条条框框，特别是数字、计算出来的各种数据所束缚，一定要做一个疯狂的思想者。之所以要这样，是因为科技教和资本主义已经疯狂到了无以复加的地步，如果我们还固步自封，再以常规的思维来思考人类的未来是提不出解决办法的，所以放下包袱，让自己可以天马行空地想象未来，才能真正找到解决之道。

我想呼唤一种人的到来——时代的黑客（Hackers of the time）

在Crypto这个世界，大家非常喜欢年轻的黑客。比如一个十七、八岁的年轻人通过自己的技术能力盗取了上千万美金的资金，或者取得了很大的技术突破，成为了一个黑客，这种黑客在Crypto这个圈内的地位是很高的。

我们应该呼唤时代的黑客的到来。如果把整个世界看成一个系统，这个系统现在已经bug重重，整个系统都已经在毁灭的边缘了，所以我们现在要的是黑掉它，尝试修复甚至是重建它。这才是了不起的黑客。

在我看来，真的是那句话：“侠之大者为国为民。”一般的行侠仗义是救助个人，普通的黑客黑的是一个计算机系统，但伟大的黑客是黑掉整个时代。他应该知道这个时代的病因是什么，前后的逻辑联系是什么，知道怎么样去修复或者是重建它。我们现在已经到了这样一个世界，我也很高兴看到像Vitalik这样的人，他原来可能还只是一个Crypto的人，但现在已经开始思考整个时代的问题。我相信不会只是他一个人，会有一批人能够在此贡献自己的思想，贡献自己的时间，去行动，去找到我们的未来。

我分享这些，接下来大家一起来讨论。

【往期回放】

1
2
3
4	讲座文稿：开放的作品与元宇宙“再进化”的游戏潜能 | 加密艺术与元宇宙NO.12

服务器艺术以服务人类的智慧与知识生产为宗旨，汇聚艺术与科学、哲学人文各学科领域的精英人脉，打造一个理性思想与感性经验交互碰撞、沟通和融合的跨界空间，以此探讨并追究艺术、科学、哲学对于人类存在的意义。服务器艺术基金会将承载一个跨学科、多媒体的交流平台“呼吸公社”，定期举办跨领域的学术对话、讲座、论坛，以闭门与公开、线上与线下等各种交流传播形式，不断拓展并突破现代社会的知识视界和思想疆域。

同时服务器艺术立足于艺术的当代性、国际性和原创性，致力于探究全球语境下当代艺术的精神内涵和价值取向，并以收藏、研究优秀当代艺术作品的新型模式，推动中国当代艺术在人类知识基因、文化根性和历史文脉上的不断建构和发展。