刘永谋：AI失业：从富裕社会到经济奇点，才是人工智能发展的现实问题
The following article is from 不好为师而人师者 Author buhaoweirenshi
原创题记：余生愚昧，欲求真理，辗转求学，愿终生为学生，不好为人师，然宿命教人，忝列上座，时时惶恐。思有所施于学者，然识见阙阙，故录智者言，或发仁者说，力求有益于读者。于今发起，开公众号，或速或缓，必得持续，不使断失。
作者 | 刘永谋 中国人民大学哲学院教授、博士生导师
转自 | 不好为师而人师者
前年就说过，现在人工智能的哲学社会科学研究呈现一种“科幻式写作”的特征。也就是说，多数类似讨论对人工智能的理解是未来愿景的，离现实中的人工智能十万八千里。
尤其是超级智能即超过人类智能的机器智能，完全处于想象之中。讨论与之相关的问题，和写科幻小说差不多。不过，很好玩，很有趣，有时也有一些新奇的观点。更重要的是，类似讨论能够起到重要的宣传效果，给人工智能科研拉来资金和资源。
蔡斯的《人工智能革命：超级智能时代的人类命运》，大致就属于此类风格的畅销书。读起来跟读故事书一样，读完记住的东西不多。
乐观主义的理由：1）更理智意味着更仁慈，2）人工智能本身没有目标，3）人类可以控制人工智能的目标，4）它与人类不存在竞争，5）超级智能就像一个政府机构。显然，这些理由都可以被反驳。比如第三条即目标问题，1）所谓好的目标究竟意味着什么，人类并不清楚——“自由自由，多少罪恶假汝手以行”——一味地保证人类自由，真不知道是好还是坏，2）最终目标实现需要过渡目标，很难预计这些过渡性的东西会导致什么问题。
悲观主义的理由：1）不友好的人工智能更有可能，2）中立态度也可能导致悲惨结局，3）它可能反对人类，4）它可能弄巧成拙，5）它可能会一意孤行，6）人类将变得毫无价值，人类的艺术、科学成就都在超级智能面前相形见绌，7）它可能会蓄意犯罪。
感觉悲观主义的言论很难反驳，因为很难否定厄运出现的绝对可能性。这就像是证伪问题一样，悲观主义者只需要一个例子就否定乐观主义的立论，而乐观主义者要证明悲观主义预计的情况从方方面面、世世代代都不可能出现。
比如说第二条即中立问题。尤德考斯基（Eliezer Yudjowsky）说，如果人工智能对于人类既不爱也不很，但是人类由原子构成，它可能觉得这些原子可以做别的用途。如何能否认超级机器人可能因此消灭人类的可能性呢？这似乎和反驳阴谋论一样难。
对于上述讨论，我的看法很清楚：1）超级智能与人类的终极命运还很遥远，其实人类灭绝自己还有很多办法，用不着等待超级智能大开杀戒；2）AI与机器人已经导致很严重的现实问题，尤其是蔡斯所称的“经济奇点”问题，更可能引诱人类相互争斗而自我灭绝；3）科幻式的畅想的话，未来更可能的是人与机器融合的赛博格或后人类世界，硅基与碳基两种智能的对立将不复存在，在如此世界中机器与人的友爱也好、对立也好，这些问题都不存在，或者说实际上人与人友爱不友好、对立不对立的问题。
因此，蔡斯提到的神谕人工智能（把超级智能安置在屏蔽空间）和神灯人工智能（阿拉丁神灯一样平时休眠，被召唤才完成有限任务）在未来世界可能存在，但并非一些人所想象的生死攸关。比如，前者可能是未来安全考虑，后者可能是为了节省能源。
蔡斯提到一个非常有意义的现实问题，我对此非常关心，称之为“AI失业”问题，而他则称之为“经济奇点”问题：“迄今为止，被机器人替代的人们总能找到新工作，尽管有时候需要经过在培训。但是，如果像很多人担心的一样，机器做的比人好的工作越来越多，最终有一天，大多数人都将事业，他们没有任何过错，却丢掉了饭碗，那该怎么办”，“到那时候，当大多数人都永远不再工作时，就达到了一个经济奇点。”我也注意到蔡斯所说的情况：大多数人都认为AI失业的情况只会愈演愈烈，但是人类社会对“经济奇点”到来并没有给予足够的深入全面的准备。
在我看来，AI作为机器劳工被发明出来，迟早达到可以取代人类绝大部分的劳动的水平，而这本身就是AI发展的根本性目标。但是，能够取代并不等于实际取代，这牵涉到人类社会制度的根本性变革。
机器人可以让所有人都很少劳动或不劳动就可以过上好日子，但有些人不希望其他人不劳动，就会通过社会制度安排强迫其他人劳动，掠夺其他人，压迫其他人。这一点在工业革命以来的经济史发展中已经得到了证明。
一个人要过上舒适的日子，需要消耗多少物质财富，这是可以定量计算出来的。一个社会有多少成员，乘上单个人需要的物质财富，可以得出整个社会过上舒适生活所需要物质财富的数量。然后，再加上社会交易成本、各种损耗，我们可以得以一个有限数字。从理论上说，当社会生产力超过这个数字，人类社会就应该进入大同世界了。
不少人认为，发达国家已然进入“富裕社会”，即社会生产的物质财富已经足够社会成员过上好日子了。技术统治论者认为美国在1929年已经如此，而加尔布雷思认为的时间节点是20世纪70年代。但是，现实中的美国还是很多人在流浪、讨钱，还是吃不饱、穿不暖。
显然，这是社会制度的问题，光靠科技和生产力发展永远解决不了——在剥削制度之下，一些人总要剥削另外一些人，根本不管仓库里是不是肉多得臭了、粮食多得烂了。对不对？
在生产力低下的时候，剥削行为可以得到物理学解释：我们只有供1万人吃的粮食，现在却有1万5千人，因此总得有人挨饿。现在，我们能够生产供2万人吃的粮食，为什么还有人挨饿呢？这是不是社会制度问题呢？
现在人工智能飞速发展，“富裕社会”在智能革命时代进入“AI富裕社会”即超越蔡斯说的“经济奇点”，上述矛盾必定会变得无比尖锐和突出。自从工业革命以来，拜科技之力量，压在人类身上的劳动负担越来越轻。20世纪我们搞了8小时工作制，后来又是5天工作制、带薪休假制。如果机器人能把人类的绝大部分劳动给干了，人类为什么不能一周工作2、3天甚至更少呢？
前些年，应该说劳动负担在减轻，一周休息两天、带薪休假已经普及。可是，最近几年996之类似乎在卷土重来。那么，我们就要问：科技进步提升的生产力干什么去了？为什么没有惠及劳动阶级呢？
在很多人看来，当务之急的问题是给受到AI冲击的人找到新工作，比如搞“零工经济”、做一些数字标注工作等。我不否认这些问题的紧迫性和重要性。但是，从长远来看，AI拥有取代绝大多部分人类劳动的能力，是大势所趋，时间应该不会超过100年。
然而，我对“AI理想国”的信心并不强烈。理论上说，AI可能让所有人卸下劳动的重负，但现实中，AI更可能被用于新一轮更强的压迫行动。作为一种最先进的、威力惊人的劳动工具，掌握它的统治阶级将拥有比掌握耕地耕牛、蒸汽机内燃机更强大的力量。在这种情况下，极少数人通过控制AI便可以继续欺压他人的无耻生活。
一句话，与其担忧超级智能压迫人类，不如现实一点关心一下统治者用AI压迫劳动人民。重复一下我多次表达的观点：只有人人关注，人人争取应有权利，如此才能走出一条介于“AI理想国”与“AI机器国”之间的现实道路。（完）
未来终将来临
如果您没有能力想象后天
就一定会活在被别人定义好的未来之中
失去对未来的思考力
就是丧失对未来的掌控力
没有能力想象未来
就没有能力为即将到来的未来做好准备
投票评选
（如果有不同的问题，可以在评论区留言）
——END——
苇草智酷好文推荐