刘永谋 | 技术的反叛——技术控制的选择论
作者 | 刘永谋 中国人民大学哲学院教授、博士生导师
编者按：2021年9月11日，苇草智酷NO.114期沙龙，邀请中国人民大学哲学院教授、博士生导师刘永谋以“技术的反叛”为主题发表了演讲。
各位朋友们，大家下午好！我今天演讲的题目是“技术的反叛”。用一句话解释就是以今天的时代与其说是科学时代，不如说是技术时代，也就是说科学和技术在古代，它们两个是平行分立的，到了19世纪下半叶科技一体化，科学原理运用于技术领域指导技术发展，反过来技术向科学靠近，要学习科学理论化的形式和过程。这样一个过程深入发展到21世纪，这个关系就有一种颠倒，有人说之前的技术是通过科学提高自己的地位，以前叫奇技淫巧，现在是科学应用，到21世纪这两个关系发生了转变。也就是说今天科学被认为是一种科学，它的价值是在于能够实现社会的技术经济目标。
所以在我看来这导致了科学和技术关系的颠倒，理论上很多人被称之为技术化科学，就是科学作为社会合理性基础地位被技术取代，这就是我讲“技术的反叛”的一个意思，即今天科学和技术之上是平起平坐的，甚至社会价值方面技术是超过科学的。
为什么取“技术的反叛”为题目呢？主要是最近我出了一本新的书《技术的反叛》，今天主要是讲人和机器的关系。
一、机器
在工业革命之前，机器早就出现，英文machine这个词源自于希腊语，从希腊传到拉丁语，时间非常久远。在希腊语当中机器是引擎、轨迹、狡黠的意思，也有词源研究说与may这个动词有关，让我们有力量的意思，这是在英语语境下的机器。汉语是很晚才有机器这词，之前机和器这两个字是分开的，而且两个分开的词多少都有一些贬义，“有机械者必有机事，有机事者必有机心”。器，这里引的话大家耳熟能详，“形而上者谓之道，形而下者谓之器”。
机器是在19世纪下半叶，英国传教士把machine翻译成机器，才有这样的说法。机器的意思会随着真实机器的进化而不断变化。机器进化有两个关键点：
第一，机器在古代是手工操纵，近几十年出现智能机器和自动化机器。
第二，机器的材料也突破了生命和非生命的界限，跨越有机和无机界限。比如，在古代机器多数有石头、铁、玻璃，当然也有木头，木头是一种有机物，现在很多机器可能是塑料、橡胶，属于有机物，最新的安装在生命体当中，比如心脏起搏器，这时候机器在尝试跨越一种生命和非生命的界限。
马克思是研究机器的大师，他对机器非常重视，有很多论述在他看来一个成熟的或者比较成型的机器、发达的机器，一般是有三个部分组成，发动机提供动力，传动机把动力传出去，最后是工具机或者是工作机，由三个部分组成的，但是我们看到马克思这种说法过了200年有点问题，计算机就是一个控制机，自动化增加了控制机。
除了机器变化，有时候在隐喻的意义上说机器，比如国家机器、社会机器，把国家和社会比喻成一个非常精密的机器。有一个哲学家说了巨机器，在人类修金字塔，中国人修长城的时候就产生了，不光是日常使用的机器，包括人、财、物等组织起来大量的巨机器。所以他认为有两种最明显，一种是军事机器，还有一种是建设性的劳动机器。
到今天机器在我们的话语当中仍然有点贬义，比如公司是一个机器，公司没有人情味，军队是一个机器，就是令行禁止。
二、人看机器
在1829年非常著名的卡莱尔提出，人类社会进入机器时代，社会成了机器社会，人机关系就应该成为思想家思考的核心，这是他的观点。从那以后西方思想家对这个问题很关心，总的来说是四个字“爱恨交加”。以钟表为例，机械钟表是最完美的机器象征，它改变了我们的社会生活，有了钟表机器以后时间就标准化。钟表出现有正面意义，促进了生产力和资本主义发展。《肖申克的救赎》里面有一句台词，“人生可以归结为一种简单的选择，不是忙着死，就是忙着生。”当时我的印象很深刻，这是恨的一面。
中国古代思想家认为技术就是奇技淫巧，看不起技术，对技术的鄙视阻碍了科技发展，这是一种观点。英国使团来见乾隆皇帝，西方文明最重要的礼物就是钟表、机械、纺织机、蒸汽机，结果乾隆皇帝不感兴趣。老百姓觉得这个东西更加复杂了，难以理解，甚至要进行一些破坏的活动。在马克思的年代，1811年到1813年期间有很多英国人说，机器用了以后让我们失业，要把机器砸烂砸坏，后来称为卢德主义者。2019年还有人写走向新的卢德主义，只不过形式不一样。
三、人机关系
人和机器究竟是什么关系？有很多看法，我归纳起来最常见的有三种，一种叫友好论，机器对我们有好处，让我们生存受益，要爱护机器，要相亲相爱。第二种叫敌对论，机器是我们的敌人，让我们失业，要提防机器，要阻止社会的进步，那也不行。因此现在很多人越来越认可第三种理论——协同论，认为机器和物种一样，“你”是一个物种，“我”是一个物种，协同进化。对于协同论，我也赞同一部分，但是不完全赞同，为什么？我觉得这样一种说法听起来有道理，但是对于人族生存并不是一个最好的选择。
如果我们和机器是协同进化的，但是进化结果是人族毁灭绝种的话，你觉得这样的协同有价值吗？我称之为上帝视角或者是宇宙视角，要选取人类视角，协同进化中人类要繁衍下去，这是我对协同论的评价。现在AI发展很快，社会发生翻天覆地的变化，有很多是耸人听闻，但是确实不知道一百年后AI发展成什么样子，是否会真的超越人类，我称之为新无知之幕。
我们今天一起成立一个新的国家，但是不知道成立新的国家以后，自己究竟是社会中的哪一员，这就叫无知之幕。可能会和超越人类伦理的AI共同生活，要用一种人类视角思考这个问题，人族延续下去，新无知之幕不仅在AI中共用，在其他新科技都会面对。
因此我觉得不管新无知之幕面对以后是什么结果，有一点是可以肯定的，不可能放任技术随便发展，一定要想方设法控制，不能让它随心所欲发展，这就是技术控制论。
除此之外我还赞同另外一个观点叫赛博格论，认为人和机器并不是对立的，赛博格是人和机器的结合体。因此以后人机对立也好，友好也好，最后都会变成赛博格的关系，是平等的关系。有很多非常极端的思想家认为人就是机器，人的心脏像一个水泵，血管就是管道，肺就像风箱。包括维纳在内也是认为人的神经系统和机器原理是一样的。
随着脑机技术发展，AI技术发展，以后机器人会越来越像人，因此一百年以后怎么区分人和机器？不可能区分的，按照拉图尔讲的我们以后都是行动者，不仅是机器，植物、土壤、环境，都要共同对话协商。人就是不确定性本身，物理世界是确定的，很多定理能够解释，但是唯独有了人，宇宙就不确定。人不能变成机器，不能当成机器对待，机器发展以后，不仅仅是不能把人当机器对待，机器也不能像机器对待，机器人有权利了，你随便把它砸掉也不行。所以整个潮流发展是更加宽容和包容。
四、技术控制的选择论
我主张的技术控制的选择论。有人说协同进化，人类灭绝了好，为什么不能灭绝，恐龙都灭绝了，人有什么了不起的，这是非常悲观的宿命论，我是不接受的。技术来讲，技术哲学上所谓的技术自主性，它认为技术是自主的，我们谁都管不，这是一种拟人化的思想。
总的来说有两种最有名的观点，一种是技术工具论，技术是工具，我们能够控制它，工具没有善恶，是人的善恶。另外是实体论，现在很多人越来越相信实体论，我很反感，实体论是说技术本身有善恶，有价值负载，有自己发展方向，不以人的意识为转移，比如区块链好了以后信任问题就解决了，但是我们也可以看到实体论容易导致宿命论。所以实体论往往会导致技术失控论，就是技术正在失控或者已经失控。很多专家研究一个中间的观点叫设计论，我比较赞同这个理论，但是不完全赞同，它讲的理论和我讲的技术控制选择论不太一样。设计论意思是说技术也不完全是工具，也不完全是实体，它是一个技术要素和社会要素两者相结合的。
关于技术自主问题我有几个观点：
第一，越来越多的人倾向于技术的实体论，原因是机器变得越来越复杂，我不能解释它，所以觉得它有生命可以自己发展，这是一个很重要的原因。
第二，自主性的争论根源在于人机关系的思考，无论人机是什么关系，我们一定要确保人族福祉，所以主张控制论，反对失控论。
第三，我的核心观点：所谓的工具论、设计论、实体论，也包括我主张的技术控制选择论，它们都是一种哲学理论。所谓的实体论也好，工具论也好，包括控制论也好，包括前面讲的人机关系友好论、敌对论、协同论都是不属于自然科学的哲学观念，哲学观念没有也不必要用实验来检验验证和证明。虽然说哲学没有对错，存在一个选择，我发现这些争论、这些选择的背后最有价值的问题关键在于要不要控制技术。显然这个问题是一个行动问题，不是纯粹的思辨问题。
五、技术失控论的批判
我不同意技术失控论，认为它是错误的。但是技术实体论我不喜欢它，没有办法说它是错的。温纳是技术失控论的代表，他的书里面讲了一个让人非常绝望的故事——施利芬计划。温纳讲的技术失控论观点我怎么看？如果人类悲剧已经注定，怎么挣扎都是徒劳，混吃等死。温纳认为这个办法怎么解决？在思想上反对技术，在现实生活中我不敢砸机器，但可以采用一种比较温和的方法，比如我就不玩手机，它的矛盾在于不玩手机我们就得救了，但你讲的是宿命论，这是前后矛盾的。更重要的是温纳所谓的失控论立脚点在技术实体论，他做了一个论证，论证完全站不住脚。
纽约长岛的摩西立交桥，摩西是一个建筑商人，他说我修的立交桥不希望给穷人过去，他特意把立交桥修得特别矮，不能让12公尺高的公共汽车通行，只能让小汽车通行，穷人和黑人都是坐公共汽车的，富人是开小汽车的。温纳说摩西立交桥有政治性，它就是歧视穷人的。温纳的论证能够站住脚吗？完全站不住脚，我很容易反驳它，在我看来这就是技术与技术应用的不同，要区分技术和技术的应用，摩西运用这个技术的时候参照了政治因素，我完全可以反驳他，怎么能说立交桥本身是嫌贫爱富的。
又比如西红柿收割机的例子，西红柿收割机里面没有人故意，它只能去收一些比较硬的西红柿，因为软的铁一碰就烂了。机器收割西红柿导致我们不种软的西红柿，种硬的西红柿，有这个东西以后，以前摘西红柿的工人就失业了，有了大机器以后小农场没有了。有人就说，西红柿收割机发明者并没有故意这样干，所以谁故意这么干？是技术，然而这个论证也是经不起推敲的。
第一，技术和技术的应用仍然可以回答这个问题，西红柿收割机设计收不了软的，我为什么不能设计一个别的能够收软的，把收的东西用泡沫海绵包上不就可以收软的了吗？以后有机器人，机器人的手可以做成柔软的，跟人长的一样，是有机的手，不就可以摘了？
第二，你怎么能确定当时设计者不是故意这么干的呢？他就是要淘汰那些人，可能就是资本家说这么多人收西红柿，你给我发明一个机器，他们要钱太多，他可能是故意的，你怎么能证明他不是故意这么搞的。
第三，任何技术应用包括西红柿收割机都有不可预见的后果，你不能说它有后果就是技术故意这样干的，任何新技术它在没有故意的情况下仍然有些不可预料的后果，为什么一定要找一个故意，不是人的故意就是技术的故意，我觉得这是有问题的。技术的问题最后归结为还是人的问题，才能从主观能动性加强人作为一个物种去控制技术的决心，我们不能把这说成是天命。
六、AI失业问题
西红柿收割机发明出来肯定有人失业，没有AI之前，所有机器发明出来都会让人失业，要不然发明机器干什么？就是让我们劳动更有效率。但是智能革命兴起以后，AI把这种失业造成的情况加剧。
第一，它会冲击所有方面，无人旅馆，扫地机器人，无人超市等等，以前讲互联网+，以后是智能+。
第二，不光是身体劳动，还要冲击大脑，脑力工作。以前是人研究计算的，计算工作、会计工作、财务工作包括上课工作我都觉得岌岌可危。从远景来看，既使是保守的估计，绝大部分体力劳动和脑力斗争都必然会被AI取代，现在取代不了以后也会取代。人类在智能革命之后，人还需要劳动，是绝少的，在GDP当中所占的成分可以忽略不计，这个问题我称之为AI失业问题。
比如蔡斯称之为经济奇点问题，有一天AI发展到一定程度，人类根本不需要工作，大多数人都要失业了，这就叫经济奇点。所以有些人站出来说你不要担心，机器人在剥夺我们工作的同时又创造很多工作。比如有本书叫《销声匿迹》，这本书里面给出一些想法，他发现人工智能出现以后让人失业，也产生了一些新的工作，比如图片标识，有时候人工智能分不出黑人、白人，或者长的很奇怪的人。以后零工经济会兴起，叫幽灵工作，我是有点怀疑的，现在解决不了，人工智能还要发展，它迟早都会要解决的。所以自动化只是暂时情况，更重要现实的问题是这样一种零工能够和大规模失业相比吗？它能够占多少？能够抵充吗？所以用AI其实很蠢、AI离不开人类这些想法来安慰我们，这不是事实。
AI离不开人真的是一种安慰，AI失业从长远来看，只会愈演愈烈，经济奇点迟早会到来。这没有什么不好，我们发明机器就是要干活的，干的不好改进它，让它干更多的活。不但要干活，还要让它们任劳任怨，勤勤恳恳，它们不怕脏不怕累，不和人类抢资源，重要的时候牺牲自己的能量，实际它要救我们。所以从远景来看，AI迟早要取代人类大部分劳动，这本身就是AI技术发展根本性目标，如果你不是为了这个目标，纯粹就为了赚钱，那就有问题了，AI技术发展最终就是让我们不要去劳动。
理论上说它可能以后会这样，但现在做不到，这就牵扯到人类社会制度根本性的变革，AI失业问题不在于AI技术，而是在于社会制度的进化，一个新的社会制度它要建立在不是少数人强迫其他大多数人劳动的社会制度，改变这样一种制度以后才能不去劳动，本来是不劳动的，你非要强制劳动。所以这是社会制度改进的问题，如果AI帮助我们干活，我们其实可以不干活的，按照马克思说法，AI失业本质是科技生产力和人类生产关系之间的冲突和矛盾，现在这样一个社会制度不适应于科技的发展，社会制度不能适应迅猛发展的AI技术，这才是我们所面临真正的难问题。
一个人从物理学来讲，从自然科学来讲，要消耗多少物质能量才能过上好生活，穿多少衣服，吃多少饭可以算出来，知道社会有多少人，就知道社会需要多少物资和能源，算出来就可以过上好生活。当然还有交易成本，损耗，把这些数字都算上以后，一旦社会生产力超过这个数字，我们就应该进入大同社会，但是没有。比如1929年有些人认为北美地区已经进入了这个点，而大经济学家加尔布雷斯把这个点定在20世纪70年代，说那时候美国早已经是富裕社会，但是现实有很多美国人在流落、乞讨、吃不饱、穿不暖，所以这是社会制度问题。AI之前把这个问题称之为富裕社会问题，现在变成了AI富裕社会问题，以前富裕社会问题变得更加突出了。这是社会制度问题，不是光靠科技发展和生产力发展解决的。
所以我认为问题的实质不是剥削，问题是如何通过制度设计和改良，让科技红利惠及所有人，尤其是AI科技发展的红利让所有人都享受到，我们要解决的问题是考虑现实和长远两个方面，从长远方面讲当然是制度进化，但是现实中制度进化是非常缓慢的，要等待AI科技发展，现在AI还没有把我们的工作全取消，所以还在发展。所以我们就需要稳妥的在一定容忍的范围之内逐步推进。
现实中两个问题要解决：
第一，确实导致一些人失去工作，要让他们找到新的工作岗位，分享先进科技生产力创造的物质财富、AI红利。
第二，持续减少劳动者工作时间，给人类更多闲暇。工业革命以后由于科技发展，人类享受到科技红利了，劳动时间越来越短，才有所谓8小时工作制，当然也有工人运动抗争得来的。
最后，在《信息崇拜》中有一句话，人工智能的研究进行下意识的自我吹嘘的原因十分简单，大量的资金注入了这项研究。罗斯扎克说的话提醒我们，讨论机器人是不是人、主体、语言这些东西，不如关心一下AI对于劳动人民的冲击。我们会发现技术的冲击已经对于每个人的生活都产生了非常重要的影响，因此值得我们每个人关注它，去思考它，才可能真正的既不会让未来的AI社会变成机器的敌托邦，也不会变成机器的乌托邦，而是要走出一条介于乌托邦和敌托邦之间的路。
以上内容是我的分享，谢谢大家！（完）
扫描下方二维码
可观看直播回放
未来终将来临
如果您没有能力想象后天
就一定会活在被别人定义好的未来之中
失去对未来的思考力
就是丧失对未来的掌控力
没有能力想象未来
就没有能力为即将到来的未来做好准备
投票评选
（如果有不同的问题，可以在评论区留言）
——END——
苇草智酷简介——
苇草智酷（全称：北京苇草智酷科技文化有限公司）是由长期从事互联网前沿思想、人文、科技和投资领域的专家所组成一个的思想者社群组织，其前身是已运营5年的互联网思想者社区—网络智酷。
苇草智酷秉承“让天下思想者连接起来”、“让思想流动起来”、“让思想直立行走”的主旨和愿景，在泛互联网思想领域中，立足全球视野，感知时代脉搏，聚焦思想前沿。
苇草智酷好文推荐