文艺批评 | 吴子枫：“后人类时代”还是“前人类时代”？ ——由人工智能讨论引发的思考

点击上方蓝字，关注文艺批评

编者按

2018年11月26日，中国学者贺建奎在香港通过国际媒体发布“基因编辑婴儿在中国出生”的消息，受到全球关注并引发巨大争议。本文写于2016年，由一次关于“人工智能与后人类时代”小型讨论会上的发言修改而成，此次推送为作者2018年12月20日最新修改版，仅以此文为反思这一件事件提供一种参照。在作者看来，生物技术相较于人工智能更可能使我们走向一个“后人类时代”，问题关键在于前者是在“主体”的意义上改变人。从“生命政治”层面而言，它涉及到社会治理或统治方式的改变，人这种“主体”本身的生产在这里被纳入到资本主义生产体系里了，这才是最危险的。而跳脱出具体争论之外，令我们担忧的与其说是那些技术的新发展或由新技术带来的新事物，不如说是那些技术在使用上的“失控”。这种“失控”的根本在于我们还没有建立真正有效的社会组织形式，在此意义上，我们实际上又一直处于并且目前仍然处于“前人类时代”。但毫无疑问的是，每一次科学技术的发展，都必然会提供一种新的生产关系优先性的形式，从而提供改造社会组织形式的新的可能性。如何从思考这种新的优先性的形式出发，去构想并改造我们的社会关系，这是创造人类更好未来的关键所在。

     感谢作者吴子枫、保马公众号授权文艺批评转载！本文为2018年12月20日作者最新修订版。

大时代呼唤真的批评家

吴子枫

“后人类时代”还是“前人类时代”？

由人工智能讨论引发的思考

自从“阿尔法狗”战胜围棋世界冠军以来，关于人工智能的话题就越来越热，有人提出，我们是不是进入了一个“后人类时代”。把“人工智能”与“后人类时代”联系起来展开讨论，有个预设的前提，就是人工智能已经达到了一个临界点，这个临界点把人类历史一分为二：一个是人类时代，一个是后人类时代。但是我的疑问是，这个判断的根据在哪里？从图灵机以来，人工智能就一直在不断地发展，实际上早在1988年，电脑“深思”就击败了丹麦国际象棋特级大师拉尔森。但当时大家觉得象棋太简单，认为这并不能说明电脑比人厉害。而如今“阿尔法狗”战胜围棋世界冠军，围棋作为唯一一种“电脑”下不过人类的棋类被拿下，人们仿佛突然对自己失去了信心，开始为人类未来在人工智能面前可能处于弱势地位甚至被统治地位而担忧起来，好像我们突然就要进入一个后人类时代了。但我个人觉得，如果有什么技术让我们可能走向一个“后人类时代”的话，它不是以“阿尔法狗”为代表的人工智能，而是生物技术，是与整个现代生物技术相关联的生命政治。所以我觉得真正值得担忧的，不是“阿尔法狗”战胜围棋冠军这种人工智能，相反，这种人工智能作为一种新的生产力，越发展越好。真正值得我们担忧的是基因工程一类的生物技术。人工智能虽然在技术上、在处理大数据上有很大的进步，而且存在着无限的潜力，但它毕竟是在人的外部改造世界。而生物技术则不然，它直接从内部改造人本身，甚至创造一种“新人类”。作为人文学者，我们其实也无法直接讨论生物技术，而只能把生物技术放到“生命政治”中来谈，因为它涉及到社会治理或统治方式的改变。人这种“主体”本身的生产在这里被纳入到资本主义生产体系里了，这才是最危险的。

人工智能说到底，是在用计算、大数据等手段在人的外部模仿人，而生物技术则是在人的内部改造人，创造某种“新人”。同样是用科学技术，人工智能最多是从外部延伸人的某些器官或增强人体的某些功能，但从人是有情感有欲望有价值倾向的政治动物来说，机器人永远不可能变成人，也就永远不可能变成“主体”。有时候人们会觉得随着计算机这种东西越来越厉害，最后会变成某种能取代人类的新人，这一点我有不同的看法。我认为我们一切因为机器人越来越“像”人从而可能会变得与真人一样的幻觉，都来自于我们将自己的情感和欲望向我们外部那个空洞冰冷的机器的投射。这纯粹是因为我们还没有摆脱古老的“拟人论”思维。关于这种拟人论，我们还可以举一个翻译上的小例子，比如computer本来的意思是machine that computes, machine that processes data，也就是进行计算的机器或处理数据的机器，但是我们现在很多时候不是把它翻译为“计算机”，即“进行计算的机器”，而是把它翻译为“电脑”。这样一来，这里的“机器”就被拟人化为“人脑”，只不过动力不一样，它的动力是“电”。这种译法本身就反映了我们在以拟人论的方式看待计算机。不管怎么说，以计算机为基础的人工智能，无论如何发展，都仍然是一种机器。而正如马克思所说的，机器不是经济范畴，正像拉犁的牛不是经济范畴一样。利用机器的方式和机器本身完全是两码事。火药可以用来伤害一个人，也可以用来医治创伤。由机器或技术的发展而带来的所谓的“危机”或“威胁”，完全是外在于机器或技术的。

但生物技术就不一样了，现代生物技术是从内部，从人最基本的有机组织或结构方面来改变人，比如基因编辑或改写。这样一来，实际上生物技术就不再是创造外在于“人”这种“主体”的机器，而是在改造“人”这种“主体”本身。它将不是在工具的意义上改变我们的世界，而是在“主体”的意义上改变我们自己。而且这个过程一旦发生，将是不可逆的。我觉得如果有什么“后人类时代”的话，这才是可能构成“后人类时代”的主要因素。

但是归根到底，无论是完全“像”人的智能机器人，还是利用生物技术创造的超越现有人类的“新人”，都还没有发生（但2018年11月26日，人们在惊恐中得知第一例基因编辑人在中国诞生了。——作者2018年11月27日补注），那我们为什么对这些事情如此担忧呢？如果说它们对人类有什么威胁的话，那也不会比核武器、比原子弹更具有威胁性。我们为什么要格外对它们表示担忧呢？在我们很多人早已经把核武器刚面世时所带来的恐惧忘得一干二净的时候，却因“阿尔法狗”战胜围棋世界冠军而对未来世界表示担忧，其逻辑何在呢？实际上无论是核技术也好，人工智能也好，生物技术也好，当然还可以包括更早出现的刀剑与锄头之类的工具，我们之所以要对它们表现担忧，唯一的逻辑就是，我们担忧的与其说是那些技术的新发展或由新技术带来的新事物，不如说是那些技术在使用上的“失控”，那些新事物本身的“失控”。这里所说的“失控”当然不是指无人机坠毁、无人车撞人的那种由技术本身的缺陷带来的“失控”，因为这种“失控”不是因为人工智能太发达，而是因为人工智能还不够发达所造成的。这里所担忧的“失控”，是指人类对技术使用的“失控”。可是假如这一切技术的使用都能取决于人类自己，又为什么会“失控”呢？

所以问题的根本还不在于作为技术和作为新生事物的那些东西本身，而在于我们对“人类”自己没有把握，在于我们对现有的人类社会组织形式没有把握。说白了，“人类”作为一个种类，还不是一个可以决定自己会做什么、能做什么的“类主体”，或者说根本还不存在一个统一的“人类”或“人类的意志”。所以真正的问题不在于人工智能，也不在于生物技术，不在于它们太发达了，这些都处于马克思主义传统归之为“生产力”的范畴，真正的问题在于“生产关系”这边，因为正是生产关系本身，决定着生产力发挥功能的方式和后果。就当前的人工智能和生物技术来说，令人担忧的不是科学技术过于发达，而是资本主义生产关系及与之相应的统治关系的存在，使有些人可能不顾“人类”的整体利益，把科学技术变成纯粹谋利的手段，甚至变成直接的统治手段（从基因层面控制“人”的生产），从而把对科学技术的开发和运用引上“邪路”。在这个意义上，“人类”作为一个统一的“物种”，还处于“史前期”。这才是“人类”真正值得担忧的地方，因为“人类”还没有形成真正的“命运共同体”。用马克思主义的话说，人类历史还没有超越阶级斗争的历史。而只要还有剥削和压迫存在，只要“人类”在事实上还分为各阶级，任何科学技术的进步都可能威胁“人”本身。所以当我们用“人”或“人类”这个抽象的概念时，实际上就掩盖了问题的根本：问题不在于人工智能或科学技术的当代发展超出我们的想象，而在于我们还没有建立真正有效的社会组织形式。换句话说，我们之所以对迅猛发展的科学技术感到担忧，不是因为我们处于或即将进入“后人类时代”，而是因为我们实际上一直处于并且目前仍然处于“前人类时代”：我们还没有进入真正的“人类时代”。

卡尔·马克思

如果我们今天所讨论的人文精神（新人文精神）不想陷入九十年代人文精神讨论的那种道德主义，如果我们今天所讨论的人文精神不想成为一种与科学技术相对立的“精神上的浪漫主义”（用诸如人文关怀啊、对自然和生命的敬畏啊之类的词语来表达对科学技术发展的担忧），那么我们就应该重新把我们的讨论置入马克思主义关于生产力和生产关系的论述框架中来。对于人文精神来说，重要的不是对科学技术本身表示担忧，而是站好自己的岗，把对社会结构、社会组织形式，总之对生产关系方面的变革，当作我们工作的重心。我们的科技工作者们太努力太成功了，科学技术日新月异，我们人文学者应该做的，不是在这方面对他们进行谴责，或仅仅在技术层面上向他们“叫停”，而是要用我们在自己的岗位上所取得的成果（即对当前社会生产关系——它是科学知识得以生产、科学技术得以应用的社会前提——的反思），贡献于他们面前，让他们时刻意识到自己所取得的一切成果，都必须在当前具体的社会政治层面上进行重新评价，也就是时刻警惕自己知识生产的社会政治后果。因为说到底，只有在人类不被强行分裂为不同的阶级时，才有可能在一个物种的意义上成为“主体”，也就是说，只有当整个人类的绝大多数、只有当人民群众成为掌握科学技术的“主体”时，科学技术的发达才是能增加人类福祉的“进步”。马克思曾说，共产主义的实现要以物质极大丰富为前提，我们可以稍微修改一下说，共产主义的实现要建立在科学技术高度发达的基础上。所以在我们的时代，反动的不是科学技术，而是现有的生产关系和社会组织形式。但现有的生产关系本身既是历史的产物，又是现阶段各阶级斗争的产物。所以我们的人文精神不是要以浪漫化的“精神”去谴责现代工业和科学技术的“无情”，把现阶段人们精神生活的匮乏、人与人之间关系的冷漠，归咎为科学技术的“冰冷”，我们的人文精神是要从决定社会生产关系的复杂历史与具体现实出发，去认识当前的世界，从而参与到对它的改造当中去。一旦社会生产关系、也就是人与人之间的关系得到了改变，一旦人类社会真的变成一个人人平等的“自由人联合体”，我们今天的科学技术，无论是人工智能，还是生物技术，就都会变成人类认识大小宇宙、创造新世界、造福人类本身的强大手段。目前可惜且可叹的是，科学工作者的想象力远远超出了人文工作者的想象力，甚至人文工作者的想象力，也仅仅表现在科学技术方面。就拿这些年来影响巨大的科幻小说（比如《三体》等）来说，对未来的超凡想象，都表现在科学技术上，而丝毫没有表现在社会组织形式上；仿佛“历史”只表现为科学技术的不断发达，而唯独与社会组织形式的变化毫无关系；仿佛人类的“未来”，会在科学技术上进入“后人类时代”，而在人与人之间的关系上却永远处于“前人类时代”。我觉得我们时代这种“跛足”的想象力，只不过证明我们人文工作者远远落后于时代。

《三体》

把我们的讨论重新置入马克思主义关于生产力和生产关系的论述框架中，还意味着我们必须讨论科学技术本身对生产方式和生产关系的影响。马克思在《哲学的贫困》中曾说：与水推磨相应的是封建制度，与蒸汽机相应的是资本主义。这种观点虽然在后来被阿尔都塞批为是黑格尔唯心主义的残余，但我们不得不承认，马克思整个关于资本主义社会形态的论述，实际上包含了他关于资本主义生产技术和生产工具对资本主义社会生产关系影响的思考。机器大生产与劳动分工，机器大生产与无产阶级的处境等等，其实都包含着技术和生产工具影响劳动形式、生产力影响生产关系的议题。从这个方面来说，由于马克思没有预见过人工智能，也无法想象现代生物技术的发达，所以我们可以设想一下，如果马克思活到今天，他会如何来看待这些技术或生产力形式对劳动形式、对生产关系的影响？无论如何，我还是同意马克思本人的观点，他曾经说过，由机器或技术引发的一些社会矛盾和对抗，不是从机器本身产生的，而是从机器的资本主义应用产生的。“因为机器就其本身来说缩短劳动时间，而它的资本主义应用延长工作日；因为机器本身减轻劳动，而它的资本主义应用提高劳动强度；因为机器本身是人对自然力的胜利，而它的资本主义应用使人受自然力奴役；因为机器本身增加生产者的财富，而它的资本主义应用使生产者变成需要救济的贫民。”我觉得完全可以把这里的“机器”一词换成“人工智能”。

《哲学的贫困》

我很赞同王洪喆的观点，我们文人学者讨论人工智能，不能从纯技术的角度，而应该从技术路线斗争的角度来展开。我认为讨论人工智能和技术问题时，应该同时反对两种倾向，两种浪漫主义：即一方面要反对唯科学技术论、唯生产力决定论——这是工业党的观点，这种观点相信科学技术的发展可以自动地带来一个美好的世界（这是科学浪漫主义）；另一方面也要反对对科学技术的浪漫主义批判，这种观点把科学技术的进步本身当作是社会危机的源头。我觉得我们需要在欢迎和支持科学技术发展的同时，强调技术路线对技术本身的优先性，强调生产关系对生产力的优先性，也就是强调生产关系的变革对生产力发展的优先性。

阿尔都塞曾提出过一个特别重要的论点：“在构成了某种生产方式的生产力和生产关系的特定统一体中，是生产关系在现有生产力的基础上并在其规定的客观限度内起决定作用。” 如果不承认这个论点，就必定会陷入“生产力决定论”，也就是陷入历史“宿命论”。所以强调这种优先性，就是强调革命的主动性和必要性，因为马克思早就说过，革命才是历史的火车头。这并不是说生产力或科学技术的发展不重要，而是说其实每一次科学技术的新发展，都提供了一个新的平台和前提，使我们能够进入到其内部，结合它的发展来强调生产关系对生产力的配置和安排。当然阿尔都塞也说，不能无条件地，而只能在现有客观生产力的限度内强调生产关系的优先性，否则就成了唯意志论了。但毫无疑问，每一次科学技术的发展，都必然会提供一种新的生产关系优先性的形式，从而提供改造社会组织形式的新的可能性。如何从思考这种新的优先性的形式出发，去构想并改造我们的社会关系，是我们能否进入真正的“人类时代”的关键。

路易斯·阿尔都塞

正如斯塔夫里阿诺斯所说，“社会变革滞后于技术变革一直是人类许多灾难的根源”。而如果我们从长时段的人类史或全球通史的角度来看今天人们所谓的“后人类时代”，就会发现，我们今天需要的，不是一场科学技术上的“反-革命”，而是一场社会组织形式和社会生产关系的变革或政治革命。在我看来，我们应该像霍布斯鲍姆总结“革命的年代”（1789-1848年）那样，从“双元革命”（斯塔夫里阿诺斯在描绘相似历史阶段时所谓的“三大革命”，实际上也可以概括为“双元革命”）的角度来把握我们正在经历的历史：两百年前的那段“革命的年代”，一场与科学革命携手而至的工业革命迫使人们不得不来一场政治革命（资产阶级革命），而今天更激进的科技革命，也迫使人们必须进行一场更彻底的政治革命，即破除资本主义社会赖以存在的资产阶级法权的革命。

当赫拉利在《在未来简史》中预言，第一次工业革命创造了一个“无产阶级”，而第二次认知革命将创造一个“无用阶级”时，他只看到了我们时代“双元革命”中的一面。因为仿照霍布斯鲍姆对“革命的年代”所作的概括，我们可以说，人类今天同样处于“双元革命”的时代：即一方面我们正在经历新一轮的科学技术革命（斯塔夫里阿诺斯称之为“第二次工业革命”，赫拉利称之为“第二次认知革命”），另一方面，我们又早就处于由“十月革命”和“中国革命”所开启的“政治革命”进程中了，而后者的源头可以追溯至霍布斯鲍姆所描绘的那个“革命的年代”的最后一年，也就《共产党宣言》发表的1848年。如果我们不想无聊地追随每当社会发生危机时就会流行起来的“末世论”，就必须为这场依然还在序幕中的政治革命做好准备，因为真正的“人类时代”只能从这里开始！

（本文由一次关于“人工智能与后人类时代”小型讨论会上的发言修改而成，感谢参与讨论的冯象、戴锦华、罗岗、利求同、赵柔柔、王东宾、王洪喆、王行坤诸位师友的启发。）

2016年9月25日

明日推送

金观涛：真假不分的世界里，人正在沦为聪明的“动物”

或许你还想看

编辑 | 文科

图源 | 网络

微信号：Wenyipiping

微博号：文艺批评Wenyipiping

IPHONE用户

由此赞赏