杨庆祥 叶李 陈溪 等：今天，我们如何想象“AI” ——人文主义者的一场对谈

点击上方蓝字 关注写作杂志

主办单位：武汉大学

出版单位：《写作》编辑部

出版周期：双月

地       址：湖北省武汉市武昌区珞珈山

邮政编码：430072

电       话：[phone]

电子信箱：[e-mail]

      今天，人工智能已经不是科幻小说里在遥远的未来才能兑现的想象，而是既不断地在技术领域阔步发展，又势不可挡地渗入到我们的现实生活之中。信奉技术改变带来人类更好的生活的乐观技术派寄望人工智能以技术智慧的补充来实现人类对于自身局限性的超越，释放强大的解放人类的动能，而人文主义者却无法沉浸于理想主义的期待，频频瞻望技术与生命伦理之间的冲突，思考生命形式发生变化的可能以及这种可能对于人类长久以来形成的稳定的伦理秩序、生活图景的颠覆。当人类的主体性受到挑战，世界将会怎样？技术带来的人类生存境遇的巨变是否会将“万物的灵长”置于前所未有的系统性风险当中？文学与艺术、人类表达自身的艺术形式与作为我们存在的家园的语言又将走向何处？变化正在发生，未来的消息已经影影绰绰地伏藏于当下的生活之中，越来越多的人文主义者已经清醒地意识到，机器、算法、人工智能、数码技术，凡此种种并非纯然只是科学家与技术工作者应当面对的任务与主题，也是人文思想者必须介入的“问题”——如果发展主义走向“技术偏至论”，人文知识分子的省思则有可能成为清醒剂。毕竟技术由人所造，为了人，也改变人，关于人的事情，无论技术派还是人文主义者都没有理由置身事外。2021年4月24日，中国人民大学文学院杨庆祥教授应邀在武汉大学文学院演讲，主题为《AI是新人吗？——一个人文主义者的 AI想象》，讲座内容曾刊发于《长江文艺》2020年 10月上旬刊。在讲座中，杨庆祥教授阐述了他作为一个人文主义者在新时代对AI 的理解和想象，而这种理解与想象与其说是给出答案，不如说是抛出了问题——如果AI时代的到来让人们猝不及防，人类会遭遇怎样的心灵冲击？对AI的想象是否该落脚到对人类社会的忧思之上？杨庆祥与文学院师生围绕讲座涉及的话题展开了精彩对谈。参与者主要有叶李副教授、朴婕副教授、陈溪老师、李建鹏老师等，对谈由武汉大学文学院萧映教授主持。

      萧映：在刚刚听你的分享的时候，我做了一些笔记，把我自己特别关注的且在你的演讲中得到印证的三句话，都打上了着重号。我把这三句话分享一下。

      第一个，就是你在谈到小冰诗的时候，我有这样的描述，就是“最后的人和最初的诗”。刚才你说的是“最后的人和最初的新人”，所以在这一点上，我跟你有一些共同的想象。

      第二个，你谈到你是一个人文方面的悲观派，实际上我一直也是这样的。我经常跟我的学生讲，我就是一个悲观主义者，但是了解我的学生都知道，我在生活中还是一个非常热情的、有理想的人，我认为自己是这样的一位老师。但是为什么我觉得我跟你还是有一点像？就是我“恐惧”，这个“恐惧”不是我们平常意义上所说的我担心、我害怕，而是真实的恐惧。所以从这一点上来讲，我们在人文的想象方面还是有较多的思考。

      第三个，就是你关于 AI 格化和人格化的思考。我觉得人格化本身是一个不确定的问题，而如果说人格化本身不确定的话，异化又该如何去确定呢？所以在这个问题上我打了一个问号，也是希望就这个问题会有更多的交流。

      好，我以主持人的身份先行做了简单交流，下面的时间就交给大家。

一、人文知识者对AI的乐观想象

      陈溪：杨老师今天讲座中的观点让我受益匪浅，这也是我本人一直很感兴趣的一个学术主 题。我注意到您在讲座介绍和导入语中，其实都在有意地淡化学者身份，或者说您在有意地突出自己看待这个主题时的多重身份，即：学者、作家、读者和人文主义思考者的综合。如果我没有完全理解错的话，这背后隐含了对于人工智能潜在影响甚至撼动我们的生活、思想根基性的审慎和 担忧。科幻文学不是我的研究领域，我可能没有什么发言权，但我确实对它有持续不断的探索式好奇，我也有和杨老师感同身受的一种恐惧与防备，比如现阶段下AI对我们、尤其对于一些年轻学生们的工具化思维的加剧，还有在不同社会群体中加剧分裂的可能性等等。但是我也经常会在脑海中就这个问题展开和自己的戏剧性对话，就是我也会经常反问：在什么意义上，我们可以说AI形成了一个真正具有主体意识的、和我们构成思想对抗的敌方？实际上杨老师刚才也提 到，AI 到底能不能够逐渐建构起所谓的主体意识和独立认知，将来对人类实现全面掌控，这还是一个尚待论证的问题。

       杨庆祥：对。

       陈溪：所以在这样的反问和求证下，我有时会思考：可不可以说AI其实更是人文主义的规训物呢？既然人文主义可以在其知识秩序中规训很多东西，为什么就不会包括规训人类自身生产并让其越来越遵循人类需要和生活规则？我觉得最典型的一种诘问可以是您今天重点谈到的AI文学创作。毋庸置疑，AI在诸如计算、画图、信息甚至下棋这些能力上已经将我们“征服”，但在情感和语言的处理方面好像一直是难以超越人类的，而“文学AI”的出现和不断升级似乎使我们受到了智性身份的终极挑战和重创。但从我个人角度来说，我一直没有能够真正感受这其中所谓的“危机”。

      您刚才提到了AI之父——图灵，关于图灵实验及其思考方式后来也出现了多种争议和反驳意见，比如著名的“中文房间”的质疑。而至今我们定义和判断AI是否“成功地”处理和运用语言的行为，还是只限于从语言作为一种逻辑结果和现象的角度来评判。也就是说，我们通常只关注AI如何作为一个语言形式和结果的产出者，而不是关注其对一种语言的真正理解和把握。就像“中文房间”假设中，从房间里不断递出了正确的中文符号卡片，看上去这个房间里的人应该是掌握了中文的，但实际情况可能是他对中文一窍不通，全靠手里的一本中外文字典和足够的时间来营造了这个假象。但我们知道，语言对于我们的真正意义，不仅仅是我能够在任意对话或写作场所中给出正确合宜的结果，而更是我任何时候都能理解我是如何及为什么这样给出的。所以无论是对于图灵实验的挑战，还是从文学创作的层面探讨AI危机的问题，我觉得更重要的都应该是去反问，AI任何时候都能理解它为何这样写？它们也许能够写出连我们都“雌雄莫辨”的非自然“诗”，但它们能像普通读者、文学作家和文学评论家们一样理解自己写的诗或其它文学作品吗？目前为止AI好像还做不到，它可以写出仿真的诗，但它不太可能写出足以迷乱我们判断的文学评论，在这方面它们应该 会很容易暴露拙劣。况且，AI创作的一切艺术标准和文学标准目前还是依赖人类来确定，AI并未在真正意义上掌握艺术标准的语言游戏规则。如果说将来有一天AI实现了艺术标准的生成，那从根本上来说，也是人类甘愿将话语权交给AI，甘愿选择将艺术规则“奴性化”。 

      另外，您好像提到诺斯替教，我以前也想过AI主体是“善神”还是“恶神”的问题。如果AI的危 机根源是来自于它与人类的渐近和类似，那么假设它成为一个“恶神”，那只能更证明和显现了“我” 本来的人性之恶——两种德穆革的相互戏弄与恶德游戏而已。而假设新生 AI主体是个超我之上 的“善神”，那么我就更不用担心了，因为作为一个肖似“我”而全面优于“我”的神，他一定比“我”要 更智慧、理性和仁慈，我凭什么武断认定他只会伤害和奴役我，而不是保护和引领我呢？由 AI与我们的逐渐相似而诞生的恐惧，原由根基到底在哪里呢？如果他和我越来越接近，结果也就是越来越成为我身边现在坐着的这些有意识的主体，那杨老师现在就坐在我的身边演讲，我应该感到害怕 吗？如果站在人类史的视角上，也许我应该感到害怕，人对人的伤害性可比AI对人的伤害性可怕多了。 

     杨庆祥：但是你旁边坐的老师他可能是一个AI。 

     陈溪：对，但是如果他真是有主体性的 AI，我反倒不怕他。我思考得更多的是：其实人类自己在多大程度上向往 AI这样一种智慧结构，是我们不得不、还是我们甘愿？您刚才谈到主奴关系危机，但正如黑格尔所说，有时候正是恶的存在才更会激发更大的善，如果它真的具备主体性，那它一 定也会被置于这样的辩证关系中。黑格尔还谈到主奴的关系有时是颠倒过来的，所以我觉得这个问题是不是最后就变成了：人类在多大程度上愿意让这样一个具有所谓的最高智慧的AI来统领我们，这最终还是人类的一个选择。

      杨庆祥：我刚才讲的可能是一个人文主义者的激进想象，我们用主人的姿态自居时确实不用考 虑刚才那些问题，但是我觉得凡事都会有一个临界点，这个临界点是处在想象之中的，一旦过了这个临界点，所有“主人”的思维就不再适用于AI了。我不知道什么时候会到达这个临界点，不知道 AI“I格化”在什么时候会出现。当然这些情况也可能永远都不会出现，是我们自己在吓唬自己。因为我们知道人类所谓的例外状态、所谓的非常态，是我们自己在制造一个他者来戏弄或者吓唬自己，当然人类活在这样一个二元关系里面，也会创造、生发出很多新的东西。

二、面对AI：人类的恐惧与警惕 

     李建鹏：顺着陈老师的发言，我作为一个坐在陈老师旁边的“有整体意识的 AI”发表一些自己的感想。我也比较认同陈溪老师的观点，我们要警惕将AI神格化，有点像《圣经》里的撒玛利亚人去夺回他自己的神。比如近期出现的质疑文科价值的“文科无用论”，实际上也为我们敲响了警钟，从长远来说，需要提防极端情况的出现，即一些人可能真的自甘为AI的忠实信徒，匍匐于强大的技术或机器之下，愿意把自己的主体意识交给AI。现在很多科幻的剧，像《黑镜》《疑犯追踪》都投射了部分人的这种相似的情结。有一部分人标举自我要做一个解放者，就是自诩为撒玛利亚人，然后想把自己的本格去交给 AI，把AI神格化，我觉得这个是我们要警惕的。但是我也觉得陈老师的观 点有一定道理，我们制造AI就像打开了一个潘多拉魔盒，不知道这里边是好是坏，即使将我们整个人类历史往后推百年、千年甚至更久远之后，我们也不敢完全确定被打开的东西到底是好还是坏。我也不敢说自己是一个乐观主义者或者悲观主义者，我就是想像游牧民族一样去畅想自己，去拥抱 那种不确定性。像您说的，可能AI会有主体意识的那一天，也可能那一天永远不会到来，只是我们杞人忧天，但是这个可能会到来的一天，确实是比较令人害怕的。可能在我睡醒之后的第二天，我的手机，我的小爱同学它就已经有了主体意识，然后…… 

     杨庆祥：它背叛你，对吧？就像卡夫卡所写的早上起来变成甲虫。我觉得李老师说的两点挺有意思的，第一点就是AI拜物教，其实在某种意义上，我们现在都受到了 AI拜物教的影响，我们会把自己的意识交出来，交给AI。所以我提出了一个观点，就是人越来越AI化，机器越来越人化，我们把人作为属人的一部分权力交给人工智能、交给机器人、交给手机了。比如我们使用高德导航，是因为我们不想自己来认路找路，只想跟着导航走，这其实就是让渡了自己的权力。另一点，我们知道施米特提出了非常有意思的观点——文化游击战。如果有一天真的出现 AI和人类的交互关系的时候，我们还可以“上山打游击”。所以我一直想写一篇文章《论当前文化的症候以及游击战的重 要性》，这个“游击战”只是借用了毛泽东的游击战概念，但实际上是另外一种文化层面上的游击战。我在去年写的文章《“黄金时代”备忘录》里面，就谈到在目前的语境里面，所有的维度都勾连起来了，学术的、资本的、官僚的，各个维度的权力勾结起来，形成了一个天网。怎么破解天网？目前看 来阵地战是不行的，文化的游击战才是可行的、才是最好的办法。我们都是“神枪手”，打一下换一个地方，这是非常重要的一个战略。在高峰资本主义时代应该实行怎样的文化战略，其实是值得我们作为人文主义者去深入思考的。

      学生：杨老师您好，我是20级比较文学硕士。刚刚陈溪老师提到，我们造就的AI可能是一个善神，不一定会给我们的生活带来恶的侵袭。您在讲座里也谈到，动物园是一个非人的、残酷的 装置，但是我认为 AI有可能把人类放置进“动物园”。比如《黑客帝国》里，人类是由背后的 Matrix 所统治，但是人类并不知情。因为人类和机器人的大战已发生在很久之前，他们这些人类生于这 场战争之后，因此并不知这个时代之前最后的人类是怎样销声匿迹的，而是作为被统治的新人降生在世界上。我们这一代还在探讨现代性反思，但可能从我们的下一代开始，自出生起就无时无刻不被智能设备环绕，他们只会认为智能设备很便捷。到那个时候，内卷可能不会成为他们的焦虑，因为从他们的父辈开始就是这样的生态秩序，并且已经接受了这种残酷。当他们将其视为自己的日常，就不会认为这是一种残酷。所以我想，这可能不是我们正在研究讨论的进程，而是一个逐渐消失的话题。

     另外，在《黑客帝国》的结局中，最后打败机器人的不是人类，人类基本上无力反抗，打败它的其实是代码里的bug，是 Smith做了一个bug打败了它。Smith更像是将所有的规则、所有的面孔的差异全部抹平，把所有差异都标准化，因为 Smith 是一个增值，它只要接触了 Matrix 里面的任何一个人，就会变得与它一模一样。从这个角度反看，Matrix还挺有人性的，它至少保留了不同人的差异，让我们还能够在自己的幻梦中沉醉下去，而不至于让所有的人都被这个系统规训成一模一样的Smith。在这个立意上，智械之争可能不是内斗，人类在其中起怎样的作用还有待观察。人类可能只是隔岸观火而已。

     杨庆祥：这位同学说的非常好。他的第一个问题谈到了景观设计，我们知道居伊·德波在1960年代写了《景观社会》，后来又写了《景观社会评论》。此后，居伊·德波变成了一个彻底的悲观主义者，认为人类没有办法超越自己的语境或三维的情境设置来破解当时他认为的秩序，所以最后居伊·德波选择了自杀。现在，我们作为人文知识者，仅能依靠想象力来提出这些构想，可能这些构想在未来的人类那里不过是家常便饭了。那么在这个时候，这些人类就变成了萨特笔下的序列。萨特说，人在设计的语境里是一个序列。在某一个时刻，一个人突然意识到，“哎，我怎么能成为一个序列呢？”于是人类开始反抗。萨特举了攻打巴士底狱的例子。当时没有任何人想到攻打巴士底狱，但突然在人群中有个人大喊一声，“我们去攻打巴士底狱吧！”他说，这个时候序列就变成了主体。但是，萨特认为这是一种循环，这个主体又会消失在这个胜利的语境里，就如鲁迅所说，“革命、革革命、革革革命”。萨特的哲学虽然带有一点悲观主义的色彩，但实际上他强调选择的力量。人可以选择做一个序列，也可以选择做那个突然在虚无里发出声音的人。“选择”让序列开始有主导型，无数个这样的主体会构建新的秩序。但是历史的齿轮和历史的幽灵会在什么时候出现呢？我们是无从知道的。然后你讲的第二个观点也非常有意思，你对《黑客帝国》很熟，这可真是遥远的记忆了。人类可能就是上帝的一个诡计吧，可能他们现在正看着我们，嘲笑这帮傻瓜太逗了，居然还在讨论这个问题。所以人要有自我解嘲的能力，我觉得要经常嘲笑一下自己。

     朴婕：杨老师的讲座带给我的一点思考，是启发我注意到，人类对于 AI的恐惧，与人对他人的恐惧有所相似。今天讲座开始时，您说到您有“间歇性人类厌倦症”，我当时产生了一个疑问：到底我们厌倦的是“人”，还是“类”？事实上，如果我们和一个具体的人接触，了解了这个人的习性和趣味，发现这是个普通人，一般不会对这个人产生负面情绪。但在笼统地讨论“人类”时，我们会想象一群没有面目的群体，他们没有个性、情感、思维，就是混沌的一团。我们因此而厌倦、乃至恐惧他们。我想我们对于AI的恐惧，很大程度上就是因为把AI假想成了不可具体化的“类”。但我想，这反映出的是人类思维的一些惯性，就是我们作为一个一个的个体，自以为自己是有主体的人，却把其他的人作为一个类存在来看待。我们在不了解他人时，把他们作为非理性的类存在看待，而保持距离；同样，我们把AI看作不可理解的，而有所排斥。反过来，当我们想要和AI亲和时，我们会赋予AI以人的形象。比如您提到能够进行诗歌写作的 AI，被赋予了“小冰”等形象，这意味着我们以接受一个具体的人的方式，来接受AI。

     如果只是在这个层面上说，我们对AI的恐惧还有点非理性。问题是对于AI的恐惧非常有条理，仿佛AI的逻辑就是要从非常具体的方方面面抹消人的个性。于是我进一步在想，这个恐惧还有另一方面，就是恐惧我们自身的类化，而AI正提示了我们自身正在被类化。碰巧今天您和李建鹏老师都提到，最近吵得很凶的“文科误国论”。大家说这件事时，多数是将“文科”等同于“人文学科”，忽略了在普通人的习惯里，社会科学也是“文科”。曾经我以为人文和理工科的距离很远，思维方式差异应该最大；而社会科学毕竟都是“文科”，应该会和人文学科分享很多共识。前些日子我参加我校的跨学科论坛，各学院的学者在一起交流，才让我深刻意识到人文和社科的差异甚至大于人文和理工的差异，因为理工主要作用于物，和人文学科不直接发生冲突；而人文与社科都面对“人”， 对“人”的态度却大不相同。很多社会科学的研究方法乃至研究目的，就是将人数据化——比如我 们现在很流行“大数据”，把人都化作各种信息——在这些语境里，人非常具体地被“类”化了。人类不是被笼统地看作混沌，而是被具体地切分为类——从这个角度说，“文科”就算不“误国”，也有些 “误”人。而AI正是现代智能发展到极致的表现，它基于将人进行类化后得出的数据而建立，也因此AI正是人被类化的标志，提醒每个人他们已然丧失了作为“人”的很多属性。因此我想，对AI的恐惧，体现出人类思维两方面的局限，或者说危机：一方面是人类将AI视为不可知的类，是对不可知的恐惧；另一方面是人类担心AI将自己类化，是对现代知识体系在异化人的恐惧。

      杨庆祥：嗯，朴老师说得特别好。刚才讲的有一点令我印象特别深刻，就是提到“人类厌倦症” 这个概念。我以前写过一首诗就叫《间歇性人类厌倦症》。我们现在寻找所谓的存在感，也许有个 极大的意识误区，就是我们已经主观性地把自己带入成一个有个性、有主体、有审美的个体，然后把 所有的他者划为一个类型，其实我们没有注意到他者的差异性和他者的个性化，我们对他者的理解 应该是理解一个一个具体的人，而不是去理解一个类，这样才能破解我们以自我为中心的个人本位意识。荣格在1930年代左右就提出了“常青理论”，它其实对应了歌德的“理论是灰色的，生命之树 常青”。“常青理论”提到了一个问题，就是怎样瓦解自我意识，荣格认为以自我为中心其实是我们痛苦、匮乏以及仇恨的根源。我们建立了一个不正确却又非常强大的自我意识，这种自我意识导致了 自我干涸、枯竭。当然他后来提出了一系列非常好的想法，我们可以借鉴：他将中国的《易经》提到了一个非常高的位置，要从《易经》的共识性角度去破解欧洲人的直线思维。但是他提出这个观点的前提是我们首先要有直线思维才可以借鉴东方的“心”。所以后来我在谈到中西文化的时候会去思考，中国这100年都是拿来主义吗？我认为这个观点需要修正。首先我们要作为一个东方人，一个中国人，才能够真正借鉴西方。我们现在都在被西方时间所控制，运动手表、列车刻度表，都是西方的时间体系，我们过去不用这个，用黄历，黄历是混沌的时间，没有那么精确。但是这也不是说要把西方的时间去掉，直接闭关锁国，这肯定是不行的。我们得承认这个西方世界，但是我们可以在 西方的时间内部去“扭曲”他们的世界，这种“扭曲”其实是一种再创造，我们重新创造出来一种既不完全西方的、也不完全东方的，而是一个属于我们此时此刻的当代中国应该拥有的时间和历史， 是我当时提出来的一个观点。

      叶李：刚才老师们谈到“他者”的差异性和个性化，我由此联想到一个问题。为什么我们要将第一部诗集的作者小冰，这样一个引起轰动效应的“AI”塑造为美少女形象，甚至为小冰辟出专门空间存放粉丝们赠送的各种礼物。这样的打造方式依稀可见与流行文化现代消费逻辑相适配的吸粉策略，仿佛今天打造流量明星一样，满足大众文化广泛认可的性别认知规范当中的文化心理，投射一般 、受众对于女性的性别认知和审美经验，迎合大张其道的文化潮流内在的意识结构。一方面我们对AI怀有恐惧，另外一方面，又投现代人的审美趣味、文化消费逻辑与心理安全诉求之偏好，设计了一个在人的世界里攻击性最小的人类形象——美少女——当然，不是美少女战士。她可爱，美丽，充满诗意，她写那么朦胧的现代诗，她可以承载各种审美想象——以一个最小攻击性的形象而实现最大的审美可能。但她又的确是AI，是一个可能凝结了我们深刻恐惧的“他者”——无论我们用怎样少攻击性而具审美性的形象去包装她都不能改变事实中潜藏的危险。诗意、审美的美少女形象与对具有不确定性的AI抱有的恐惧之间形成的张力在某种程度上构成了我们关于AI的想象的文化隐喻。

三、关于AI的文化想象与人文省思 

     叶李：听了杨老师的讲座，包括看杨老师《AI是新人吗——一个人文者的 AI想象》《与 AI角力 ——一份诗学与思想实验的提纲》等讨论人文主义者对于 AI的文化想象、后人类时代我们面临的人文处境、AI与当下诗歌写作的诗学问题、以AI为视角探讨诗歌之中如何重建“人”与世界之关联的几篇文章，颇受启发。从目前一些人文学者在探讨AI问题时，将人文主义立场融入科学想象的 论说里，我感觉存在这样一个思路，即关于 AI的想象其实成为了我们对于今天深陷现代性危机的人类必须面对的文化危机、生存挑战甚至伦理风险的深刻投射，就如杨老师刚才所说的“反射了我 们内心深处的恐惧”。关于AI的想象在某种意义上成为了参照物——当我们无法在现有的知识范 畴之中去充分地理解、完全准确地评估我们面对的危机、风险以及那种结构性的力量对我们的宰制，但又的确依据部分的事实或有限的证据感受到不断迫近的“惘惘的威胁”之际，对AI的想象就成为镜子或显示屏。我们的忧惧、对于可能会失控的世界、人类失掉对于自身和世界的立法权的时刻的来临的惶惑就投射于“AI”这个具体但又还在“成型”的过程之中的对象上，然后又在关于对象的“文化想象”中被显形，由此我们获得认清自身处境的可能——包括看清我们的恐惧和忧怖—— 如您刚才提到的，恐怖是一种规则，但它很隐蔽，关于AI的想象恰恰把它召唤了出来。从这个角度来看，当下我们关于AI的人文主义讨论，无论其内容、思路、视角与持乐观主义论调的技术至上主义者有怎样的歧异，仍然具有强烈的现实价值。另外，如果我们悬置涉及“AI”的强技术分析和硬核的科技逻辑的部分，将“AI”理解成依托于科学技术而能够逐渐在发展过程中形成自身逻辑、不断自我增殖、稳定运行并对人类社会的内在结构、关系网络、伦理秩序产生重要影响的特殊“力量”，对 AI 进行“降维”理解的话，我们使之“创生”时所抱有的期待和忧思，可能类似于我们今天对于“资本”“现代官僚体制”的理解与省察，毕竟我们曾经对后者寄予过期望，今天现代社会的繁荣以及有 效率的现代秩序的建立也不能不在相当程度上归功于它们强大的“动能”和“生产性”。 

     杨庆祥：是的，尤其是资本。 

     叶李：资本的膨胀与全球性流动、资本逻辑对于现实经济、社会结构的强势介入，现代官僚体制以及寄生于其间的政治权力都曾许诺并带来过伴随现代化进程而来的富足、物质充盈的展开更美好生活图景的“新世界”，同时，令人无法忽视且不断累积的系统性风险也在增加，强大的将人“非人化” 的异化力量也日益露出惊人的破坏性，价值规范的失序、伦理秩序的动摇和部分崩坏都使人对自身存在的合理性认知与根本信念经受前所未有的质疑。在某种意义上，我们对于AI的文化想象、基于社会政治学式的议题设置而产生的种种忧虑，内含将AI视为与前述“力量”类似之物的“精神起源”或 “运思方式”。这类“技术”“力量”“机制”“结构关系”一旦诞生于人类之手，就逐步发展为具有独立逻辑和在社会结构中凭借这套逻辑稳定运行不断自我演进甚至超出创造者有效控制能力及意志的“超系统”，反过来对人类的生活和人类社会的秩序产生控制力，形成对人的宰制。当AI成为超于我们自身控制能力的力量的时候，我们就会发现技术的创生物带来结构性的风险对人的深刻宰制——我们越是想在“唯发展主义是从”“更高更快更强”的价值标准下想过得更好，就越要更深地依赖于这种 “力量”以及由其造成的社会结构、发展模式、现代生活方式，而很难去摆脱它——即便意识到结构化的力量、缺乏有效伦理保障的技术“进步”造就的风险在人类命运的前途上投下阴影。

     另一个大胆的想法是，如果摆脱把AI与人类置于二元结构之中的想象，是不是会在所谓悲观的态度、乐观的态度之外获得另一种超越性的视角。假设不把AI想象成“他者”——甚至有一天能够发展出自主意识的另一具有主体性、与我们争夺世界控制权、颠倒人与人所创造之物的主奴关系的“他者”，而视为世界物种进化过程中的一个阶段，会不会有更加平静从容的态度。站在人类中心 主义的立场上看，今天的世界当然是一个由人类主宰的世界，但是从一个“上帝视角”来看，人类及人类社会可能就是整个世界物种演进中的一个环节。今天的人自原始物种进化而来，而这个变异与演进的过程远未结束。可能最后屹立于世界的不是作为“最后的人”的我们，也不是作为“最初的人”的“AI”，将来经由人的技术参与、而非自然的进化形成的乃是最后的人和最初的人结合的“新物种”。AI可能成为我们自然身体的一部分,靠我们自己的主体意识去融合，比如结合某种芯片，自然身体与非自然之物结合而成“第二自然”，造就了新物种。于是，人类相当于在一个发展过程中又走了一步，也可以将之理解为特殊的“进化”。这个未来图景，既不是乐观的，也不是悲观的，只是对于不以人类为中心的世界的演变来说，是阶段性的。 

     还有就是关于教育。刚才的讨论中有老师提到，今天AI已经可以写具有一定水准的诗歌和其它类型的文学作品以及新闻报道、纪实类文章，但不能写很好的文学评论。我的想法恰恰是，AI或许能够遵循一般的评论模式写出有质量的文学批评文章。一位批评家的理论资源、知识谱系往往有其内在的学理脉络和精神渊源，他能调用的知识和理论无论怎样广博还是有“有限性”，而批评路 数、阐释方式、语言风格的形成也有较稳定的思维结构、文化意识作为支撑，如果AI针对那些批评风格鲜明的评论家，就其思维结构、语言结构和知识资源做深度学习，我觉得应该能写出具备一定质量的批评文章。但是反过来，令人担忧的是，由于AI通过对典型性的知识文本的深度学习，然后推出比较标准的可复制性强的“样例”，可能会带来教育的AI化——以后不是AI向我们学习，而是 我们向AI去学习。AI提供了标准化、清晰、“规范”的各种知识模式，我们反而会习惯于向AI经过深度学习以后提供的标准样板学习、摹仿，排除掉人在知识讲授、传递中渗透的个性化因素和出乎 意料的“变量”，教育在依托智能化手段不断追逐标准化、高效化的过程里深度AI化，然后教育的AI化又和异于“最后之人”的“新人”的出现之间产生深刻的联动，于是新的危机又在生存图景中浮现 并激起新的恐惧。

      杨庆祥：叶老师说得特别好，尤其讲到教育AI化，现在基本已经是大趋势。但是我也在思考， 疫情以来的教育远程化会导致学生不能接受老师的全部，而只能接受老师的某个部分。其实只有当学生真实地去接触到一个老师，发现这个老师今天可能鼻炎打喷嚏或感冒流鼻涕了，学生才能感受到，这是一个活生生的人，他有体温、会生病。远程教学，实际上就是把一个活生生的人，把他所有的体温、气息、打喷嚏、流鼻涕等各种真实为人的属性都消除掉、格式化了，这是非常可怕的。

      叶李：所以，从对教育AI化的担忧出发，我觉得对我们今天依托于网络平台的提供示范性样板的课程模式在肯定其突破地缘差异、时空限制、实现资源共享方面的优势的同时，也应该持有一点校正性的认识。如果缺乏健全的认知，而一任课堂教学全部奔走在“E课堂化”、标准化的道路上， 将会带来不能忽视的损失。传统线下课堂授课过程中，老师的风度、气质、一颦一笑，包括课上与学生互动时的灵光乍现、灵感突发、旁逸斜出的妙语和发乎当时生命经验的真切感受都是他教授内容的一部分。可能一学期的课上完了，学生日后未必记得全部的知识点，但老师在课堂上展现的风度、神采、人格魅力会吸引学生去向往智慧或者真理，渴望在一个专业领域里继续游弋，这全是重要 的“教学效果”，它来自于契合生命律动的精神激发，也因此鼓励了人朝着他或她认为的善与真的方向不断探求而达到更好的生命状态。假若教育AI化，人恐怕不是因为学习效率的提高、知识获取的易得、学习规律的科学掌握而获得更大的自由、思想上的独创性、释放更大的能动性，反而有可能只是被更深地束缚、更加“机械化”。

     杨庆祥：我特别抗拒线上授课。有一年需要线上授课，我都想把时间控制在最短。所以我现在上课也是能不视频授课就坚决不开视频。当然，我觉得这不仅仅是浅层的个人价值判断层面的问题，更深层的问题是刚刚叶李老师谈到的，在目前的语境里面，AI已经被资本化。所以实际上它会设计出一套程序，要求我们每一个人像AI一样去表达，这个AI不拥有主体意识，而是服从于资本与 流量的规则。前段时间我参与了一个文学交流活动。第一场由我和余华进行交流，当时现场对话没有任何台本，全是闲谈胡侃，但是现场气氛很好，其乐融融。第二场则是一位拥有数百万粉丝的up主智能路障和余华对谈，那位智老师坐我旁边有点紧张，他说他从没在线下面对这么多观众交流，而习惯录视频前按照写好的稿子来交流。这其实就像AI化的表达。现在的蜻蜓FM、喜马拉雅都在让我们成为这样的讲者，写稿、念稿，不需要带任何情感，而我们所拥有的个性化的风度、具有人格魅力的东西恰恰没有了，所以我特别抵制这个，这应该引起我们的警惕。人类的行为被 AI化了，但这个AI化不是为了解放人，而是为了获得利益和利润。

      朴婕：刚刚诸位老师提到了信息发出方的AI化问题，我想换个角度，思考一下信息接收方的AI化。杨老师您刚刚提到的一个角度对我很有冲击，就是您说到现在很多新闻，主要是娱乐新闻、体育新闻，都是AI代工的。而我们注意到，长期驻留在这些信息平台上的青少年，语言已经AI化了。也就是作为语言操控者的人类，本该调整AI的语言，但慢慢被AI所调整。我经常批评微博的热搜词语不准确，比如常常看到热搜写“某人‘否认’某事”，但“否认”通常会暗示其后面的信息是真实的，因此本来是澄清事实的事件，在这样的描述中就变成了狡辩的事件。而每天阅读微博热搜的群体非常广，他们渐渐受到这种表述的影响，导致正式书文上的表述也开始变化。在这样的情况下，信息接收方的智识反而会退化。我们前面都在担心AI也许是一个高级智能控制了人，但它带来的另一个可能性是，我们将进入一个反智的时代。

      杨庆祥：对，就是说 AI实际上是把人降维化，人类本来把它看作一个高级对手，我们可以通过和它的竞争发展出一个更好的文明和资本，结果发现它是一个低级的对手，我们在与它竞争的过程中实际上走向了更落后的文明。这是将人类看成一个完整的族群、从整体的“种”的维度出发来思考的问题。但是作为个体的人，在生活中我却希望自己越来越AI。为什么？就是因为AI在我的想象中，它就是冷静，讲究逻辑，能够当机立断，能够举棋即决断，这样的思维模式其实对你的生活会 有特别大的好处，你不会纠缠于自己的那些情绪和分裂里。以前我的朋友就叫我AI杨，因为我会用冷静的方式、用“算法”算出最优的解决办法来处理问题。日常生活中包括我们在处理一些行政事务的时候，我们都的确想象过用AI化的方式来处理，这样我们就免于纠结。我昨天因为处理一个学生的录取问题就误车了，因为我需要考虑她当下的情绪、她未来的发展，如果我是一个完全的AI，就不需要考虑这么多，就是录取和不录取两个选择，但是因为我还不是一个完全的 AI，所以我一直做她的思想工作，耽误了一个多小时。后来我非常后悔，因为从理性的角度看，这件事情其实 已成定局，但我仍然付出了大量的时间，最后还没赶上车。所以有时候我的一些思考会有这样一个希望自己 AI 化的向度在里面，但是最可怕的就是，这种向度可能是降维的，我们会变得越来越糟糕，把自我完全变成了一个糟糕的他者。这种情绪和想法其实又是有点矛盾的。

四、科幻文学写作的新探索

      学生：在我看来，AI 的想象属于后人类想象，在中国科幻作品中后人类想象正在不断衍生更新，这一点是“90后”作家写作、AI写作与从前的科幻创作不同之处。但是在中国科幻研究中，对于后人类想象的研究对象普遍集中于新生代作家，或者更新代部分作家。然而，他们对于后人类想象很难跳出人类的视角。这是否反映了科幻文学秩序的无序？我还想问一下，如何做科幻文学研究？

     杨庆祥：我今天听了武汉大学文学院老师们的发言，觉得他们每一个人其实对科幻、对AI的研究都非常精深，只是他们目前没有写成文章，所以你的第二个问题，我觉得你不用焦虑，你想研究科幻文学可以多跟在座的老师们交流，一定能够得到很多的思路和启发。当然也确实有这种情况，我们对科幻文学研究存在偏见，目前还是在一个小圈子里面自娱自乐。所以陈楸帆，一个年轻的科幻作家，在他最新出版的作品里面，其实有一部分是AI写的。他就是用AI写一部分，自己写一部分，最后揉成一篇小说。你却看不出来到底哪部分是谁写的，他用这样的方式做了很多尝试。有一段时间他在深圳开会，见到我就开玩笑，说“你是严肃文学界最关注科幻文学的人”。这就能看出其中

的“壁垒森严”。我觉得这是我们人文学科需要改善的一个方面，应该主张跨界，应该要打破这种不必要的自我设限和自我壁垒。上次有位老师发了一条朋友圈，我特别受启发，他说不能把我们的教学让渡给百度，搜索引擎现在很强大，很多问题的答案学生在百度、Google 上一搜，就都可以找出来。这个时候教师的主体性在哪里？这是给我们提出的挑战，所以每一节课我们都上得诚惶诚恐，这是个问题。

     科幻写作的新人想象，我觉得可以阐发的面向特别多。我建议还是要多看一些国外的青年科幻作家的作品，包括我刚才讲的刘宇昆，还有特德·姜，他们在一些问题的思考上确实走在前沿。我觉得可以以他们为轴建立一个坐标系，把我们的创作放进坐标系里来进行定位，可能会更加准确。这两年就我自己的观察而言，我们的科幻作家，尤其是80后的一拨人，有一种被耗尽的可能性，这其实很残酷。我们知道科幻里面特别强调点子，因为点子用完了，后面就没有了，所以科幻作家经常出现放弃写作的情况。不是他不想写，是因为他没有点子了。所有的写作都建立在两个维度的基础之上，一个是知识，一个是想象，这两者结合才可能有飞跃。但是很多作家储备不够，比如语言学理论，这是一个非常复杂的知识系统，如果对这个知识系统不了解，没有精深的研究，你就不可能在语言的层面上像特德·姜一样去处理一个科幻小说：还有一些小说深入到人的意识的最深层，包括对潜意识的研究、对梦的研究、对心理学的研究。所以拥有对交叉学科进行研究的能力和庞大的知识背景非常重要。作为一个研究者，你应该比他们知道的更多，不然就没办法深入研究。这些方面都给我们这些文学研究者提出了很多的挑战。

该文刊登在《写作》杂志2021年第3期，文字内容以纸质期刊为准。

作者简介：

杨庆祥，中国人民大学文学院教授；

叶李，武汉大学文学院副教授；

陈溪，武汉大学文学院讲师。

整理者：龙子珮、刘宇欣、李金悦、李佳涵等。

杨庆祥

叶李

陈溪

排版：徐舒彤

审阅：宋时磊