刘云杉｜警惕“机器学习”僭越“人的教育”｜大文明视野中的ChatGPT反思（之七）
◆ ◆ ◆ ◆
上海市社会科学界联合会主办主管
有学术的思想 EXPLORATION AND FREE VIEWS
官网地址 http://www.tsyzm.com
◆ ◆ ◆ ◆
目前本刊只接受《探索与争鸣》网站投稿。请收藏唯一真实官网地址www.tsyzm.com。原编务邮箱tsyzm@sssa.org.cn停止使用，原投稿邮箱tansuoyuzhengming@126.com为编务邮箱和应急邮箱。原创文章，未经授权，谢绝转载，如需转载请留言。
警惕“机器学习”僭越“人的教育”
刘云杉｜北京大学教育学院教授
本文原载《探索与争鸣》2023年第5期
具体内容以正刊为准
非经注明，文中图片均来自网络
刘云杉教授
机器学习：“复合的教师”还是“超级学习者”
与历史学纵横千年的时间观和哲学高居山顶的宇宙观不同，教育学的视角贴近地面上平凡的芸芸众生，他们希冀什么，又承受什么？被什么所迷惑，又被什么所刺痛？面对ChatGPT等人工智能，我的关注既非远忧，也非近虑，而是一个现实的困境：在机器学习的凯旋中，如何给予受教育者必要的保护与尊严？
ChatGPT对于教育究竟意味着什么？技术之于教育，不再仅仅作为教学辅助物，也不仅止于智能的教育者，它更是一个升级的、可以替代人类的新型学习者。ChatGPT不仅是能“为你所用”的高效、标准的“助教”，也是能“替你之用”的、深谙算法的学习者。它既是“类人”的学习者，更是“超人”的竞争者。它对人类发出了哪些挑战？如果不加限制，当下大多数的常规工作、程序型工作，完全可能被高效的智能机器替代：一般高校的人文社科专业毕业生将遭遇ChatGPT等AI的“霸凌”。高等教育大众化后出现的白领无产阶级化现象将进一步加剧，中产阶层将有可能大面积“塌陷”。
ChatGPT不过是算法学习的优等生。我聚焦的问题是：算法学习如何从“类人”转变为“驯服人”，哪些被视为当然的教育理念为其鸣锣开道？教育改革复杂的多重逻辑是如何表达的？它们既直白强势，又伪饰隐匿。教育中“人的意象”发生了从不易察觉到令人错愕的蜕变：从品格到人格，再到核心素养，再到能力、潜能、通用能力、高阶能力等，眼下是与算法最为契合的优绩。人的教育强调的是塑造品格，即“有所不为”的内在坚定性，如今却已蜕变为强调应对一切短期主义、既脱嵌于具体情境又可以快速嵌入任何情境的优绩者——算法学习愚笨的人类模仿者。人的学习是如何指标化且空洞化，准确地说算法化的？人的教育是如何被扭曲为一条悬浮的管道，与一切具体的经验、日常的情境脱嵌的？算法学习者被输入其中，既被各种指标时时监控，又对照算法自我训练，最终算法内置于其脑中，在所谓的“奇点时刻”，“内置芯片的算法人”成批出炉。这一意象不是未来的乌托邦，它正发生在我们身边，构成你我的日常，有的正在进行，有的已经完成。
学习政治：解放中的强制
在过去的20年中，“学习”成为流行热词，在教育研究、政策与实践中，关于教育的大部分话题已经改用学习的语言来言说，即教育被简化为“教学和学习”，把学生、儿童和成人称为“学习者”，把学校变为“学习环境”或“学习场所”，教师被视为“学习的辅助者”，教学被视为学习辅助技术，甚至连“成人教育”也转变为“终身学习”。英国学者格特·比斯塔（Gert Biesta）将其称为“教育的学习化”（learnification）。
首先，这种学习化体现为“以学习者为中心”的教育理念，它由学习者的兴趣、学习者的选择和学习者的权利等一系列主张构成，表现为以下三重逻辑：第一重逻辑为解放逻辑，主张将学习者从“教与学”的束缚中松绑，从教育关系之中解放出来，“自主的学习者”的意象被建构出来，只要信任、鼓励学习者，解放其捆住的手脚，学习好像自然而成；第二重逻辑是选择话语及其背后的教育消费逻辑，教育话语与经济话语混淆，学生的自由选择中隐藏着陷阱；第三重逻辑是将教育视为服务业，其背后是市场与监管逻辑。在西方社会，随着新自由主义的兴起，福利国家衰退，国家与公民之间的关系开始去政治化，或者说政治本身已经被经济化，经济逻辑重构了政治功能，政府被定位为供应者，公民成为消费者，选择成为关键词。
看似自由的个人主义话语背后，学生不仅是选择的主体，也是权利的主体，更是责任的主体。在自由的学习话语中，学习如同呼吸一样，既是自然发生，也是必然发生的，同时还是必须发生的，不得不发生的——解放话语只是表层的修辞，其实质是强制的逻辑。在全球资本主义中，经济需要一种适应能力（adaptation）：我们必须学习，强制性学习是一种不可逃避的义务，而且是终身学习。比斯塔将其称为“学习的政治”。
在学习政治中，学习是自我负责的。学习政治的关键是把政治难题、经济困境转化为学习困境，因此把对付这些难题的责任从国家和集体层面转移到个体层面：个体在不断更新变化的全球市场中要为保持自己的就业力负责。学习指向个体的适应能力，而不是一个有关结构性和集体的责任。当学习被宣称为“财富蕴藏在其中”时，实则是将个人深陷于压力，或许是不可承受的压力之中。
如此，政治的职能转化为经济的契约，经济的逻辑又将责任置于个体的学习能力与终身学习的适应力上，胜任力要求持续的能力更新，能力又来自持续努力的、永不疲倦的学习主体。这既赋予学习者超强的学习能力预设，又赋予被掏空了教育的学习——甚至是反教育性学习以不可能完成的任务，如同一个挟山超海的大力神，用“自主”“独立”“不断更新的能力”“不知倦怠的积极主体”遮蔽了政治与经济的各种结构性与制度性的困境。解放了的主体能胜任吗？无所不能的学习能兜底吗？资本加技术真能获得化解困境的魔法吗？
算法学习：开放中的封闭
在通天巴别塔的重建中，如何让不同语言的人能够说同一种话？这种语言一定是去情境、去文化、去差异的高度抽象的符号，当下的算法可谓正是这一语言。它如何潜入学习之中？
首先是能力话语的兴起。我们都熟悉这句话：“用过去的知识教今天的孩子面对不确定的未来”，随之而来的是知识和能力的对立。具体知识和具体学科被贬低，取而代之的是一套可迁移、通用能力话语。这体现为学习内容的重构：从关注学生被赋权学习什么转向关注他们应该练习哪些技能，课程与教学中从强调“knowing-that”转变为强调“knowing-how”，从基于学科的、概念性的知识传授转变为基于项目和任务的学习，从基于命题式的学习转变为注重实际操作的学习。
在高等教育领域，这种趋势体现为跨越学科边界和知识的稀薄化。传统的学科边界被突破，单一性知识转变为领域性的知识。单一性学科（singulars）是学科内在的，它有独特的名字，有一套专门的独立话语、一个自己的智识领域，它是自我中心的、指向自身发展的，其受到强边界和强等级的保护。领域性的学科（regions）体现在知识上的策略就是“跨界”与“跨学科”，表现为知识内部的联合与重组，学科与学科之间、知识与其应用之间从隔离到联结。领域性的知识既服务于市场，又更依赖市场，其学科防御能力变得越来越脆弱，其后是科技的发展、行政的问责以及市场的调控。从单一学科向领域性学科的转变，意味着学习者内向投射的认同转为外向投射的认同。其关注点从专业身份转向工作能力，即从“我的专业是什么”转向了“我能做什么”。
更进一步，学习所强调的目标更为抽象与上移：一般性学科或一般性类型（generic modes）。“一般能力建构于和分布于教育再脉络化场域之外，且独立于教育再脉络化场域”，即独立于学校具体的教与学之外，它们由可迁移能力、一般化能力和核心素养等具有家族相似性的话语构成，具体指关键与核心技能、思维能力、问题解决、团队协作等。这些话语被认为适用于所有学科和实践领域，但又独立于它们之外。
伯恩斯坦清醒地指出“一般性模式”的陷阱：
一般性类型的产生是针对一项技能、工作、实务或是工作范围的表现所需基本特性之功能分析而来，这些重要而明确的必要特性指的是“共同能力”。若将这些能力重要潜在特性拿走，让技能、工作、实务和工作范围的文化基础禁（静）默无声，进而产生一种枯燥乏味的可训练性（trainability）概念。
能力的重要潜在特性被削弱，可迁移的能力转变为“可训练性”；思维能力、学会学习与学会合作这样的软技能，有无“重要的潜在的特性”做支撑，与单一学科和领域性学科之间究竟是什么关系？一般化的“技能话语”（skills-talk）被诟病脱嵌于具体的知识情境，即将“知道如何”（know-how）去情境化，也即抽象为高阶的方法，它分裂了学习内容，削弱了连贯性，并有效地掩饰了到底要学什么。具体的学科内容是概念的载体，人们经由内容，通向概念，进而锻炼思考的能力。“知道如何”只是补充并依赖于“知道什么”（know-that）与概念性知识，而绝不是“替代”它们。
在“可训练性”的能力中，学科知识、专业的方法与元学习能力之间的复杂关系被简单割裂，知识认知化，认知工具化，强调所谓的一般化能力，倒置了技能与知识，忽视了概念性与实践性知识的特殊性和差异。倘若内容手段化，那么内容就可置换；如果内容可以置换，也就是内容可以被虚空化。这意味着在技能性话语中，知识被噤声了；当知识被虚空化时，所谓一般化能力脱嵌于具体学科知识之上，是悬浮且封闭的。
一般化的能力表现为对高阶思维、元学习的迷思，以及对不断挖掘的而非实现的潜能的推崇。这意味着要掌握更经济、更简单地获取信息的策略和程序，并不断应对短期主义的策略，即脱嵌于情境、压缩过程，并将经验抽象为图示。这只能通过符号化的算法学习来实现。从嵌入文化约束、扎根具体经验的求知形式转向抽象的、强调思维的方法训练，以测验代替训练，不断监控并强化学习者掌握非经验的算法能力——这样一条悬浮于经验之上的训练管道得以建立。它模拟了谁的学习？
安德鲁·阿伯特2017年在“知识的未来”演讲中分析了求知主体的演变。现代的求知者往往是物而非人，是机器在求知，它承担了个人无法处理的求知任务，而个人则因此无法透彻理解求知的过程。与此同时，知识商品化、信息相对过载与知识客体不断分解并行发展。多数时候我们并没有增加新的认识，而是将对象分解为更新的、更小的部分。过量的信息让人无法把握整体，也无法理解信息的意涵。求知行为也发生了变化，学习某个东西就是知道一个链接，阅读就是发现重要句子并划线。例如，发现亚当·斯密著作中真正重要的五六个句子，忽视或者省略无关紧要的琐碎细节。求知不外乎寻找事物和制作列表，运行算法且无须任何长期记忆堆砌。伴随着算法操作，学习发生了剧变：以发现为求知，以列表为论证，朝向基于计算机求知及其所擅长的搜索与模拟的转变。它朝向了一种“索引－搜索”的求知模式，复杂而离散的思想转化为以字斟句酌的文本或符号的表现形式来分享的思想，并转向即时的口头和视觉表达。
算法又是如何训练今天的学习者？他们既能享受到影音扫描、检索、数据库等带来的巨大便利，同时也会深感自己的无知与怠惰，一种“心安理得的无知”，没有下功夫系统地学习“知识”，时常为自己空空的脑袋焦虑，但又没有下“笨功夫”的决心和时间——要应付眼前的任务已属不易。
把人的教育带回来
希拉里·普特南在1981年提出了著名的思想实验——“缸中之脑”。其基本设想是，将一个人的大脑放进装有营养液的缸中，脑的神经末梢与计算机相连，借助预设程序输入的信号，使大脑维持与往常生活完全一样的错觉。
“缸中之脑”实际上揭示了悬浮、透明、空转的管道的本质。在这条悬浮、封闭的管道的出口，一个新出炉者困惑地说：在知识与信息如此充足的学校里学习，却感觉像是翻开一本字典，可以便捷地从A翻到Z，但是什么都记不住，好像什么也不需要记住。如果学习只是在掌握链接、搜索与查找、信息的编排与重组，那么学习者就只是在执行外部的指令，成为智能学习者拙劣的模仿者。找寻与索引在他的生命中没有留下任何的痕迹，他的头脑空荡荡的，如同管道一样，信息随时输入、组装，再快速输出。他也如同一块无形无态的拼图，可以随意拆卸组装，敏锐地感知外部的位置，并自主地调控色彩，融入周围。他最大的困惑是没有困惑，他已将自己的身体和人格简化为一台运转正常、能优化升级的电脑，以及可以灵活敲打键盘的手指。
人的学习不是这样的，他需要专注地沉潜，用文火慢炖的时间，不断寻找一些“小钩子”：事实、概念、记忆、论证、经验的暗流、含混的感受、细致的文理。学习者要浸泡在这些有质感的东西中，不断唤醒内在知觉，融通经验与文本的内外感知力，这时他的心灵才能苏醒。人的观察之眼需要在微暗的光影中慢慢练习，幽暗的光让他学会辨识影子，能够看到一束光线所射之外丰富的物与景。他的心灵之眼会慢慢睁开，不仅能近察，还能远观，更能识别与体悟。只有这样的沉浸所获得的体悟才能入脑入心，才能滋养精神生命。
在算法学习中，人们没有了含蓄、隐匿、需要用心找寻的知识体验，而是被抛置在过量的、短暂的、明确的信息海洋中去冲浪。过量的信息、过度的光亮，刺痛人的眼睛，使人看而不能见，见而不能识。教育应该如何保护人的观察之眼、心灵的感受与体察之眼呢？
人的教育最基本的三要素（3H）是脑（head）、心（heart）和手（hand）。脑关乎认知，能够直观世界图景而非被碎片信息吞没；心关乎情感与信仰，在关系之中沉浸，才有熟悉、安全、爱与敬；手关乎练习，在具体的操作中了解事物的纹理、世事的繁简，才有上手的分寸感。这些都需要过程和试误。教育是人类孕育新生命的孵化器，安全与信任是其本质。算法高效地训练，否定了人的可塑性和柔韧性。
人是如此脆弱又是如此柔韧，如此卑微又如此神圣。我们既能站在类的高度，也应该站在人的经验和心灵深处。人类有必要接受教育的庇护。更准确地说，人类既需要谦卑也需要勇气庇护自己的教育。
有学术的思想 有思想的学术
聚焦中国问题
秉持人文立场
人文社科学者的平台
欢迎一起“探索与争鸣”