“太像人”的ChatGPT, 改写了欧美社会思考未来的底层逻辑?

 导读：近期最火热的话题之一，莫过于人工智能ChatGPT。自2022年底发布以来，ChatGPT在短短2个月内就获取1亿用户。在巨大的技术和商业影响外，ChatGPT这个“可智能生成文本的聊天机器人”，还在教育领域掀起轩然大波：大量英语国家的学生开始使用该软件或类似应用来完成作业、论文甚至考试，这些软件生成的某些“成果”还被老师打上高分。由此引发的争议，不仅让欧美社会惊诧，也影响到了我们国内。中国人曾说“文以载道”，当智能软件能够自主创作内容时，“道”又如何体现？当ChatGPT介入教育领域，教育的手段、目的以及评价标准又如何调整？面对这种智能，人文社会科学如何体现价值？近期国际上关于ChatGPT主要有两组争论：

第一组争论关注“英语教育”。在拥有12年教龄的旧金山高中英语教师赫尔曼看来，ChatGPT能瞬间完成主要文本类型的写作，这颠覆了英语教学的基本功能，英语教育的地位也岌岌可危。美国企业研究所的高级研究员罗伯特·庞迪西奥却认为，赫尔曼的观点只代表了部分知识精英，而知识精英推崇的各种思维训练，都必须建立在相当的知识储备上。由于多数学生的知识和语言能力尚未达到基础水平，写作训练依然必不可少。庞迪西奥还讽刺了当前对ChatGPT的过度推崇：“与其说创造内容，不如说ChatGPT更擅长通过编造和修辞，来弥补谈话的空白；这个软件在模仿人类胡说八道方面，能力着实出色。”

第二组争论关注“技术与人文之辩”。加拿大作家斯蒂芬·马奇认为，相比科技的突飞猛进，人文学者长期醉心于宏大叙事的建构与批判，反而忽视语言、历史、伦理、政治等方面的现实问题。而ChatGPT等新技术越来越擅长完成论文等“文科工作”，人文和技术的差距将继续拉大。然而，福布斯专栏作家里姆认为，不能过分夸大ChatGPT对论文乃至人文教育的影响——就论文写作而言，最重要的是学生不断思考和尝试创作的过程。此外，技术并非一种实在，重要的还是背后的价值观念。因此人文学者应学会驾驭新技术，并教会学生熟练运用这些工具。

欧亚系统科学研究会特编发此文，供读者参考。本文转自“文化纵横”，仅代表作者观点。

美国各界激辩Chat-GPT对教育的影响‍‍‍

文｜Daniel Herman、Robert Pondiscio

Stephen Marche、Christopher Rim

翻译｜慧诺

来源｜《大西洋月刊》等

▲ 《大学论文已死》一文封面图。图源：The Atlantic

 1   高中英语的终结

青少年总是能找到方法来对付学习过程的艰苦。CliffsNotes从上世纪50年代就开始出版（译者注：美国学生常用的一系列学习指南，以小册子形式或在线形式介绍和解释文学作品。其批评者声称，学生会用CliffsNotes阅读来顶替课堂制定的阅读文献），No Fear Shakespeare用现代英语重写了一遍莎士比亚，YouTube上也有海量由业余爱好者和专业人士提供的文学分析和历史阐释。虽然存在这些学习上的“捷径”，但教育中有一个重要部分仍然是无法避免的：写作。除了抄袭以外，学生们总会面临需要独立完成文章的时刻。

现在，这可能都将改变。ChatGPT可以根据任何提示生成复杂的文本，而它的到来可能标志着写作的结束。甚至，这可能标志着写作作为一种衡量智力的标准、一种技能的结束。

我在旧金山湾区的一所小型高中教授各种人文课程。我的班级往往有大约15名学生，他们的年龄从16岁到18岁不等。对于这些学生，我总是说：你可能对诗歌或公民教育不感兴趣，但无论你最终做什么，基本的写作能力绝对是必要的技能。我也长期认为，对于那些对写作感兴趣的人来说，你需要学习的写作基本规则，然后才能开始打破它们。

如今，我开始怀疑两件事：青少年是否真的需要发展这种写作技能？逻辑上，基础知识是否真的是进行实验的必要条件？

因此，我想直言不讳地向所有的现任和往届的学生道歉：ChatGPT现在所能产生的内容，比普通教师所看到的绝大多数学生作业都要好。例如，ChatGPT能够针对斯坦福大学的本科录取要求，为我写一篇俏皮、精致、情感丰富的600字申请文书，讲述我在当地动物保护协会做志愿者的经历。以下是其创作内容的摘录：

除了打扫卫生，我还经常与动物们互动。当看到一些被忽视或被虐待动物的境况有所改变时，我感到非常惊讶。在机构的耐心照料下，这些动物逐渐变成了俏皮可爱的人类伙伴，渴望着给予和接受爱。此外，我也亲眼见证了爱心家庭来领养宠物的过程。当我看到一些动物离开收容所时，内心是苦乐参半的；然而，我也知道它们将被送到一个充满爱的家庭，这对那些动物来说，是最好的事情。

此外，它还针对星巴克的一个经理岗位写了封令人信服的400字求职信。但最令人瞠目结舌的是，它完成了一份我此前认为“无法作弊”的作业。1月份的时候，我要求初三学生独立完成一篇12至18页的研究论文。他们的目标是选择两份经典文本，将其串联成彼此间的对话。我的学生一般会花上两个月的时间。我给ChatGPT提供了今年学生们参考的几对文本：托妮·莫里森（Toni Morrison）的《宠儿》和《哈姆雷特》，荷马的《奥德赛》和但丁的《地狱》等。ChatGPT瞬间、毫不费力地将其中复杂甚至互相冲突元素结合在了一起：记忆、内疚、复仇、正义、个人与集体、选择的自由、社会压迫。这项技术并没有超越文本表面的意思，也没有成功地将全部原文应用起来，但其提出的观点，却依然有十足的针对性，足以帮助任何学生不费吹灰之力地完成作业。

它还能做得更多。我把一份学生作业上传了ChatGPT，并要求其进行修改润色。事实证明，它能用更优雅的文笔将学生作业呈现了出来：理顺了杂乱无章的语句，将观点凸显出来。

我已经在研究生院、大学、高中和初中教书12年。根据我的经验，美国高中生大致可以分为三类：入门组，正在学习掌握语法、标点和基本的阅读能力；中等组的大多人已掌握这些内容，正在学习论证和进行段落写作；熟练组，则已在研究语气、节奏、多样性、流畅性等技巧。尽管老师们非常努力，很多学生还是只能处在入门阶段，而大多数学生则只能勉强达到中等组。

英语教师工作的大部分时间就是和这些学生打交道。相关需求还催生了一个庞大的培训产业，很多私人写作辅导员的收费超过每小时100美元。也许在ChatGPT的帮助下，所有学生都能更快进入“熟练组”。但大多数学生其实打心底认为，写作并不是一项值得培养的技能，他们对探索语气和节奏的细微差别没有兴趣。

我想，“把写作当作能力和智慧的判断标准”的时代已经结束。在我看来，一些老师用手写作业、课堂完成等方式，来应对ChatGPT的冲击，这些“回归传统”的方式，其实是短视的。问题已不再是“我们如何避免用ChatGPT作弊”，而是“我们还有必要写作吗”？当计算机能把这些结果清晰呈现时，我们还剩下什么？

为此，我再次向ChatGPT提问：“用一个有趣的、具体的例子来解释如下佛教观点——所有现象都缺乏内在的存在”。（译注：上述理念可能来自大乘佛教中观学派的思想。中观，是指古印度龙树菩萨依据《般若经》“缘起性空”的观念而造《中论》，其提倡的一种脱离执着、不偏不倚的理论和观察方法。一种解读认为，我们所经验到的，只不过是因、缘的合体。如果能够以“中观”这种既不把万物执为实有、也不执为虚无的态度去认识事物，便是掌握了不偏不倚的中道思想，可以从而获得真实智慧，达至解脱的境界。）

ChatGPT一如既往地做到了瞬时回复：

这个佛教理念可以用一个有趣的例子说明：假设你有一只宠物仓鼠。你可能认为你的仓鼠有它自己固有的存在，但实际上，你的仓鼠是由许多不同的元素组成的，比如它的皮毛、骨骼、肌肉和大脑。这些元素都不是独立或固有地存在的，所以你的仓鼠本身也没有任何固有的存在。所有的现象也是如此——所有的事物都是由各种不具内在存在的成分所组成，所以也没有什么事物具有任何内在的存在。

或许一切都是编造的，没有内在实在。论文写作，以及组成论文的元素，或许也都是编造的。如果真是如此，那OpenAI（译注：ChatGPT的开发公司）正在迫使我们重新审视一些基础性的问题，到底什么东西值得保留。

*本文原刊于《大西洋月刊》(The Atlantic) ，原题为《The End of High-School English》

 2   人工智能并不是高中英语的终结者

想必你最近已经在社交媒体上看到无数由ChatGPT 生成的虚构故事和散文。虽然有人对此感到振奋，但作家和教师中却充斥着生存危机。教师丹尼尔·赫尔曼（Daniel Herman）就在《大西洋月刊》上哀嚎“高中英文已死，所有教育事业从业者的生活都将改变”。

对此，我并不信服。事实上，这种反应并不新鲜。还记得轰轰烈烈的“21世纪技能（21st Century Skills）运动”吗？当时人们坚定地认为，现在世界上的所有知识都能通过手机快速获得，因此K-12教育（译注：美国基础教育的统称，相当于国内从幼儿园到高三）应该优先考虑批判性思维、解决问题、创造力和沟通。当时，教育界的大聪明们总说：“既然都有了谷歌，那还背书干嘛？”同样的话术也适用今天，“既然有了ChatGPT ，还教英语和写作干嘛”？

对这些问题，美国教育家赫希（E.D. Hirsch, Jr.）在20年前给出了答案：互联网让我们对信息触手可及，但为了能使用、吸收、增加知识，我们必须已经拥有一个知识库。这就是认知研究所揭示的悖论。弗吉尼亚大学的教授丹·威林厄姆（Dan Willingham）对认知科学的研究进一步表明：我们希望学生掌握的各种技能（例如分析和批判性思考的能力），也需要建立在广泛的事实性知识上。

换言之，拥有知识后才能沟通知识，才能鉴别人工智能生成内容到底有没有实际意义。赫尔曼认为ChatGPT的写作比他大部分学生都好，也许这是真的。但绝大多数美国学生没有机会接触到赫尔曼课堂里那些“高深”话题，他们还需要先艰难地挑战完成一篇有说服力的五段式论文。

熟练的教师了解他们的学生，也能轻松地鉴别学生作业是否获得了“额外的帮助”，这在人工智能时代也是同理。相比赫尔曼在精英预科学校的学生，英语教师彼得·格林在宾夕法尼亚州的农村学生更加符合美国国情：与其说创造内容，不如说ChatGPT更擅长通过编造和修辞来弥补谈话的空白；换言之，这个软件在模仿人类的信口胡诌方面，能力着实出色。

赫尔曼们这种对人工智能让写作教学过时的担忧，其实是“知识的诅咒”（Curse of Knowledge）的一种表现：当人们交流时，如果不自觉地假定对方有理解的知识或信息背景，就会出现认知偏差。这也是教育领域的一个常见问题：对于受过良好教育和精通语言的人来说，解决问题、批判性思维、清晰、复杂的书面分析，这些都是可以被练习和掌握的“技能”，或能够被人工智能似是而非地伪造的能力；因为他们已经具备了丰富的知识和复杂的语言。就像赫尔曼担心学生会避免“实际学习的艰苦工作”而转向人工智能。事实上，大多数学生很难理解人工智能生成的文章，更不用说把它们当作自己的作业。

真正的威胁，不是人工智能将在未来令写作过时，而是假设它现在已经做到了。相比绝大多数美国学生所生活世界，未来学家、技术爱好者和受过教育的精英们的世界根本不一样——美国学生的主要挑战依然是达到基本的语言水平。如果因为精英理所当然地假定所有人都拥有的语言能力，而让大多数人放弃英语学习，人工智能其实也无从发挥作用，这最终对知识拥有者的利益也是致命的。

*本文原刊于美国企业研究所 (American Enterprise Institute) ，原题为《Artificial intelligence is not the end of high-school English》

 3   大学论文已死

人工智能对学术界带来颠覆性改变，但还没人做好准备。‍‍

假设你是一位教育学教授，你以“学习风格”为题布置了一篇论文作业。一个学生提交的文章开头如下：

“学习风格”这一概念是有问题的，因为它没有考虑到学习风格形成的过程。一些学生可能因为他们有特殊的经历，而形成一种特殊的学习风格。其他人则可能因为试图适应不适合他们学习需求的学习环境，而形成一种特殊的学习风格。最终，我们需要了解学习风格与环境和个人因素之间的相互作用，以及这些因素如何塑造了我们的学习方式和我们所经历的学习类型。

上面这段文字，就选自英国教授迈克·夏普斯（Mike Sharples）使用了GPT-3语言模型自动生成的一篇文章。夏普斯认为整个文章达到了研究生水平，我本人则倾向于给出B+的打分：这段话读起来像在凑字数，但大多数学生作文也的确如此。

夏普斯这么做是为了敦促教育工作者根据GPT-3这项技术“重新思考教学和评价标准”。他认为这项技术“可能成为学生作弊的利器，或者成为强大的教学助手，或者成为内容创造的工具”。无论如何，用人工智能写论文已经发生。生成式人工智能（AI Content Generator，AICG）正在飞速发展。不久前，OpenAI发布了一款名为ChatGPT的高级聊天机器人，并升级GPT-3模型，允许生成复杂的押韵诗。谷歌在2022年11月展示新的应用程序，能将人们文字描述的概念渲染成图像作品。人工智能创意公司Jasper在2022年10月获得15亿美元的估值。（译注：与ChatGPT一样，Jasper 也使用自然语言处理来生成类似人类的响应。该程序带有50多种模板，主要应用于商务写作领域。）

几代人以来，论文一直是人文社科教学的核心，是教会学生如何研究、思考和写作的方式。如今，整个传统将被搅乱。人文主义者和技术专家之间的鸿沟，已经持续了很长时间。20世纪50年代，英国小说家C.P.斯诺发表了他“两种文化”的著名演讲，将人文界和科学界描述为彼此失去联系的部落。“文学知识分子在一极，科学家在另一极......两者之间有一道相互不理解的鸿沟；有时（特别是在年轻人中）是敌对和不喜欢，但最重要的是缺乏理解。”文学家们缺乏对热力学定律的基本见解，而科学界人士则忽视了莎士比亚和狄更斯的辉煌。

如今，斯诺指出的断裂，只会进一步加深。在现代科技界，人文教育的缺失更明显。让160亿美元财富蒸发的加密货币交易所FTX创始人山姆·班克曼-弗里德（Sam Bankman-Fried），就曾毫不讳言自己是一个“骄傲的文盲”：我永远不会读一本书。马斯克这样聪明的工程技术人员，在使用相对简单的文学概念（如模仿和讽刺）时也十分笨拙。脸书创始人扎克伯格应该熟读了屋大维的事迹，但如果他对17世纪欧洲传媒业监管有些许认识，也不至于让公司的社会信任灰飞烟灭（译者注：屋大维是罗马帝国第一位元首、元首政制的创始人，被部分西方人认为是“罗马共和民主制度的终结者”。这里作者暗讽脸书平台自行推出的一系列言论审查机制，以及该公司不当泄露数据的“剑桥分析丑闻”）。

正在重塑社会和历史的人物们，对于社会和历史的问题却表现出异常的无知，这也是社交媒体时代的决定性特征。这些失败并非来自刻薄甚至贪婪，而是来自故意的遗忘。工程师们没有认识到，人文问题，例如解释学、言论自由的历史偶然性、道德的谱系，都是能产生实际后果的真实问题。每个人都有权对政治和文化发表自己的意见，这是事实，但信口的意见与有根据的言论是不同的。通往灾难的最直接途径，就把原本复杂的问题，视为对每人都显而易见。

技术专家忽视了人文问题，但人文主义者也在以软性自杀的方式经历了过去50年的技术革命。截至2017年，自20世纪90年代以来，英语专业的学生人数几乎减少了一半。仅自2007年以来，历史专业的招生人数就下降了45%。毋庸置疑，人文学者对技术的理解充其量只是片面的，而他们的教学形式也无法跟上时代。更关键的是，尽管技术已改变整个世界，人文学科却根本从未改变自己的方法——他们仍然像1979年一样试图创造所谓“元叙事”（meta-narratives，译者注：元叙事通常被叫做“大叙事”。这一术语是由法国哲学家Jean-François Lyotard在1979年首次提出的。他认为，社会现代性的最主要部分是大叙事构成的，大叙事具体指拥有合法化功能的叙事）。

当代人文学术界对一切（包括他们自己）开展各种批判。在一个以技术为中心的世界里，语言、声音、修辞、历史、伦理体系都显得格外重要。人文学者的工作，就是要理解并阐释以上的价值。当学者们都在内耗和批判中削弱一切智力基础，也就不奇怪这些专业的学生会越来越少。

一些技术领域的人甚至更清楚人文学科的价值。史蒂夫·乔布斯总是把苹果公司的成功归功于他在里德学院的辍学经历：在那里，他与莎士比亚和现代舞蹈打交道，还参加了书法课，为苹果产品的设计提供了美学基础。

无论如何，以GPT-3为代表的自然语言处理，给人文学科带来了一系列前所未有的问题：人文学科根据学生的论文来评价本科生，并根据论文成就来授予博士学位，而这两个创作过程都将通过自动化完成。我认为，学术界需要10年的时间来面对这个新的现实：两年时间让学生了解这个技术，三年时间让教授们认识到学生正在使用这个技术，然后五年时间让大学管理者决定如何处理这个问题。

与此同时，工程师也应与人文学者走到一起。计算机科学家需要基本的、系统的人文教育，因为语言哲学、社会学、历史和伦理学不再是乱开脑洞的猜想问题。一个明显的例子就是，当要对聊天机器人进行道德设定，或使用其进行内容创作时，这些人文底蕴将至关重要。人文学者也需要了解自然语言处理，它将为大量的学术问题带来启示。

把人文和技术联系起来，这需要具有广阔视野的人才和机构，并超越各自的既得利益。要建立这样的合作，双方还需要做出最困难的一次飞跃，即承认自己的无知，并理解自己对另一方的需求。但无论在任何时代，面对何种技术环境，沟通都是智慧的发端。‍

*本文原刊于《大西洋月刊》 (The Atlantic)，原题为《The College Essay Is Dead》

 4   大学论文仍然很有生命力

德国哲学家海德格尔在《关于技术的问题》中，以莱茵河上的水电站为例，描述了技术塑造和命令世界的方式：河流的美丽被其作为“水力供应者”的现代角色所掩盖，并作为“水力发电站”的衍生品而存在。河流的价值来自其在生产中的作用（产出），而非其固有的美。

从上述例子看出，技术可以从一个对人有用的工具，进而成为改变人类生活秩序的方式。在每次重大技术创新中，这两种对待技术的紧张关系又会出现，而OpenAI的ChatGPT的发布也不例外。ChatGPT因其对高等教育的潜在影响而受到了特别的关注。斯蒂芬·马奇（Stephen Marche）12月6日在《大西洋月刊》上发表的文章认为，随着人工智能的发展，“大学论文已死”：论文写作的价值来自其结果，而技术正在取代人实现这个目标。

很少有人注意到，马奇们对大学论文的价值，以及更广泛的文科教育的根本误解。为什么“大学论文”是人文教育的基石？如果我们连这个问题都不明白，又怎么能够讨论，技术变迁究竟对教育有益或有害？这才是马奇等人文章的最大问题。

归根结底，虽然论文或论著往往是人文教育的产出，但它并不是核心内容。研讨会、理论探究、同行评议、口头答辩，这些也是构建论文的基础。当高等教育更加多样化发展时，学生更需要（通过论文）进行独立思考的过程。因此，人文学科不仅仅是一种思考（特定）问题的教育（what to think），更是一种如何思考的教育（how to think）。正如普鲁塔克（Plutarch）的所言：“心灵不需要像瓶子一样被填满，而要像木头一样被点燃，让它产生独立思考的冲动和对真理的热切渴望。”（译者注：普鲁塔克是生活于罗马时代的希腊作家，以《希腊罗马英豪列传 οἱ βίοι παράλληλοι》一书留名后世。他的作品在文艺复兴时期大受欢迎，蒙田对他推崇备至，莎士比亚不少剧作都取材于他的记载。）

我们可以像使用Grammarly或EasyBib等其他工具那样使用ChatGPT，但所有自动化软件也顶多达到和输入内容一样的水平，而如果不加反思和检查，输入内容的错误也会进入最终产出。（译者注：Grammarly是一款在线语法纠正和校对工具，EasyBib是一款免费的参考文献生成器）。虽然ChatGPT可以产生一大堆材料，从论文到诗歌到音乐，但它不能自我思考。如果在Twitter上简单搜索“人工智能误写”（AI malapropism），就会发现成千上万由人工智能拼凑文字导致的轶事。

换言之，如果学生不学习并理解什么是好的文章或学术写作风格，如果他们不再根据一手资料制定一个细致入微的原创论点，他们又如何判断ChatGPT的产出，是否真的比人的作品更有说服力？

海德格尔在结束对技术的反思时，并没有对技术进行恶搞或赞扬，而是认为技术的价值在于它是一种被使用的工具，而不是一种存在于世界的方式。如果把知识的价值，简单地对标于论文产出，这意味着，我们并没有使技术更人性化，而是把人类也视为单纯的技术。ChatGPT和其他人工智能创新，当然可以成为人文主义者武器库中的工具。而人文主义者的价值，就在于他们能够帮助学生使用他们所掌握的一切工具，而不是仅仅成为信息输出的机器。

*本文原刊于《福布斯》 (Forbes) ，原题为《The College Essay Is Still Very Much Alive》

  FIN  点击图片链接阅读更多文章

为何援救叙利亚这么难? 两股拉扯多年的势力说穿真相

美议员: 美国制造业要卷土重来, 只需巧施一计双重“阳谋”

许纪霖: 中国人要想好好解释自己, 必须先回答一个问题