陈云松｜ChatGPT取代人类为时尚早，人类依然处于“自我恐吓”阶段｜大文明视野中的ChatGPT反思（之三）
◆ ◆ ◆ ◆
上海市社会科学界联合会主办主管
有学术的思想 EXPLORATION AND FREE VIEWS
官网地址 http://www.tsyzm.com
◆ ◆ ◆ ◆
目前本刊只接受《探索与争鸣》网站投稿。请收藏唯一真实官网地址www.tsyzm.com。原编务邮箱tsyzm@sssa.org.cn停止使用，原投稿邮箱tansuoyuzhengming@126.com为编务邮箱和应急邮箱。原创文章，未经授权，谢绝转载，如需转载请留言。
ChatGPT对人文社科研究的价值与挑战
陈云松｜南京大学社会学院教授
本文原载《探索与争鸣》2023年第5期
具体内容以正刊为准
非经注明，文中图片均来自网络
陈云松教授
相较于自然科学，人文社会科学与文化、社会的距离更近，因此，当ChatGPT问世时，人文社科研究者就开始讨论人工智能与生成式AI技术对人类文明的影响。然而，人文社科研究者的担忧是出于学科本身的特点，也就是人类的“终极恐惧”——失去对语言的垄断。事实上，在AI技术发展的早期，我们就已经开始了对人类终极进路问题的探讨，当下我们来谈人类的恐惧和担忧为时尚早，即使对一个学科或分支来说，AI技术还远未起到颠覆性的作用。在目前阶段，研究者更需要充分理解ChatGPT的特点和存在的问题，以及它对人文社科的有限工具价值，在运用该技术的同时，对其可能产生的意识形态问题保持警醒并积极应对。
研究范围的择取：历史研究中的空间问题
正如印刷术使得知识的大规模生产成为可能，也让当时的权贵恐惧于知识普及所带来的启蒙力量，自工业革命伊始，人类在利用工具和技术的同时，也一直处于对它们的恐慌之中。人们恐慌的不是技术本身，而是技术力量的无限延展对自身权益的侵蚀。从人文社科专业角度来看，研究者对技术的天然担忧代表着对更终极维度的思考——新的技术会不会影响人的自由意志？从计算机、互联网，再到ChatGPT，人们对技术的恐惧发生得越来越频繁。然而，当今社会人类依然处于“自我恐吓”的阶段，因为历史的经验告诉我们，人被工具所统治的前提是失去语言能力。人类虽然一直被工具所增强和改造，却从未被工具所统治。
当然，在恐慌以外，学者对工具和技术的反思依旧有其必要性。在人类历史的长河中，每一次新技术、新工具的迭代都塑造了人之新“生”。这里的“生”不仅仅指人的肢体，还涉及人类社会的各个方面。技术的增长可以发挥肢体的工具性作用，协助人类不断进化，向更高等的文明攀登，也可以像肿瘤细胞一样导致人类走向灭亡。这个决定权掌握在人类自己的手中。人文社科领域的学者们大多站在个人意志思维、社会宏观变迁的理论高度上，以人类自由的命运为终极目的，审视人工智能领域所面临的道德、伦理问题。虽然这些问题看似“外行”，有时候甚至过于简单直白，但是人文社科学者的努力与忧虑，恰恰能提醒技术人员沿着符合全人类共同价值观、延续人类共同文化知识传承的方向前进。根据这一特征，与人工智能领域对ChatGPT的工具性价值已有深入理解不同，人文社科领域学者对ChatGPT的思考大多集中于其对象意义，也即该技术的出现对社会文化发展路径的影响。
人文社科学者对ChatGPT的另一重隐忧是，它打破了精英内容生产者对内容生产的垄断。作为学者，我们一直以知识精英型内容生产者自居，并擅长运用自身所属领域的话术对热点问题进行“高屋建瓴”的指导。但现在我们发现，ChatGPT在内容生产方面未必比所谓的专家逊色，甚至用户诟病的可靠性问题也在新发布的GPT-4模型中通过更精确的神经网络预测获得了一定程度的解决，从而在一定程度上打破了我们自满、自得的思考壁垒。可以预见的是，未来的人类将从规模化生产中解放出来，在获得自由的同时，生成有别于单纯收集整合而更具创造性的思维模式。该模式在今天获得了第一个应用：如何反思ChatGPT工具在人文社科领域的局限性，以及随之而来的挑战？
ChatGPT对人文社科的
有限工具价值
作为非决策式AI，ChatGPT使用的是联合概率模型，它的学习模式更像人类在婴儿时期依靠联想和模仿来学习语言，在和对象的反复接触中明白词语的具体指向。在成长过程中，人类需要在多年里不断依赖周围能获取的信息数据来训练自己的语言能力，ChatGPT也是如此，它需要对海量数据进行深度学习。ChatGPT的底层逻辑是模仿人类的语言机制，因此其表述方式更接近一个真正的人类，很适合文本内容的生产。这决定了它对人文社会科学学科的工具价值。首先，它能够辅助学术研究的前期准备工作，如综合性知识问答和信息检索。这一功能相当于虚拟“教师”，整合和检索知识，给出综合性的判断和具有针对性的答案，它既可用于知识问答和推理，也是很好的资料收集工具，能以对话的方式帮助研究者更快捷地管理和检索信息。其次，ChatGPT出色的数据分析和代码能力可以助力“爬虫工作”，对于需要进行定量实证分析的社会科学学者，特别是致力于进行人文学科跨领域分析、大数据研究的学者来说尤为关键。技术学习一直是人文社科计算领域的一大门槛，但在人文社科计算的帮助下，学者们可以凭借相对基础的代码能力进行数据爬取、模型计算。如此一来，在ChatGPT降低人文社科计算准入门槛的同时，新方法、新规律、新理论的创造概率被极大提高。本质上说，ChatGPT促进了各学科之间的交流互鉴，进一步推动了人文社科领域组织化、创造性的科研。最后，ChatGPT能够辅助文章、书籍、项目申请书等文本内容的直接生成，提高工作效率，使学者能够把研究的重心转移至核心方法、核心理论、核心思维的攻艰克难上，以助力更多的学术创新。
需要特别关注的是，ChatGPT对人文社会科学学科的意义和作用尚停留在表层，其仅具有工具性，尚未上升到概念性层次。换而言之，其并未深入人文社科核心，不具备直接作用于学术研究且取得重大成果突破的能力。在目前的技术阶段，ChatGPT以及类似的AI工具主要面临着下述问题。其一，创造力的缺失。ChatGPT是基于对现有数据内容的学习提供对策与建议，其本身并不具备创造性。虽然有创新意识的用户会通过对话不断向其语料库中增添内容，并对其进行训练，但是这种单一化、非组织化的内容增加方式，其知识增量、创新速度相比已存在的海量数据来说，显然是沧海一粟。怎样运用有限的知识增量改变现有的知识体量，怎样使得有限的知识增量创新且准确进入所需要的内容生产，则是研究者在运用ChatGPT时需要重点关注的。其二，想象力的匮乏。由于ChatGPT使用联合概率，其唯一的想象就是联系和组合，难以产生创新性的观点。以社会学为例，如果要遵循米尔斯等社会学大家的指引，发挥“社会学的想象力”，那么依旧需要学者基于自身经验来探索前人所未及的领域，ChatGPT只能起到知识辅助作用，并不能对核心论点进行决断。
除了创新、创造领域的先天不足，ChatGPT在辅助学术的具体过程中还存在其他一些问题。例如，评价事物时的模糊态度、回答结果的非科学性、决策过程的不透明性、观点输出的潜在偏见、复杂分析的技术限制、高度依赖用户的提问方式和交互等。概而言之，人文社科领域在使用ChatGPT时需要充分意识到，ChatGPT之于知识生产是整合而非创造的，之于信息检索是有偏差而非精准的，之于数据分析是借力而非依赖的，之于复杂推导是辅助而非主导的，之于学术研究是运用而非依从的。
ChatGPT对意识形态的潜在治理挑战
ChatGPT会在对话中潜移默化地影响人类的思想观念，而其习得语言、获得信息的差异，极易造成输出知识的差异，进而导致意识形态的偏颇。在学术研究的具体过程中，ChatGPT的缺陷只是现有技术的不足，而在意识形态的导向方面，ChatGPT则构成了一定的方向性挑战。对于人文社科学者来说，虽然研究过程并不带有意识形态的偏向性与能动性，但与自然科学不同，其研究问题并没有精确的答案，特别是各种理论分析工具之间的复杂关系极易受意识形态的强烈影响。一旦人文社科领域以ChatGPT为主要学术辅助工具，或者其所使用的数据、所关注的社会群体、所探索的文化现象受到AI工具有偏观念的冲击，那么势必会造成研究结果的扭曲。由于ChatGPT的学习对象是全球互联网数据库中的语料，而全球话语场域早已形成多种意识形态交叠的竞争之势，在不久的将来，一些语料经过ChatGPT训练过程中的学习、模仿和放大，话语的竞争场域必定会升级成为知识的竞争场域。正如培根所言，“知识就是力量”，谁垄断了文本，谁就能够凭借知识的力量来影响、塑造世界。新型的“技术精英主义”和“知识精英主义”会在对特定AI工具的垄断过程中形成。这一问题需要学术界和思想界予以特别重视。
知识和技术本身并不存在善恶之分，但利益群体的蓄意操纵，会使得ChatGPT学习、输出的知识体系沦为权力的工具。ChatGPT模型使用基于人类反馈的强化学习算法，能够在与人类的对话和互动中更加自主地接受人类给予的现实反馈，并即时学习调整相关的回答信息。因此，它的回答有可能被人为改变或控制。由于ChatGPT本身不具备鉴别能力，它同样会学习和模仿某一时间段互联网极端情绪和错误观点堆叠，并不反映具体社会事实的结果，并将其学习到的内容总结、归纳给提问者。
在错综复杂的互联网空间中，政治、文化权力的角逐并不罕见。中华文化主体性和非中华文化主体性之间的博弈，以及长期存在的有关价值观来源、主导权的争端都会成为ChatGPT的学习内容，于是在新的技术领域产生新的角逐。不同语言的语料对ChatGPT会产生不同的训练结果，我们尤其需要重视不同语料所形成的话语偏差。针对ChatGPT对意识形态治理所构成的挑战，有专家提出组建包括人文社科学者和技术人员在内的专业团队。这一应对手段强调发挥专业团队力量的优势，在国内互联网场域提供更高质量的中文数据来实现知识的引导。专业团队可通过对模型的训练，纠正ChatGPT对知识议题的错误回答，以减少潜在风险。同时，在全球互联网场域中，专业团队也可以对ChatGPT进行多语言的集中训练和语料的重点补充，对错误观念出现的源头进行“正本清源”。
当然，AI技术是一把双刃剑。当我们认为ChatGPT的某些回答是错误的且需要被纠正的同时，也给予了它一个很强的前提假设，即随着时间的变化和AI决策能力的增强，并不排除产生新的错误和偏颇的可能。当人类与机器产生分歧时，应该由谁来定义对和错，又应该如何对其生成的内容进行恰当的引导，是知识界，特别是人文社科研究者需要重点关注和理解的问题。这正是人文社科学者审慎对待AI技术的意义所在。需要意识到，ChatGPT的价值与挑战并存，应基于历史的经验，做好应对未来挑战的准备。
有学术的思想 有思想的学术
聚焦中国问题
秉持人文立场
人文社科学者的平台
欢迎一起“探索与争鸣”