特稿丨冯志伟，张灯柯，饶高琦：从图灵测试到ChatGPT——人机对话的里程碑及启示
2023年第2期
特稿
本期嘉宾
冯志伟
教育部语言文字应用研究所研究员、新疆大学天山学者、黑龙江大学兼职研究员，主要研究方向为计算语言学、理论语言学、术语学
张灯柯
新疆大学讲师，主要研究方向为计算语言学、维吾尔语-汉语翻译
饶高琦
北京语言大学助理研究员，主要研究方向为语言资源建设、语言规划和数字人文
从图灵测试到ChatGPT
——人机对话的里程碑及启示
冯志伟1，2，张灯柯1，饶高琦3
（1.新疆大学 中国语言文学学院 新疆 乌鲁木齐 830046；2.黑龙江大学 俄罗斯语言文学与文化研究中心 黑龙江 哈尔滨 150080；3.北京语言大学 汉语国际教育研究院 北京 100083）
图灵奖得主、深度学习之父辛顿（Geoff Hinton）说：“深度学习的下一个大的进展应当是让神经网络真正理解文档的内容。”机器学习著名学者乔丹（Michael Jordan）说：“如果给我10亿美元，我会用这10亿美元建造一个NASA[1]级别的自然语言研究项目。”图灵奖得主杨乐昆（Yann LeCun）说：“深度学习的下一个前沿课题是自然语言理解。”微软全球执行副总裁沈向洋说：“下一个十年，懂语言者得天下。”微软创始人比尔·盖茨（Bill Gates）2019年6月在华盛顿经济俱乐部午餐会接受采访时说：“我将创建一家人工智能公司，目标是让计算机学会阅读，能够吸收和理解全世界所有的书面知识。”
这些人工智能学界的著名人士不约而同地把他们的慧眼都聚焦到自然语言处理问题，都主张让计算机理解自然语言，可见，自然语言处理是人工智能的一个非常重要的问题。本文描述自然语言处理从图灵测试到ChatGPT的发展历程中的几个关键事件，借此探讨技术、数据和范式发展的趋势。
[1] NASA是美国国家航天局的简称。
一、人工智能与语言的最初碰撞：图灵测试
早在1936年，英国数学家图灵（Alan M. Turing）在研究可判定问题时就已提出，可以让计算机理解自然语言，从而证明计算机能够具备人的思维能力（Turing 1936）。
1946年，第一台电子计算机ENIAC问世。1950年，图灵在《计算机器与智能》一文中提出，检验计算机是否具备智能，最好的办法是让它说英语并理解英语。为此，图灵亲自设计了“图灵测试”（Turing test）。图灵测试采用问与答的模式进行。让密闭在小屋中的一个测试者通过控制打字机与小屋外的两个测试对象通话，其中一个测试对象是没有生命的计算机，另一个是活生生的人。小屋内的测试者不断提出各种问题，通过回答辨别小屋外的究竟是计算机还是人（Turing 1950）。如果计算机能够非常好地模仿人回答问题，以至于测试者在充分的交流中误认为它是人而不是机器，就可以称这台计算机能够思维。
图灵借由行为主义的观点来判断智能的存在，这一关键行为就是人类语言（中的对话）。这可视为语言与人工智能的最初碰撞。
二、早期受限对话的代表：ELIZA
美国科学家魏岑鲍姆（Joseph Weizenbaum）1966年设计了一个叫作ELIZA的程序，这个程序模仿一个同名机器人医生与用户的对话来做图灵测试（Weizenbaum 1966）。ELIZA系统能与用户进行有一定限制的对话。在对话中，ELIZA模仿用户说话的表达方式，使用模式匹配的方法来处理输入，并且把这种处理过的输入转换成适当的输出来回答用户的问题。这是一个非常简单的模式匹配系统。
尽管在ELIZA系统中，计算机只是使用模式匹配的方法模仿人的语言行为，实际上并没有理解语言；然而，由于魏岑鲍姆设计得很巧妙，以至于很多与ELIZA对话的人都相信，ELIZA确实理解了他们所说的话以及他们提出的问题。
在这一阶段，受限于数据规模、计算能力，基于规则的系统是主流。对ELIZA而言，写好的对话模板充当了语言系统规则的作用。ELIZA实际上是在遵循一系列规则的引导，从对话开头走向结尾。这些精细规则的制定由语言学家和计算机专家合作完成。扩充规则的成本巨大，且规则规模达到一定程度后，对其进行管理十分困难。显然这样的系统泛化能力很弱，不能应对超出规则之外的语言现象。
三、对话能力是否代表智能的争议：“中文屋子”问题
美国哲学家塞尔（John. R. Searle）1980年在《心智，大脑和程序》一文中，提出了所谓“中文屋子”（Chinese room）的问题，对图灵测试进行质疑（Searle 1980）。塞尔提出，假设有一个只会英文的人被关在一间屋子里，要求他回答从小窗递进来的纸条上用中文书写的问题。他面前有一组英文指令，说明中文符号和英文符号之间的对应关系和操作关系。他首先要根据指令中的规则来操作问题中出现的中文符号，估测出问题的含义，然后再根据规则把答案用中文逐一写出来。虽然他完全不会中文，但是，通过这种操作，他可以让屋子外的人以为他会说流利的中文。塞尔以此说明，计算机只是善于根据规则做机械的操作而已（这与当时基于规则的语言处理系统十分相似），这并不能证明计算机具备智能。塞尔的批评是对图灵测试的一个挑战。
塞尔提出“中文屋子”问题以来，哲学家和人工智能研究者关于图灵测试究竟是否适合用来测试智能的争论持续了很多年，至今还没有平息。
如果我们使用人机对话技术，就能够在很多应用方面给众多用户提供更加自然的交互界面。这就产生了一个被称为“智能会话代理”的研究焦点。所谓智能会话代理，就是能够通过会话与人们进行交际的计算机人造实体，在智能会话代理中，尽管计算机也只是模仿人们的自然语言，但是，人们往往会误以为计算机理解了自然语言（冯志伟2014）。这样的代理甚至可以在一些受限领域提供良好的服务（如医疗问答、酒店预订、交通查询等），在领域落地的实践中，人们不再关心语言能力与心智的哲学问题。
四、数据驱动范式的成功：沃森
进入21世纪，人机对话系统在算力增长和数据量扩张的刺激下，取得了飞跃式的进步。计算机“沃森”（Watson）赢得电视问答竞赛的人机大战，则向世界直观地展示了人机对话系统取得的巨大成就。
2011年2月14～16日，美国著名的智力竞答电视节目《危险边缘！》（Jeopardy!）举办了一场人机竞答比赛。参加比赛的计算机是美国国际商用机器公司（IBM）研制的超级计算机“沃森”，人类选手则是曾经多次赢得《危险边缘！》竞答冠军的布拉德·布特和肯·詹宁斯。首日比赛中，沃森与布特打成了平手，领先于詹宁斯；次日比赛中，沃森答对了30道测试题中的24道，詹宁斯和布特分别只答对3道和2道；2月16日竞赛揭晓，沃森以绝对优势战胜了人类高手，获得冠军，赢得100万美元奖金（开发者捐给了慈善机构）。这是计算机自动问答系统研究引起世界瞩目的重要成就。
沃森是20多名IBM研究人员4年心血的结晶。它由90台IBM服务器组成，拥有15TB的存储容量、2880个处理器线程，每秒可进行80万亿次运算。它存储了包括辞书、百科全书和电影剧本在内的数百万种资料。在IBM强大的数据检索、并行计算基础上，沃森充分融合了基于统计自然语言处理方法的自然语言的结构分析、自然语言的语义技术，然后用自然语言做出回答（Ferrucci et al. 2013）。研究人员突破性地给予了沃森用自然语言精确回答问题的能力，推动了人工智能的发展。
20世纪90年代以来，随着互联网兴起和硬件快速发展，自然语言处理所需的数据规模和大规模计算所需的硬件基础得到了显著提升。自然语言处理的研究和开发由依赖专家知识的规则系统，向依赖大数据和统计分析的统计路线转换。对话代理在这一阶段逐步发展成熟，开始更深地进入更多日常生活领域。
五、深度神经网络的前沿技术：预训练模型
2012年以来，自然语言处理开始从统计学习向端到端的神经网络深度学习方法转型，大大地提高了处理系统的性能，使得自然语言处理进入了崭新的阶段，基本上形成了一套完备的技术体系，标志着自然语言处理进入了大规模工业化实施的时代（冯志伟2019）。
在深度学习和神经网络的研究中，语言数据资源不足是一个严重的问题。例如，商用神经机器翻译系统需要包含数千万个句子甚至数亿个句子的大数据作为训练语料。如果语言数据不足，自然语言处理系统的质量就难以保证。为了解决这一问题，学者们开始探讨在小规模语言数据中研制自然语言处理系统的可行性问题，提出了“预训练语言模型”（冯志伟，李颖2021）。如图1所示。
预训练语言模型使用大规模文本语料库数据（Large-scale text corpus）进行预训练（Pre-training），建立预训练语言模型（Pre-trained language models），然后使用面向特定任务的小规模语言数据集（Task datasets），根据迁移学习的原理进行微调（Fine-tuning），形成下游任务的模型（Models for downstream tasks）。这样的预训练语言模型使得研究者能够专注于特定的任务，而适用于各种任务的通用的预训练语言模型可以降低自然语言处理系统的研制难度，从而加快了自然语言处理系统研究创新的步伐。
使用这样的“预训练范式”，研究人员设计出各种预训练模型，可以把通过预训练从大规模文本数据中学习到的语言知识，迁移到下游的自然语言处理和生成任务模型的学习中。预训练模型在几乎所有自然语言处理的下游任务上，都表现出了优异的性能，进一步验证了预训练模型确实是一个功能强大的大语言模型，在自然语言处理的研究和应用领域产生了广泛的影响。
由OpenAI公司开发的基于转换器（Transformer）的生成式预训练模型（Generative Pre-trained Transformer，GPT）已经成为当前自然语言处理研究的核心技术。GPT利用转换器模型的编码器和解码器，从语言大数据中获取了丰富的语言知识，在自然语言生成任务上达到了相当高的水平。这样一来，生成式预训练模型GPT便成为深度学习神经网络时代自然语言处理研究最重要的语言模型。
六、生成式预训练模型的强大展示：ChatGPT
GPT的训练参数越来越多。2018年6月开发的GPT有1.17亿个参数。2019年2月开发的GPT-2有15亿个参数，实现了无监督的多任务学习，具有一定的自我纠偏能力。GPT-2开始训练的数据取自著名社交站点Reddit上的文章，累计有800万篇。2020年5月，GPT-3启动，有1750亿个参数，开始了大规模的机器学习，把能获取到的人类书籍、学术论文、新闻、高质量的各种信息作为学习内容，并形成了“基于人类反馈的强化学习方案”（RLHF）。后来，又在此基础上开发出ChatGPT。ChatGPT可以通过使用大量的训练数据来模拟人的语言行为，生成人类可以理解的文本，并根据上下文语境，给出恰当的回答，甚至还能做句法分析和语义分析，帮助用户调试计算机程序，写计算机程序的代码，达到了很强的自然语言生成能力。
2022年11月30日，ChatGPT开放公众测试，真正实现了完全自主的“人工智能内容生成”（AIGC），包括文本生成、代码生成、视频生成、文本问答、图像生成、论文写作、影视创作、科学实验设计等。
现在的ChatGPT是由效果比GPT-3更强大的GPT-3.5系列模型提供支持的，这些模型使用微软Azure AI超级计算基础设施上的文本和代码数据进行训练。据说，GPT-4的参数将高达100万亿。这是真正的大语言模型。
交互式是ChatGPT的一大优点，用户可以自如地与ChatGPT对话，自然而且流畅。ChatGPT的回答是连续的、稳定的、一致的，用户与ChatGPT对话，就像是与朋友聊天。
ChatGPT也承认它还存在一些不足。最近《时代周刊》对ChatGPT做了一个专访。聊天记录如下：
记者：我应该相信你刚才说的一切都是真的吗？
ChatGPT：作为一个大型语言模型，我被设计成对各种各样的输入产生类似人类的反应。我尽我所能提供准确和有用的信息，但我不是一个完美的知识来源，可能不总是能够提供完整或正确的答案。此外，我不能浏览互联网或访问任何外部的信息，所以我的反应仅限于我所得到的训练数据和算法。这意味着我的回答中可能有一些错误或不准确的地方，你不应该把我所说的都当成真实和准确的。在做任何重要决定或采取任何行动之前，运用自己的判断和常识核实多方信息，才是重要的。
由于ChatGPT不能像搜索引擎那样提供实时的信息，有时甚至会提供不符合事实的错误答案，或者一本正经地胡说八道，或者说一些永远正确的废话。这是因为ChatGPT实际上只是一个大规模的语言模型，只能在大规模数据的基础上对人类的语言行为进行模仿，并没有真正理解聊天的内容。实际上，ChatGPT尽管能够针对人类的输入产生类似于人类的反应，然而，它并不知道它知道什么，也不知道它不知道什么，并不能真正地理解自然语言。
ChatGPT的成功，归根结底是人类智慧的胜利，因为ChatGPT是由人类研制出来的，它的智慧是人类赋予的。ChatGPT的出现，使得人工智能由感知智能进入了认知智能，而且改变了在此之前的简单的人机关系，并将带来一个人机合作的新时代。
七、结语
虽然ChatGPT具有优异的对话性能，但我们仍要清醒地认识到，人类对于自然语言的理解，除了依靠语言内部各种关系的知识之外，还需要依靠外部物理世界、外部精神世界和外部社会历史世界等背景知识。自然语言文本中的每一个符号、每一个合乎规则结构的符号串，在人脑中都与外部的客观世界有着千丝万缕的联系。这些复杂联系不仅以语言数据中的符号形式表现出来，还具有更深入的心理感情表征以及社会文化背景。然而，ChatGPT使用生成式预训练模型从大规模语言数据中获取的大量参数，基本上都是基于自然语言数据的参数，还没有这些语言数据与语言外部的客观世界的千丝万缕联系的参数。因此，ChatGPT只是处理自然语言本身的数据，并不能处理丰富多彩的语言外信息。所以，我们认为，ChatGPT尽管已经取得了很大进步，已经具有强大的处理人类语言数据的能力，但是它处理外在世界的普通常识以及社会历史背景的能力还十分有限。从本质上说，ChatGPT具备的智能还不是完善的人类智能，只是初级阶段的人类智能，而语言是人类的高级智能活动，不仅涉及语言内部的结构，还涉及语言外部的日常生活知识、科学技术知识、历史知识、社会知识、文化背景知识、人们的情感愿望、人们的心理状态等丰富多彩的因素。自然语言是极为复杂的，要进一步提高自然语言处理的水平，让计算机真正地理解自然语言，仍然还是一个极为困难的任务。我们还要继续努力，用新技术来探索自然语言的奥秘（冯志伟，张灯柯2022）。
与此同时，纵观从图灵测试到ChatGPT人工智能中人机对话系统的历程，其背后数据资源、技术迭代和科学范式都发生了巨大的变化。人工智能借由人机对话深入地介入了语言生活。这一发展过程中，语言学和语言学家在不同时期有所介入，但总体而言并不多。随着人机对话性能的飞速提升，语言学和语言学家需要正视冲击，并进行反思。语言中知识的表示和挖掘方法，语言使用中的伦理，都是当今人机共生语言生活中亟待研究的问题（饶高琦2022）。面对新时代的要求，语言学家应当与时俱进，进行更新知识的再学习，成为适应数智时代需要的语言学家。
（参考文献从略，如有需要请参照原文）
编排：逯琳琳 审稿：王 飙 余桂林
相关推荐
《语言战略研究》2023年第2期目录与提要
《语言战略研究》2023年第1期目录与提要
《语言战略研究》2022年第6期目录与提要《语言战略研究》2022年第5期目录与提要《语言战略研究》2022年第4期目录与提要
《语言战略研究》2022年第3期目录与提要《语言战略研究》2022年第2期目录与提要《语言战略研究》2022年第1期目录与提要
《语言战略研究》2022年度盘点喜讯！我刊入选CSSCI（2021—2022）扩展版！我刊入编《中文核心期刊要目总览》2020年版语言、文字类核心期刊！喜讯！我刊入选人大《复印报刊资料重要转载来源期刊（2020年版）》！
本刊从未与任何第三方合作从事征稿、审稿及发稿活动，
从不以任何形式收取版面费、审稿费
请认准本刊官方网站界面→