【解码ChatGPT④】肖峰：何种生成？能否创造？——ChatGPT的附魅与祛魅
编者按
2022年11月以来，美国人工智能研究公司OpenAI开发的聊天机器人ChatGPT，迅速成为史上增长最快的消费级应用程序，引发广泛关注。ChatGPT的出现成为人工智能发展的引爆点，推动各国科技创新竞争进入新赛道。技术的跨越必然带来应用场景中的深入观察，无论人工智能服务变得多聪明，适应与满足人类发展需要始终是根本指向。面向未来，多维度多视域探讨ChatGPT对人的生产方式、生活方式、思维方式、行为模式、价值观念以及对产业革命和学术研究等的重要影响，有助于我们正确使用和管理这种技术，进而思考人工智能的发展前景。
ChatGPT作为生成式人工智能（Generative AI）的新成果，显示出不同于分析式人工智能的若干新功能。它不像后者那样只能分析已存在的信息和数据，演绎（推算）出前提中已包含的结论，而是可以对既有的数据信息进行归纳概括，形成与既成东西并不相同的新东西。比如，生成对某一问题的回答从而成为聊天高手，生成人所需要的文案（如计划书、摘要、论文等）或艺术作品（如绘画、作曲、小说、诗歌等）从而成为写作或创作助手，生成计算机程序代码从而成为编程能手……凡此种种，它正在不断成为“知识生产”甚至“创造性工作”的新载体，以至于被视为横空出世的“新物种”。
可以说，ChatGPT的这些新功能都与生成相关，呈现了“智能的生成性”这一重要特征。正是这一特征带来的变化，使得ChatGPT增添了许多新的功能，又加之它可以离常人的使用如此之近，为普通人体验其功能提供了切身感受。所以，其影响力一下子就达到了“现象级”，对其“新奇感”也极易延展为“神奇感”，从而对其附魅越来越多的神秘性。
其实，ChatGPT的生成功能根源于机器学习算法，迄今的生成式人工智能都基于这种算法，是经验主义或归纳逻辑的认识论原则在算法理论中的体现。不同于分析式的符号AI所遵循的是从一般到个别的推理原则，生成式人工智能是从个别中归纳出一般，从大量的数据训练中形成模型，然后用这种模型去“指导”对新的个别的认识。比如，它可以根据某一诗人的诗词归纳出一定的算法规则，然后自动进行模仿该诗人风格的诗词创作。生成式人工智能的这一功能，可以说在ChatGPT中得到了充分发挥。因为训练它的数据集发生了几何级数的增加，由此成为一种归纳面更宽、归纳力更强的智能机器，所以才显示出如此之多的神奇之处。
当ChatGPT以生成的方式进行信息处理时，确实显示出以分析的方式处理信息时的不同效用。然而，是否一旦具有生成功能，人工智能就可以威力无穷？并非如此。其一，生成有生成的长处，分析也有分析的长处。两者在人类智能活动中是互补的，在人工智能中也是如此。所以，分析式的符号AI和生成式的人工神经网络AI也是互补的。其二，即使是生成，也要进一步看是“何种生成”。就智能的生成性来说，也是多方面和多层次的。如果将ChatGPT的生成性与人类智能的生成性相比，它还只是一种初级的生成性，较人类智能的生成性还有相当大的距离，尤其还不能实现后者的创造性生成。
从严格意义上看，ChatGPT的生成只是信息的生成而非知识的生成
01
哲学界一般认为，知识是“被验证的真信念”。ChatGPT所生成的东西，既未被验证，也不一定为真。事实上，它常常会输出错误的答案，生成一些“一本正经的胡说”。这恰恰是归纳或综合式思维的“不确定”造成的，也是在大数据训练时由于数据的差异性所带来的。它不像分析式人工智能那样基于演绎推算在输出结果上具有唯一性，而是会因归纳和综合材料的变化而使生成结论也发生变化。当归纳或综合了错误的歪曲性的信息时，就会生成“扭曲事实”的错误结论。所以，至少在目前的水平上，ChatGPT所做的“工作”只能算是“信息的加工”，所生成的是“新信息”而非可靠的“真知识”，更不是具有原创性的新的“一阶知识”，顶多能生成基于机器编辑的“二阶知识”。在这个意义上，称ChatGPT带来了“知识生产方式的革命”，还言之过早或言过其实。或许，将其视为在辅助、驱动或启发人的知识生成上又前行了一步更为恰当。
ChatGPT的生成是一种“从有到有”的生成，即一种“有”生成另一种“有”，而非“无中生有”的生成
02
智能领域最重要的生成，是无中生有的生成（如提出前所未有的新看法、新思想）。ChatGPT的生成，是将“既有”的东西经过浓缩或转译后生成为另一种有（如文档），无非是“既有”的改头换面，这是只具备初级智能就可以完成的任务。而人则不然，在少信息甚至无信息的情况下，人类智能也能生成有，形成全新的信息或知识。这才是“质变”性生成，真正的“创造性生成”。ChatGPT的生成性还远未达及这种水平，它的从有到有的生成，说到底不超出“已知”的范围。其信息处理的结果，并未输出未经输入的东西，而只能根据所收到的输入内容生成文本回应。所以，ChatGPT的生成是关于“知道”的生成，所生成的东西也是人类已知的。它能够以时间压缩的方式，帮助人们快速达到以前通常要耗时很久才能通过查阅资料而达成的“知道”，但它不能像人那样生成先前完全不知道的东西。除了知道的生成外，人还有不知道的生成，即知道自己不知道什么，所以才有发现和发明的新方向，才有从不知道到知道的生成。另外，ChatGPT虽然能回答人的问题，但不能提出问题，尤其是不能提出人类不曾提出过的前所未有的新问题，而人类智能则具有在提问上“无中生有”的能力。进一步，人还能“有中生无”地“反向生成”，那就是否定既有的知识、观点及其根据，彻底推翻已有的结论，实现某种程度上的信息归零，此即人类智能所具有的“批判”“质疑”等宝贵特征，而ChatGPT还不具有这种功能。
ChatGPT的生成是“照章办事”的生成，而非“不知道怎么办”时调用的能力
03
一方面，ChatGPT是通过广义的统计过程（包括贝叶斯过程）来完成归纳从而生成内容，是一个按部就班的理性计算过程。而人类的知识生成（如科学理论的发现过程）则充满了灵感、顿悟等非理性过程。另一方面，ChatGPT中的生成是既有训练数据集和算法所规定好了的生成，某种意义上也是封闭在训练系统中的生成。它具有短时间内将大型语言模型的数据集中的相关信息“一览无余”的能力，如果能够接入互联网自己寻找学习语料，或许还具有将实时在线数据“一网打尽”的能力，呈现出归纳资源极为宽广的优势。不过，对于训练数据集或网络之外的信息，它则一无所知，从而无法回答训练数据集之外的问题，不像人类智能更多是在面对新情况、新问题时发挥作用，在没有现成方法或参照可循时也可以“眉头一皱计上心来”，显示出智能是一种在不知道怎么办时动用的东西。ChatGPT显然还不具备这种能力。在这个意义上，生成式人工智能还不能像人类智能那样可以应对“意料之外”的情况，所以并不具备有创造性的生成能力。换一种表述也可以说，ChatGPT所做的是“传承式”的生成，而非“突破式”的生成。
第ChatGPT生成能力的增强，并未从根本上动摇人机之间的主客关系
04
它所增添的种种神奇，无非是人工智能做了机器可以做的又一些事情。从基底上看只是深度学习所具有的数据挖掘、机器写作和编辑以及文本生成等功能的升级换代，使其能在更多的场景中生成更丰富复杂的内容，包括对人所提出的问题或交付的任务生成更自然、更多样化的响应。但它并没有形成可以与人的创造性生成智能媲美的能力，因而也没有从实质上取代人的智能和职能，两者的关系仍旧未变：人是ChatGPT的使用者，ChatGPT是人的工具；人提出问题，机器生成答案，答案服务于问题，机器满足人的需要。另外，ChatGPT只是在信息处理过程中生成了类似人回答问题的文本，还不可能生成自我意识、主体意向、动机欲望。而人在应对环境的智能活动中，是不断生成（也包括重塑）自我意识的，而这才是“高端生成能力”即创造能力的本体论根源。所以，ChatGPT还停留在弱人工智能的水平上。从本质上，它仍然只是模式识别技术，是机器学习算法范畴内的模型和场景应用的一次飞跃，还够不上“革命”的称谓。
但即便如此，ChatGPT的意义也是不容忽视的。比如，它是人工智能中自然语言处理的一种进步，也是搜索引擎的升级换代，是一种功能更强大的智能辅助工具，甚至可视为人类进入“AIGC时代”的标志。它将机器思维的长处发挥得更透彻，借助它可形成人与机器之间协同式、互联式的知识生产，造就混合智能或脑机互惠的新形态，由此进入人机分工的新阶段：由智能系统更多更高效地完成工具性的智能工作，人类则能够更充分地发挥自己作为主体的作用，即向技术系统提出任务、设定目标、启动其运行并享受其带来的成果。在这个意义上，“ChatGPT恐惧”和“ChatGPT崇拜”一样，都是不必要的。
鉴于此，一方面ChatGPT确实因为对机器智能生成性的新开发新应用，展现了新的功能甚至新的神奇；另一方面也要看到，这种生成仅仅是智能模拟的初级功能，还不是真正“知识创新”意义上的知识生成，所以需要以平常心看待它的意义，需要在ChatGPT的附魅热潮中加以必要的“祛魅”。
作者系上海大学哲学系教授
来源：中国社会科学报
责任编辑：崔晋
新媒体编辑：张雨楠 翁腾月（实习）
历史阅读