ChatGPT：颠覆性突破在于“闲聊”

ChatGPT，我称之为“欧阳小邪”，意指它是西方OpenAI公司的人工智能成果，很会“闲”聊，家传“失业之毒”，还带着一股“邪”气。“欧阳小邪”横空出世，是阿尔法狗（AlphaGo）之后人工智能第三次浪潮的又一标志性事件。它让我们看到了“通用人工智能”（Artificial General Intelligence, AGI）的可能。

“通用人工智能”就是“欧阳小邪”有点“邪”气的根源。2023年2月24日，OpenAI公司CEO萨姆·阿尔特曼（Sam Altman）首度公开《关于通用人工智能及更多目标的规划》（Planning for AGI and beyond）。一时间，全世界关于“通用人工智能”“超级智能”或“强人工智能”等老问题再度引发热议。然而，这是一组含混但意图一致的概念，通称“通用人工智能”，把政府、企业、科研机构和公众搅成一池浑水。

一

“人工智能”原初定义的核心是“模仿”问题，即人们是否可能以及如何“使机器的行为模仿人类的智能行为方式运行”。“欧阳小邪”一次性突破了人工智能的“图灵关”“实用关”和“常识关”（判断“机器模仿人类思考的程度”的三个层次），这是2006年以来基于深度学习技术的人工智能长期坚守基础研究的结果。其中，“常识关”是“欧阳小邪”乃至整个生成式人工智能的最大突破。
“图灵关”指的是图灵测试（Turing test）。简单来说，测试包括三方主体：一方人类提问，两方回答。回答的一方是人类，另一方是机器——宣称已经达到人类一般水平的技术系统。三方主体在独立空间、独立回答问题、独立判断的条件下，如果人类提问方能够正确判断是人类还是机器的回答，那么表明机器没有通过图灵测试，即机器没有达到人类智能的水平。
反之，如果人类提问方无法判断回答方是人还是机器，那么表明机器通过了图灵测试，机器能够模仿人类思考，相当于机器具有人类同样的智能。对于“欧阳小邪”而言，通过了医生或律师专业考试，以及通过谷歌、阿里的专业面试获得初级软件工程师的岗位等例子表明，它能够通过图灵测试，即“图灵关”。“实用关”指的是机器能否像人一样解决问题，但并不需要机器一定具备人的智能。典型的例子是约翰·塞尔的“中文屋”（Chinese room）论证。这是一种类似图灵测试的场景，由三个条件组成：
首先，场景须是独立的空间，且房间内外只有一种递纸条的交流方式。其次，独立的两个主体，其中一个在屋内，另一人在屋外。最后，屋外的人递进英语纸条，屋内的人根据上面的符号递出相应的中文翻译纸条。
塞尔力图证明，即便是屋内的人完美地完成“翻译”工作，但他其实可以完全不懂中文，只需一本英汉大词典即可。由此推论，即便一台计算机能够完美地完成“翻译”工作，即通过图灵测试，计算机也没有相应的内容理解能力。
虽然，塞尔的本意是用“中文屋”论证反驳强人工智能——机器具备与人类相当的智能，但是反过来看，机器不需要具备与人相当的智能，也能够像人一样解决特定领域相关问题。
“欧阳小邪”在现实应用中展示出通过“实用关”的能力。例如，美国学生用ChatGPT写出一篇“最佳”论文，令教授都动容。然而，学生对自己提交的这篇论文的相关内容知之甚少，ChatGPT也只是输出了恰当的文字，并不理解其中的内容。
“常识关”指的是机器能够与人进行日常交流。“常识”是机器难以逾越的鸿沟，这是莫拉维克悖论（Moravec's Paradox）的核心。虽然人工智能一开始就是“模仿”人类行为，但是人工智能研究发现，“训练计算机做人类难以做的事情很容易，比如数学和逻辑，但训练它们做人类容易做的事情却很难，比如走路和图像识别”。
因此，莫拉维克悖论是关于人的高低阶智能与机器的高低阶性能之间相反的描述，即人的高阶逻辑推理能力机器容易实现，但人的低阶智能，例如动物性本能的智能，机器反而很难实现。
随着深度学习技术及Transformer算法模型等发展，“常识”难题开始减弱。而基于大规模预训练模型技术体系的“欧阳小邪”彻底颠覆了人们对人工智能的认知：它能聊天，写诗、作词、出代码，而且还是与人“闲聊”，不至于三句就聊死，甚至还能与人侃大山，近人情，通人性。

二

以往关于“通用人工智能”的讨论主要是一种“想象”，类似猴子捞月一样，想象爬上树梢就能摘月，或者贴近池塘就能捞月。这种“想象”很大程度上模仿“理性人假设”——人具有无限理性而假设“人工智能具有无限智能”。因此，传统的“通用人工智能”往往聚焦于机器是否通过图灵关，认为“理性的人或人工智能是万能的”。
然而，物理学天才少年事实上可能不会系鞋带，同理，现实的通用人工智能也不会是万能的。例如，以往基于符号逻辑的人工智能能够进行数学公理推导，但仍然面临着“莫拉维克悖论”：“欧阳小邪”虽然突破了“常识关”，目前却难以做对复杂一点的数学题。
OpenAI提出的“通用人工智能”不是以往的理解——超级智能或强人工智能。OpenAI认为，通用人工智能是“一般情况下比人更老练的人工智能系统”。其中，“老练”（smart）这个术语，除了含有聪明（clever）等智商方面的意思，还有“思维全面、思考成熟、应对得体”等情商方面的意思。这与以往讨论的“通用人工智能”“超级智能”或“强人工智能”有细微但实质性的区别。OpenAI提出的“通用人工智能”是“领域人工智能”（Artificial Filed Intelligence, AFI），即“场景多向度的人工智能”（Multi-dimensional Artificial Intelligence for Context, MDAIC）。“欧阳小邪”的颠覆性突破在于常识层面的“闲聊”能力，该能力的可能用途有许多向度，但都属于“闲聊”的场景，不是传统的“通用人工智能”或“专一人工智能”。
这样的“领域人工智能”适合于人工智能伦理研究。“伦理”是技术系统在特定场景中的一个（道德）功能。类似于哈贝马斯的“商谈伦理”，“欧阳小邪”的“闲聊”能力有助于在不同的应用场景中建立应当的、正当的或恰当的“人与机”关系。
同理，“领域人工智能”的场景能力也有助于人工智能生产内容（AI-generated content, AIGC）技术在不同的应用场景中建立合理的“人与机”关系。
总的来说，“人与机”关系的标志性AIGC技术——“欧阳小邪”横空出世后，原来基于“人与人”关系建构的人类文明底层逻辑发生了变迁，“人与机”关系的重要性被抬升，未来将与“人与人”关系同等重要。“闲聊”等AIGC技术的场景能力将推动机器获得如何接受并重现人类能力的知识，有望在特定领域达到“有限通用智能”，而非“万能通用智能”。
作者介绍

潘恩荣：浙江大学马克思主义理论创新与传播研究中心研究员

原文题为《颠覆性突破在于“闲聊”》，原载于《社会科学报》总第1845期6版、“社会科学报社”微信公众号，转载请注明来源。

投稿邮箱：[e-mail]
今日编辑：吕蓬霖
图片来源：新华网 《瞭望》新闻周刊 刘坤 薛宇舸

责任编辑：金云云 李真鸣

往期推文：