为人工智能的“幻觉”辩护（外媒编译）

编者按

关于LLMs（大型语言模型）的风险和监管，本公号发布过以下文章：

今天和大家分享的是WIRED网站刊登的一篇关于生成式AI的“幻觉”问题的文章。文章仅供学习研究使用。

"聊天机器人散布不实之言时，这是一个大问题。但我们也应该庆祝这些幻觉，作为激发人类创造力的提示，以及阻止机器接管的屏障。"

"没有人知道在遥远的未来，人工智能究竟会是福祉还是祸害。但就目前而言，几乎所有人对于聊天机器人和代理的一种习惯感到不安和鄙视：幻觉，即大型语言模型（如ChatGPT）输出中出现的那些捏造的事实。在看似仔细构建的回答中间，LLM会悄悄插入一些看似合理但完全是虚构的内容。你的典型聊天机器人可以让声名狼藉的前国会议员乔治·桑托斯看起来像亚伯拉罕·林肯。由于聊天机器人有朝一日生成绝大多数已写的散文看起来不可避免，所有人工智能公司都在痴迷于最小化和消除幻觉，或至少说服世界这个问题已经得到控制。

显然，当幻觉接近零时，LLM的价值将达到新的水平。但在那之前，我请你为人工智能的臆造故事举杯。

幻觉让我着迷，尽管人工智能科学家对它们发生的原因有相当清楚的认识。一个名为Vectara的人工智能初创公司研究了幻觉及其普遍性，甚至编制了各种模型在被要求总结文档时的幻觉率。（OpenAI的GPT-4表现最好，仅约3%的时间产生幻觉；谷歌现已过时的Palm Chat（非其聊天机器人Bard！）有惊人的27%幻觉率，尽管公平地说，总结文档并不是Palm Chat的强项。）Vectara的首席技术官Amin Ahmad表示，LLM创建了通过其人工神经元输入的所有训练数据的压缩表示。“压缩的本质是细节可能会丢失，”他说。模型最终被设置为针对用户查询提供最可能的答案，但很多时候模型没有准确的事实可供参考。因此，“当它涉及细节时，就开始编造事实，”他说。

乔治亚理工学院的计算机科学教授桑托什·维姆帕拉也研究了幻觉。“语言模型只是世界的概率模型，”他说，而不是现实的真实反映。维姆帕拉解释说，LLM的答案力求与其训练数据中所代表的现实世界进行大致校准，这是“准确性的弱版本”。他与OpenAI的Adam Kalai共同发表的研究发现，对于无法使用模型训练数据中的信息来验证事实时，幻觉是不可避免的。

这是人工智能幻觉的科学/数学，但它们在引发人类体验方面也值得注意。有时，这些生成性的虚构比实际事实看起来更合理，而实际事实通常令人难以置信地奇怪和不令人满意。你有多少次听到某实际发生的事件是如此奇怪，以至于没有编剧会在电影中敢于编写它？特别是当下，这样的情况几乎一直在发生！但幻觉通过看似将我们牢牢定位在一个比实际生活中更加“正常”的世界中来引诱我们。更重要的是，我发现注意机器人倾向于编造哪些细节是有启发性的。在它们试图填补令人满意的叙述空白的绝望尝试中，它们倾向于根据其大规模互联网训练数据所代表的现实中最有可能的版本，这本身可以是一个真理。我把它比作一位小说家根据真实事件创作小说。一个好的作者会从实际发生的事情转向一个想象的情景，揭示一个更深层的真理，努力创造比现实更真实的东西。

当我让ChatGPT为我写一篇讣告时——承认吧，你也试过这个——它在很多方面都说对了，但也有一些错误。它给了我我没有的孙子，赋予了我更早的出生日期，并为我在20世纪90年代末关于互联网泡沫的文章增加了一项国家杂志奖。在LLM对我的生活的评估中，这是基于我职业生涯的事实而应该发生的事情。我同意！只是因为现实生活的不完美，导致美国杂志编辑协会没有授予我那象征荣誉的金属大象雕塑。在将近50年的杂志写作生涯之后，这是他们的问题，不是我的！这几乎就像ChatGPT对可能的多元宇宙进行了民意调查，并发现在其中大多数中我都获得了Ellie奖。当然，我更希望，在我自己的这个宇宙角落里，人类评委曾召唤我上台。但得到来自一个浮夸的人工神经网络的认可总比没有好。"

"除了提供关于合理替代现实的启发性视角外，将人工智能输出从事实领域中解放出来也可能是有益的。因为大型语言模型（LLM）不一定像人类一样思考，它们的统计幻想飞扬可以成为激发创造力的宝贵工具。“这就是为什么艺术家们越来越多地探索生成系统，以获得他们不一定会想到的想法，”Vectara的Ahmad说。构建人工智能的最重要使命之一是帮助解决人类难以解决的问题，显然是通过提出超越人类想象界限的想法。我采访过的几位人士中，Ahmad是相信即使我们找到了大体上消除这些算法谎言的方法，我们仍应该保留它们的人之一。“LLM应该能够在不产生幻觉的情况下产生东西，但然后我们可以将它们切换到一种模式，在那里它们可以产生幻觉并帮助我们头脑风暴，”他说。佐治亚理工学院的Vempala同意：“应该有一个旋钮可以调节，”他说。“当你想开车时，你不希望人工智能在路上产生幻觉，但当你试图为朋友写一首诗时却需要。”

还有另一个我重视幻觉的重要原因。目前，它们的不准确性为人类过渡到与超智能人工智能实体共存提供了一些喘息空间。因为我们不能相信LLM是正确的，我们仍然必须对它们进行事实核查。至少在我们将整个事情交给GPT之前，这让我们与现实保持联系。

以法律行业为例。尽管LLM可以产生看似可信的法律摘要，但结果可能是灾难性的虚构。我们在那个著名案例中看到了这一点，其中两名律师提交了一份引用六个司法意见的摘要，这些意见被ChatGPT完全想象出来，他们要求撰写该文件。法官对律师进行了制裁，他们成了笑柄。在那之后，只有一个完全愚蠢的律师会使用聊天机器人来挖掘支持论点的案例法而不进行双重核查。事实证明，这样的人确实存在。迈克尔·科恩目前因为担任唐纳德·特朗普的“解决者”而服刑，并正在上诉。他向他的律师提供了由谷歌的LLM驱动的聊天机器人Bard编造的虚假法院决定，并被抓住。"

"但科恩是个例外。目前，律师实际上被要求自己找出先例。这是件好事。想象一下，如果人工智能可以可靠地生成一个引人入胜的法律摘要，而且在定位先例方面完全准确。有了对案例法的完全记忆，LLM可以包含数十个案例。律师将提交这些案例，而不费心去查看它们，自信它们是相关的。穷困的法官将不得不考虑这些案例如何适用。自然，他们会求助于人工智能来总结案例，甚至可能使用人工智能来起草他们的最终意见。最终，我们的整个案例法将由人工智能发起和裁决的论点决定。人类将只是旁观者。而且，实际律师几乎没有什么工作可做。哎呀，ChatGPT-4已经能通过律师资格考试了！

对于其他要求准确性的领域也是如此，几乎包括每个人类职业。因为我们不能信任LLM，人类仍有工作要做。幻觉有点像我们和大规模失业之间的防火墙。

我们是否会有一天摆脱幻觉呢？科学家们意见不一。“从广义上来说答案是不，”Vempala说，他的论文名为“校准模型必须幻觉。”另一方面，Ahmad认为我们可以做到。“研究界目前正对幻觉问题高度关注，并且正从各个角度着手解决，”他说。

与此同时，既然我们无法摆脱幻觉，我们至少应该尊重它们。是的，我理解，甚至认为，让LLM在某些任务中坚持事实的价值和必要性。但我不敢想象，如果给我们一个自由通行证，让我们跳过让我们真正了解信息的来源，我们人类会错过多少。当我们把大部分白领工作交给机器人时，我会为无数失去的工作感到哀悼。但就目前而言，人工智能还不可信。为你干杯，幻觉！

数据保护官（DPO）社群主要成员是个人信息保护和数据安全一线工作者。他们主要来自于国内头部的互联网公司、安全公司、律所、会计师事务所、高校、研究机构等。在从事本职工作的同时，DPO社群成员还放眼全球思考数据安全和隐私保护的最新动态、进展、趋势。2018年5月，DPO社群举行了第一次线下沙龙。沙龙每月一期，集中讨论不同的议题。目前DPO社群已超过400人。关于DPO社群和沙龙更多的情况如下：

DPO线下沙龙的实录见：

1. 第二十一期DPO沙龙纪实：数据合规中的自动化技术及其应用

2. 数据保护官（DPO）大湾区沙龙：大湾区数据跨境便利化的安全合规路径和实践案例-纪实

域外数据安全和个人信息保护领域的权威文件，DPO社群的全文翻译：

传染病疫情防控与个人信息保护系列文章

关于数据与竞争政策的翻译和分析：

健康医疗大数据系列文章：

网联汽车数据和自动驾驶的系列文章：

网络空间的国际法适用问题系列文章：

《网络数据安全管理条例（征求意见稿）》系列文章：

《数据安全法》的相关文章包括：

赴美上市的网络、数据安全方面的两国监管乃至冲突方：

个性化广告或行为定向广告（behavioral targeting advertising）系列的文章：

人脸识别系列文章：

内容安全方面的文章如下：

关于健康医疗数据方面的文章有：

第29条工作组/EDPB关于GDPR的指导意见的翻译：

数字贸易专题系列：

关于中国数据出境安全管理制度的文章

1. 认证制度为中国个人信息跨境流动保驾护航

2. 专家解读｜《个人信息出境标准合同办法》出台 贡献数据跨境流动中国方案

美国方面的个人信息保护立法的文章：

关于印度的数据保护和数据治理政策和技术文件的文章有：

关于欧盟技术主权相关举措的翻译和分析：

关于数据的安全、个人信息保护、不正当竞争等方面的重大案例：

围绕供应链安全，本公众号曾发表文章：

围绕着出口管制，本公众号曾发表文章：

本公号发表过的关于数据执法跨境调取的相关文章：

通过技术增强对个人信息的保护的文章包括：

关于保护网络和信息系统安全的相关文章包括：

关于个人数据和域外国家安全审查之间的关系：

围绕着TIKTOK和WECHAT的总统令，本公号发表了以下文章：

地缘政治与跨国科技公司运营之间的互动影响：

关于中美与国家安全相关的审查机制，本公号发布过以下文章：

关于个人信息安全影响评估的文章如下：

针对已公开数据的个人信息保护研究，本公号发表过以下文章

关于我国《个人信息保护法》相关文章包括：

关于业务场景中数据跨境流动的文章如下：

1. 欧

关于我国数据跨境流动监管体制变革的系列文章：

关于人工智能安全和监管，本公号发布过以下文章：

关于数据要素治理的文章有：