Stack Overflow 明令封禁 ChatGPT

导读：因为较多的答案是错误的，有数千计使用ChatGPT的答案需要StackOverfllow进行人工检查。

近几天，使用OpenAI 的问答机器人  ChatGPT 的用户激增，由于它生成答案快速简单，在 Stack Overflow 上涌现了大量该模型生成的答案。

这些答案通常需要具备一些技术背景和专业知识的人详细阅读，才能确定答案，而实际上的答案是错误的。

这种情况让 Stack Overflow 的内容质量管理遭到严重冲击。

ChatGPT对于StackOverflow的团队来说质量不达标，很快即宣布暂时封禁 AI机器人生成的答案。

StackOverflow表示，在进行更大规模的员工讨论之前，它不会对AI生成的答案做出永久性封禁，由于担心ChatGPT可能对该网站及其用户“造成重大伤害”，现在正在采取立即行动。

在Stack Overflow站内搜索，还能看到公告发布前，许多用ChatGPT在问题下的回答。

“从 ChatGPT 获得正确答案的平均比率实在太低，”StackOverflow在一份题为“ChatGPT被禁止”的政策声明中明确了自己的态度 。 

对于 Stack Overflow 封禁 ChatGPT，网友们纷纷表达了自己的看法。有人表示赞成，认为 AI 短时间内根本不可能生成完全正确的答案：

有人表示问题出在 Stack Overflow 用户。在发布答案之前，没有认真检查和测试ChatGPT生成的代码，他们只是用ChatGPT快速生成答案并发布，导致答案中出现严重Bug，甚至编程语言都是混乱的。

有趣的是，StackOverflow宣布封禁ChatGPT之后，有网友询问ChatGPT：“为什么 Stack Overflow 禁止用 AI 生成答案？”

ChatGPT的回答说：“因为 AI 生成的答案不总是准确或相关的，可能会导致 Stack Overflow 上混淆错误答案，误导在寻求帮助的用户。”并且还表态：“Stack Overflow 禁止用 AI 生成答案是合情合理的。”

该网友又追问 ChatGPT：“为什么 Stack Overflow 允许用 AI 生成答案？”这只是个假设情况，但 ChatGPT 还是对答如流：

在 Stack Overflow 上允许 AI 生成的答案有一些潜在的好处。一方面，人工智能可能会为用户的问题提供更准确和详细的答案。这对于人类专家可能难以回答的复杂技术问题特别有用。此外，AI 生成答案可以帮助减少人类专家的工作量，使他们能够专注于更重要的任务。

然而，使用 AI 生成答案也有一些潜在的缺点需要考虑。例如，AI 生成的答案可能并不总是准确或有帮助的，而且人们可能担心用于生成答案的算法存在偏见。用户可能也对使用 AI 生成答案有顾虑，更愿意从人类专家那里得到答案。

总的来说，是否允许 AI 在 Stack Overflow 上生成答案是一个复杂的决定，需要社区仔细考虑。

综合上面的回答，我们发现ChatGPT还是有自知之明，对 Stack Overflow 禁用 AI 生成答案也阐述得有理有据。

这说明从语言模型的角度讲，ChatGPT已经成熟，但是生成知识型内容并不是一件容易的事。

ChatGPT仍受到影响所有当前语言模型问题等困扰。最重要的是，ChatGPT还是在有限数量的数据上训练的。没有哪一个机器人拥有网络上可用的全部信息，包括谷歌。许多数据集合中充满了偏见和不正确的信息——这些特征很容易在训练和推理过程中传递给消息代理。

作者：万能的大雄

相关阅读：