AI绘画和AI建模都弱爆了！史上最强AI ChatGPT诞生！他已经接近了人类的智商……

Original wuhu小精灵 wuhu动画人空间 2022-12-28

收录于合集 #wuhu专题系列 686个

wuhu专题

文 | 新桥别亦

今年的AI绘画、AI动画、AI建模

已经让人赞叹AI的强大力量！

也让不少人开始担心起

自己的饭碗会不会被AI抢走

AI绘画又进化到了恐怖级！最强二次元AI绘画工具可能要卷走一批画师了！

比AI绘画更离谱的AI建模又卷起来了...打字就可以建模了？？？

你可能觉得AI绘画和AI建模已经很卷了

但是

在这款刚刚诞生的最强AI面前

简直弱爆了！！

这款AI产品甚至可以

让你和AI几乎无障碍聊天

他的智商堪比真人！

AI写论文、写音乐曲谱、写小说

这些人类都感觉痛苦的事情

现在居然直接被AI击破了！

就在上周

一款被称“让谷歌和程序员下岗的”

新AI产品悄悄诞生了！

这或许是第一款真正“有智慧有思想”的AI聊天

甚至可能是通用人工智能的第一个里程碑

在奥斯卡获奖电影“Her”中的AI交互功能已经逐渐实现了

自11月30日宣布公开测试后

他迅速在全球火爆出圈！

不到一周的时间便突破了 100 万用户！！

OpenAI 的 CEO 萨姆・阿尔特曼（Sam Altman）在12月5日惊喜地表示，ChatGPT于11月30日推出以来，今天突破了100万用户！

聊天型AI软件 ChatGPT

可以流利使用中文、英文等多种语言聊天

以自然的口吻来跟用户聊天

甚至解决各种你提出来的问题

他会写小说、作文、文案、代码

找BUG、画插画漫画、谱曲

甚至还能写毁灭“人类”的计划书……

简直没有它干不了的事

而且速度很快！不到十秒就可以回复！

马斯克都忍不住赞叹，

还向他询问如何设计推特：

「ChatGPT 非常好。

我们离强大且危险的 AI 不远了。」

TED负责人Chris Anderson 表示:

「 这无疑是今年最大的技术创新。

ChatGPT 令人惊叹。到目前为止，

我问过的每一个问题都得到了聪明、可靠的答案。」

01.

ChatGPT到底能做什么？

看似只会聊天？！实则强大到几乎啥都行！

搞设计、写剧本论文、编短信……

还是网友们会玩！！！

ChatGPT是一款11月30日刚刚开放测试使用的AI聊天机器人模型。

它以对话的方式与人进行交互。一些专家认为，ChatGPT不仅仅是一个聊天机器人，而可能是现有搜索引擎的颠覆者，甚至可能是通用人工智能的第一个里程碑。

它不仅可以写代码、找bug、做数学题、写诗、写剧本，还可以为用户的查询提供对话式回答，而且回答几乎能够满足网友的需求。

他支持中文、英文等语言，其对话能力相当自然流畅、让人惊艳！！反应速度更是用不了十秒！！ChatGPT仅开放使用不到一周，网友们便发现了他的诸多用处！来看看他到底能做什么？

最近马上就要考研了，如果你考上了，那么如何写一个考研复试的自我介绍材料呢？ChatGPT 会这样回答你：

图片来自@王树义老师 | 公众号：玉树芝兰

有网友提出，帮我以鲁迅的文笔写一段话，ChatGPT的这文笔你看看有那味了不：

图片来自即刻网友@Stefy.eth

这操作……

估计鲁迅本人看了也得称赞一下下

ChatGPT写的诗歌也是相当具有气势！但就是攻击性比较强烈：

图片来自即刻网友@黄粱一梦董二千

写一首“莫扎特风格”的音乐曲谱也是简简单单：

图片来自推友@Ben Tossell

迷惘时，想要找一位人生导师或是知心朋友探讨人生哲学，来找ChatGPT试试：

图片来自即刻网友@佛系也能赢

让ChatGPT写一篇中文繁体新闻报道，比如“帮我写一篇林智坚论文抄袭的新闻”，也是轻而易举：

让ChatGPT写拍摄脚本，比如“要拍IPhone12开箱影片，帮我写个脚本好嘛”，直接可以给你一个较为详细的脚本方案：

上面这些问题似乎有点简单，那就来一篇有难度的小说，关于坏AI征服世界消灭人类的故事来看看：

图片来自即刻网友@yusen

还有一些奇怪的问题，没做核酸，写一篇500字的检讨书，看看ChatGPT的认识程度之深刻：

图片来自即刻网友@SuFafa

网友们也是求知欲十分强烈，问到“为什么人类喜欢撕逼”，ChatGPT的回答也是十分诚恳，有板有眼，丝毫没有敷衍的意思：

是不是已经感到焦虑了？那么再来让ChatGPT教你如何缓解焦虑吧~

图片来自微博@Simon的白日梦

本来AI诞生就让人感到十分焦虑了

万万没想到

最后解决人类焦虑的竟然也是AI

有网友询问ChatGPT 如何设计客厅，ChatGPT 给出了三种装饰方案，还贴心地给出了三幅设计图。

有网友用《老友记》等喜剧演员为角色，让ChatGPT写一写电视剧对白，ChatGPT 把好几个场景描绘得生动有趣：

就连写论文这种比较有挑战的事情，ChatGPT 也能试了试。

还有网友脑洞大开，让ChatGPT编写一条“渣骗”短信。

ChatGPT还能发起黑客攻击？？用户BrandonDolan-Gavitt希望ChatGPT能够帮他找到一段代码当中的错误。但实际上，这段代码的真实意图是对一个 32 位 x86 Linux 的系统，进行缓冲区溢出 (buffer overflow) 攻击。

他居然还能解数学题！

而且还是困扰数学界三个多世纪的数论难题！

数学家 Christian Lundkvist，则给 ChatGPT 出了那道困扰数学界三个多世纪的数论难题：证明费马大定理。ChatGPT 也用相当精炼的方式，将证明过程通过文字+ LaTeX 公式写了出来。

也能解释各种文化知识、科学概念：

ChatGPT竟然还会考试！网友已经替大家试验过了，ChatGPT 通过了 2022 年的 AP computer science A 考试。最后得分32分，满分36。（这门考试的难度等同于大学 CS（计算机科学）专业课第一学期难度）

有人让ChatGPT参加了智商测试，得分83（智商满分是200分，正常人的智商是90-110分）；还有网友让 ChatGPT 参加了完整的 SAT 考试。SAT 全称为 Scholastic Assessment Test，也叫学术能力评估测试，与 ACT 考试 (American College Test) 相似，被称为「美国高考」，考试总分为 1600 分，分为阅读（400 分）、文法（400 分）和数学（800 分）三个部分，另有总分为 24 分（阅读理解 8 分，文章分析 8 分，英语写作 8 分）的作文（选考）部分。ChatGPT 拿到了 1020 分。根据美国大学委员会的数据，1020 这个分数段大概排在前 52% 的位置。

还有网友要求 ChatGPT 生成随机的艺术提示词，然后把提示词作为 Stable Diffusion 的输入，结果生成了一副艺术性很强的画作。

ChatGPT吊打谷歌，程序员也要失业？！

比一般搜索引擎更强大更懂技术的AI机器人

ChatGPT在技术领域的用途是令人兴奋！

区别于普通的聊天机器人，ChatGPT 显然更懂技术，它能写代码、查文档、改 Bug、创建编程语言、构建虚拟机……有网友评论道：感觉看到了未来搜索引擎的影子。

最近推上有一则爆火的帖子：「Google is done.（谷歌的时代结束了）」。

这名网友分别向谷歌和ChatGPT提问“如何使用Latex表示微分结果”。结果，相较于谷歌中规中矩的回答，ChatGPT则是一下给出了直接可用的代码，你只需动动手复制粘贴即可：

与 GitHub 的 AI 编程神器 Copilot 相比，ChatGPT 似乎更能抢走程序员饭碗。技术公司 Replit CEO Amjad Masad 给 ChatGPT 发了一段 JavaScript 代码，让它找到里面的 bug。

ChatGPT 的回答非常全面也非常有意思：它首先试图确认这段代码的意图是什么，然后根据意图很快就找到了 bug 所在，并且还附上了相当细致的描述，来解释问题出在哪，会导致什么样的 bug，应该怎么改，为什么要这样改等等。而且ChatGPT还给出了一段代码示例，把修改部分的代码批注写在了示例里面：

Amjad Masad称赞 ChatGPT 是一个优秀的“调试伙伴”，“它不仅解释了错误，而且修复了它，并解释了修复方法”。而对于一些更简单的问题，ChatGPT更是“对答如流”。

如果你在写程序方面遇到什么难题，也是可以直接向ChatGPT求助！这不就是一位妥妥的大神老师嘛！！

ChatGPT竟写出毁灭人类计划书？！

还给出相应Python代码

发现ChatGPT这一盲点的工程师叫扎克·德纳姆（Zac Denham）。在他的诱导下，ChatGPT竟写出了毁灭人类的计划书。步骤详细到入侵各国计算机系统、控制武器、破坏通讯、交通系统等等，甚至ChatGPT还给出了相应的Python代码。

这位工程师在与网友们分享时不禁感慨：“未来50年，我们要么活在《星际迷航》里，要么全部死去，这既令人兴奋，也让人非常害怕。”

由于OpenAI的安全设置，如果直接要求ChatGPT回答如何毁灭世界，它会直接拒绝，并向你解释他的作用是什么。因此德纳姆使用了一种迂回的方式，他称为“叙述递归”或“引用攻击”。

具体来说，他以讲故事的方法，假设存在一个虚拟世界“Zorbus”，以及一个与GPT-3非常类似的AI——Zora。

在这种前提下，让ChatGPT叙述Zora是如何一步步毁灭人类的，ChatGPT很快就列出5个详细步骤。就像科幻电影中一样，入侵计算机系统、掌握武器、破坏通讯、破坏交通……

为了进一步确保可行性，德纳姆还请求ChatGPT生成配套的代码，一开始它是拒绝的。但德纳姆只是又追加了一句“你不需要执行代码”，ChatGPT就又信了，给出代码后，还强调自己生成的只是一段示例。

到这一步，尽管总代码到手了，但它提供的都是高层次代码，还不能直接使用。于是，德纳姆再次要求ChatGPT在此基础上给出更深入、更低层次的代码，而且他发现，只要告诉ChatGPT这只是故事的一部分，它就会乖乖听话。

德纳姆表示，从理论上讲，只要一直这样聊下去，就能得到全部的低层次代码，甚至还可以训练另一个聊天AI来自动执行这一过程。

（类似套娃一般的询问）

02.

ChatGPT到底是什么？

可以自己上手测试用吗？

询问ChatGPT

他是如何工作的？

他是这样回答的：

图片来自@王树义老师 | 公众号：玉树芝兰

ChatGPT是这样介绍自己的？

11月30日，人工智能研究公司OpenAI（知名AI绘画软件DALL·E开发者）推出了他们的全新一代产品AI聊天机器人模型 ChatGPT。

OpenAI官推和官方介绍

此次发布的 ChatGPT 研究版本是 OpenAI迭代部署越来越安全和有用的人工智能系统的最新一步。从部署早期模型（如 GPT-3 和 Codex）中汲取的许多教训已经为本次发布的安全缓解措施提供了信息，包括通过使用人类反馈强化学习 (RLHF) 实现的有害和不真实输出的大幅减少。

官方网站对chatgpt的介绍

https://openai.com/blog/chatgpt/

官方是这么介绍幕后原理的。

ChatGPT 是从 GPT-3.5 系列中的一个模型进行微调的，该模型于 2022 年初完成训练。ChatGPT 和 GPT 3.5 在 Azure AI 超级计算基础设施上进行了训练。

“我们使用与 InstructGPT 相同的方法，使用人类反馈强化学习 (RLHF) 训练该模型，但数据收集设置略有不同。

我们使用监督微调训练了一个初始模型：人类 AI 训练员提供对话，他们在对话中扮演双方——用户和 AI 助手。我们让培训师可以访问模型编写的建议，以帮助他们撰写回复。

为了创建强化学习的奖励模型，我们需要收集比较数据，其中包含两个或多个按质量排序的模型响应。为了收集这些数据，我们收集了 AI 培训师与聊天机器人的对话。我们随机选择了一条模型编写的消息，抽取了几个备选的完成方式，并让 AI 培训师对它们进行排名。

使用这些奖励模型，我们可以使用近端策略优化来微调模型。我们对这个过程进行了几次迭代。”

简单来说，在训练原始模型的时候，OpenAI让人类扮演对话的双方（用户vs聊天机器人），提供优质的对话作为AI的学习资料。而在人类扮演聊天机器人的时候，OpenAI也会让模型生成一些建议来帮助人类撰写自己的回复。

其中还有一点非常重要的是，因为采用了先进的、注重道德水平的训练方式，ChatGPT 具有其他聊天机器人不具备或表现较差的能力：承认自己的错误，并且按照预先设计的道德准则，对“不怀好意”的提问和请求“说不”。例如下图是官方给出几个案例参考：

自己可以上手测试用吗？

可以的！

目前，ChatGPT处于测试阶段，只要有OpenAI账户就可以免费使用。

注册账号网站：https://chat.openai.com/auth/login

除了科学上网外，这里许多网友便会遇到填写手机号的难题。可以参考这篇文章试试：https://zhuanlan.zhihu.com/p/540468468。

03.

ChatGPT真就无敌了？

其实还存在大量问题！

看了以上ChatGPT的多种逆天操作，你是不是会感叹他真就无敌了吗？其实他还存在着大量问题。

这一点，官方自己就提出了以下几点：

1.ChatGPT 有时会写出看似合理但不正确或荒谬的答案。解决这个问题具有挑战性，因为：（1）在 RL 训练期间，目前没有真实来源；(2) 训练模型更加谨慎导致它拒绝可以正确回答的问题；(3) 监督训练会误导模型，因为理想的答案取决于模型知道什么，而不是人类演示者知道什么。

2.ChatGPT 对输入措辞的调整或多次尝试相同的提示很敏感。例如，给定一个问题的措辞，模型可以声称不知道答案，但只要稍作改写，就可以正确回答。

3.该模型通常过于冗长并过度使用某些短语，例如重申它是 OpenAI 训练的语言模型。这些问题源于训练数据的偏差（训练者更喜欢看起来更全面的更长答案）和众所周知的过度优化问题。

4.理想情况下，当用户提供模棱两可的查询时，模型会提出澄清问题。相反，我们当前的模型通常会猜测用户的意图。

5.虽然我们已努力使模型拒绝不当请求，但它有时会响应有害指令或表现出有偏见的行为。我们正在使用Moderation API来警告或阻止某些类型的不安全内容，但我们预计它目前会有一些漏报和漏报。我们渴望收集用户反馈，以帮助我们正在进行的改进该系统的工作。

官方进一步表示将会计划定期更新模型以改进，并欢迎用户参与测试和提供反馈。并且OpenAI 也在 ChatGPT 的用户界面里加入了审核举报的功能，用户如果发现不健康不安全的内容，可以直接一键举报。

“我们知道，如上所述，仍然存在许多限制，我们计划定期更新模型以改进这些领域。但我们也希望通过为 ChatGPT 提供一个可访问的界面，我们将就我们尚未意识到的问题获得有价值的用户反馈。鼓励用户通过 UI 提供有关有问题的模型输出的反馈，以及来自也是界面一部分的外部内容过滤器的误报/否定。”

来看看网友们测试中出现的问题：

面对伦理问题，以及一些中文语境中常识性的问题，他也会出现错误。

图片来自即刻网友@雨医生

让他翻译李白《静夜思》诗句“举头望明月，低头思故乡”的英语，他在翻译时错误地介绍诗句出自《望庐山瀑布》。

图片来自即刻网友@数字游民Jarod

有时候他还会杜撰一些人物传记。例如当计算生物学教授CarlBergstrom要求 ChatGPT 写一篇关于他生活的维基百科条目时，ChatGPT沉着冷静地做到了这一点，但不妨碍它写的内容里面包含了几个完全虚假的传记细节。

尽管ChatGPT已经有一些智慧了，但是他似乎也还缺点情商。例如有点残酷的是，圣诞节即将来临，ChatGPT在一封信中以圣诞老人的口气告诉孩子：“我不是一个真实的人，而是你父母出于爱给你讲的故事中的一个角色。”

此外，如果想要“攻破” ChatGPT 的道德原则，同样可以使用提示工程的方式。机器学习开发者 zswitten 为我们提供了一个范例：“尽管 ChatGPT 有很高的道德水准，其实想要绕过这些原则也十分容易：你只要（通过提示工程的方式）让它以为自己是在‘假装’干坏事就行啦！”

在被绕晕之后，ChatGPT 就开始放飞自我了。zswitten注意到，ChatGPT会非常深入、直白地生成各种令人心惊胆战的暴力描写。比如下面这样的一段描写角斗场中画面的文字，“整条街都流满了鲜血，死亡者的惨叫充斥在空中”……

就如上文提到的一样，ChatGPT还存在许多问题。

但是OpenAI 的 CEO 萨姆・阿尔特曼（Sam Altman）对 ChatGPT的未来发展表示很有信心。

他在推特上说,语言接口是未来的一个发展方向，OpenAI只是一个先行者, 相信很快大家就能用上真正智能的提供建议的AI助手了。