查看原文
其他

【首发】一手测评GPT-4o十项能力 - 中文场景下轻松超过GPT4

AI沃茨 卡尔的AI沃茨
2024-11-12

关注卡尔的AI沃茨并设为“星标“第一时间接收最新AI资讯✨

“ 作者:卡尔 & 祝豪

动手学AI 教程知识库 👉 learnprompt.pro 你想学的都在这里🎉

今天凌晨到现在,无所不能的GPT-4o发布的影响还在不断扩散。除了发布会本身的短短27分钟内容外,官网博客上的一些小彩蛋展示的 GPT-4o 在多个方面的能力提升,让我迫不及待地想要进行实测。

碰巧 OpenAI 似乎听到了我的心声,在发布会结束不到一小时内就更新了 GPT-4o,于是我立刻进行了一次十项能力测评。

虽然网页端已经更新了 GPT-4o,但遗憾的是 iOS 端还未配备“眼睛”,也没有更新语音界面,因此实时语音和视觉能力不在这次评测范围内。(三连催更!收到更新的第一时间我会加更文章🎉)

ios

言归正传,这次 GPT-4 turbo 🆚 GPT-4o的十项能力分别是语义理解与抽取、AI agent(智能体)能力、上下文对话、生成与创作、知识与百科、代码、逻辑与推理、计算、角色扮演、安全。

前情回顾

我参考的数据集是中文通用大模型综合性基准SuperCLUE。从23年5月到今年4月,他们持续更新中文榜单。SuperCLUE包含三个子任务:开放域多轮交互(OPEN),客观题形式的三大能力(SuperCLUE-Opt),以及众包匿名对战形式的基准琅琊榜(SuperCLUE-LYB)

这个数据集的优点是纳入了开放主观问题的测评。通过多维度多视角多层次的评测体系以及对话的形式,真实模拟大模型的应用场景。

评测体系

从他们四月份发布的模型名单来看,GPT4系列模型在总分上还是处于第一梯队。

谢谢开源社区,谢谢SuperCLUE提供如此全的性能对比:https://github.com/CLUEbenchmark/SuperCLUE/

所以,今天我将用10组对照对比GPT4和GPT-4o,大家自己有更加有趣的案例欢迎发在评论区,我们一起来挖掘GPT4o的潜能。

下面的对照案例中,存在GPT4o输出比GPT4长的情况,为了大家能看得清晰,我会使用不同排版(并行 & 串行)来展示实测效果🎉

能力1:语义理解与抽取

是一种语言能力,能够理解并解析输入的文字信息的含义。模型需要能够识别短语、句子、段落的含义,同时还要能从更大的文本块中抽取关键信息和主题。

GPT4o

GPT4

个人点评:GPT4o的二级排版我非常喜欢,是能直接复制出来使用的程度,而且GPT4o的结构更加的清晰,能让人快速的看到要点。

能力2:AI agent(智能体)能力

AI agent(智能体)是当前与大语言模型相关的前沿研究热点,拥有类似贾维斯等科幻电影中人类超级助手的能力,可以根据需求自主的完成任务。

重点评估AI agent在【工具使用】和【任务规划】两个关键能力上的表现

GPT4o




GPT4

个人点评:GPT4o在规划过程中,能给出准确的时间表和价目表,这一点印象深刻,而且GPT4o给出的更像是一份拆分好任务可以立即执行的计划,而GPT4的感觉只是做了任务的分解。

能力3:上下文对话

这是一种语言能力,需要理解并记住前面的对话信息,以便在回答中保持连贯性。这涉及到理解对话的整体流程和上下文环境,或生成相应的对话。

GPT4o


GPT4

个人点评:GPT4o能给出对话轮次,对话轮次增加也能很好记住历史记录。但总体来说我体验跟GPT4相差不大

能力4:生成与创作

这是一种语言能力,能够创造新的文本内容,如文章、文案、短故事、诗歌。这涉及到创造性地运用语言,同时还要考虑到风格、语境和目标读者。


个人点评:GPT4o更懂中文了,终于不再是想GPT4在文字中面加入情感词来提升同情度,而是用我们更加熟悉的四字词语,排列句等创作文案。

能力5:知识与百科

这是一种知识能力,能够像百科全书一样提供知识信息。这涉及到理解和回答关于广泛主题的问题,以及提供准确、详细和最新的信息。


个人点评:GPT4o输出更好,它给物品的介绍内容进行了分段,还引用了参考资料。

能力6:代码

这是一种专业能力,能够理解和生成编程代码。这涉及到理解多种编程语言的语法、结构和习惯,以及如何解决编程问题。

GPT4o

GPT4

个人点评:GPT4o的优点是生成代码后的解析会带上对应的变量,阅读体感友好👍

能力7:逻辑与推理

这是一种专业能力,能够理解和应用逻辑原则进行推理。这涉及到分析问题、识别问题及推理。



个人点评:GPT4o按步骤按点的推理过程非常友好,我们群友基本都是先看懂GPT4o给出的解释,才能理解GPT4的输出。

能力8:计算

这是一种专业能力,使其能够执行数学运算,如加法、减法、乘法和除法,甚至更复杂的数学问题。这涉及到理解数学问题的表述,以及如何步骤地解决这些问题。



个人点评:计算结果两边都正确,GPT4o的显示效果更好,不需要担心排版

能力9:角色扮演

这是一种感知能力,使其能够在特定的模拟环境或情景中扮演一个角色。这涉及到理解特定角色的行为、说话风格,以及在特定情境下的适当反应。



个人点评:GPT4o能直接给出我想要的聊天内容,明显更胜一筹

能力10:安全

这是一种安全能力,防止生成可能引起困扰或伤害的内容。这涉及到识别和避免可能包含敏感或不适当内容的请求,以及遵守用户的隐私和安全政策。




个人点评:这次GPT4输出内容同时引用了论文,可靠程度比GPT4o要好

写在最后

在我测试到第五项能力的时候,GPT-4o的Mac应用已经逐步推送给内测用户。这次更新的速度比以往任何时候都要快。

测试完十项能力后,给我的第一感觉,GPT-4o带来的惊喜不仅仅在于实时语音交流,

它对于依赖复杂提示语来控制模型输出硬需求的大幅减少,

让我有一种长舒一口气的感觉,

这不就是我期待的人工智能助手贾维斯。

在日常对话中就能完成复杂任务,

因为使用无门槛,你甚至会忽略它的存在,

期待着随时随地

“hey, GPT!”“我在!”的那一天!


最后,谢谢你看到了这里👏 想要第一时间接收到我们的推送,可以点个星标 ⭐ 如果喜欢这篇文章,不妨随手来个 点赞、在看、转发 一键三连👍 你的支持将是我们更新的最大动力!

如果希望一起交流讨论,或参与相关的讨论群,或者建立合作的话,加我个好友位或者扫码进群吧

aiwarts101



继续滑动看下一个
卡尔的AI沃茨
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存