查看原文
其他

幕后故事:24小时,70 万用户,10亿 tokens,“哄哄模拟器”为何让人乐此不疲?

Moonshot AI Moonshot AI 2024-04-20

“给大家推荐玩个好玩的东西,这个网站可以赛博哄人,适合牡丹(母胎单身)/没谈男女朋友/准备谈男女朋友的人用,看看你会不会哄人。”

“QQ群里玩疯了(狗头)。”

当王登科把自己为了学习新技术顺便练手做的一个网页——“哄哄模拟器Web版(https://hong.greatdk.com/)”分享到技术社区V2EX时,总共收到了 36 条回复。跟平时的发的帖子没什么两样。所以他也没有太关注后台数据。

但是第二天醒来时,他意识到“哄哄模拟器Web版”很可能在某个神秘的地方“爆”了:同时在线人数超过 1 万,消耗的 tokens 也很快过亿了……

经过仔细分析后台数据和发帖求助网友,这个神秘的地方终于浮出了水面——QQ群。有用户在自己的QQ空间里发了“哄哄模拟器Web版”的介绍文章,然后文章被转发到了各种QQ群里,形成了引爆点。再后来,微博、NGA社区、贴吧等网站和论坛的流量也陆续进来了,开始了疯传过程。

因为游戏完全是免费的,再这么“爆”下去,下一个要“爆”的就是王登科的信用卡账单了:用户每次挑战(想办法“哄”好自己的虚拟女友或男友以获得她/他的原谅),都需要消耗大模型的API用量。

王登科决定寻求一些帮助,看怎么在工程上做些优化,减少 API 用量的同时也能提升用户的多轮互动体验。因为之前就对 Kimi Chat 的长文本等基础技术能力印象深刻,也申请过 API,他首先想到了 Moonshot AI。试探性地联系 Moonshot AI 的同学后,很快获得了积极的回应——双方马上拉了群,开始调代码,跑测试。

但是为了保证用户体验,王登科在一开始并未将模型推理全部切换到 Moonshot AI 的 API ,而是只分流了 1/5 的量,这一方面是为了避免一下给 Moonshot  AI 造成较大的负担,另一方面他也想看看效果差异。

在我的观察下,Moonshot AI 的 API 接口表现效果很好,和我之前使用的 GPT 相比,生成的文本格式完全遵守了我的要求,回复给用户的内容,让用户产生下一步操作的比例,也和 GPT 持平。”王登科说。

后来,王登科逐渐将模型调用全量切换到了 Moonshot AI。这一点用户几乎无感知,但他还发现了一些意外之喜,例如 GPT 扮演的人类,如果用户哄的时候使用“赠送昂贵礼物”的讨论,那么模型会极大地给正面反馈,而 Moonshot  AI 则“正派”很多,面对礼物会更加谨慎。“我很喜欢 Moonshot AI 模型的这个特性,因为现实的情况就是如此,谎言总会被揭穿。”

目前哄哄模拟器的模型,全量使用的是 Moonshot AI 的接口,数亿的 tokens 消耗后,用户反馈依然很好,没有任何问题。”王登科补充说。

对话开发者

Moonshot AI:我们都很好奇,“哄哄模拟器”的灵感是怎么来的?

开发者王登科:说实话,确实起源于我和女朋友的一次吵架,当时我一边看着她骂我的样子,一边把她想象成一个数字人,头上有个虚拟的进度条。然后我观察她的反应,假装成我的回应会让她头上的进度条发生变化,然后突然想到了哄哄模拟器的创意:带有数值和反馈系统的基于场景的聊天。

当时想到这个创意后,我很快就用每天晚上的娱乐时间做了一个iOS的app,但这个app本身没有多少人用,我也放着没管。最近我开始学习 react,对我来说最快的方式肯定是做项目的同时学习,所以我找了一个练手的方向,就是把哄哄模拟器做成网页,我花了几天时间,每天晚上写2个小时,然后就做出了哄哄模拟器的网页。

哄哄模拟器网页版在上线之后很快吸引了完全超出我预计的用户量级,最高单日达到了 70 万用户,对话上千万次,tokens消耗量超过了10亿次……感谢 Moonshot AI 在背后提供的支持。

Moonshot AI:这是你的第一款AI产品吗?之前还做过什么项目?

开发者王登科:我们团队之前做是一个叫做 6pen 的项目,应该是国内最早一批做 AI 绘画的产品,也在 22年因为 6pen 进入了奇绩创坛,更早之前我们还做一个叫做面包多的创作者经济平台,这两个项目目前都在运行。

在 2022 年 6 月开始做 6pen 的时候,我就开始对 AI 感兴趣,开始学习机器学习神经网络的东西,还买了显卡在打游戏之余开始跑模型,然后遇到了 stable diffusion 开源和 ChatGPT 爆火,这股 AI 浪潮如此汹涌,以至于最近半年我陷入了一种「 AI 疲劳」之中,对于每天铺天盖地的各种 AI 新闻和充满标题党的文章产生了 PTSD,我希望 AI 能更好的改变我的生活,但贩卖财富神话,科技焦虑,讳莫如深的技术的内容以及各种单纯的聊天套壳却远胜于那些更符合场景的产品。

作为一个不是很忙的创业者,我开始琢磨做一些使用AI能力,但不只是单纯聊天的产品,包括一个AI加持的记录食物热量的App foodCa,利用AI帮助分析Google统计的产品Gacopilot,然后还做了哄哄模拟器的 iOS app。

Moonshot AI:你怎么看大模型领域的应用开发、产品开发机会?

开发者王登科:对我而言,大模型始终是我的兴趣方向,但我更多的会把大模型作为一个更完整的产品中的一环,而不是单纯的使用大模型的输出结果作为直接给用户的内容,哄哄模拟器也好,FoodCa 也好,其实都是在大模型的或者上游,或者下游做了多一点点的工作,但是在某些场景下,这会获得比单纯使用大模型好的多的效果,如何将大模型视作一种能力,基于这种能力去构建更复杂的,更贴近需求的产品,是我之后的探索方向。

从另一个角度,当我们将大模型视作构建完整产品中的一环,甚至占比更低一些的时候,我们也就有更大概率去创建一个足够差异化,更容易建立壁垒,和为用户创造更多价值的产品。这是我的一点想法。



与有想象力的开发者同行

从《完蛋!我被LLM包围了!》到《哄哄模拟器》,我们看到越来越多的开发者开发出了基于大型语言模型的富有创意的优秀应用,它们在给人们带来快乐的同时,也激发了开发者的想象力。Moonshot AI 开放平台即将上线,我们期待与更多优秀的、有想象力的 AI 开发者同行。


继续滑动看下一个
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存