刚刚,月之暗面杨植麟现身分享
The following article is from 投资界前哨 Author 吴琼
发布新一代数学推理模型 k0-math。
作者 I 吴琼
报道 I 投资界-投资界前哨
周六(11月16日)下午,北京海淀知春路上的月之暗面总部,创始人杨植麟现身。
这是一场小型交流会。投资界在现场获悉,虽然刚刚经历一场仲裁风波,但这次杨植麟带着Kimi 正式发布新一代数学推理模型 k0-math。值得一提的是,这也是 Kimi 推出的首款推理能力强化模型。
回想一年前的11月16日,彼时成立仅半年的月之暗面面向全社会开放了智能助手产品Kimi Chat。为此,月之暗面同样事先筹备了一场小范围沟通会,为Kimi预热。那时,坐在台下的媒体和投资人,或许还没意识到接下来会发生什么。
“凶猛”足以形容Kimi这一年。杨植麟颇为感慨,“去年我们也是在这一天面向所有用户开放,经过365天,现在每个月使用Kimi的人数已超过 3600万。”然而对于一家明星创业公司而言,跌宕的征途才刚走了一小段。
杨植麟眼中的AI下半场
一个现实摆在眼前,大模型从业者们信仰的Scaling Law正面临瓶颈。
自ChatGPT发布以来,Scaling law(尺度定律)几乎成为业内共识,即通过增加更多数据和计算能力来“扩大”当前模型,便能持续改进模型的能力。但此前OpenAI原首席科学家Ilya Sutskever公开表示,扩大预训练的结果已经达到了平台期:
“2010年代是规模扩大的时代,现在人们又回到了奇迹和发现的时代。每个人都在寻找下一个东西。”
在杨植麟看来,AI的发展就像在荡秋千,在两种状态之间来回切换。“一种状态是算法和数据准备好了,但算力不够。”从Transformer架构诞生到GPT-4的出现,更多的矛盾在于如何扩大规模(Scale)。但到今天,规模已经到达一定的程度,加更多的算力,也不一定能解决问题,其中的核心问题是没有高质量的数据。这时要做的就是改变算法,“好算法就是跟Scaling做朋友,释放Scaling的潜力。”
强化学习将是接下来一个很重要的趋势。其中,k0-math 模型采用强化学习和思维链推理技术,通过模拟人脑的思考和反思过程,培养和训练AI深度思考的能力,而数学产品则最适合让AI得到锻炼。未来,k0-math 将被尝试用于 K12 教育等领域,同时也直接用于 Kimi 搜索能力的提升。
不过,杨植麟坦言当下预训练还有空间,“预训练还有半代到一代的空间,这个空间明年会释放出来,明年领先的模型会把预训练做到比较极致的阶段。但接下来最重点的还是强化学习。”
从年初Sora开始,多模态成为今年为数不多的炸点。但此前,月之暗面并未披露对多模态路线的计划。这次杨植麟回应,公司已经有几个多模态能力正在内测。AI接下来最重要的是思考和交互两个能力,“多模态肯定是必要的,但思考的重要性远大于交互,思考决定上限。”杨植麟表示。
Kimi的挑战:
核心任务是提升留存
历史经验证明,每一个新兴科技的发展都会经历百花齐放到收购重组的浪潮。经历一段时间的狂飙突进后,国内也开始出现一些AI创业公司被收购、人才回流大厂的现象。
杨植麟坦言,这说明行业发展进入了新的阶段,“从一开始有很多公司在做,变成了现在少一点的公司在做,接下来大家做的东西会逐渐不一样,这是必然的规律。”
他认为,相比于其他大模型创业公司,月之暗面强调始终保持人数最少,保持卡和人的比例最高。“我们不希望把团队扩的那么大,否则将对创新有致命性的伤害。”
其实从今年上半年开始,月之暗面主动做减法,聚焦Kimi。“我们一开始确实也尝试过几个产品一块做,这在一定的时期内可能是有效的,但后来发现还是要聚焦,把一个产品做到极致是最重要的。”
身处漩涡中心,外界一直有着对Kimi与其他国产大模型比较的声音。“我们更希望关注在怎么能给用户真正价值上,而不是过多的去关注竞争本身。”在杨植麟看来,竞争本身并不产生价值。只要能有人实现AGI,都是很好的结果。
当下,月之暗面将提升留存视为最核心的任务。距离AGI的目标,现在尚处于初级阶段,“比如思考能力还不够强,交互不够丰富,今天能做的交互还比较有限,无论是跟用户的交互,还是跟本身客观世界的交互,都还有很大的提升空间。”
“超级应用已经出现了”。ChatGPT发展至今,已经有超过5亿的月活。至少从目前来看,ChatGPT已经具备了超级应用的潜质。于许多国产大模型公司来说,这也是一场追赶OpenAI的竞赛。
路还很长
月之暗面无疑是眼下AI时代的一缕缩影。自ChatGPT落地,开启全球人工智能元年,于是大厂涌入,AI初创企业也如雨后春笋般涌现,甚至在国内掀起一波“百模大战”。
经历一段时间的狂飙突进,格局初现,国产大模型已经跑出了月之暗面、智谱AI、百川智能、Minimax、零一万物、阶跃星辰“六小虎”。
眼下,行业来到分水岭。今年以来,我们已经看到不少AI创业公司分崩离析,或者低调离场。但仍有许多坚定留在牌桌上的人,等待AI改变世界的机会。
正如我们看到,以“AI六小虎”为代表的创业公司身后,已经站了一支支长长的投资人队伍。许多投资人笃定判断,“未来一定是AI的机会”。没人能预测AI的终极形态,但总要有人去冒险,押注那些改变未来的事情。
历史经验证明,每一次技术变革,都孕育着这个时代的Big Thing。上一波移动互联网浪潮中,中国已经诞生了字节跳动等世界级企业。进入AI时代,大家都希望打造下一个Super APP。
就如《人类群星闪耀时》中所写的:“那些历史的尖峰时刻都需要太长的酝酿时间”,这注定是一场漫长但坚定的征途。