其他
探讨大模型前沿技术与商业化落地 |【奇绩潜空间】第3季开始报名
关注奇绩的小伙伴,奇绩潜空间第三季活动开始报名,第一期活动时间为 7 月 27 日。
【奇绩潜空间】第二季内容回顾
【内容回顾】姚顺雨 - 普林斯顿计算机系博士,ReAct 、思维树框架提出者, Agent 智能领域最早探索者之一。潜空间第2季第1期嘉宾
关键词:Agent
姚顺雨分享了 Agent 智能领域的多个关键议题,从技术发展、挑战、应用场景到与大模型的结合,以及科研成果的商业化,深化了对 Agent 技术实际应用和未来趋势及挑战的理解。
“大模型和 Agent 是相辅相成的,有些人认为我们要更关注 Agent 的层面,有些人认为模型发展好了可以解决所有问题,这是行业内的一个深层的辩论。现在面临的另一个本质问题是如何解决数据挑战,以及如何解决落地场景挑战。在这样的情况下,如何找到一个既符合短期内模型的能力约束,又能落地,又能获取数据的场景是非常值得关注的,需要大家共同尝试。” “好的研究项目需要一个简单清晰的想法,而创业则要解决一个个实际问题。你需要做很多零碎工作,但最重要的是让方案跑起来,给客户做出来有用的东西。研究和创业相通的点在于都要思考你的客户是谁,如何为他们产生价值。例如你要研究一个评测工具,就要思考谁会用这个工具,怎样让大家能轻松使用,它能为用户带来哪些好处。但创业时,你要做一百万件很脏的事情,这是很大的区别。”
创业者唯独不要在商业模式上做创新,要使用已经验证过的赚钱模式,在商业模式上做创新的风险是极高的。 因为我们太小了,不用臆想自己已经在和巨头同台竞争,这是早期创业者常有的幻觉。创业者需要考虑的是怎样活下来,而不是如何去打败巨头。当然巨头都是从草根做起,但我们一开始还是要做好自己的事情。 AI 硬件一定是特别热的赛道,取胜的关键是软件层面的革新和突破。因为大家底层模型的能力水平相似,所以要做到差异化竞争,不同形态的 AI 硬件是很好的思考角度。如果你的软件在特定场景下更好用,用户就会为它买单。
首先我们的定位肯定是不会和大厂直接竞争的。我们的初衷是为有视频生成和模型部署需求的中小型企业服务,当然,如果我们发展速度比较快,视频质量很高的话也可以把它做成一个服务。但在策略上肯定不能盲目的跟大厂直接竞争。 虽然大厂可能有更多的算力资源,但实际上目前我们用不到那么多。所以对创业公司来说,现在也有一些潜在机会——找到 Scaling Law 的正确方向。 出海现在是比较野蛮生长的一个阶段,并不是因为它的发展速度很快,而是还没有找到一个高效统一的策略让 AI 出海企业去模仿,也没有成熟成功的范式去借鉴。如何去竞争,哪一部分市场没有被触达,哪些是空白机遇点,这些事目前我们都还没调查清楚。如果做 AI 出海,能不能在产品上有吸引力,不被 ChatGPT 吃掉,是值得思考的。
在模型和底层硬件愈加同质化的当下,要结合具体的应用场景才能做到推理层面的差异化。例如云端和端侧的场景需求就不同,对延时、吞吐的指标各有要求,这里就有较大的优化和差异化的空间。但只看模型推理服务商层面,技术的成本和效率很容易收敛到接近的水平。 端侧模型是非常重要的发展方向。未来可能会是偏混合模式的架构。端侧有两大好处,一是降低成本,利用用户自己的设备推理;二是保护隐私。 苹果发布的 Apple Intelligence 就是一个好例子,他们也是一套混合模式的模型,在手机上有一个小模型,同时也有一个云端模型,只有任务难度到达一定程度时才会调用云端模型,和我们的 Tool Maker 思想类似。未来模型层面可能出现类似人类社会分工的模式,有比较便宜的小模型,也有比较强的大模型。