查看原文
其他

Scaling law的变化带来的机会:网络、光和ASIC

Andy Liu 共识粉碎机
2024-11-30
我们的新书正在发售,双十一还不买一本吗???
最近有非常多的文章开始讨论Pre-Training Scaling Law受到的挑战,以及o1为代表的Post-Training RL和Inference的Scaling Law,尤其是Ilya大神也跳出来强调了Scaling Law的“失效”,以及新方法的重要性。

我们从7月开始路演草莓和o1,已经阐述了GenAI从Pre-Training往Pre-Training + RL + Inference的整体scaling变化,有着非常详细的分析和论述;同时我们也一直在跟踪模型和应用目前的frontier。对于Ilya,由于他的创业公司起步晚,融资额也比OpenAI/Anthropic/xAI等少了一个数量级。在compute-centric的今天,“巧妇难为无米之炊”,如果Ilya还强调Pre-Training Scaling Law的重要性,那么间接上就是在宣布自己创业公司的“死刑”了。

不过,RL的重要性的确是到了一个前所未有的高度,目前算力的重点也是在RL + 合成数据。RL,test-time compute,对于算力,networking,甚至ASIC,都会带来巨大的变化。26年到底NV还有多大的增长?RL和Inference Test Time compute对于NV,AMD和ASIC有着什么意义?

另外,Elon Musk的xAI堪称是AI infra领域最大的“鲶鱼”,xAI用很短的时间就建设了10万卡的单一集群,并且能成功的跑起来,凸显了AI集群网络的重要性。随着B卡的导入和放量,AI网络明年会有更大的变化。同时,博通在hotchip demo了CPO和GPU OIO,NV预计在25年推出Quantum和Spectrum的CPO交换机,光学领域也面临前所未有的巨大的变化和机会,还能继续相信光吗?

为了重点阐述Scaling Law的变化带来的算力机会,我们近期推出了光通信的格局变化,以及博通与ASIC两个报告,欢迎联系销售路演




我们正在发售四篇报告,其内容是:

AI咨询行业:PLTR、C3.AI

3Q24季度调研:NVDA

大模型进展如何改变光通信格局,以及CPO和OIO影响

AVGO与ASIC技术趋势演变

尚有数篇报告正在调研中,其内容是:

网络安全软件公司与Agent

我们已经发售了十一篇报告:

算力需求场景测算

AI与GPU在META中的应用

微软Copilot进展、GenAI售卖场景以及如何影响公有云选择

北美算力租赁厂商近况及供需平衡情况

互联技术以及未来发展趋势

美国数据中心与电力情况

2Q24季度调研:META与MSFT

AI手机

草莓与前沿大模型进展

Robotaxi与FSD的Scaling Law

3Q24季度调研:MSFT、META、AMZN

除了报告外,我们也承接定制化的投研需求。

对报告感兴趣,有定制化投研需求,或者对我们的日常调研纪要(每月超过50篇AI调研纪要)感兴趣的请联系下面的久谦销售同事,或者点击共识粉碎机底栏菜单页的投研服务:



算力租赁崩了吗?


解密OpenAI高管集体离职与o1模型十问十答续


继续滑动看下一个
共识粉碎机
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存