Scaling law的变化带来的机会:网络、光和ASIC
我们从7月开始路演草莓和o1,已经阐述了GenAI从Pre-Training往Pre-Training + RL + Inference的整体scaling变化,有着非常详细的分析和论述;同时我们也一直在跟踪模型和应用目前的frontier。对于Ilya,由于他的创业公司起步晚,融资额也比OpenAI/Anthropic/xAI等少了一个数量级。在compute-centric的今天,“巧妇难为无米之炊”,如果Ilya还强调Pre-Training Scaling Law的重要性,那么间接上就是在宣布自己创业公司的“死刑”了。
不过,RL的重要性的确是到了一个前所未有的高度,目前算力的重点也是在RL + 合成数据。RL,test-time compute,对于算力,networking,甚至ASIC,都会带来巨大的变化。26年到底NV还有多大的增长?RL和Inference Test Time compute对于NV,AMD和ASIC有着什么意义?
另外,Elon Musk的xAI堪称是AI infra领域最大的“鲶鱼”,xAI用很短的时间就建设了10万卡的单一集群,并且能成功的跑起来,凸显了AI集群网络的重要性。随着B卡的导入和放量,AI网络明年会有更大的变化。同时,博通在hotchip demo了CPO和GPU OIO,NV预计在25年推出Quantum和Spectrum的CPO交换机,光学领域也面临前所未有的巨大的变化和机会,还能继续相信光吗?
为了重点阐述Scaling Law的变化带来的算力机会,我们近期推出了光通信的格局变化,以及博通与ASIC两个报告,欢迎联系销售路演。
我们正在发售四篇报告,其内容是:
AI咨询行业:PLTR、C3.AI
3Q24季度调研:NVDA
大模型进展如何改变光通信格局,以及CPO和OIO影响
AVGO与ASIC技术趋势演变
尚有数篇报告正在调研中,其内容是:
网络安全软件公司与Agent
我们已经发售了十一篇报告:
算力需求场景测算
AI与GPU在META中的应用
微软Copilot进展、GenAI售卖场景以及如何影响公有云选择
北美算力租赁厂商近况及供需平衡情况
互联技术以及未来发展趋势
美国数据中心与电力情况
2Q24季度调研:META与MSFT
AI手机
草莓与前沿大模型进展
Robotaxi与FSD的Scaling Law
3Q24季度调研:MSFT、META、AMZN
除了报告外,我们也承接定制化的投研需求。
对报告感兴趣,有定制化投研需求,或者对我们的日常调研纪要(每月超过50篇AI调研纪要)感兴趣的请联系下面的久谦销售同事,或者点击共识粉碎机底栏菜单页的投研服务:
算力租赁崩了吗?
解密OpenAI高管集体离职与o1模型十问十答续