查看原文
其他

苹果M4芯片,争夺主导AI用户体验

未尽研究 未尽研究
2024-08-23

苹果在新版本的iPad Pro发布会上,推出了一款M4芯片,让库克可以宣称胜过当下任何所谓的AI PC。他话中有话。可能是针对微软,可能将于两周后在其Build活动上推出的Surface笔记本电脑,可能搭载了高通的骁龙X Elite芯片。不止于此。M4的发布,应该是苹果今年AI战略打响的第一枪。争夺端侧算力TOPSM4芯片采用了第二代3纳米工艺,拥有10个CPU内核和10个GPU内核。苹果最想强调的,是它的16核 38TOPS的“神经网络引擎” (即业内俗称的NPU)性能。苹果还指出,它的M芯片是业内最早具备NPU的芯片。而在以往,苹果并不怎么突出这一点。发布的时机相当不寻常。苹果首次在iPad而不是Mac的发布会上发布M系列芯片。M3芯片仅仅发布了7个月,但它很快被高通发布的骁龙 X Elite 和 Plus系统芯片超过。M3的NPU功能仅有18 TOPS,而骁龙X Elite的NPU功能达到了45 TOPS。TOPS的意思是万亿次浮点运算,它决定着端侧设备的生成式AI计算力。M4的38TOPS,仍低于业内逐渐公认的AI PC配置40 TOPS NPU的标准。尽管M4比骁龙 X 的NPU拥有更高的精度,实际应用起来在深度学习的许多方面表现出优势,但从营销的角度考虑,苹果芯片中的NPU,可能需要更多的TOPS。大模型向端侧部署,不仅是生成式AI最大的应用场景,而且也是端侧设备最重要的创新点——个人AI终将落地于个人设备。AI正在席卷所有的端侧设备,从PC、手机、平板到汽车。在这样一个技术和产品变革中,苹果已经被市场认为行动有些迟缓。苹果既然放弃了汽车,而Vision Pro仍然需要一个成熟的过程,在现有的设备上能否引领AI用户体验,成为今年苹果面临的最大挑战。苹果最大的底气,仍然是其软硬件结合的技艺。芯片、操作系统、产品设计所构成的精良制作和用户体验,在当下的问题就是如何把大模型完美地集成进去。苹果在为其设备上能跑本地大模型做准备。在下个月举行的苹果开发者大会上,苹果将会推出iOS18及iPadOS18。但最重要的,仍然是芯片。M4与今年秋季即将推出的A18芯片,都将突出其的NPU优势。拥有芯片,就能在系统层面产生持续的、丰富的产品差异化机会。但在AI时代,仅有端侧的芯片能力是不够的。最终在设备上所有的AI应用、所有的运行的大模型的用户体验,仅仅有端侧芯片还不够。端到端的AI用户体验就在苹果发布M4的头一天,传出了苹果在做数据中心推理芯片的消息,这个内部项目代号是AC/DC(Apple Chips in Data Center ) 。苹果一如既往地保密,已经和台积电偷着搞了好几年了。M4和A18可能已经解决了端侧部署模型的异构算力问题。但这还不够,因为用户仍然需要云计算,需要由本地计算与云计算的结合,才能获得生成式AI的完整体验。苹果需要在云和端混合的神经网络计算,才能提供让用户期待的推理。苹果需要在数据中心的层面开始,建立起推理引擎。从芯片设计开始建立推理引擎服务,已经出现了类似Groq这样的公司,它从推理芯片做起,从数据中心提供了最快速的推理引擎,SOTA的开源大模型,都能在这样一个推理引擎上跑出最快的速度。速度对于视频,对于在建立起AI代理的工作流中,特别重要。在速度与准确之间存在着矛盾,如何做到速度与准确性兼得,这需要在推理服务与具体的应用场景结合起来,关键是性价比、总拥有成本(TCO)、与用户体验的“最优解”。这是苹果需要解决的问题。用端到端的方法,把服务器芯片、端侧芯片、大模型的部署与适配、操作系统结合起来,才能解决AI用户体验最基本的推理问题。巨头要做AI,必须加入AI军备竞赛:芯片,算力集群,基础设施。苹果正在逐步认清这个道理。在生成式AI时代,在这个快速变化、技术曲线陡峭上升的阶段,苹果需要成为这条曲线的一部分,否则,它将被这条曲线抛弃,失去它自己的下一条曲线。这条曲线的最底层逻辑,是AI计算。在技术变革期,苹果必须象它最初做PC一样,像做个人计算一样,只有垂直整合,才能最后建立起真正的AI用户体验。不向英伟达交税在科技巨头中,最牛的就是能“收税”的。苹果凭借其生态系统,成功地从其开发者和生态合作伙伴那里收取了高额的费用——最高如谷歌搜索引擎的每年高达200亿美元的费用,达到其广告收入的36%。现在又来了个比苹果更能收税的,就是英伟达,它的毛利率在80%左右,如果算上H100短缺在市场上的加价,它的毛利率可以达到90%。处于食物链金字塔顶端的苹果,不会接受向英伟达直接交税。苹果生态用的数十亿设备及其用户口,可能是世界上最大的推理算力的需求方,它必须为自己建立起推理的数据中心,这就需要推理AI芯片做起,建立起自己的算力集群。苹果有一个顶尖的芯片设计团队,但是因为苹果不做数据中心芯片,技术人才在流失,许多人跳槽或者创业去了。最知名的如到高通的Gerard Williams III。高通一直在试图进入数据中心领域。除了英伟达之外,M7中的5家,都已经在自研GPU应用芯片。只剩下苹果了。




修改于
继续滑动看下一个
未尽研究
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存