AI内存芯片竞争格局
2月，三星电子（Samsung Electronics）在一份新闻稿中宣称，在最新一代高端AI内存芯片HBM3e 12H（High Bandwidth Memory）领域处于领先地位。然而，事实证明，三星不仅未能领先，反而落后于竞争对手。
三星落后于对手
三星在HBM市场上似乎落后于市场领导者SK海力士（SK Hynix）约6个月，落后于美光科技（Micron Technology）至少3个月。这对长期占据内存芯片领导地位的三星而言，是一个陌生的境地。
内存带宽是AI服务器的关键瓶颈，而解决方案是技术难度更高、价格更昂贵的HBM内存芯片。
供不应求
SK海力士和美光均表示，其HBM内存芯片已售罄，预计到2025年底前无法满足需求。
美光首席执行官Sanjay Mehrotra在9月25日的第四季度财报电话会议中表示：“……我们已锁定2024年和2025日历年的HBM销量和定价。”
三星则表示，其2024年HBM产能也已售罄。
市场快速增长
市场研究机构Yole Group预测，HBM市场今年将大幅增长161.1%，达到141亿美元。
美光在9月25日将2025年HBM市场规模预期从200亿美元上调至250亿美元。
HBM之王：SK海力士
SK海力士目前已大规模生产最先进的AI内存HBM3e 12H，预计将于年底前交付（用于英伟达（Nvidia）H200、Blackwell或AMD MI325X GPU）。
美光已向客户发送HBM3e 12H芯片进行认证，预计2025年初开始大规模生产。
三星的情况则不明朗。
HBM3e有两种类型：
HBM3e 8H（H代表高，8代表8层，即8个DRAM芯片垂直堆叠）
HBM3e 12H，包含12个DRAM芯片
HBM3e 12H：12个3GB DRAM芯片垂直堆叠，总容量36GB，工作速度9.6Gbps。 HBM3e 8H：24GB容量，9.2Gbps。
两者均提供1.2TB/s的带宽。
三星HBM进度延迟
有报道指出，三星HBM3e项目存在问题，这些延迟印证了部分问题。
在第二季度财报电话会议上，三星出人意料地宣布，将HBM3e 8H的大规模生产和出货推迟至第三季度。
而在4月的第一季度财报电话会议中，三星曾表示：“我们本月开始大规模生产HBM3e 8H。”
第三季度从7月开始，因此，从三星宣布开始大规模生产到修订生产计划，至少存在3个月的延迟。
更多延迟
SK海力士在第一季度开始HBM3e 8H的大规模生产和出货，美光在第一季度开始大规模生产，并在第二季度出货。
三星在第二季度电话会议上，还将HBM3e 12H的大规模生产时间表从原定的第二季度推迟至2024年下半年。
三星是否在出货HBM3e？
更令人困惑的是，第三季度已结束，三星网站上仍未出现HBM3e的产品页面，至少在其全球、美国、EMEA的英语网站以及中文网站上均未发现。
根据网站信息，三星目前提供的最高端产品仍是上一代HBM3，远落后于已开始出货HBM3e 8H的SK海力士和美光。
Samsung HBM3e产品线现状
三星HBM3e 8H（24GB）在其AI和服务器应用产品页面上有所列出，但两个相关链接均指向HBM3e 12H版本（36GB）的博客文章，而非实际产品页面。
这种信息呈现方式对客户使用造成困扰。三星HBM3产品页面本应为工程师和采购人员提供产品概览、特性和部件查询等关键信息。相比之下，SK海力士和美光均为其HBM3e及其他HBM产品设立了专门的产品页面。
作为内存芯片行业巨头，三星以质量和技术卓越著称，但在HBM3e方面的表现未能符合其声誉。HBM3e并非其半导体部门面临的首个挑战。
领导层调整
5月，三星宣布半导体部门领导层变更，任命副董事长Young Hyun Jun以应对“AI浪潮中的芯片危机”（路透社报道）。
就任数月后，Jun向员工发出备忘录，警告部门必须停止“掩盖或回避问题”，否则将陷入“重复去年情况的恶性循环”。
不可低估三星实力
尽管面临明显困境，三星凭借其工程人才、技术实力、资金优势和行业影响力，仍有潜力在HBM市场中重新崛起。但这需要大量努力。
SK海力士和美光领先优势
目前，HBM内存芯片市场的高端领域——HBM3e，已被SK海力士和美光占据主导地位。
内存芯片行业近年来的竞争格局前所未有地激烈。
HBM发展简史
HBM（High Bandwidth Memory）内存始于2008年AMD的开发计划，SK海力士于2013年首次成功制造。
AMD GPU部门工程师旨在开发一种更适合GPU的内存芯片，具备更高带宽、更低功耗和更小尺寸等特性，由此诞生了HBM。
其中一个关键挑战是如何堆叠DRAM芯片，因为散热问题可能导致芯片损坏。
SK海力士凭借3D堆叠内存的经验，与其他公司合作研究解决方案。
2013年底，HBM成为JEDEC行业标准。
如今，HBM解决了AI服务器的关键瓶颈，为GPU提供了远超其他类型内存芯片的带宽。
参考资料
https://semiconductor.samsung.com/news-events/news/samsung-develops-industry-first-36gb-hbm3e-12h-dram/ https://news.skhynix.com/sk-hynix-begins-volume-production-of-the-world-first-12-layer-hbm3e/ https://micron.com/about/blog/applications/ai/micron-continues-memory-industry-leadership-with-hbm3e-12-high-36gb
https://reuters.com/technology/nvidia-supplier-sk-hynix-says-hbm-chips-almost-sold-out-2025-2024-05-02/ https://investors.micron.com/events/event-details/microns-post-earnings-analyst-call-16 https://investors.micron.com/quarterly-results
https://news.skhynix.com/sk-hynix-begins-volume-production-of-the-world-first-12-layer-hbm3e/ https://micron.com/about/blog/applications/ai/micron-continues-memory-industry-leadership-with-hbm3e-12-high-36gb https://micron.com/products/memory/hbm/hbm3e https://semiconductor.samsung.com/news-events/tech-blog/leading-memory-innovation-with-hbm3e/
https://samsung.com/global/ir/financial-information/earnings-release/ https://skhynix.com/ir/UI-FR-IR06 https://investors.micron.com/events/event-details/microns-post-earnings-analyst-call-16
https://news.skhynix.com/sk-hynix-begins-volume-production-of-industry-first-hbm3e/ https://investors.micron.com/news-releases/news-release-details/micron-commences-volume-production-industry-leading-hbm3e
https://product.skhynix.com/products/dram/hbm/hbm3e.go https://micron.com/products/memory/hbm/hbm3e
https://semiconductor.samsung.com/dram/hbm/ https://semiconductor.samsung.com/applications/server/ https://semiconductor.samsung.com/applications/ai/ https://semiconductor.samsung.com/dram/hbm/hbm3-icebolt/
https://nvidia.com/en-us/data-center/h200/ https://resources.nvidia.com/en-us-blackwell-architecture
https://ir.amd.com/news-events/press-releases/detail/1201/amd-accelerates-pace-of-data-center-ai-innovation-and
https://intc.com/news-events/press-releases/detail/1713/intel-unveils-next-generation-ai-solutions-with-the-launch
https://news.samsung.com/global/samsung-electronics-names-young-hyun-jun-as-new-head-of-device-solutions-division https://reuters.com/technology/samsung-elec-appoints-new-chief-its-chip-business-2024-05-21/ https://bnnbloomberg.ca/business/technology/2024/08/01/samsung-chips-boss-warns-of-vicious-cycle-if-it-doesnt-change/
https://yolegroup.com/product/report/status-of-the-memory-industry-2024/ https://yolegroup.com/product/report/next-generation-dram-2024/
https://x.com/RajaXg/status/1760487145360556300 https://koreaherald.com/view.php?ud=20131219000838 https://news.skhynix.com/the-story-of-sk-hynixs-hbm-development/ https://news.skhynix.com/sk-hynixs-40th-anniversary-interview-ceo-kwak-targets-specialty-memory/
参考资料：Dan Nystedt, "The Battle for AI Memory Chip Supremacy," X, October 1, 2024, https://x.com/dnystedt/status/1841040042913120587.
---【本文完】---
近期受欢迎的文章：
更多交流，可加本人微信
（请附中文姓名/公司/关注领域）