查看原文
其他

发展以太网!英伟达很认真

硬AI 硬AI
2024-09-05

点击上方 硬AI 关注我们


英伟达正在全力推动以太网技术的发展,推出了Spectrum-X以太网平台,提升AI网络性能。其销售额大幅增长,成为数据中心新宠,预计将在一年内成为数十亿美元产品线。

   硬·AI   

作者 | 官子珺

      编辑 | 硬 AI

近日,在台湾的Computex展会上,英伟达首席执行官黄仁勋详细介绍了Spectrum-X平台的创新。

传统以太网因速度慢、数据易丢失等问题,一直被认为不适合使用在人工智能中。

Spectrum-X是世界上首个专为人工智能工作负载打造的以太网架构,相比传统以太网,它能够将生成式AI网络性能提高1.6倍。该平台整合了Nvidia Spectrum X以太网交换机和Nvidia BlueField-3超级网卡,以解决传统以太网在AI应用中的瓶颈。

黄仁勋指出,传统以太网设计注重高平均吞吐量,但在深度学习和人工智能用例中,GPU主要相互通信,需求有所不同。Spectrum-X架构集成了先进的网络级远程直接内存访问(RDMA)和增强的拥塞控制功能,显著提高性能并避免热点问题。自适应路由和噪声隔离技术进一步优化了以太网的数据传输效率和可靠性。

近年来,英伟达在人工智能领域的进展令人瞩目。

自2019年以69亿美元收购Mellanox以来,英伟达一直在推动其Infiniband技术的发展。Infiniband是一个用于高性能计算的计算机网络通信标准,具有极高的吞吐量和极低的延迟,用于计算机与计算机之间的数据互连。在生成式人工智能时代,它已经被大量应用于云厂商的数据中心。

然而,并不是每个数据中心都能处理 Infiniband,以太网仍然是大多数数据中心的默认设置。因此,对传统以太网的需求仍然存在且不会改变。

为此,Nvidia推出了Spectrum-X以太网平台,帮助解决传统以太网在AI用例中的缺点,在人工智能网络中实现以太网的突破性发展。

市场需求也促使英伟达在以太网上投入更多资源:根据英伟达公布的2025财年第一季度财报,数据中心部门的销售额大幅增长,达到225.6亿美元,同比增长5.3倍。然而,Infiniband产品的供应未能满足需求,导致网络业务收入增长相对缓慢。相比之下,Spectrum-X以太网产品被超大规模企业和云构建者广泛采用,成为数据中心的新宠。

首席财务官Collette Kress表示,Spectrum-X的销量不断增长,客户包括拥有10万个GPU的大型集群。预计Spectrum-X将在一年内成为数十亿美元的产品线,推动英伟达在以太网市场的进一步扩展。 

尽管以太网的发展可能对Infiniband销售产生蚕食效应,但Nvidia正在积极应对这一挑战。

黄仁勋在电话会议中强调,英伟达致力于推动三大计算结构的发展:NVLink计算结构、Infiniband计算结构和以太网计算结构。新一代的CPU、GPU、网络NIC和交换机即将推出,所有这些都将运行英伟达的CUDA软件堆栈。

黄仁勋表示:“我们将以非常快的速度推动这三个环节的发展。您将看到新的交换机、新的 NIC、新的功能、在这三个环节上运行的新软件堆栈。如果您今天投资我们的架构,无需做任何事情,它就会进入越来越多的云和越来越多的数据中心,一切都会正常运行。”

硬·AI   


* 感谢阅读!
* 转载、合作、交流请留言,线索、数据、商业合作请加微信:IngAI2023
* 欢迎大家在留言区分享您的看法,如果您能点个👍并分享的话,那就太感谢啦!
* 让我们一起,好奇地看世界👇
继续滑动看下一个
硬AI
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存