查看原文
其他

卓越算力引领新一代数据中心和 AI 技术|稀土掘金创新论坛回顾

稀土君 掘金开发者社区 2024-01-10

分享嘉宾:AMD 公司中国区数据中心业务部产品及市场总监 曲大健

很荣幸能代表 AMD 向大家介绍我们的产品在各个方面的应用及未来的发展。

高性能和自适应计算正在改变我们的生活

大家知道现在 AI 的发展,导致对高性能计算平台有非常大的爆发式需求,而 AMD 的愿景就是通过高性能和自适应计算改变我们的生活。我们的使命就是通过我们的技术和创新,来打造新一代的技术,新一代的产品,支撑大家对未来产品以及应用的需求。例如在 AI 领域,我们设立了一个 30x25 的目标,即在 2025 年之前,将用于 AI 训练和高性能计算的处理器能效提升 30 倍。

AMD 也是业界能提供从用户端到云端再到边缘的全系列产品的公司之一。目前AMD 除了能同时提供 CPU、GPU,去年新收购的 Xilinx 和 Pensando,更是带来了自适应 SoC,网络,存储和 Smart Nic 技术,为用户提供行业中最广泛的产品组合,重新定义了数据中心。

AMD 产品特性之“多、快、好、省”

“多”是指我们的核心数。AMD 利用创新的小芯片技术,使核心数从过去第一代的32 核,发展到最新一代高达128 核,同时大幅提升芯片的计算密度。

在这个过程中,我们除了把核给堆叠上去,还用了先进的制程技术,比方说我们在这里边总共集成了大约 900 亿个晶体管,在一个单芯片上可以提供 128 条 PCIe G5 连线,我们最新一代的产品可以提供 12x DDR5 通道,这对于大模型训练和数据库都非常的重要。

此外,AMD 也是第一家将 3D vcache技术用在产品化上并推出了第一代产品的公司,我们通过 3D 堆叠技术把以前芯片上的 cache 加到了三倍,在 HPC 还有一些工业计算的场景里得到了广泛的应用。

“快”,指我们的计算速度。尽管在单片上集成了那么多设备、功能、核,我们单片的计算性能已经达到业界标准大约两倍。这是现在市场上能看到的 CPU 单片计算能力的最高。

第三个就是“好”,现在大家很关心的用于 AI 和  HPC 上的加速指令集, AVX-512 指令,它是用作浮点运算的,这个 在 AI 和 HPC 上用的非常多。我们的设计技术不断演进以及采用更复杂的指令集,让核的取值以及它的运算有了更进一步的发展。尽管我们在上边有这么多核,但实际上我们每个核的支撑做得非常大。我们在单片上集成的 CACHE 的大家可以在网上查到,是我们的竞争对手比不了的,这些 CACHE 对 CPU 的性能发展作出了非常重要的贡献。我们在各种不同的工作负载之下的性能体现,在数据库、Nginx上,都比竞争对手高出了 1.5 -3 倍,这个性能为各种各样的应用提供了强有力的支撑。尤其是现在 AI 以前所未有的速度渗入到我们生活的各个方面,有一个强大的计算平台是非常重要的,否则很多东西可能没有办法做。

和合作伙伴一起创作了300+世界纪录

AMD 在各个方面创造了诸多世界纪录,当然这个世界纪录是我们和合作伙伴一起创造的,包括商业应用、数据管理、基础架构,还有一些在工程技术上、数字服务上的各种各样的纪录。这个纪录实际上并没有到此为止,每当我们出了新的芯片,每当我们的合作伙伴出了新的机型,这个记录会不断地加长,AMD 也一直是遥遥领先的。

第四个就是“省”。一是投资要低,就是获取芯片要容易、便宜。二是 operation 要低,这对云服务来讲非常重要。云服务厂商讲究两点,第一点是初始获取服务器的价格要低,投资要少。第二点是运营的时候不能太昂贵,所谓运营时候的昂贵最大的问题就是耗电。现在不管是中国还是世界各个国家,我们终端用户对耗电的要求都会越来越高。去年信产部发了关于中国绿色计算的白皮书,在白皮书里的列举了节能减排的目标,以及各个厂商的节能减排表现。现在在新建的数据中心里,对节能、耗电的绿色计算要求也非常的明确。我们通过技术与设计来提升 power efficiency,在更低的耗电上提供更强大的计算能力,也是我们持续努力的一个目标。

可以看到我们的单芯片核数以及单芯片计算能力在业界是最高的,它直接达成的效果就是我们竞争对手需要五台服务器,但 AMD 一台服务器就全部搞定。每年能源成本的节约,占用空间的减少,网络投资的减少,性能的提升,节省了很大的运营费用。一个简单的比较就是 100 万台客户现有平台,转到 AMD 这个服务器上,可能只需要大约一半的数量,55 万台就够了。每年节省多少电,减排多少,这个数量仔细地计算出来以后是非常可观的,尤其在以后需要有碳交易的时候,这一部分可以直接给你达成非常好的效率。

还可以看到,同样的算力之下,客户现有平台需要大约 11 个服务器,但是转到 AMD 上来可能 6 个服务器就能提供所需要的性能,投资可以节省到 46%。这是我们追求的一个目标,不仅可以降低自己的投资,节省自己的运营费用,也可以在更低、更有效率的水平之上向大家提供云服务。我们除了支持Windows、VMware 以外,在开源平台上 Linux 也是我们支持非常娴熟的一些 operating system。还有各种各样的应用,很多都是耳熟能详,对大家的开发也提供了非常方便的条件。

以上就是对 AMD 产品现状以及技术特点的分享,希望大家有机会的话能在字节的火山引擎上试一试 AMD 的产品,看看是不是像讲的那样性能卓越,谢谢!


稀土掘金创新论坛文字回顾

你真的需要 1 万个 AI 助理吗?|稀土掘金创新论坛回顾

欢迎加入掘金技术交流群

点击【阅读原文】查看更多内容

继续滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存