从云到端五大产品线全面拥抱AI,AI正成为AMD的新大招。编辑 | GACS9月14日-15日,2023全球AI芯片峰会(GACS 2023)在深圳市南山区圆满举行。在首日主题演讲中的AI芯片架构创新专场,AMD人工智能事业部高级总监王宏强分享了主题为《AMD Pervasive Al:从数据中心、边缘、客户端到终端,Al无所不在》的主题演讲。AMD人工智能事业部高级总监王宏强谈道,AMD在单个GPU能做到上千T的浮点算力规模,通过多节点横向扩展,更是能达到每秒百亿亿次浮点计算能力(EFLOPS),并提供额外的超大内存容量及带宽,可实现700亿参数级大模型在单个GPU上的部署,并达到更高的TCO(总拥有成本)。王宏强也特别强调了AMD AI软件的易用性以及强大的开放软件生态的重要性,它是释放这些创新硬件性能的关键。AMD通过统一AI软件实现跨平台AI部署,以开放和模块化的方式构建软件解决方案,从而拥抱更高层次的抽象,并与最重要的生态系统(PyTorch, ONNX, HuggingFace, Open AI Trito, Open XLA等)合作对接推动开箱即用的用户体验。以下为王宏强的演讲实录:尊敬的各位嘉宾,各位同行,下午好!我很荣幸今天有机会参加芯东西举办的AI峰会上,这也是AMD第一次在线下参加芯东西举办的AI峰会。今天我将与大家分享AI无所不在,无限可能的人工智能变革时代。人工智能领域正在快速变化。处理如此大量数据的计算能力对于人工智能的发挥至关重要。 01.从云到端,全产品线看向AI,AMD瞄准1500亿美元AI芯片市场
同时,我们也有MI GPU,可以用于数据中心的AI推理和训练。我们也有用于工业、医疗、科学、自动驾驶等应用的嵌入式平台。我们的客户群非常地广泛,有数千个嵌入式的客户使用我们这些产品。我们也推出了消费级的带有AI功能的Ryzen AI PC端加速平台。AMD也正是看到这些传统的算法和应用正在被人工智能所替代,特别是AIGC,它让AI变得普遍存在,甚至在各个行业、各个应用中都可以利用它来为我们人类提供一些更加便利、更加丰富的生活,带来更加安全的驾驶,这些都是需要AI技术和平台来作为支撑。AI最终将变得非常普遍,无所不在,人工智能技术将会是在整个产业界、行业一个绝对性的大趋势,引领整个社会的变革。整个AI市场,也是极速地在增长,所以它的机会是无限可能。预计到2027年,在整个AI市场中,芯片市场就将达到1500亿美元,所以这也是各家企业逐鹿的一个战略重地。 02.AI需求多样化对芯片架构提出挑战,AMD推出多样针对性架构创新
我们接下来就看一下基于这些架构的产品示例。AMD的战略,是要为业界、为同行提供最广泛的计算产品的组合,以满足人工智能这种普遍性的、多样性的需求。在这方面,我们也取得了非常大的进展,我们有陆续的推出这些产品。这些(见PPT),都是我们已经推出来的产品。在数据中心,我们有基于CDNA架构的Instinct数据中心GPU,它可以满足AIGC,这些生成式AI的workload的训练或推理。EPYC处理器,有远超于同行的CPU核心数,目前我们可以达到128个核心数,这些都为通用AI提供了强大计算平台。基于Radeon架构的GPU,它可以通过AI技术增强游戏体验变得更好。Versal AI Edge产品系列,主要目标市场是为嵌入式或者边缘侧的应用。对端侧的应用,今年5月份,我们推出了Ryzen AI,这个产品是集成了CPU、XDNA AI Engine的IPU,还有RDNA的iGPU集成在一个异构计算平台里,可以用来满足电脑市场这些AI推理的需求。这个产品已经发货,已经有超过35个PC系列里,集成了Ryzen AI这款产品。接下来我们具体看一下,这些产品如何去满足这些多样化的AI市场需求。AMD的Instinct GPU主要是用在数据中心,它是专为生成式AI而设计的GPU。它将CDNA 3与业界领先的HBM3相结合,采用业界领先的2.5D/3D Chiplet结构构建,它提供高达数千TOPS的计算能力,并提供额外的,超大的内存容量,我们对大模型有优势,因为我们可以直接在内存中运行更大的模型,减少所需的GPU数量显着提高性能,尤其是推理性能。