AI时代的王者:Nvidia Q4财报电话会议记录
Nvidia昨晚发布Q4财报,亮瞎眼的数字让其市值盘后大涨10%。有投资人已经评论,不敢再赌NVidia股票下跌;CNBC投资分析师宣称,打破NVidia芯片领域的垄断至少要5年时间:
做为AI时代当之无愧的王者,我们一起来了解NVidia究竟做对了什么。以下是Nvidia财报会议全纪录,经本城书面整理。
---
下午好,我是罗布,今天我将作为您们会议的操作员。此刻,我非常欢迎大家加入NVIDIA第四季度的财报电话会议。为了避免任何背景噪音,我们已将所有线路设为静音。在演讲者发言结束后,我们将开放问答环节。如果您在此期间想要提问,请按下电话键盘上的星号键后接数字1。如果您需要撤回您的问题,请再次按星号1。谢谢大家。
下午好,感谢大家参与NVIDIA2024财年第四季度的电话会议。今天在此与我一同参与的有NVIDIA的总裁兼首席执行官黄仁勋(Jensen Huang)以及执行副总裁兼首席财务官科莱特·克雷斯(Colette Kress)。我想提醒大家,我们的电话会议正在通过NVIDIA投资者关系网站进行网络直播,并且会议结束后,网络广播将提供重播服务。今天的电话会议内容是NVIDIA的财产,未经我们的事先书面同意,任何复制或转录行为均不被允许。在本次电话会议中,我们可能会做出基于当前预期的前瞻性声明,这些声明受到多种重大风险和不确定性的影响,实际结果可能与预期存在显著差异。关于可能影响我们未来财务业绩和业务的因素,请参考今天的收益报告、我们最新的10-K和10-Q表格,以及我们可能向美国证券交易委员会提交的8-K表格报告。我们的所有声明都是基于截至2024年2月21日的信息。
除非法律要求,否则我们不承担更新任何此类声明的义务。在本次电话会议中,我们还将讨论非公认会计准则(非GAAP)财务指标。关于这些非GAAP财务指标与GAAP财务指标的调节表,您可以在我们的CFO评论中找到。更多信息,请访问我们的网站。
接下来,请允许我将电话会议转给科莱特。
谢谢,西蒙娜。第四季度再次创下了记录。收入达到221亿美元,环比增长22%,同比增长265%,远超过我们200亿美元的预期。2024财年的总收入达到609亿美元,较第一季度增长126%。从数据中心开始,2024财年数据中心的收入达到了47.5亿美元,比前一年增长了两倍多。全球已经达到了新计算时代的转折点,价值数万亿美元的数据中心基础设施安装基础正在从通用计算快速过渡到加速计算。随着计算需求的持续激增,公司正在加速每一个可能的工作负载,以推动未来性能、总体拥有成本和能源效率的改进。同时,公司已经开始构建下一代现代数据中心,我们称之为人工智能工厂,旨在精炼原始数据并在这个时代产生有价值的智能。第四季度,数据中心的生成式人工智能收入达到了18亿美元,在NVIDIA Hopper GPU计算平台以及InfiniBand端到端网络的推动下,计算收入增长超过5倍,网络收入比去年增长了两倍,销售额达到了40亿美元,创下历史新高,环比增长27%,同比增长。我们非常高兴地看到,随着供应的改善,对我们的料斗结构产品的需求依然保持强劲。我们预计,由于需求远远超过供应,导致供应受限,我们的下一代产品将会受到热烈欢迎。第四季度数据中心的增长主要是由生成式人工智能的训练和推理,以及跨多个行业应用的大型语言模型所推动。我们的数据中心平台以其多功能性和领先的性能,为包括人工智能训练、推理数据处理以及各种CUDA加速工作负载在内的多种用例带来了高投资回报。在过去一年中,大约40%的数据中心收入用于支持人工智能推理,构建和部署人工智能解决方案已经渗透到几乎每个行业,许多公司都在通过云提供商(包括超大规模GPU专用云和私有云或本地)大规模培训和运营其AI模型和服务。第四季度,客户采用多云或混合云策略进行部署,大型云提供商占我们数据中心收入的一半以上,支持内部工作负载和外部公共云客户。
微软最近指出,超过50,000个组织使用GitHub合作试点业务,旨在提高开发人员的生产力,促进GitHub收入同比增长加速至40倍。而Microsoft 365采用率的副试点在前两个月的增长速度比之前两个主要的Microsoft 365企业套件版本对消费者互联网的增长速度要快。公司是人工智能的早期采用者之一,从搜索到电子商务、社交媒体、视频服务和娱乐,正在使用人工智能进行基于深度学习的推荐系统。这些人工智能投资通过改善客户参与度、广告对话和点击率而产生了丰厚的回报。Meta在最近一个季度表示,更准确的预测和改进的广告商业绩有助于其收入显著加速。此外,消费互联网公司正在投资生成人工智能,通过内容和广告创建的自动化工具、在线产品描述和人工智能购物协助,为内容创建者、广告商和客户提供支持。
我们正在与许多其他领先的人工智能和企业软件平台合作,包括Adobe、Databricks、SAP和Snowflake等,大语言模型正在蓬勃发展。人工智能领域的领导者如谷歌、微软、OpenAI和XAI等,随着生成人工智能不断取得惊人的突破,Adept、ai21、Character AI、Cohere、Nostral、Perplexity和Runway等令人兴奋的公司正在构建为企业和创作者服务的平台。新的初创公司正在创建LLMS,以服务于世界许多地区的特定语言、文化和习俗,其他公司正在创建基金会,用于解决完全不同行业(例如递归制药)并生成生物学和生物医学的模型。
这些公司正在通过超大规模或GPU专业云提供商推动对英伟达人工智能基础设施的需求。今天早上,我们宣布与谷歌合作,优化其最先进的新Gema语言模型,以加速其在英伟达GPU上的推理性能。云数据中心和个人电脑是过去一年最显着的趋势之一,汽车、医疗保健和金融服务等垂直行业的企业大量采用人工智能。NVIDIA提供多种应用框架,利用我们的全栈加速计算平台,帮助企业在自动驾驶、药物发现、用于欺诈检测的低延迟机器学习或机器人技术等垂直领域采用人工智能。据我们估计,去年汽车垂直行业通过云计算或本地数据中心的收入贡献超过了10亿美元。NVIDIA Drive基础设施解决方案涵盖了自动驾驶开发所需的系统和软件,包括数据采集、创建、标注以及人工智能训练,并通过模拟进行验证。目前,全球有近80家OEM汽车制造商参与到NVIDIA Drive项目中。NVIDIA Drive正在被新能源汽车、卡车运输、机器人出租车以及一级供应商所使用,他们利用NVIDIA的AI基础设施来训练大型语言模型(LLM)和其他AI模型,以便在自动驾驶和AI座舱应用中使用。实际上,几乎所有专注于人工智能的汽车公司都在与NVIDIA合作。随着自动驾驶(AV)算法越来越多地采用视频Transformer技术,以及越来越多的汽车配备摄像头,我们预计NVIDIA的技术将发挥更大的作用。
在新能源汽车、卡车运输和汽车数据中心处理需求方面,NVIDIA Drive正经历着显著增长。在医疗保健领域,数字生物学和生成式人工智能正在帮助重塑药物发现、手术、医学成像和可穿戴设备。过去十年中,我们在医疗保健领域积累了深厚的专业知识,并创建了NVIDIA Clara医疗保健平台以及NVIDIA Bionemo——一项生成式AI服务,用于开发、定制和部署用于计算机辅助药物发现的AI基础模型。Bionemo提供了越来越多的预训练生物分子AI模型,可应用于端到端的药物发现过程。我们宣布,Recursion正在通过Bionemo为其药物发现系统提供专有的AI模型。
在金融服务领域,客户正在将人工智能应用于越来越多的场景,包括交易和风险管理、客户服务以及欺诈检测。例如,美国运通通过使用NVIDIA AI技术将其欺诈检测的准确率提高了6%。
从地理位置来看,我们的数据中心收入在除中国外的所有地区都实现了强劲增长。在美国政府于10月份实施出口管制法规后,我们的数据中心收入出现了大幅下降。尽管我们尚未获得美国政府向中国运送受限制产品的许可证,但我们已经开始向中国市场运送不需要许可证的替代产品。第四季度,中国数据中心收入占我们总数据中心收入的一个中等个位数百分比,我们预计第一季度将保持在类似的范围内。在美国和中国以外的地区,主权人工智能已成为额外的需求驱动因素。世界各国都在投资人工智能基础设施,以支持使用本国语言在国内数据上构建大型语言模型,并支持当地的研究和企业生态系统。
从产品角度来看,我们的大部分收入是由我们的Hopper架构以及InfiniBand网络推动的,它们已成为加速计算和人工智能基础设施的事实上的标准。我们预计在第二季度实现H200的首次发货,需求强劲,因为H200的推理性能几乎是H100的两倍。我们的网络年化收入运行率超过130亿美元。我们的端到端网络解决方案定义了现代人工智能数据中心。我们的量子InfiniBand解决方案同比增长超过5倍,NVIDIA Quantum InfiniBand已成为最高性能AI专用基础设施的标准。我们现在通过推出新的SpectrumX进一步扩展了我们的产品线。端到端产品已经进入了以太网网络领域,这一产品专门为数据中心中的人工智能优化网络而设计。通过以太网,SpectrumX 引入了互联网驱动的新技术,专门针对人工智能的需求进行了优化。与传统以太网技术相比,我们的Spectrum交换机、Bluefield DPU以及软件堆栈采用的技术,为AI处理提供了高达1.6倍的网络性能提升。我们与包括戴尔、HPE、联想和Supermicro在内的领先OEM合作伙伴拥有全球销售渠道,正致力于将我们的AI解决方案推广至全球企业。我们预计在本季度推出SpectrumX。同时,我们的软件和服务产品也取得了显著进展,第四季度的年化收入达到了10亿美元。
我们还宣布,NVIDIA DGX Cloud将扩大其合作伙伴名单,纳入亚马逊AWS,并加入Microsoft Azure、Google Cloud和Oracle Cloud的行列。DGX Cloud不仅用于NVIDIA自己的AI基础设施,也用于AI研发和定制模型开发,以及为NVIDIA开发人员提供服务。此外,它还将CUDA生态系统带给NVIDIA的CSP合作伙伴。
转向游戏领域,我们的博彩收入达到了28.7亿美元,环比持平,同比增长56%。假期期间,消费者对NVIDIA GeForce RTX GPU的强烈需求超出了我们的预期。财年收入达到了104.5亿美元,增长了15%。在CES上,我们发布了GeForce RTX 40 Super系列GPU,起价599美元,提供了令人难以置信的游戏性能和生成人工智能功能,销售开局良好。GPU中的NVIDIA AI Tensor核心能够提供多达836个AI核心,非常适合为游戏人工智能提供动力,同时也能够提升日常生产力。我们通过RTX GPU提供的丰富软件堆栈进一步加速了人工智能的应用。利用我们的DLSS技术,可以实现8个像素中有7个由AI生成,从而使光线追踪速度提高4倍并提高图像质量。此外,借助适用于Windows的Tensor RT-LLM(我们的开源库,可加速最新大型语言模型的推理性能),在RTX AI PC上运行生成式AI的速度可以提高5倍。
在CES上,我们还宣布了多家OEM厂商推出的一系列新款RTX 40系列AI笔记本电脑。这些笔记本电脑为各种外形尺寸带来了高性能的游戏和人工智能功能,包括14英寸和轻薄型笔记本电脑。这些下一代AI PC拥有高达686个顶级AI性能,将生成式AI性能提高了60倍,成为性能最佳的AI PC平台。Engine 微服务允许开发人员将最新的生成式人工智能模型集成到数字化身中。ACE 在 CES 2024 上荣获多项最佳奖项。NVIDIA 提供了一个端到端平台,专门用于在 RTX PC 和工作站上构建和部署生成式人工智能应用程序。该平台包括开发人员可以集成到其生成式人工智能工作流程中的库、软件开发工具包、工具和服务。NVIDIA 正在推动生成式人工智能应用程序的下一波进入 PC 领域。得益于超过 1 亿台 RTX PC 的安装基础和超过 500 个支持人工智能的 PC 应用程序和游戏,NVIDIA 正在不断前进。
在专业可视化领域,收入达到了 4.63 亿美元,环比增长 11%,同比增长 105%。财年收入达到了 550 亿美元,增长了 1%。本季度的持续增长主要是由 RTX AIDA 架构 GPU 的丰富组合所推动的。企业正在更新其工作站,以支持与生成型人工智能相关的工作负载,如数据准备、大型语言模型微调和检索增强生成。推动需求的关键垂直行业包括制造业、汽车和机器人技术。
汽车行业也是 NVIDIA Omniverse 的早期采用者,因为它寻求将工厂和汽车从设计到建造、模拟、操作和体验的工作流程数字化。在 CES 上,我们宣布了与 Brickland、WPP 和 Zero Light 等创意合作伙伴和开发商的合作,他们正在构建支持 Omniverse 的汽车配置器。像路特斯这样的领先汽车制造商正在采用这项技术,以提高个性化水平、真实性和汽车购买体验的互动性。
在汽车领域,收入为 2.81 亿美元,环比增长 8%,同比下降 4%。财年收入达到了 10.9 亿美元,增长了 21%,首次突破了 10 亿美元大关。此外,NVIDIA Drive 平台也由汽车制造商采用。NVIDIA Drive Orin 是软件定义自动驾驶车队首选的人工智能车载计算机。其继任者 NVIDIA Drive Thor 专为视觉 Transformer 设计,提供更多的人工智能性能,并将广泛的智能功能集成到单一的人工智能计算平台中,包括自动驾驶和停车、驾驶员和乘客监控以及人工智能驾驶舱功能,预计将于明年上市。本季度,包括理想汽车、长城汽车、吉利旗下高端电动汽车子公司泽克和小米电动车在内的几家汽车客户宣布了基于 NVIDIA 的新车型。
转向损益表的其余部分,GAAP 毛利率环比扩大至 76%,非 GAAP 毛利率为 76.7%,得益于强劲的数据中心增长和产品组合。我们第四季度的毛利率受益于有利的零部件成本。随后,GAAP 运营费用增长了 6%,非 GAAP 运营费用增长了 9%,主要反映了计算和基础设施投资的增加以及员工数量的增长。在第四季度,我们通过股票回购和现金股息的形式向股东返还了 28 亿美元。在 2024 财年,我们使用了 9 美元的现金。我们计划将90亿美元用于股东回报,其中包括9美元的股份回购。具体来说,我们将回购价值50亿美元的股份。现在,我想分享一下第一季度的财务展望。我们预计总收入将达到240亿美元,有正负2%的波动。我们预期数据中心和临时设施的收入将持续增长,但这部分增长将被游戏业务的季节性下降所部分抵消。就毛利率而言,我们预计GAAP毛利率为76.3%,非GAAP毛利率为77%,两者均有正负50个基点的波动。与第四季度相似,第一季度的毛利率将受益于有利的零部件成本。在第一季度之后,我们预计今年剩余时间内毛利率将回落到大约70%的水平。关于运营费用,我们预计GAAP和非GAAP运营费用分别约为35亿美元和25亿美元。到2025财年,我们预计GAAP和非GAAP运营费用将增长约30%,因为我们将继续投资于面前的巨大机遇。另外,我们预计GAAP和非GAAP其他收入和支出将约为2.5亿美元,这不包括非关联投资的损益。我们预计GAAP和非GAAP税率为3美元,50亿,17%,有正负1%的波动,这不包括任何离散项目。更多的财务细节可以在我们的首席财务官评论和我们的投资者关系网站上找到。
接下来,我想强调一些即将发生的金融界事件。我们将参加3月4日在旧金山举行的摩根士丹利技术、媒体和电信会议。3月5日,我们将参加T.D. Cohen在波士顿举行的第44届年度医疗保健会议。此外,请参加我们3月18日星期一在加利福尼亚州圣何塞举行的年度GTC会议,这将是GTC五年来首次面对面举行,会议将以Jensen的主题演讲开始。3月19日,我们将为金融分析师举办问答环节。
现在,我们将开始提问环节。操作员,请开始接听问题。
在此,我想提醒大家,如果要提问,请按星号键后按数字1键。我们将暂停片刻来整理问答名单。请限制自己提一个问题。现在,我们的第一个问题来自高盛的Tashia Hari。您的线路已开通。
祝贺您取得了如此强劲的成绩。我的问题是关于数据中心业务。显然,您在这个领域做得非常出色。我很好奇,您对2024年和2025年的期望在过去90天里有何变化。在回答这个问题时,我希望您能谈谈数据中心内的一些较新领域,如软件、主权人工智能等。我认为您对中长期问题的看法已经非常明确。最近,有报道称NVIDIA可能会进入ASIC市场。这是否可信?如果是,我们应该如何看待您在未来几年在这个市场的表现?谢谢。
谢谢,塔西娅。让我们来看看这三个问题。首先,关于数据中心的期望及其演变。感谢您的提问。确实,我们对每个季度都有指导性的预测。本质上,从第24个月开始,一直到第25个月及其之后,持续增长的前景非常乐观。原因有几个,我将详细阐述。
首先,我们正处于两个行业全面转型的初期阶段,这两个转型都影响到整个行业。第一个转型是从通用计算向加速计算的转变。众所周知,通用计算的发展势头正在减弱。这一点可以从云服务提供商的扩展、许多数据中心(包括我们自己的)将通用计算设备的折旧期从4%延长到6%的做法中看出。当无法像以往那样从根本上显著提高处理能力时,就没有必要更新更多的CPU。因此,必须对一切进行加速。NVIDIA长期以来一直在这一领域进行开拓。通过加速计算,我们可以显著提高能源效率,将数据处理成本降低至原来的1/20。这是一个巨大的数字。当然,速度的提升也是惊人的,这也促成了第二次行业全面转型,即生成式人工智能的兴起。我们相信,在电话会议中会对此进行更详细的讨论。但请记住,生成式人工智能代表了一种新的应用形式,它正在开启一种新的软件开发方式,创造出新类型的软件。这是一种全新的计算方式。你无法在传统的通用计算平台上实现生成式人工智能,必须对其进行加速。
第三,生成式人工智能正在催生一个全新的行业。这是一个值得深思的重大变化,它与您提到的关于主权人工智能的问题紧密相关。这个全新的行业的出现,意味着数据中心不再仅仅是进行数据计算、存储以及为公司员工提供服务的地方。我们现在看到的是一种新型的数据中心,即人工智能生成工厂。您可能已经听说过我将其描述为人工智能工厂。基本上,这种工厂需要原材料,即数据,通过NVIDIA构建的人工智能超级计算机进行处理,将其转化为极其有价值的Token。这些Token是人们在使用令人惊叹的GPT聊天或中途体验时所接触到的,或者是如今搜索功能得到增强的基础。现在,所有的推荐系统都因此获得了超个性化的增强。所有这些令人难以置信的数字生物学初创公司都在利用它来生产蛋白质和化学物质。这样的例子数不胜数。因此,所有这些Token都是在非常专业的数据中心中生成的,我们称之为AI超级计算机和AI生成工厂。
但我们看到的多样性还有其他原因。这就是基础所在。它在新市场中的体现,就是我们所看到的所有多样性。无论是数量还是种类,我们所做的推论现在都创下了纪录。几乎每次您与ChatGPT交互时,您都在使用我们的推理服务。每次您在旅途中使用它,我们都在进行推断。每次您看到那些令人惊叹的Sora视频或Runway正在编辑的视频,Firefly,都是NVIDIA在进行推理。我们业务中的推理部分取得了巨大增长,我们估计增长了约40%。随着这些模型变得越来越大,训练的需求仍在持续增长,推理的需求也在不断增加。但我们也在向新的行业领域多元化发展。大型云服务提供商的建设仍在继续,这一点可以从他们的资本支出和讨论中看出。但现在还出现了一个全新的类别,即专注于NVIDIA AI基础设施的GPU专用云服务提供商。这就是我们所看到的多样性。您目前所见的企业软件平台正在部署人工智能技术,其中ServiceNow是一个极佳的例子。观察Adobe、SAP等公司,您会发现消费者互联网服务正通过生成式人工智能增强其所有既有服务,从而创造出更多超个性化的内容。我们讨论的是工业级生成式人工智能,这一领域现已代表着价值数十亿美元的行业,包括汽车、健康和金融服务等。总体而言,我们的垂直行业现在价值数十亿美元。
此外,还有主权人工智能的概念。主权人工智能之所以重要,是因为每个地区都有其独特的语言、知识、历史和文化,它们拥有自己的数据,并希望利用这些数据来训练并创造自己的数字智能,以此来利用和提供服务。这些数据属于各自的地区,对他们的社会极为重要,因此他们希望保护这些数据,自行对其进行转化,向人工智能转型以增加价值,并自行提供这些服务。因此,我们看到主权人工智能基础设施正在日本、加拿大、法国以及许多其他地区建设中。我的预期是,美国以及西方正在经历的变革,将会在全球各地得到复制。人工智能生成工厂将会出现在每个行业、每家公司、每个地区。
最后,去年我们见证了生成式人工智能真正成为一个全新的领域、应用空间和计算方式,一个全新的产业正在形成并推动我们的成长。
关于40%的收入来自推理的问题,这个数字比预期的要大。一年前,人们的推荐系统在运行互联网时,如新闻、视频、音乐以及向您推荐的产品,因为互联网上有数万亿的内容,而您的手机屏幕只有几英寸大小。这些信息通过一个称为推荐系统的令人惊奇的系统进行适配,这些系统过去完全基于CPU,但最近向深度学习和生成式AI的迁移,确实将这些推荐系统置于了GPU加速的路径中。GPU现在参与了推荐系统的每一步,包括最近邻搜索、重新排名以及为您生成增强信息。推荐系统是地球上最大的软件引擎之一,几乎所有大公司都必须运行这些大型推荐系统。每当您使用聊天GPT时,都会进行推理,以及当您看到由Getty和Adobe的Firefly等公司生成的内容时,这些都是生成模型的例子,而且我刚刚提到的这些模型一年前都是全新的。
关于下一代产品的供应受限的问题,我认为这意味着布莱克韦尔的供应受到限制。能否进行深入研究?其驱动因素是什么?为何随着霍珀的放松,这一点会受到限制?您预计这种情况会持续多久?例如,您是否预期下一代产品在25号之前会持续受到限制?例如,这些限制何时开始缓解?
首先,总体来说,我们的供应情况正在改善。我们的供应链团队已经完成了难以置信的工作。从晶圆、封装、存储器到所有的电源调节器、收发器、网络和电缆,应有尽有。大家可能认为NVIDIA GPU只是一个芯片,但实际上NVIDIA Hopper GPU包含了35,000个零件,重达70磅。这些设备的复杂性是巨大的。我们所构建的,被称为人工智能超级计算机,这个名称是有充分理由的。如果你仔细观察数据中心、系统以及布线系统的背面,你会发现其复杂程度令人难以置信。它是迄今为止世界上最密集、最复杂的网络布线系统之一。我们的InfiniBand业务增长了5倍。与去年同期相比,供应链确实表现出色,为我们提供了支持,因此总的来说,供应正在改善。我们预计全年需求将继续超过我们的供应,但我们会尽力而为。周期时间正在改善,我们将继续尽力而为;然而,正如您所知,每当我们推出新产品时,需求就会从零增加到一个非常大的数字,而这不可能一夜之间实现。一切都在加速,但这个过程不会加快。因此,每当我们推出新一代产品时,比如现在我们正在推出H200,我们就无法在短期内合理地满足需求。
我们正在加强Spectrum X。我们在Spectrum X方面做得非常好,这是我们进入以太网世界的全新产品。InfiniBand是人工智能专用系统的标准。与Spectrum X相比,以太网并不是一个非常好的横向扩展系统。但通过Spectrum X,我们在以太网之上增加了基本的新功能,例如自适应路由、路由、拥塞控制、噪声隔离或流量隔离,以便我们可以优化用于人工智能的以太网。因此,InfiniBand将成为我们的人工智能专用基础设施,而Spectrum X将成为我们的人工智能优化网络,这一网络正在不断发展。因此,您知道,对于所有新产品,需求都会超过供应,这是新产品的本质。我们会尽可能快地工作以满足需求。但总体而言,我们的供应量增长得非常好。
接下来,TD Cowan的Matt Ramsey提出了一个问题。下午好,詹森,科莱特,祝贺您取得的成绩。我想问一个分为两部分的问题,这正是史黛西想要表达的。尽管供应正在改善,您如何看待需求显著超过供应的情况?我想问的两个方面是,首先,对于科莱特来说,您如何考虑根据客户的准备情况来分配产品,并监控是否有任何可能尚未开启的产品堆积?然后,詹森,我真的很想听听您谈谈您和您的公司如何将产品分配给不同的客户,这些客户中许多人相互竞争,跨越不同行业,从较小的初创公司到医疗保健领域,再到政府部门。这是您正在推广的一项非常独特的技术,我真的很想听听您对此的看法。然后,科莱特,如果您能简单谈谈引用/取消引用、公平分配,这不仅对您的公司有利,也对整个行业有利。
首先,我要感谢您提出的问题,特别是关于我们如何与客户合作,帮助他们研究构建GPU实例以及我们的分配流程。
多年来,与我们合作的客户已成为我们的合作伙伴。我们一直在协助他们在云端以及内部环境中进行设置。这些客户中的许多人提供多种产品,以满足不同的需求,这些需求不仅包括最终用户的需求,还包括他们内部的需求。显然,他们正在提前规划,思考他们未来所需的新集群。
我们与客户的讨论仍在进行中。我们不仅介绍了我们的Hopper架构,还帮助他们了解下一波技术浪潮,激发他们的兴趣,并理解他们对未来需求的展望。因此,关于他们将购买什么、正在建造什么以及最终用户正在使用什么,这始终是一个不断变化的过程。但是,我们建立的关系以及他们对构建复杂性的理解,确实帮助我们进行了资源分配,并促进了我们与他们的沟通。
首先,我们的CSP对我们的产品路线图和过渡有非常清晰的了解。我们对CSP的透明度增强了客户对使用我们产品的信心。他们知道应该部署哪些产品,以及何时何地部署。因此,他们尽可能地了解时间、数量以及分配情况。我们致力于公平分配资源,并避免不必要的分配。正如您之前提到的,为什么要在数据中心还未准备好时就分配资源呢?没有什么比让资源闲置更加困难了。因此,我们努力实现公平分配并避免不必要的分配。
关于您提到的终端市场,我们拥有一个优秀的生态系统,包括OEM、ODM和通信服务提供商,以及非常重要的终端市场。NVIDIA的独特之处在于,我们为客户和合作伙伴,包括CSP和OEM,带来了客户。我们服务的行业包括生物公司、医疗保健公司、金融服务公司、人工智能开发商、大型语言模型开发商、自动驾驶汽车公司和机器人公司,其中包括仓库机器人、手术机器人、人形机器人和农业机器人等。所有这些初创公司、大公司、医疗保健、金融服务和汽车等行业的客户都在NVIDIA的平台上工作。我们直接支持他们,并且通常能够通过将客户引入CSP的同时,实现双赢。因此,这个生态系统是充满活力的。但其核心是,我们致力于公平分配,避免浪费,并寻找连接合作伙伴和最终用户的机会。我们一直在寻找这些机会。
接下来,关于Timothy R.提出的问题,感谢您的提问。我想讨论一下我们如何将积压订单转化为收入。显然,我们产品的交货时间已经大大缩短。虽然我没有讨论库存购买承诺,但如果将我们的库存、购买承诺和预付供应加在一起,实际上会看到有所下降。这意味着我们没有必要做出太大的改变。是否因为交货时间缩短而对供应商做出财务承诺?或者,我们是否正在达到某种稳定状态,更接近于填满订单簿和处理积压订单?
是的,让我重点介绍一下我们如何看待供应商的这三个不同领域。你是对的,我们有现有库存。鉴于我们的分配情况,我们正在努力,一旦物品进入库存,就立即将它们运送给我们的客户。我认为我们的客户对我们能够满足他们所期望的时间表的能力表示了赞赏。此外,我们的采购承诺也是他们高度评价的一个方面。我们的采购承诺涵盖了多个不同的方面,包括我们自身制造所需的组件,以及我们可能需要采购的产能。这些所需的产能或组件的期限各不相同,有的可能是未来两个季度的,有的可能是跨越多年的。对于我们的预付款,我们也采取了预先设计的方式,以确保我们在前进的过程中,拥有几个制造供应商所需的储备能力。因此,当我们增加供应时,我们不会遇到任何关于产能相似性的问题。
它们之间的区别主要在于长度,因为我们有时不得不采购交货时间较长的物品或需要建造的产能。感谢您的提问。我们在开场白中强调了我们第四季度的业绩和第一季度的前景,这两个季度都具有独特性。这两个季度的毛利率之所以独特,是因为它们包括了有利的组件成本等好处。因此,展望未来,我们预计本财年剩余时间的毛利率将达到70年代中期的水平,这将使我们回到第四季度和第一季度峰值之前的水平。我们真正关注的是增长的平衡,对于MEX来说,它始终是我们今年剩余时间发货的最大驱动因素。
当您考虑过去十年中GPU计算的百万倍改进以及对未来类似改进的期望时,我们的客户对此非常看好。他们对今天进行的NVIDIA投资的长期可用性持乐观态度。今天的训练集群可能会成为明天的推理集群。这正是最令人兴奋的部分。我们能够大幅提高性能的原因在于我们的平台具有加速和可编程的特点,它并不脆弱。NVIDIA是唯一一个从一开始就经历了从CNN、AlexNet的首次揭示,到RNN、LSTM、RL、深度学习RL、Transformer架构的每一个版本和每一个AI种类的公司。我们能够支持每一种变化,优化我们的堆栈,并将其部署到我们的安装基础中。这确实代表了最伟大和最令人惊奇的部分。一方面,我们有能力发明新的架构和技术,如我们的张量核心及其Transformer引擎。我们不断改进新的数值格式和处理结构,正如我们对不同代张量核心所进行的改进一样。同时,我们也支持现有的安装基础。因此,我们采纳了所有新的软件算法发明、行业模型的创新,并使其在我们的安装基础上运行。另一方面,每当我们目睹像Transformer这样的革命性创新时,我们就能够创造出全新的东西,比如漏斗Transformer引擎,并将其应用于未来。因此,我们既有能力将软件引入现有的安装基础,又能不断地改进,以确保我们的客户的安装基础能够随着时间的推移通过我们的新软件得到增强。对于新技术而言,我们拥有创造革命性成果的能力。如果在我们的下一代产品中,大型语言模型实现了惊人的突破,请不要感到惊讶。这些突破,其中一些将在软件方面实现,因为它们运行在CUDA上,将可供安装基础使用。因此,我们一方面带领每个人前进,另一方面,我们实现了巨大的突破。
关于中国业务的问题,您提到了我们开始向中国运送一些替代解决方案,并预计这将继续占据数据中心业务的个位数百分比。您想知道我们目前向中国市场运送的产品规模,以及为什么我们不应该期待可能有其他替代解决方案进入市场,从而扩大我们的市场份额。美国政府希望限制向中国市场推广最新技术的能力,同时也希望我们在中国取得尽可能多的成功。在这两个约束之间,我们面临着限制。因此,当新的限制措施出台时,我们不得不暂停我们的业务。我们立即停止发货,以了解这些限制具体是什么,并重新配置我们的产品,这些产品不是基于软件的,无法被破解。这需要一些时间。因此,我们重新定位了我们的产品,现在正在向中国客户提供样品。我们将尽最大努力在这个市场中竞争并取得成功,同时遵守这些限制规定。上个季度,我们的业务大幅下滑,因为我们暂停了在市场中的发货。我们预计本季度的情况将大致相同,但希望之后我们能够竞争并尽力而为。我们将看看结果如何。
关于软件业务,很高兴听到它的收入超过了十亿美元。我想解释一下NVIDIA在软件方面非常成功的根本原因。首先,加速计算确实在云中发展。在云中,云服务提供商拥有庞大的工程团队。我们与他们的合作方式使他们能够经营和管理自己的业务。每当出现任何问题时,我们都会派遣大型团队来处理。他们的工程团队与我们的工程团队进行了直接合作。我们共同增强、修复、维护并修补涉及加速计算的复杂软件堆栈。众所周知,加速计算与通用计算大相径庭。您不能仅仅从C++等编程语言开始。您需要编译它,之后它才能在所有CPU上运行。每个领域所需的软件堆栈各不相同,这包括数据处理、SQL结构化数据,以及所有非结构化的图像、文本和PDF,还有经典机器学习、计算机视觉、语音和大型语言模型。所有这些都是推荐系统所需的,每种都需要不同的软件堆栈。这就是为什么NVIDIA拥有数百个库的原因。没有软件,就无法开拓新市场。没有软件,新应用程序也无法得到启用。软件对于加速计算至关重要。这是加速计算与通用计算之间根本区别的一个方面,大多数人需要很长时间才能理解。现在,人们已经明白软件确实是关键所在。
我们与云服务提供商(CSP)的合作方式非常简单。我们有大型团队与他们的大型团队合作。然而,现在生成式人工智能让每个企业、每个公司都成为了一家拥抱加速计算的企业软件公司。当下,接受加速计算已成必然,因为仅依靠通用计算来提高吞吐量已不再可能。所有这些企业软件公司和企业都没有庞大的工程团队来维护和优化他们的软件堆栈,以便在全球云、私有云和本地环境中运行。因此,我们将对他们的所有软件堆栈进行管理、优化、修补、调整和基于安装的优化。我们将它们容器化到我们的堆栈中。我们将其称为NVIDIA AI Enterprise,并以此方式推向市场。现在,将NVIDIA AI Enterprise视为一个运行时环境,就像操作系统一样。它是一个人工智能操作系统。我们对每个GPU每年收取4500美元的费用。我猜想,世界上每家企业、每家在所有云、私有云和本地部署软件的软件企业都将在NVIDIA AI Enterprise上运行,尤其是对于我们的GPU而言。因此,这将可能随着时间的推移成为一项非常重要的业务。我们已经有了一个良好的开端。科莱特提到,它的运行速度已经达到了十亿美元。我们实际上才刚刚开始。
谢谢。现在,我将电话转回给首席执行官黄仁勋,让其致闭幕词。
计算机行业正在经历两个平台的同时转变。与此同时,价值数万亿美元的数据中心安装基础正在从通用计算转向加速计算。每个数据中心都将进行加速,以便世界能够跟上计算需求的提高,同时管理成本和能源。NVIDIA开启了全新的计算范式。生成式人工智能使软件能够学习、理解和生成任何信息,从人类语言到生物学结构和3D世界。我们现在正处于一个新行业的开端,人工智能专用数据中心处理海量数据,将原始数据提炼为数字智能。就像上次工业革命中的交流发电厂一样,NVIDIA AI超级计算机本质上是这次工业革命的人工智能工厂。每家公司和每个行业从根本上来说都是建立在其专有的商业智能以及未来专有的生成式人工智能的基础上的。生成式人工智能开启了一个全新的投资周期。下一个万亿美元的人工智能生成工厂基础设施。我们相信,这两种趋势将推动全球数据中心基础设施安装基数在未来五年内翻一番,并代表每年数千亿的市场机会。这种新型的人工智能基础设施预示着一个全新应用领域的开端,这是在当前条件下无法实现的。我们的人工智能之旅始于NVIDIA的超一代技术。在这一过程中,我们与超过一百万家规模的云服务提供商以及消费者互联网公司进行了合作。如今,各个行业均已加入这一行列,包括汽车、医疗保健、金融服务、工业、电信、媒体和娱乐等领域。
NVIDIA提供的全栈计算平台、针对特定行业的应用程序框架,以及庞大的开发者和合作伙伴生态系统,使我们能够以前所未有的速度、规模和覆盖范围,帮助各行业的企业转型为人工智能公司。
在下个月于圣何塞举行的GTC上,我们将有许多内容与大家分享,因此非常期待您的参与。我们也期待在那时向您报告下一季度的最新进展。至此,今天的电话会议就此结束。