查看原文
其他

运营智算中心 怎么赚钱?

零点 IDC圈
2024-10-06

所有智算中心的运营者都应该自问一句:我们的价值何在?


在数字化浪潮的推动下,智算中心作为新兴的计算力基础设施,已成为产业发展的新热点。因此,作为算力基础设施的“同行”,原IDC服务商们也“顺手”做起了智算中心的运营。


但是,智算中心不仅仅是通用数据中心的升级版,它们通过高性能计算、大数据处理、以及人工智能等技术,为各行各业提供强大的数据分析和处理能力,“风火水电”已经无法概括一个智算中心运营商的核心价值。


在12月12日举办的第十八届中国IDC产业年度大典(IDCC2023)上,始智AI联合创始人、CTO黄新平详细分析了算力的演进和智算中心建设当前的挑战和机遇,并且提出了“算力中心服务商价值何在?”这一振聋发聩的问题。


算力的演变


智算中心的核心在于算力。从高性能计算到云计算,再到现在的智算中心,算力的含义和计算方式都在不断演变。当前,智算中心面临的挑战包括算力芯片的供应限制、大模型应用场景的不清晰、以及服务资源配置的不确定性。


智算中心运营商的价值在于其能够提供稳定、高效的算力服务。他们不仅需要关注硬件的投入和维护,更要在软件能力、运营管理、以及服务保障上下功夫,以满足不同客户的需求。



“现在很多智算中心,通常只是购买了GPU出租算力。”黄新平表示,只是通过租售硬件算力,这是一种非常粗放的商业模式,会受到硬件价格、用户变动等市场因素影响,抵抗市场波动能力较弱。


服务市场的挑战


“从长远角度看,很可能95%的需求都来自服务需求。”黄新平认为,未来,智算中心的主要需求将来自于服务市场。


一般来说,智算中心可以为用户提供的服务包括以下几种:


1

基础设施服务:这一服务模式与传统的数据中心托管类似,不过需要更多的关注供电、散热以及网络链接等。


2

数据及应用服务:包括训练服务、推理服务,以及数据的采集、清洗、标注、转换、存储等数据处理服务。


3

调度服务:为大模型等智算服务的运行提供弹性的计算、存储、网络等资源,以及服务的编排、保障、监控等功能。


黄新平分析,随着所谓“百模大战”的发展和落幕,智算产业将很快迎来变化冲击,服务将取代单纯的算力租赁成为业务主流。


大模型是‘活’的,随着数据增长和业务变化,大模型要不断进行训练,”黄新平提出,大模型的“微调”是一个长期需求,并且会在未来成为主要需求,更多的工作将集中在数据处理上。



因此,在未来,数据处理能力和推理服务讲是智算中心的两大核心功能。数据处理关乎模型训练的质量和速度,而推理服务则直接影响到业务逻辑的实时响应和执行效率。


但是,对于当前的算力中心服务商来说,无论是数据的清洗、标注、转换,还是弹性扩展、多租户资源隔离、调度等,都是新领域,需要更多的团队、技术及资金投入。

“整个服务体系,底层是计算和异构的支持,网络/RDMA,计算、存储、网络,再往上面是局部的算力调度,加上算力服务,加上服务的编排。”黄新平历数智算中心服务商将面对的服务挑战:“这些服务能力建设周期长、成本高,如何回收成本乃至盈利是个大问题。”


对于正在发展中的智算产业,或许没有人可以对这些问题给出明确回答。


但无论如何,我们应该认识到,智算中心服务商的价值不仅在于提供空间、电力乃至算力,更在于如何将这股力量转化为推动产业发展的动力。只有通过不断探索和创新,适应快速变化的技术和市场需求,才能在数字经济时代中占据一席之地。


| 文章来源:中国IDC圈



• END• 

算力进化 数字开物——IDCC2023回顾

算力进化 数字开物——第十八届中国IDC产业年度大典盛大召开

算力引领,高质量赋能 | 2023算力产业高质量发展全国大会在京召开

腾讯科技Hi Tech Day 暨 2023 数字开物大会隆重召开

【专栏】走进2024:算力中心10问(点击进入)

只有算力还不够

“数据中心”真的要被“算力中心”取代吗?

算力如何成为数字经济的“万金油”?





继续滑动看下一个
IDC圈
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存