全国一体化算力网应用优秀案例集之四 | 打造智算算力网AI开发平台 助力人工智能基础设施发展
2022年以来,“东数西算”工程正式启动,2023年12月,国家数据局等5部门联合印发《深入实施“东数西算”工程 加快构建全国一体化算力网的实施意见》,加快推动全国一体化算力网建设,赋能经济社会发展。为充分展示全国一体化算力网建设领域取得的应用成效,国家数据局组织开展了“全国一体化算力网应用优秀案例”征集遴选工作,各地方积极响应、踊跃参加。经多轮专家评审,首批发布25个优秀案例。
打造智算算力网AI开发平台
助力人工智能基础设施发展
推荐单位:江苏省数据局
申报单位:中科南京信息高铁研究院
当前,人工智能基础设施存在技术标准不统一、算力使用门槛高等问题。中科南京信息高铁研究院研发智算算力网AI开发平台,统筹纳管异构异属异域的智算资源,实现全局能用、好用。
一是汇聚三异智算算力资源,实现多元算力协同。智算算力网AI开发平台汇聚异构异属异域的三异智算算力资源,通过代理与适配两种并网模式构建一个全局可用的智算算力资源域,基于协同调度服务,实现智算算力资源的全局共享,构建了南京、昆山与郑州三地的智算算力网。
二是构建全流程AI能力体系,降低智算算力使用门槛。构建覆盖AI算法开发全生命周期的AI能力,提供6种AI开发框架、3种分布式训练加速框架、4种分布式并行训练策略以及弹性高性能推理等能力,提高大模型开发效率,适配4种底层智算异构资源,提供统一的智算算力网页。
三是创新平台运营模式,减少用户算力使用成本。通过构建融合运营模式整合多方运营平台,实现智算资源池统一运营,将账单管理、资源规格管理等业务模块进行统一管理。平台上线后,用户算力月度成本从10021.26元/P降至6062.79元/P,降幅达39.5%,与同类平台用户月度平均费用相比成本降低50.96%。
目前,智算算力网AI开发平台累计落地7个领域的50多个科研行业大模型,如翻译大模型“百聆”,抗体结构预测大模型,医疗大语言模型等,以“三异四入”模式,实现3个算力中心的“三异”算力并网,提供覆盖5个园区、15家重点企业、3所高校及200户家庭算力终端的“四入”服务。
- END -
来源丨国家数据局
审核丨何水、王剑钊
发布丨吴金金
更多精彩