查看原文
其他

DeepLink发布2024年首季芯片评测方案

Shanghai AI Lab 上海人工智能实验室 2024-02-06

1月15日, 上海人工智能实验室(上海AI实验室)举办首届DeepLink硬件测评交流会,会上发布了2024年第一季度芯片评测方案(以下简称“评测方案”),进一步完善了大模型时代下的AI算力评估方法和基准,为芯片企业产品迭代、智算中心选型提供指导。

DeepLink芯片评测是基于团体标准评测方法,对送测芯片进行技术规格、软件生态、功能、性能等多维度测试,并按季度产出硬件评测报告,评自2022年第四季度启动以来,DeepLink已为10余家芯片厂商开展了5轮芯片评测,产出40余份报告。部分企业已将评测内容、方法和流程引入芯片测试流程,将其作为芯片研发完善提升的指引;同时,DeepLink团队积极分析和吸收评测企业的反馈建议,不断完善方案。
评测方案涵盖100余个算子、20余个模型,覆盖CV、NLP、AIGC等多领域,并进一步扩充了评估范围。考查重点针对芯片的基础能力和大模型能力开展。在基础能力方面,评测指标主要包括基本技术规格、软件生态、功能和性能测试等四大类;大模型能力方面则主要考察基础信息、训练、微调、推理等五大类指标。在上述指标框架中,通过全面评估AI 芯片的硬件质量、软件支持表现、功能特性和性能表现,为开发者和企业用户提供详细的判断和选择依据。
评测结果将帮助硬件厂商判断芯片在大模型领域的发展方向和优化需求,同时为应用企业和开发者提供参考,帮助其选择更符合需求的硬件,优化改进应用程序的性能。
当前,互联互通已成为AI产业发展的关键一环。DeepLink基于现有软硬件厂商合作基础,为硬件芯片提供统一的适配方案,降低开发者的门槛和成本,发挥硬件芯片的性能并提升兼容性,积累框架适配硬件的成功经验。同时,DeepLink已向全社会开源,促进多方软硬件的协同和创新。
本次评测方案编制得到了上海市发展和改革委员会、上海市科学技术委员会、上海市经济和信息化委员会、上海市通信管理局等部门权威指导。会议现场,上海AI实验室部分科研团队与行业机构代表开展了技术交流。

DeepLink人工智能开放计算体系

上海人工智能实验室(上海AI实验室)推出DeepLink人工智能开放计算体系,旨在搭建对硬件芯片与深度学习软件框架进行适配的桥梁,共建开放的软硬件适配生态。


DeepLink已提供300余个标准算子接口,支持超过11000个算子测例;同时支持大语言模型和视觉模型。基于DeepLink,上下游厂商通过一次适配即可深度接入算法生态,从根本上打破生态壁垒,实现软硬件解耦和算力要素多样化。


了解DeepLink更多信息,请登录:

https://deeplink.org.cn/ (点击文末“阅读原文”直达)


继续滑动看下一个

DeepLink发布2024年首季芯片评测方案

Shanghai AI Lab 上海人工智能实验室
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存