【未来产业之星】燧原科技:持续、规模、集约的集群式AI算力服务将助国产大模型“百舸争流”
根据《上海打造未来产业创新高地发展壮大未来产业集群行动方案》(沪府发〔2022〕11号)部署,市经济信息化委联合市委组织部、市发展改革委、市教委、市科委、市市场监管局、市国资委等单位共同指导举办了2023全球“未来产业之星”大赛(简称“大赛”),立足国际视野、面向全球聚焦前沿科技与应用创新,以“项目+人才”双轮驱动的模式,推进未来产业领域的技术创新和成果产业化,为上海打造未来产业创新高地提供项目和人才支撑。
首届大赛吸引海内外536个高能级项目和高层次人才报名,全面覆盖5大未来产业领域、16个技术方向。经过初、复、决赛多轮竞逐,涌现出一批未来产业优秀项目及人才。2024年上海市产业技术创新大会上,举行了大赛颁奖仪式,10个项目和10位人才获超能奖。
即日起,推出“未来产业之星”专栏,宣传介绍大赛优秀项目,展示未来产业前沿技术及企业风采。
未来智能
智能计算
涵盖了人工智能、大数据、云计算等前沿技术的智能计算技术正以惊人的速度改变着我们的生活和工作方式,也是未来科技的“航向标”。前年底,以ChatGPT为标志性事件的包括对话机器人、文字续写等文生文领域的一系列示范性创新应用的出现,迅速引领人工智能进入了以内容生成为核心特色的AI2.0时代。在大模型“百家争鸣”、风起云涌的契机下,应如何做好准备,迎接人工智能的大规模产业化?
在上海燧原科技有限公司产品市场高级总监陈超看来,人工智能对人类生产力产生巨大影响的同时,对于基础设施的算力服务范式同样产生了根本性的变革。“未来的通用人工智能AGI必然需要通过集群式的AI算力提供持续的、规模性的、集约性的算力服务提供,”陈超说,在这一趋势下,面向超大模型的云燧智算机CloudBlazer POD,即旨在满足AIGC时代对超大规模算力的迫切需求。
据了解,燧原科技专注人工智能芯片、板卡和集群产品的研发,其基于云燧智算机的系统产品形态,可提供高算力密度、高性能的同时具备高扩展性和高性价比的集群算力形态,为包括各类型的智算中心和大模型训练与开发提供极具性价比优势的系统方案。
陈超指出,当前智算中心以及客户端针对系统集群有几大痛点,一是从智算中心需求立项,到集群架构方案确定、采购招标、交付建设直到上线运营,时间跨度非常大;二是智算中心一直诟病算力利用率较低,不能充分发挥集群的算力优势,导致企业的投入产出效率太低,收回投入遥遥无期;三是当集群规模越大,设备的稳定性严重影响到业务的持续运行,降低了集群的可用时间占比,极致严重的情况下会导致业务不可运行。
针对这些问题,燧原科技基于云燧智算机的方案打通了生产供应全流程,从整体方案层面进行设计优化,平衡算力、存储和网络的配比与配置,从而大幅度提高了集群的算力利用率,同时云燧智算机从芯片、板卡、服务器、单POD机柜到多机柜联合设计了一系列的系统级压力测试方案,保证提供24小时稳定的算力基础设施。
在产品落地和大规模产业化的过程中,这一未来技术会遇到怎样的挑战?
陈超表示,一方面,部署场景是多元化的,数据中心的选址和布局,客户的应用场景都是不一样的。如何在软硬件层面兼容客户多元化的需求,提供面向应用的高效能支撑,是云燧智算机持续迭代优化的源动力。
另一方面,客户对于降本增效的需求是持续存在的。如何纳入新的技术与产品形态,如何打造匹配不同诉求的集群方案,是云燧智算机持续优化方案、优化供应链、优化生产各环节的聚焦点。
此外,在算力密度持续增高,算力规模持续放大的形势下,数据中心对于能效提出了更高的要求,系统级散热方案也在持续优化,从传统的风冷向液冷的多技术方案持续演进。
△“之江实验室千卡液冷集群”应用场景落地图
在陈超看来,大赛面向全球聚焦前沿科技与应用创新,这种国际化的平台不仅为参赛选手提供了广阔的机会来展示自己的才华和创新力,也为其提供了与来自世界各地的优秀人才互动的机会,促进了国际间的技术和经验交流。
此外,“国际交流与合作能加速创新成果的转化和应用,为全球经济和社会发展带来更多的机遇和变革,”陈超说,燧原科技参与大赛的初衷,正是希望其专为大模型量身定做的AI集群产品得到国内外产、学、研、用各界专家的关注,进一步加强与全球范围内产业专家与合作伙伴的深入沟通交流。
在陈超看来,国际科技竞争日益加剧,集成电路与人工智能的形势尤为严峻。AI芯片是集成电路与人工智能的交汇之处,具有重要战略意义与现实意义,加快建设国产AI芯片生态十分必要且万分紧迫。“多年来,上海及长三角地区一直是中国集成电路和人工智能产业的创新高地,产业链条完整、龙头企业众多、顶尖人才汇聚,拥有全生态技术产品开发及商业化应用的能力,已经具备建设国产AI芯片产业生态的各项准备条件。”
针对国产AI算力芯片产业的未来发展,陈超建议,一是要重视有效算力,推动算尽其用,让国产算力落地见效、开花结果,推动AI技术赋能更多行业;第二,立足国内市场,放眼世界舞台,一方面要逐步实现自主、可控、安全的目标,另一方面要以更加长远的战略眼光,谋划中长期全球科技发展格局,面向全球打造AI芯片生态的更多可能性;三是“AI芯片企业需要加速向规模化方向发展,更快更好地实现自我造血,追求长远的、可持续的、可预测的发展。”
欢迎转发,但请注明出处“上海经信委”
觉得不错请点赞!