2024昇腾AI金种子实训班走进智能制造行业-长沙站顺利举办

6月6日，2024昇腾AI金种子实训班·走进智能制造行业（长沙站）成功举办，本活动由华为技术有限公司、长沙软件园有限公司主办，由长沙昇腾人工智能创新中心、湖南省鲲鹏生态创新中心承办，湖南省人工智能协会、长沙市鲲鹏计算产业技术创新战略联盟协办。

本次实训班基于伙伴开发者需求调研而定制，近20家企业的80+位核心开发者现场参加培训。昇腾AI专家现场赋能解惑，通过理论授课、应用实操、答题考试三大环节，助力开发者了解昇腾AI大模型开发解决方案，提升贴近业务场景的软硬件协同开发能力，共建昇腾AI开发者生态。

长沙软件园有限公司董事长彭振文为大家作开班致辞，他表示，世界计算·长沙智谷作为湖南AI算力规模最大的公共平台，未来AI人才聚集地，欢迎各位金种子带着先进模型、高端算法来世界计算长沙智谷交流合作，加速更多智慧场景的开发与落地，促进昇腾AI的快速发展，共创人工智能产业新未来。

昇腾CANN首席布道师谭涛带来了昇腾AI基础软硬件解决方案、离线推理概念导入、离线推理应用开发等基础知识，并着重介绍了昇腾异构计算架构CANN（Computer Architecture for Neural Network）为推理应用开发所推出的编程语言AscendCL的核心要点。AscendCL是昇腾计算开放编程框架，是对底层昇腾计算服务接口的封装，为开发者提供了一系列强大功能，涵盖设备管理、上下文管理、流管理、内存管理、模型加载与执行、算子加载与执行、媒体数据处理、图管理等API库，供用户开发人工智能应用。谭涛课程后半程还精心安排了与课程内容紧密相关的微认证测试，以考促学，通过测试加深学员理解。

针对大模型研发周期长、部署门槛高以及业务安全性等问题，昇腾计算产品部大模型专家冯良骏详细讲解了基于ModelLink大模型的训推一体化解决方案，如指令微调与预训练的构造区别，全参、低参微调，HF与Megatron-LM权重转换的核心思路，分布式在线推理，评估模式与开发。ModelLink旨在为基于昇腾AI的大语言模型提供端到端的解决方案, 包含模型，算法，以及下游任务。

华为昇腾技术经理董港对昇思MindSpore AI框架以及MindSpore Transformers套件进行了详细剖析。他介绍MindSpore TransFormers套件提供了基于昇腾生态的大模型使能套件，全流程覆盖大模型的开发、训练、微调和推理，最大限度地帮助开发者降低开发门槛，减小开发工作量。在实操环节，他指导伙伴开发者基于MindSpore MindFormers套件完成了LLaMa2-7B 模型的微调、推理训练，调用长沙昇腾人工智能创新中心昇腾AI算力资源，从环境部署、权重准备、数据准备到模型训练&推理流程层层深入，帮助开发者在实践中掌握昇腾硬件性能和昇思MindSpore AI框架的大模型原生开发技能。

在实操环节中，昇腾AI布道师和计算中心FAE针对llama2 lora微调、数据转换、修改脚本、模型推理、远程链接工具使用、数据集格式转换、模型高效开发技巧及数据高效存储等问题，现场提供了耐心细致的讲解与操作指导。

随着2024昇腾AI金种子实训班·走进智能制造行业（长沙站）的圆满落幕，我们共同见证了湖南在智能制造和人工智能领域的蓬勃发展势头。此次活动不仅为广大昇腾AI开发者提供了宝贵的学习与交流平台，更为湖南的智能制造产业注入了新的活力与创新动力。未来，我们期待昇腾AI金种子实训班能继续发挥其独特的引领作用，不断推动湖南在人工智能和智能制造领域的技术进步与人才培养，加快产业升级步伐，打造具有湖南特色的智能制造产业生态。

◆ 往期推荐◆