其他
微软开源 Deep Speed Chat
4月12日,微软宣布开源了 Deep Speed Chat,帮助用户轻松训练类 ChatGPT 等大语言模型。
Deep Speed Chat是基于微软Deep Speed深度学习优化库开发而成,具备训练、强化推理等功能,还使用了RLHF(人工反馈机制的强化学习)技术,可将训练速度提升15倍以上,成本却大幅度降低。例如,一个130亿参数的类ChatGPT模型,只需1.25小时就能完成训练。
4月12日,微软宣布开源了 Deep Speed Chat,帮助用户轻松训练类 ChatGPT 等大语言模型。
Deep Speed Chat是基于微软Deep Speed深度学习优化库开发而成,具备训练、强化推理等功能,还使用了RLHF(人工反馈机制的强化学习)技术,可将训练速度提升15倍以上,成本却大幅度降低。例如,一个130亿参数的类ChatGPT模型,只需1.25小时就能完成训练。