微软宣布开源 DeepSpeed Chat，训练速度可提升 15 倍以上。
当地时间 4 月 12 日，微软宣布开源系统框架 DeepSpeedChat，帮助
用户训练类似于 ChatGPT 的模型。与现有系统相比，DeepSpeedChat
的速度快 15 倍以上，可提升模型的训练和推理效率。
来源：微软 ChatGPT 是 OpenAI 于去年 11 月推出的聊天机器人，其训
练基础是为 RLHF（ReinforcementLearningfromHumanFeedback)，即
基于人工反馈进行强化学习。对于想要开发类似于 ChatGPT 模型的研
究人员而言，难题之一是市面上缺乏支持端到端的 RLHF 系统框架。为
此，微软开源其系统框架 DeepSpeed Chat，帮助数据科学家和研究者
更易于使用 ChatGPT 类型的模型。
- 1
- 2
前往页