一个大模型训练、微调、评估、推理、部署的全流程开发套件

MindSpore Transformers套件的目标是构建一个大模型训练、微调、评估、推理、部署的全流程开发套件： 提供业内主流的Transformer类预训练模型和SOTA下游任务应用，涵盖丰富的并行特性。期望帮助用户轻松的实现大模型训练和创新研发。 MindSpore Transformers套件基于MindSpore内置的并行技术和组件化设计，具备如下特点： 一行代码实现从单卡到大规模集群训练的无缝切换； 提供灵活易用的个性化并行配置； 能够自动进行拓扑感知，高效地融合数据并行和模型并行策略； 一键启动任意任务的单卡/多卡训练、微调、评估、推理流程； 支持用户进行组件化配置任意模块，如优化器、学习策略、网络组装等； 提供Trainer、pipeline、AutoClass等高阶易用性接口； 提供预置SOTA权重自动下载及加载功能； 支持人工智能计算中心无缝迁移部署；