DeepSpeed共1篇
大模型训练神器 DeepSpeed 一个深度学习优化库,它使分布式训练和推理变得简单、高效和有效-共赢源码

大模型训练神器 DeepSpeed 一个深度学习优化库,它使分布式训练和推理变得简单、高效和有效

📦 项目开源地址:DeepSpeed ⭐ Stars: 35k+ 🛠️ Python / C++ / CUDA 💡 项目定位:微软开源的深度学习优化库,包含 ZeRO 内存优化技术,大幅降低千亿参数大模型分布式训练与微调门槛。 1. 项...
gongyingchuanbo的头像-共赢源码gongyingchuanbo前天
0265