AI训练模型

OpenBMB

清华团队发起的一个开源大模型工具包

标签:

OpenBMB是一个开源的大模型工具包,旨在让大模型应用更加普及和易用。它提供了一系列工具和框架,包括BMTrain、BMCook、BMInf、OpenPrompt、OpenDelta和ModelCenter,用于大模型的训练、压缩、推理、提示学习和微调等任务。

OpenBMB

OpenBMB的主要功能:
1. BMTrain:高效的大模型预训练与微调工具,可节省90%的训练成本。
2. BMCook:大模型压缩工具库,通过量化、剪枝、蒸馏等算法组合,保持90%+的模型效果,推理加速10倍。
3. BMInf:使用千元级显卡进行大模型低成本高效推理计算,支持百亿参数大模型推理。
4. OpenPrompt:提供统一接口的提示学习模板语言,轻松部署提示学习方法以驱动大模型。
5. OpenDelta:高效的大模型微调工具,仅更新极少参数即可达到全参数微调的效果。
6. ModelCenter:大模型仓库,支持高效、低成本、可扩展性强的模型微调及分布式训练。

相关导航

暂无评论

暂无评论...