搭一个大模型应用,常像组装一间厨房:训练、改造和上线各用一套工具,模型开发者得自己接线。LitGPT想把这些环节放进同一个入口。预训练是让模型从大量数据中学习通用能力,微调是用较小的专门数据调整用途,部署则是让成品真正运行起来、对外提供服务。
据项目页面,LitGPT已覆盖20余种高性能大模型,包括Llama、Gemma、Qwen、Phi等,并提供从预训练、微调到规模化部署的现成配方。它支持LoRA和QLoRA——只训练少量新增参数、并可结合低精度量化来节省微调资源;也支持FSDP,把模型的参数和训练状态拆到多块加速器上,处理单块设备放不下的模型。项目还称其可用于1到1000多块GPU或TPU,并提供多种精度以降低显存占用。
它值得关注的地方,不是又多支持了一个模型,而是继续把一条原本需要多套基础设施拼装的流程收拢起来。至于“企业级性能”和成本优势,目前材料主要来自项目方自述,未提供独立对比结果。