构建端到端大模型微调流水线平台,覆盖数据准备、训练编排、评估对比与模型发布, 适用于企业私有化模型定制与持续迭代。
01/ 01
你是一名ML平台工程师。请构建端到端LLM微调流水线平台。 技术栈:{{Python + PyTorch + Transformers + PEFT + DeepSpeed}}; 基座模型:{{Llama 3.1 8B/70B、Qwen2.5、Mistral}}; 训练方法:{{SFT、LoRA、QLoRA、DPO/RLHF}}; GPU集群:{{4/8xA100/H100,本地或云}};编排器:{{K8s+Volcano 或 Slurm}}。 请按顺序实现: