Hugging Face Blog·· 21 天前
Hugging Face Jobs 上用 LoRA 实现异步 GRPO:一个 Bucket、一个代理,无需 NCCL
Async GRPO with LoRA across HF Jobs: a bucket, a proxy, and no NCCL
AI 导读
TRL v1.14 的 AsyncGRPOTrainer 现已支持只训练并同步 LoRA adapter 到 vLLM,rank-1 adapter 仅几 MB,可通过挂载到各 Job 的 Storage Bucket 传输,无需 NCCL。
入选记录
门槛 60官方一手第一次 47第二次 34
未入选两次之和 81 < 门槛的两倍 120
- 信源等级
- 官方一手,这一级的门槛是 60 分
- 预筛
- 通过:AsyncGRPO训练LoRA适配器与vLLM同步的AI技术实践
评分由模型按同一份标准独立打两次,满分 100;两次之和达到门槛的两倍才入选。门槛按信源等级设定。
来源:Hugging Face Blog · huggingface.co