Hugging Face Blog·· 22 日前
Hugging Face Jobs、LoRAで非同期GRPO：Bucket1つ、プロキシ1つ、NCCL不要
Async GRPO with LoRA across HF Jobs: a bucket, a proxy, and no NCCL
AI による要約
TRL v1.14のAsyncGRPOTrainerはLoRAアダプターだけを学習してvLLMへ同期するよう対応した。rank-1は数MBで、各JobにマウントしたStorage Bucketで転送でき、NCCLは不要だ。
入選の記録
基準 60公式・一次情報1 回目 472 回目 34
入選せず二回の合計 81 < 基準の 2 倍 120
- 情報源の区分
- 公式・一次情報、この区分の基準は 60 点
- 予備審査
- 通過：AsyncGRPO训练LoRA适配器与vLLM同步的AI技术实践
採点はモデルが同じ基準で独立に二回行い、満点は 100。二回の合計が基準の 2 倍に届いたものだけが入選します。基準は情報源の区分ごとに決めています。
情報源：Hugging Face Blog · huggingface.co