AWS Machine Learning Blog· Mijanur Palash·· 26 天前
在 Amazon SageMaker HyperPod 上微调 GPT-OSS-20B 实现多语言推理
Fine-tuning GPT-OSS-20B for multilingual reasoning on Amazon SageMaker HyperPod
AI 导读
GPT-OSS-20B 在 50 例多语言推理测试中仅 22% 用目标语言推理(英语 100%、法语 0%、德语 10%、西班牙语 0%、意大利语 0%),团队在 Amazon SageMaker HyperPod 上用 LoRA 结合 SFT 与 GRPO 微调以纠正其英语偏好。结论是 SFT 承担主要工作,GRPO 在存在提升空间时进一步优化,技术选择需匹配能力差距。
入选记录
门槛 60官方一手第一次 34第二次 38
未入选两次之和 72 < 门槛的两倍 120
- 信源等级
- 官方一手,这一级的门槛是 60 分
- 预筛
- 通过:GPT-OSS-20B微调与GRPO训练技术详解
评分由模型按同一份标准独立打两次,满分 100;两次之和达到门槛的两倍才入选。门槛按信源等级设定。
来源:AWS Machine Learning Blog · aws.amazon.com