Google DeepMind·· 2026-04-22
Google DeepMind 提出 Decoupled DiLoCo 分布式训练架构
Decoupled DiLoCo: A new frontier for resilient, distributed AI training
AI 导读
Google DeepMind 发布论文提出 Decoupled DiLoCo 分布式训练架构,把大规模训练拆分为解耦的计算孤岛,孤岛间以异步数据流通信,从而隔离局部硬件故障。
入选记录
门槛 60官方一手第一次 62第二次 62
入选两次之和 124 ≥ 门槛的两倍 120
- 信源等级
- 官方一手,这一级的门槛是 60 分
- 预筛
- 通过:介绍分布式AI训练新架构,实质AI技术
- 推荐理由
- 原文给出分布式训练在带宽、容错和跨代硬件上的实测结果,可据此判断大规模预训练基础设施的演进方向。
评分由模型按同一份标准独立打两次,满分 100;两次之和达到门槛的两倍才入选。门槛按信源等级设定。
来源:Google DeepMind · deepmind.google