Hugging Face Blog·· 21 小时前
Hugging Face 接入 TorchTPU,Transformers 与 Diffusers 原生支持 TPU
Hugging Face ❤️ TorchTPU: TPUs, Natively
AI 导读
Hugging Face 宣布接入 TorchTPU 这一原生 PyTorch 后端,Transformers、Diffusers 和 Kernels 现在可直接在 TPU 上运行,加载模型只需传 device_map="tpu" 或 pipe.to("tpu"),不再需要 torch_xla 或 Optimum TPU。
入选记录
门槛 60官方一手第一次 72第二次 62
入选两次之和 134 ≥ 门槛的两倍 120
- 信源等级
- 官方一手,这一级的门槛是 60 分
- 预筛
- 通过:TorchTPU原生PyTorch后端及TPU模型运行
- 推荐理由
- 原文给出了把模型直接放到 TPU 上的具体改法和实测吞吐数字,可据此判断迁移成本。
评分由模型按同一份标准独立打两次,满分 100;两次之和达到门槛的两倍才入选。门槛按信源等级设定。
来源:Hugging Face Blog · huggingface.co