跳到正文
原文
Hugging Face Blog·· 21 小时前

Hugging Face 接入 TorchTPU,Transformers 与 Diffusers 原生支持 TPU

Hugging Face ❤️ TorchTPU: TPUs, Natively

AI 导读

Hugging Face 宣布接入 TorchTPU 这一原生 PyTorch 后端,Transformers、Diffusers 和 Kernels 现在可直接在 TPU 上运行,加载模型只需传 device_map="tpu" 或 pipe.to("tpu"),不再需要 torch_xla 或 Optimum TPU。

入选记录

入选两次之和 134 ≥ 门槛的两倍 120

信源等级
官方一手,这一级的门槛是 60 分
预筛
通过:TorchTPU原生PyTorch后端及TPU模型运行
推荐理由
原文给出了把模型直接放到 TPU 上的具体改法和实测吞吐数字,可据此判断迁移成本。

评分由模型按同一份标准独立打两次,满分 100;两次之和达到门槛的两倍才入选。门槛按信源等级设定。

来源:Hugging Face Blog · huggingface.co