Hugging Face Blog·· 20 時間前
Hugging FaceがTorchTPUに対応、TransformersとDiffusersがTPUをネイティブサポート
Hugging Face ❤️ TorchTPU: TPUs, Natively
AI による要約
Hugging Faceは、ネイティブなPyTorchバックエンドであるTorchTPUへの対応を発表した。Transformers、Diffusers、KernelsがTPU上で直接動作するようになり、モデルの読み込みはdevice_map="tpu"またはpipe.to("tpu")を渡すだけで済み、torch_xlaやOptimum TPUは不要になった。
入選の記録
基準 60公式・一次情報1 回目 722 回目 62
入選二回の合計 134 ≥ 基準の 2 倍 120
- 情報源の区分
- 公式・一次情報、この区分の基準は 60 点
- 予備審査
- 通過：TorchTPU原生PyTorch后端及TPU模型运行
- 推薦理由
- モデルをそのままTPUに載せる具体的な変更方法と実測スループットの数字が示されており、移行コストを判断できる。
採点はモデルが同じ基準で独立に二回行い、満点は 100。二回の合計が基準の 2 倍に届いたものだけが入選します。基準は情報源の区分ごとに決めています。
情報源：Hugging Face Blog · huggingface.co