Hugging Face、PyTorch 2.15のMPSバックエンド改善を紹介
まずはこの出来事を
AI によるまとめ
2026年10月20日、Hugging FaceのブログがPyTorch 2.15のMPSバックエンドにおける改善を紹介した。FP8テンソルとF.scaled_mmのサポートを追加し、MoEモデルのデコード速度を2.14比で5〜6.5倍に向上させたという。記事では例として、Qwen3.6-35B-A3BのM3 Ultra上でのデコード速度が9.4 tokens/sから61.3 tokens/sに向上したことを挙げている。現時点でこの情報はHugging Faceのブログという一次報道のみで、他の情報源による補足や裏付けはない。
報道をもとに AI が作成 · 3 時間前に更新
報道の時系列
報道をたどり、出来事のさまざまな面を知る。
10月20日
- Hugging Face BlogPyTorch 2.15、MPS に FP8 を導入し LLM デコードを高速化
PyTorch 2.15 は MPS バックエンドに FP8 テンソルと F.scaled_mm を追加し、MoE モデルのデコードを 2.14 比で 5～6.5 倍高速化した。Qwen3.6-35B-A3B は M3 Ultra 上で 9.4 から 61.3 tokens/s に向上している。
この出来事の注目度の推移
連続した観測データがまだ足りないため、推移は描いていません。