Hugging Face Blog·· 1 天前
Hugging Face 推出 TorchNeuron，让模型在 AWS Trainium 上运行更简单
TorchNeuron: running HF models on AWS Trainium is easier than ever
AI 导读
Hugging Face 发布 TorchNeuron，为 PyTorch 在 AWS Trainium 上提供原生后端，Transformers、Diffusers 和 Kernels 原生支持，10 月 20 日起以公开 beta 开放，可通过 pip install torch-neuronx 安装。
入选记录
门槛 60官方一手第一次 58第二次 62
入选两次之和 120 ≥ 门槛的两倍 120
- 信源等级
- 官方一手，这一级的门槛是 60 分
- 预筛
- 通过：介绍在AWS Trainium上运行HF模型的AI后端与用法
- 推荐理由
- 原文给出 Trainium 原生后端在 Transformers、Diffusers、TRL 上的支持范围与迁移方式，可据此判断现有训练推理脚本的改动量。
评分由模型按同一份标准独立打两次，满分 100；两次之和达到门槛的两倍才入选。门槛按信源等级设定。
来源：Hugging Face Blog · huggingface.co