Hugging Face Blog·· 25 天前
TorchNeuron 性能剖析(一):在 AWS Trainium 上做系统级性能分析
Profiling TorchNeuron (Part 1): System-level profiling on AWS Trainium.
AI 导读
Hugging Face 博客发布《Profiling TorchNeuron》系列第一篇,讲解如何在 AWS Trainium 上用 torch.profiler 配合 NeuronConfig 与 NeuronProfiler 抓取干净的 trace,并通过 key_averages() 表定位消耗 Neuron 设备时间的算子。
入选记录
门槛 60官方一手第一次 24第二次 28
未入选两次之和 52 < 门槛的两倍 120
- 信源等级
- 官方一手,这一级的门槛是 60 分
- 预筛
- 通过:TorchNeuron AI芯片推理性能分析教程
评分由模型按同一份标准独立打两次,满分 100;两次之和达到门槛的两倍才入选。门槛按信源等级设定。
来源:Hugging Face Blog · huggingface.co