跳到正文
原文
Hugging Face Blog·· 25 天前

TorchNeuron 性能剖析(一):在 AWS Trainium 上做系统级性能分析

Profiling TorchNeuron (Part 1): System-level profiling on AWS Trainium.

AI 导读

Hugging Face 博客发布《Profiling TorchNeuron》系列第一篇,讲解如何在 AWS Trainium 上用 torch.profiler 配合 NeuronConfig 与 NeuronProfiler 抓取干净的 trace,并通过 key_averages() 表定位消耗 Neuron 设备时间的算子。

入选记录

未入选两次之和 52 < 门槛的两倍 120

信源等级
官方一手,这一级的门槛是 60 分
预筛
通过:TorchNeuron AI芯片推理性能分析教程

评分由模型按同一份标准独立打两次,满分 100;两次之和达到门槛的两倍才入选。门槛按信源等级设定。

来源:Hugging Face Blog · huggingface.co