跳到正文
Hugging Face Blog·· 3 小时前AI 评分44

TorchNeuron 性能分析(第 1 部分):AWS Trainium 系统级性能分析

Profiling TorchNeuron (Part 1): System-level profiling on AWS Trainium.

AI 导读

TorchNeuron 性能分析第 1 部分讲解如何在 AWS Trainium 上用 torch.profiler 与 Neuron Explorer 做系统级分析。以三种 RMSNorm 实现为例,演示用 key_averages() 定位 Neuron 设备耗时,并追踪算子到 NeuronCore 的执行过程。

来源:Hugging Face Blog · huggingface.co