Hugging Face Blog·· 3 小时前AI 评分44
TorchNeuron 性能分析(第 1 部分):AWS Trainium 系统级性能分析
Profiling TorchNeuron (Part 1): System-level profiling on AWS Trainium.
AI 导读
TorchNeuron 性能分析第 1 部分讲解如何在 AWS Trainium 上用 torch.profiler 与 Neuron Explorer 做系统级分析。以三种 RMSNorm 实现为例,演示用 key_averages() 定位 Neuron 设备耗时,并追踪算子到 NeuronCore 的执行过程。
来源:Hugging Face Blog · huggingface.co