跳到正文
AWS Machine Learning Blog· Josh Longenecker·· 3 小时前AI 评分42

在 AWS Trainium 上用 torchtitan 训练 Qwen3

Train Qwen3 on AWS Trainium with torchtitan

AI 导读

torchtitan 在单台 trn2.48xlarge 上以三种配置训练 Qwen3-4B-Instruct-2507,包括 Transformers v5 后端、原生 Qwen3 和 NKI MoE kernel 覆盖。

来源:AWS Machine Learning Blog · aws.amazon.com