Deepgram 如何用 AWS Trainium2 大规模优化 Nova-3 语音模型

Deepgram 与 AWS 将 Nova-3 语音转文本模型迁移到 Trainium2，用于离线批处理。单台 EC2 trn2.3xlarge 运行 8 个模型副本，每美元处理的音频量比原有方案多 11–70%。优化涉及 PyTorch 移植、Neuron 内核调优和 Rust 数据并行运行时。