跳到正文
Hugging Face Blog·· 1 天前精选AI 评分70

Hugging Face 接入 TorchTPU,Transformers 与 Diffusers 原生支持 TPU

Hugging Face ❤️ TorchTPU: TPUs, Natively

AI 导读

Hugging Face 宣布 Transformers、Diffusers 与 Kernels 通过原生 PyTorch 后端 TorchTPU 在 TPU 上原生运行,加载模型时只要传入 device_map="tpu" 即可。

推荐理由

原文给出了在 TPU 上运行 PyTorch 模型的迁移方式与实测加速数据,可作为评估 TPU 部署成本的参考。

来源:Hugging Face Blog · huggingface.co