跳到正文
Hugging Face Blog·· 22 小时前AI 评分47

TorchNeuron 让 Hugging Face 模型在 AWS Trainium 上的运行更简单

TorchNeuron: running HF models on AWS Trainium is easier than ever

AI 导读

Hugging Face 与 AWS 合作推出 TorchNeuron,为 PyTorch 在 Trainium 上提供新的原生后端,支持 eager 模式、torch.compile 以及 FSDP2、Tensor Parallelism 等分布式接口。

来源:Hugging Face Blog · huggingface.co