跳到正文
热点事件持续更新

TorchNeuron上线,HF模型可直接跑AWS Trainium

1 篇报道1 个报道来源21 小时前更新

先了解这件事

AI 综述

Hugging Face 与 AWS 合作推出 TorchNeuron,作为 PyTorch 在 AWS Trainium 上的新原生后端,Transformers、Diffusers 与 Kernels 已原生支持,无需再经由 Optimum Neuron 中转。 TorchNeuron 支持 eager 模式、torch.compile,并兼容 FSDP2、Tensor Parallelism 等分布式接口;Hugging Face 称,这让模型在 Trainium 上的运行与分享变得更简单。 根据 Hugging Face 的说法,TorchNeuron 将于 2026 年 10 月 20 日以公开 beta 形式上线,并推荐现有 Neuron 用户直接使用上述库,替代此前经过 Optimum Neuron 的方式。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月19日
  1. Hugging Face Blog
    TorchNeuron 让 Hugging Face 模型在 AWS Trainium 上的运行更简单

    Hugging Face 与 AWS 合作推出 TorchNeuron,为 PyTorch 在 Trainium 上提供新的原生后端,支持 eager 模式、torch.compile 以及 FSDP2、Tensor Parallelism 等分布式接口。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。