AWS lança TorchNeuron, backend PyTorch nativo para os seus chips Trainium
A AWS anunciou, em comunicado conjunto com o Hugging Face, o TorchNeuron, um plugin PyTorch com backend nativo para o hardware Trainium, que entra em beta pública a 20 de outubro.
Substitui o caminho anterior via Optimum Neuron e PyTorch XLA, com suporte a modo eager, torch.compile e APIs distribuídas de paralelismo. No modo de inferência com a biblioteca Transformers, o TorchNeuron suporta 89% das 100 arquiteturas de geração de texto mais usadas, contra 46% da versão anterior.
Como exemplo prático, a AWS mostrou o fine-tuning do modelo Qwen3-8B no conjunto de dados UltraChat 200k usando paralelismo distribuído em 32 núcleos Neuron, equivalentes a oito chips Trainium2 — metade de uma instância trn2.48xlarge. Bibliotecas de difusão de imagem, como o FLUX, também passam a suportar paralelismo em tensores neste novo backend.
Fontes
- Hugging Face (blog oficial) huggingface.co
Resumo editorial em português feito com apoio de inteligência artificial a partir das fontes indicadas. Como fazemos o Boletim IA.