Saltar al contenido
IA

Amazon anuncia la beta pública de TorchNeuron para usar PyTorch en Trainium

La beta llegará el 20 de octubre. TorchNeuron reduce los cambios necesarios para mover modelos a Trainium, aunque la primera versión excluye algunas funciones de PyTorch.

por Gerardo Pavez
AWS Trainium 3 Annapurna Labs chip with engraved specifications.
Foto: Amazon News, vía aboutamazon.com

Amazon anunció que abrirá TorchNeuron en beta pública el 20 de octubre de 2026 para ejecutar código de PyTorch en sus chips de IA Trainium con cambios mínimos. La herramienta busca reducir el trabajo de adaptar modelos a otro hardware, una de las barreras que favorecen a Nvidia.

PyTorch es el framework que muchos desarrolladores utilizan para construir y entrenar modelos de IA. TorchNeuron conecta esas herramientas con Trainium mediante los mecanismos de extensión del propio framework. El anuncio técnico publicado en el blog de PyTorch confirma soporte para Trainium2 y Trainium3, con una apertura del código bajo la licencia Apache 2.0.

La novedad amplía el acceso a una integración que ya se probaba en privado desde finales de 2025, según GeekWire. Colin Brace, responsable de software en Annapurna Labs, la unidad de chips de Amazon, explicó al medio que antes había que adaptar el código a interfaces específicas de Trainium. Esa inversión de tiempo ayuda a explicar la ventaja de CUDA, la plataforma de software de Nvidia.

Qué cambia al mover un modelo a Trainium

La documentación de AWS describe el caso más sencillo: cambiar la selección del dispositivo de .to('cuda') a .to('neuron'). Los programas que ya utilizan torch.accelerator, una interfaz que detecta el hardware, pueden conservar el código.

El ajuste depende del modo de ejecución. Al usar torch.compile, que compila el modelo para optimizar su rendimiento, hay que seleccionar el backend Neuron y retirar parámetros específicos de CUDA. Algunas configuraciones de entrenamiento distribuido también requieren ajustar cómo se reparte el modelo entre las unidades de cómputo disponibles.

La promesa de evitar una reescritura tiene, por tanto, un alcance concreto. El anuncio en PyTorch enumera funciones excluidas de la primera versión, entre ellas los tensores dispersos y las formas dinámicas o simbólicas. Eso limita la migración directa de proyectos que dependan de esas funciones.

El ahorro depende de la carga de trabajo

Más de 30 empresas y equipos internos de Amazon participaron en la beta privada, de acuerdo con GeekWire. Entre ellos está Deepgram, dedicada a IA de voz, que reportó procesar cerca de un 60 % más de audio por dólar con Trainium que con su configuración previa de GPU. La comparación corresponde a las pruebas de esa compañía y a ese sistema anterior.

El resultado ilustra qué puede hacer más atractiva una migración: conservar las herramientas de desarrollo y procesar más por el mismo gasto. La integración de software reduce el esfuerzo de probar otra plataforma; el rendimiento económico se comprueba con la carga que ejecuta cada empresa.

Las pruebas descritas por AWS en el blog de PyTorch usan configuraciones reducidas de modelos para comprobar su carga, ejecución y compilación. Su alcance permite distinguir dos evaluaciones que el anuncio reúne: que un modelo funcione en Trainium y cuánto cuesta ejecutarlo allí.

Fuentes: 1, 2, 3

Gerardo Pavez imagen de perfil
por Gerardo Pavez

Redactor y creador de contenido especializado en deportes y tecnología. Apasionado por todo lo que ocurre dentro y fuera de la cancha.

Leer más de Tecnología y Ciencia