AWS ha lanzado la beta pública de TorchNeuron, un backend nativo de PyTorch para los aceleradores Trainium. El objetivo es que científicos de datos y equipos de IA puedan ejecutar código PyTorch en Trainium con menos cambios.
Un cambio mínimo en el código
AWS explica que un desarrollador puede mover modelos a Trainium utilizando .to('neuron'), manteniendo compatibilidad con eager execution, torch.compile y APIs estándar de PyTorch. También se integra con Neuron Kernel Interface para operadores personalizados.
Disponible en Trainium2 y Trainium3
TorchNeuron se publica como proyecto open source y funciona sobre instancias EC2 con Trainium2 y Trainium3. Para empresas que entrenan o sirven modelos a escala, reduce la fricción al evaluar hardware alternativo a GPU tradicionales.
Fuente primaria: AWS.
Contexto para empresas
Estas novedades llegan en una semana con más cambios de infraestructura y seguridad: ECS Gateway, identidad X.509 para agentes, llm-d 1.0, TorchTPU, riesgo de agentes internos y RAG soberano con Gemini.
Fotografía: panumas nikhomkhai / Pexels.
