Actualidad empresarial BlackHold News
Buscar en BlackHold News
Código de inteligencia artificial ejecutado con PyTorch y aceleradores especializados

Google abre TorchTPU: PyTorch podrá entrenar y servir modelos en TPU con cambios mínimos de código

Google Cloud ha liberado como open source TorchTPU, su stack nativo para ejecutar PyTorch sobre TPUs. El objetivo es que los equipos que ya trabajan con PyTorch puedan utilizar aceleradores de Google sin reescribir sus proyectos alrededor de un framework diferente.

PyTorch pasa a tratar la TPU como otra opción de cómputo

TorchTPU ha sido desarrollado junto al equipo de PyTorch de Meta y busca que una carga existente pueda entrenarse, servirse y desplegarse en TPU con cambios mínimos. Google sitúa así las TPU junto a GPU y CPU dentro de un modelo operativo más homogéneo.

Compatibilidad con herramientas conocidas

La compañía cita integración con vLLM, SGLang, llm-d, TorchTitan, Ray, TorchRec, Hugging Face y LiteRT. Esto reduce una de las principales barreras para cambiar de acelerador: perder el ecosistema de herramientas utilizado por el equipo.

Qué gana una empresa

Para organizaciones que entrenan o sirven modelos propios, la apertura amplía la capacidad de comparar precio y rendimiento entre GPU y TPU sin asumir una migración completa de código. También facilita diseñar una estrategia menos dependiente de una única familia de hardware.

Open source no elimina el trabajo de optimización

La compatibilidad no significa que cualquier carga vaya a rendir igual de bien automáticamente. Los equipos deberán medir utilización, memoria, comunicación distribuida y coste por entrenamiento o por token servido antes de decidir la plataforma final.

Google anunció la apertura en el Google Cloud Blog del 20 de octubre.

Qué implica para una empresa

Antes de llevar estas capacidades a producción conviene revisar conjuntamente tecnología, inteligencia artificial, software, ciberseguridad, gestión empresarial y costes. El criterio no debería ser adoptar la novedad por sí misma, sino comprobar rendimiento, dependencia, seguridad, coste total y capacidad real del equipo para operarla.

Fotografía: Daniil Komov / Pexels.

Scroll al inicio