Meta informó el 19 de octubre de 2026 que la primera fase de Prometheus está terminada y ya sirvió para entrenar sus modelos Muse. El superclúster de New Albany, Ohio, reúne cientos de miles de GPU, los aceleradores utilizados para entrenar IA, y la compañía proyecta ampliarlo a cerca de un millón.
Parte de las GPU se reserva para fallas
En cada grupo NVLink de 72 GPU, Meta utiliza 64 para entrenar y mantiene ocho de reserva. Si falla una, un repuesto permite reanudar el trabajo desde el último estado guardado.
El cómputo aprovechable depende tanto de las GPU activas como del tiempo que pasan trabajando. Un trabajo técnico enlazado por Meta, publicado como preprint en arXiv, documenta cómo las fallas y las pausas de recuperación reducen ese tiempo cuando aumenta la escala del entrenamiento.
Sus autores, de Meta y otras instituciones, describen FT-HSDP, un sistema que aísla la réplica afectada, un grupo que procesa parte de los datos, para que las demás continúen. En una evaluación con unas 98,000 GPU, reportaron una reducción de las pausas de recuperación de diez a tres minutos y un aumento del tiempo efectivo de entrenamiento del 44 % al 80 %. Esas cifras corresponden a la evaluación del preprint.
La red conecta los edificios del superclúster
El proyecto se concibió para ofrecer 1 gigavatio de capacidad, según la descripción oficial de febrero de 2026. Para conectar los edificios, Meta utiliza BAG, una capa de agregación Ethernet que enlaza sus redes. La arquitectura descrita entonces ofrece entre 16 y 48 petabits por segundo por par de regiones.
Las conexiones pueden organizarse para simplificar la gestión o para distribuir los enlaces por más rutas y aumentar la resistencia a fallas. Esa elección determina cómo se protege la comunicación entre centros, además de su ancho de banda. La expansión exige que los procesadores puedan intercambiar datos y seguir trabajando cuando un componente falla.
La ampliación prevista de Prometheus sumará sistemas NVIDIA Vera Rubin NVL72 a los GB300. Meta prevé integrarlos en la red existente mediante su próxima plataforma San Miguel.
