4 min de lectura

Óptica co-empaquetada: Lambda conecta más de 10.000 GPU con NVIDIA Photonics y apuesta por 15 veces más fiabilidad

La óptica co-empaquetada de NVIDIA Photonics ya conecta más de 10.000 GPU en Lambda: hasta 5x más eficiencia y 15x más fiabilidad. Lecciones para tu empresa.

Red de fibra óptica luminosa conecta racks de servidores con un conmutador fotónico central en una fábrica de IA

Entrenar un modelo de IA no depende solo de cuántas GPU tienes, sino de si la red que las une aguanta. Con ese problema en mente, Lambda acaba de desplegar óptica co-empaquetada de NVIDIA para conectar racks NVIDIA GB300 NVL72 con más de 10.000 GPU. La promesa, según NVIDIA: hasta 5 veces más eficiencia energética y hasta 15 veces más fiabilidad que las ópticas enchufables convencionales.

El razonamiento es sencillo y a la vez incómodo. En un entrenamiento grande, un solo enlace interrumpido puede frenar a miles de GPU. Y con IA agéntica, una caída de red puede provocar latencias en cascada sobre muchos agentes a la vez. Cada interrupción cuesta tiempo, y cada vatio que consume la red es un vatio que no llega al cómputo. "La red tiene que seguir el ritmo de clústeres de IA cada vez más grandes", resumió Dave Ward, presidente de servicios cloud de Lambda. En sus pruebas, la latencia de red bajó cerca de un 4% a escala de rack y hasta un 10% a escala de pod, con el mismo throughput que la óptica enchufable tradicional.

Cómo funciona NVIDIA Photonics: menos láseres, más resiliencia

La clave de NVIDIA Photonics es mover la conversión de señal eléctrica a luz hasta el propio paquete del switch. En lugar de transceptores enchufables, usa motores ópticos co-empaquetados junto al chip. El camino eléctrico pasa de pulgadas a milímetros, lo que reduce pérdidas de señal y elimina la necesidad de chips retemporizadores (retimers). El resultado es menos consumo y menos piezas que puedan fallar. Además, la arquitectura usa 4 veces menos láseres.

Los switches de Lambda tienen 144 puertos a 800 Gb/s y refrigeración líquida. La empresa reporta una temperatura mediana de las ópticas de 36 °C, frente a 51 °C en ópticas enchufables, y una integridad de señal más estable. Otro detalle operativo importante: cada switch lleva 18 fuentes de luz externas extraíbles. Si falla un láser, los técnicos reemplazan ese módulo en campo, sin cambiar todo el transceptor como ocurre con la óptica tradicional.

Conviene leer las cifras con criterio: son datos de NVIDIA y Lambda, no de una auditoría independiente, y las mejoras de 5x y 15x son "hasta", no promedios garantizados. Aun así, el caso es relevante porque se trata de un despliegue real a escala de más de 10.000 GPU, no de una demo.

Qué puedes aplicar en tu empresa con la óptica co-empaquetada

Lo más probable es que tu organización no compre switches fotónicos mañana. Pero sí puede sacar lecciones útiles si entrena modelos, alquila capacidad GPU o planea inferencia a gran escala:

  • Trata la red como parte del rendimiento, no como accesorio. Si pagas por GPU que esperan datos o se detienen por un enlace caído, estás desperdiciando presupuesto. Pide métricas de red, no solo de cómputo.
  • Exige a tu proveedor cloud cifras de resiliencia. Pregunta por el tiempo medio entre interrupciones (MTBI), cómo se reemplazan componentes y qué pasa cuando falla un enlace durante un entrenamiento largo.
  • Incluye la energía en el cálculo. La eficiencia energética en IA ya no es solo un tema de sostenibilidad: cada vatio ahorrado en red se puede dedicar a cómputo útil.
  • Valora la mantenibilidad. Poder cambiar un módulo de luz en campo, en lugar de todo el transceptor, reduce tiempos de parada y piezas de repuesto.
  • Prepárate para la escala agéntica. Si tu hoja de ruta incluye muchos agentes en paralelo, la latencia de red importará tanto como la del modelo. Casos como el de DoorDash, que bajó la latencia de sus agentes de 16 a 2 segundos, muestran su efecto directo en el negocio.
  • Cuándo tiene sentido mirar esta tecnología

    Si tu carga actual cabe en unos pocos servidores, la óptica co-empaquetada no es tu prioridad. Empieza a importar cuando entrenas con clústeres de miles de GPU o dependes de proveedores que lo hacen. Netflix, por ejemplo, ya demostró que subir del 98% al 99,5% el éxito de los trabajos de IA exige tratar el hardware como un problema de sistemas distribuidos. Lambda aplica esa misma lógica a la capa óptica.

    También conviene mirar el ecosistema regional. Iniciativas como la fábrica de IA de Barcelona, que ya ha entregado más de 800 servicios a startups y empresas, indican que el acceso a infraestructura de alto rendimiento se está ampliando. Eso hará que la calidad de la red sea un criterio de compra cada vez más común.

    La pregunta que deberías hacerte

    Las fábricas de IA se construyen con GPU, pero se sostienen con redes que no fallen y no devoren energía. La óptica co-empaquetada es una de las apuestas más serias para lograrlo, y el despliegue de Lambda será una referencia para medir si las promesas se cumplen a escala. La próxima vez que evalúes infraestructura de IA, no preguntes solo cuántas GPU te ofrecen: pregunta cuánto tiempo pueden trabajar sin interrupciones.

    Preguntas frecuentes

    ¿Qué es la óptica co-empaquetada y en qué se diferencia de la óptica enchufable?

    La óptica co-empaquetada integra los motores ópticos en el mismo paquete que el chip del switch, en lugar de usar transceptores enchufables. Así el camino eléctrico pasa de pulgadas a milímetros, se reduce la pérdida de señal, se eliminan los retimers y baja el consumo. NVIDIA Photonics usa además 4 veces menos láseres.

    ¿Qué resultados reporta Lambda con NVIDIA Photonics?

    Lambda reporta una latencia de red cerca de un 4% menor a escala de rack y hasta un 10% menor a escala de pod, con el mismo throughput que la óptica convencional. Además, una temperatura mediana de las ópticas de 36 °C frente a 51 °C. NVIDIA habla de hasta 5x más eficiencia y 15x más fiabilidad.

    ¿Mi empresa necesita óptica co-empaquetada para implementar IA?

    No necesariamente. Es relevante si entrenas modelos en clústeres de miles de GPU o contratas capacidad a proveedores que lo hacen. En ese caso, pregunta por el MTBI, el consumo energético de la red y cómo se reemplazan componentes. Para cargas pequeñas, otras prioridades suelen tener más impacto.