Redes del centro de datos de IA

La demanda de IA está impulsando a los hiperescaladores, los proveedores de nube, las empresas, los gobiernos y las instituciones educativas a incorporar la IA a sus sistemas comerciales para automatizar las operaciones, generar contenido y comunicaciones y mejorar el servicio al cliente.

Los modelos de IA se construyen utilizando conjuntos de datos cuidadosamente diseñados durante la etapa de capacitación. El entrenamiento se realiza en múltiples GPU y abarca decenas, cientos e incluso miles de GPU en un grupo, todas conectadas a través de una red e intercambiando datos entre sí de manera constante. Después de esta etapa de capacitación, el modelo está esencialmente completo. Durante la etapa de inferencia, los usuarios interactúan con el modelo, que puede reconocer imágenes o generar imágenes y texto para proporcionar respuestas a las preguntas de los usuarios. El entrenamiento suele ser una operación sin conexión, mientras que la inferencia generalmente se produce en línea.

Los conjuntos de datos masivos de IA están creando la necesidad de una mayor potencia informática, un almacenamiento más rápido y redes de alta capacidad y baja latencia. Juniper ayuda a satisfacer estos requisitos de las siguientes maneras:

• Cómputo: los grupos de cómputo de IA y ML imponen grandes requisitos a la red entre nodos. Es fundamental reducir el tiempo de finalización de tareas (JCT) y la red desempeña un papel clave en la operación eficiente del grupo. Juniper ofrece una gama de conmutadores no bloqueantes de alto rendimiento con capacidad de búfer profundo y administración de congestión que, cuando se diseñan de manera óptima, eliminan cualquier cuello de botella en la red.
• Almacenamiento: en los grupos de IA y ML, así como en la computación de alto rendimiento, rara vez se puede almacenar un conjunto o modelo completo de datos en los nodos de cálculo, por lo que se requiere una red de almacenamiento de alto rendimiento. Los conmutadores de la serie QFX de Juniper se pueden usar para la conectividad de almacenamiento IP; ofrecen soporte completo para redes de acceso directo de memoria remota (RDMA), incluida la memoria no volátil Express/RDMA sobre Ethernet convergente (NVMe/RoCE) y el sistema de archivos de red (NFS) o RDMA.
• Red: los modelos de entrenamiento de la IA implican cálculos grandes e intensos distribuidos en cientos o miles de procesadores de CPU, GPU y TPU. Estos cálculos exigen redes de alta capacidad, escalables horizontalmente y sin errores. Los conmutadores QFX y los enrutadores de la serie PTX de Juniper admiten estos grandes cálculos dentro y entre centros de datos con una transferencia de datos y conmutación, además de capacidades del interconector del centro de datos (DCI), líderes en la industria.

Data Center Director es el software líder en la industria de Juniper para la automatización y garantía del centro de datos. Automatiza todo el ciclo de vida de la red, desde el diseño hasta las operaciones rutinarias, en todos los centros de datos de varios proveedores, con validación continua, análisis potente e identificación de la causa raíz para asegurar fiabilidad. Con Marvis AI Assistant para centros de datos esta información se lleva desde Data Center Director hasta la nube de Juniper Mist y se presenta en un panel de control común de VNA para información de extremo a extremo. Marvis AI Assistant para centros de datos también ofrece una interfaz de conversación robusta (la cual utiliza GenAI) para simplificar drásticamente las consultas a la base de conocimiento.

Los conmutadores de centro de datos no bloqueantes de alto rendimiento de Juniper ofrecen administración de congestión y búfer profundo para eliminar los cuellos de botella en la red. Para equilibrar las cargas de tráfico, admitimos el equilibrio de carga dinámico y el enrutamiento adaptativo. Para la administración de congestión, Juniper admite completamente la notificación de congestión cuantificada del centro de datos (DCQCN), el control de flujo de prioridad (PFC) y la notificación de congestión explícita (ECN). Finalmente, para reducir la latencia, Juniper usa las mejores arquitecturas de chip comercial y ASIC personalizadas que maximizan los búferes cuando se necesitan, las colas de salida virtual (VOQ) y las estructuras basadas en células dentro de nuestras arquitecturas de spine.

Nuestra cartera incluye conmutadores abiertos basados en estándares que ofrecen conectividad de almacenamiento basada en IP mediante NVMe/RoCE o NFS/RDMA (consulte las preguntas frecuentes anteriores). Nuestros diseños de solución de redes de almacenamiento IP pueden escalar desde una configuración pequeña de cuatro nodos a cientos o miles de nodos de almacenamiento.