NVIDIA Mellanox MQM8790-HS2F InfiniBand Switch Lanzado: Construyendo la Base de Interconexión de Alta Velocidad de 200 Gb/s

NVIDIA Mellanox MQM8790-HS2F InfiniBand Switch lanzado: Construyendo la base de interconexión de alta velocidad de 200Gb / s para HPC y AI Clusters

A medida que la computación de alto rendimiento (HPC) y la capacitación de modelos de IA a gran escala continúan empujando los límites de la computación distribuida, el tejido de red subyacente se ha convertido en un cuello de botella crítico.Las soluciones tradicionales basadas en Ethernet a menudo luchan por ofrecer la latencia ultrabaja, rendimiento determinista y capacidades de computación en red requeridas por las cargas de trabajo modernas aceleradas por GPU.Los arquitectos de red y los gerentes de TI recurren cada vez más a InfiniBand como la interconexión de elección para las implementaciones de clústeres críticos.

En respuesta a esta creciente demanda, NVIDIA Mellanox ha introducido oficialmente elSe aplicará a los vehículos de las categorías M1 y M2. un switch InfiniBand de próxima generación diseñado especialmente para redes HDR (High Data Rate) de 200Gb/s. Este switch QSFP56 de 40 puertos ofrece el rendimiento, la densidad, la velocidad y la velocidad de transmisión más elevados de las redes de alta velocidad.y las características avanzadas necesarias para construir escalable, tejidos de centro de datos de alta eficiencia para los entornos de computación más exigentes.

Antecedentes: Por qué es importante un nuevo interruptor InfiniBand

Los clústeres de entrenamiento de IA modernos a menudo comprenden miles de nodos de GPU, cada uno de los cuales requiere una comunicación sostenida y de baja latencia para operaciones colectivas como todo-reducir y todo-reunir.En esos ambientesAdemás, a medida que los tamaños de los modelos crecen en el rango de trillones de parámetros, la velocidad de los modelos aumenta.el volumen de datos intercambiados entre los nodos de computación aumenta exponencialmente, poniendo una tensión sin precedentes en la red.

ElNVIDIA Mellanox MQM8790-HS2F, también conocido como NVIDIAaborda estos desafíos proporcionando una arquitectura de conmutación de alta radix y sin bloqueo que garantiza que los 40 puertos puedan operar simultáneamente a un ancho de banda completo de 200Gb/s.Esto elimina la sobre suscripción que a menudo se encuentra en los interruptores de gama baja, garantizando que cada nodo conectado tenga acceso constante a la capacidad de producción completa del tejido.

Principales características y aspectos técnicos

Sobre la base de las conclusiones preliminaresSe aplicarán las siguientes medidas:, este switch aprovecha la arquitectura InfiniBand de séptima generación de NVIDIA e incluye varias capacidades diferenciadoras:

Más allá del rendimiento en bruto, elMQM8790-HS2F 200Gb/s HDR 40 puertos QSFP56El diseño hace hincapié en la eficiencia energética y la simplicidad de operación.permitir una implementación flexible en diversos entornos de refrigeración de centros de datosSus fuentes de alimentación intercambiables en caliente y módulos de ventiladores simplifican el mantenimiento y minimizan las interrupciones de servicio durante el reemplazo de componentes.

Para los ingenieros de red que planifican clusters a gran escala, elMQM8790-HS2F Conmutador de banda anchaofrece una compatibilidad perfecta con los adaptadores de canales host ConnectX-6 y ConnectX-7 de NVIDIA.MQM8790-HS2F Solución de conmutador de banda anchagarantiza una previsibilidad de rendimiento de extremo a extremo, eliminando los problemas de interoperabilidad comunes en las redes de múltiples proveedores.

Escenarios de aplicación y valor de implementación

ElNVIDIA Mellanox MQM8790-HS2F, también conocido como NVIDIAse destaca en una variedad de escenarios de despliegue:

• Agrupaciones de formación en IA:Proporciona el tejido de baja latencia y sin pérdidas requerido para SGD síncrono y entrenamiento paralelo de datos a través de miles de GPU.
• Supercomputación HPC:Proporciona un rendimiento determinista para simulaciones basadas en MPI, asegurando tiempos de finalización de trabajo consistentes incluso bajo una fuerte competencia.
• Infraestructura de inteligencia artificial empresarial:Permite a los gerentes de TI consolidar múltiples cargas de trabajo en un solo tejido de alto rendimiento con calidad de servicio garantizada.

En la evaluación de laPrecio MQM8790-HS2Fy el coste total de propiedad, teniendo en cuenta que su arquitectura no bloqueadora a menudo reduce el número de switches necesarios para un tamaño de clúster determinado,reducción de los gastos de capital y de la complejidad del cableadoAdemás, el soporte del switch para HDR de 200Gb/s permite una migración fluida desde las implementaciones existentes de EDR de 100Gb/s, protegiendo las inversiones previas en infraestructura.

Para las organizaciones que están listas para desplegar, elMQM8790-HS2F para la ventaLos compradores potenciales también pueden solicitar información detallada sobre los productos que venden a través de los socios globales de canal de NVIDIA.Las especificaciones MQM8790-HS2Fy matrices de compatibilidad para verificar la interoperabilidad con su inventario de hardware existente.

Resumen: Un facilitador estratégico para los centros de datos de próxima generación

ElSe aplicará a los vehículos de las categorías M1 y M2.representa un avance significativo en la tecnología de conmutación InfiniBand, que combina una alta densidad de puertos, una latencia ultrabaja y una aceleración de computación en la red en un solo chasis de 1U.Para arquitectos de redes, ingenieros y gerentes de TI que construyen la próxima generación de infraestructura de HPC e IA, este cambio ofrece una base confiable, escalable y rentable para las cargas de trabajo más exigentes.A medida que la computación intensiva en datos continúa su crecimiento incesante, elNVIDIA Mellanox MQM8790-HS2F, también conocido como NVIDIAestá listo para ofrecer el rendimiento y la simplicidad operativa que requieren los centros de datos modernos.