Conmutador InfiniBand Mellanox (NVIDIA Mellanox) 920-9B210-00FN-0D0 en Producción

Las empresas e instituciones de investigación que escalan la capacitación en IA y las simulaciones de HPC a menudo se enfrentan a un cuello de botella común: la latencia y la congestión inducidas por la red que desperdician los ciclos de computación de la GPU.Este estudio de caso de despliegue examina cómo un laboratorio de investigación de IA de tamaño medio transformó su rendimiento del clúster utilizando elMellanox (NVIDIA Mellanox) 920-9B210-00FN-0D0 (incluido el juego)Conmutador InfiniBand, logrando un tejido determinista de baja latencia para cargas de trabajo paralelas exigentes.

Antecedentes y desafío: Cuando Ethernet se convierte en el cuello de botella

El tejido Ethernet de 100Gb existente del laboratorio exhibía constantemente picos de latencia de cola durante las operaciones de reducción total, causando tiempos de inactividad de la GPU de hasta un 25% en trabajos de capacitación a gran escala.Sus switches heredados carecían de control de congestión consciente de RDMA y capacidades de computación en redLos arquitectos necesitaban una solución que pudiera proporcionar latencia de menos de un microsegundo, transporte sin pérdidas y escalabilidad perfecta para una red de red NDR de 400Gb/s en expansión.El equipo seleccionó elLos requisitos de seguridad de los sistemas de seguridad de seguridad de los sistemas de seguridad de los sistemas de seguridad de los sistemas de seguridad de los sistemas de seguridad de los sistemas de seguridad de los sistemas de seguridad de los sistemas de seguridad de los sistemas de seguridad de los sistemas de seguridad de los sistemas de seguridad de los sistemas de seguridad de los sistemas de seguridad de los sistemas de seguridad de los sistemas de seguridad de los sistemas de seguridad de los sistemas de seguridad de los sistemas de seguridad de los sistemas de seguridad de los sistemas de seguridad de los sistemas de seguridad de los sistemas de seguridad de los sistemas de seguridad de los sistemas de seguridad de los sistemas de seguridad de los sistemas de seguridad de los sistemas de seguridad de los sistemas de seguridad de los sistemas de seguridad de los sistemas de seguridad de los sistemas de seguridad de los sistemas de seguridad de los sistemas de seguridad de los sistemas de seguridad de los sistemas de seguridad de los sistemas de seguridad de los sistemas de seguridad de los sistemas de seguridad de los sistemas de seguridad de los sistemas de seguridad de los sistemas de seguridad de los sistemas de seguridad de los sistemas de seguridad de los sistemas de seguridad de los sistemas de seguridad de los sistemas de seguridad de los sistemas de seguridad de los sistemas de seguridad de los sistemas de seguridad de los sistemas decomo el bloque de construcción principal para su nueva tela InfiniBand.

Solución y implementación: Construir un tejido de IA de baja latencia

El despliegue se centró en el920-9B210-00FN-0D0 MQM9790-NS2F 400Gb/s NDRLas decisiones clave de implementación incluyeron:

• Apoyo completo de RDMA:Eliminar el kernel-bypass sobrecarga utilizando la capa de transporte patentada de NVIDIA.
• Enrutamiento adaptativo:Equilibrio dinámico del tráfico en múltiples rutas para evitar puntos críticos.
• Agregación en red de SHARPv3:Descarga de operaciones colectivas de las CPU anfitrionas al plano de datos del interruptor.

Los ingenieros hicieron referencia a laSi el vehículo no está equipado con un dispositivo de seguridad, el vehículo deberá ser equipado con un dispositivo de seguridad.yLas especificaciones 920-9B210-00FN-0D0Para validar la compatibilidad con los adaptadores ConnectX-7 existentes.920-9B210-00FN-0D0 compatibles con el sistema operativoEl ecosistema permitió un reemplazo directo de los interruptores de columna anterior sin cambios de cableado.920-9B210-00FN-0D0 InfiniBand conmutador OPN(número de pedido de la pieza) flujos de trabajo de contratación y RMA simplificados.

Resultados y beneficios: beneficios medibles para HPC y IA

Después de migrar a laNVIDIA Mellanox 920-9B210-00FN-0D0 también está disponible en vivo.- basados en tejidos, el laboratorio registró las siguientes mejoras durante un período de evaluación de 30 días:

Para los gerentes de TI que evalúan el coste total de propiedad, el920-9B210-00FN-0D0 precioLa reducción del 40% de la potencia inactiva en el clúster y un rendimiento de trabajo más rápido compensaron el descenso de la demanda de energía en el cluster.920-9B210-00FN-0D0 para la ventaEl canal de distribución a través de distribuidores autorizados también proporcionó un soporte de ciclo de vida de 5 años, fundamental para la planificación de infraestructuras de HPC a largo plazo.

Resumen y perspectivas: un plan para los grupos de IA de próxima generación

El laboratorio de investigación ahora ha estandarizado el920-9B210-00FN-0D0 Solución OPN de conmutador de banda anchaEn el futuro, el equipo planea escalar de 32 a 256 puertos NDR utilizando la misma plataforma de conmutación, aprovechando su arquitectura no bloqueadora y control de congestión.Para arquitectos que diseñan tejidos RDMA de baja latencia, elNVIDIA Mellanox 920-9B210-00FN-0D0 también está disponible en vivo.Proporciona una base probada y lista para la producción que elimina la imprevisibilidad de la red, desde pequeños clústeres de prototipos de IA hasta implementaciones de HPC en exascala.