Mellanox (NVIDIA Mellanox) 920-9B110-00FH-0D0 Conmutador InfiniBand en acción: optimización de la interconexión de baja latencia
May 29, 2026
En la capacitación de IA del mundo real y las implementaciones de computación de alto rendimiento, la latencia de la red y la sobrecarga de la CPU a menudo se convierten en asesinos silenciosos de la escalabilidad.Este resumen de solicitud examina cómo una organización de investigación de tamaño medio abordó estos mismos retos mediante el despliegue de laMellanox (NVIDIA Mellanox) 920-9B110-00FH-0D0 (incluido el equipo de producción)El interruptor InfiniBand como el tejido central para su grupo de investigación basado en GPU.
El tejido Ethernet RoCE 100Gb / s heredado de la organización sufrió una latencia de cola impredecible debido a tormentas PFC (Priority Flow Control) y manejo ineficiente de la congestión.A medida que los tamaños de sus modelos de IA crecieron de 10 mil millones a más de 50 mil millones de parámetros, las operaciones de comunicación colectiva (All-Reduce, All-to-All) consumieron casi el 45% del tiempo total de iteración.tejido de baja latencia que podría aprovechar completamente RDMA manteniendo la escala de rendimiento linealLa búsqueda rápidamente convergió en elLas condiciones de los requisitos de seguridad de los equipos de seguridad deberán ser las siguientes:como el bloque de construcción más prometedor.
El equipo seleccionó los920-9B110-00FH-0D0 MQM8790-HS2F 200Gb/s HDRLa conexión de 64 nodos de GPU a través de cuatro racks.920-9B110-00FH-0D0 InfiniBand conmutador OPNEn el marco de los pedidos, se implementaron dos conmutadores redundantes con 40 puertos HDR cada uno, logrando una relación de sobrescripción no bloqueante de 1: 1.El despliegue aprovechó el Enrutamiento Adaptativo y SHARPv2 (Protocolo de Agregación y Reducción Jerárquica Escalable)Si el vehículo no está equipado con un dispositivo de seguridad, el vehículo deberá ser equipado con un dispositivo de seguridad.El equipo confirmó que el sistema de control de las emisiones de gases de efecto invernadero, que se utiliza para la producción de electricidad, es compatible con el sistema de control de las emisiones de gases.920-9B110-00FH-0D0 compatibles con el sistema operativoEl ecosistema incluyó sus adaptadores ConnectX-6 HDR existentes y óptica QSFP56 estándar.
La telemetría posterior al despliegue reveló mejoras dramáticas. La latencia de extremo a extremo entre dos nodos de GPU cayó de 3,2 μs (RoCE) a menos de 1,1 μs, con jitter reducido en un 80%.NVIDIA Mellanox 920-9B110-00FH-0D0 fue lanzado por NVIDIA en julio de 2010.reducido el tiempo de finalización de All-Reduce en un 57% para los trabajos de 512-GPU.
| El método métrico | Anterior (RoCE) | Con el 920-9B110-00FH-0D0 |
|---|---|---|
| La velocidad media de latencia P2P (MPI ping pong) | 3.2 μs | 10,08 μs |
| Todo-Reduce (512 GPUs, mensaje de 1 GB) | 17.3 ms | 7.4 ms |
| Utilización efectiva del ancho de banda | El 62% | El 94% |
| Cargas generales de la CPU (por 10 Gb/s) | ~ 8% | < 1% |
Más allá de los números en bruto, el920-9B110-00FH-0D0 Solución OPN de conmutador de banda anchaReducción de la complejidad operativa. Utilizando NVIDIA UFM (Unified Fabric Manager), el equipo obtuvo visibilidad en tiempo real del tejido, optimización automática de la ruta,y alertas de congestión proactivas capacidades no disponibles en su implementación anterior de EthernetEl.Las especificaciones 920-9B110-00FH-0D0También permitió un funcionamiento eficiente en energía: el chasis de 1U consumió solo 180W a plena carga, lo que redujo su contribución PUE.
Para las organizaciones que evalúan actualizaciones similares, el920-9B110-00FH-0D0 precioLos distribuidores ahora enumeran varios distribuidores que ofrecen una gama de servicios de conexión de alta velocidad a través de la red de conexión de alta velocidad.920-9B110-00FH-0D0 para la ventaEl análisis del ROI del equipo mostró un período de recuperación de 9 meses puramente de las mejoras en el uso de la GPU.
El despliegue confirmó que elNVIDIA Mellanox 920-9B110-00FH-0D0 fue lanzado por NVIDIA en julio de 2010.ofrece su promesa de latencia submicrosegundos, ancho de banda bi-seccional completo y eficiencia nativa de RDMA.Este interruptor representa una pruebaA medida que las cargas de trabajo continúan aumentando hacia la escala exascale, las soluciones construidas en torno a laLas condiciones de los requisitos de seguridad de los equipos de seguridad deberán ser las siguientes:seguirá estando a la vanguardia del diseño de interconexiones de alto rendimiento.