Adaptador de Servidor NVIDIA Mellanox MCX556A-ECAT en Acción: Desbloqueando el Rendimiento de Baja Latencia RDMA/RoCE y Acelerando la IA
September 4, 2026
Adaptador de servidor NVIDIA Mellanox MCX556A-ECAT en acción: Desbloqueo de rendimiento RDMA / RoCE de baja latencia y aceleración de las cargas de trabajo de almacenamiento distribuido y de inteligencia artificial
Modelo:Se aplicará el procedimiento de ensayo de la norma de calidad.La marca es NVIDIA Mellanox. La categoría es Adaptador Ethernet de alto rendimiento. Las capacidades clave son RDMA/RoCE y transporte de baja latencia y optimización del rendimiento del servidor.
Antecedentes y retos: cuellos de botella de la red en la formación de IA a gran escala
Para el equipo de infraestructura de datos de una empresa líder en tecnología de conducción autónoma,el rápido crecimiento de las cargas de trabajo de formación de modelos de IA había superado las capacidades de su infraestructura de red existenteSu grupo de computación constaba de más de 200 servidores GPU, cada uno equipado con adaptadores de 25GbE, conectados a un sistema de almacenamiento distribuido que albergaba petabytes de datos de sensores y simulación.Durante los trabajos de formación a gran escala, el equipo observó consistentemente dos problemas críticos: la utilización de la GPU rara vez superaba el 70% debido a los cuellos de botella de carga de datos,Las operaciones de salvamento de los puntos de control esenciales para la recuperación del modelo tardaron más de 40 segundos., lo que ralentiza significativamente los ciclos de formación iterativos.
La causa raíz se remonta a la capa de acceso a la red: los adaptadores existentes carecían de capacidades robustas de descarga RDMA, lo que obligaba a las entradas y salidas de almacenamiento a atravesar la pila TCP/IP y consumir ciclos de CPU excesivos.Esto resultó en altas latencias de cola, uso ineficiente de los recursos de la GPU y escalabilidad limitada para la futura expansión del clúster.El equipo necesitaba urgentemente un adaptador de alto rendimiento que pudiera ofrecer latencia RDMA de menos de 5 μs y rendimiento de línea completa para liberar el potencial de su tejido de almacenamiento NVMe-oFEs precisamente aquí donde elNVIDIA Mellanox MCX556A-ECAT, también conocido como NVIDIAEn el caso de los Estados miembros, la Comisión ha adoptado una serie de medidas.
Solución y implementación: Construir un tejido optimizado para RDMA alrededor del MCX556A-ECAT
Después de una revisión exhaustiva de laSe aplicarán las siguientes medidas:y la validación de suLas especificaciones MCX556A-ECATEn el caso de los sistemas de gestión de los costes, el equipo de arquitectura ha diseñado una estrategia de implementación por etapas.Tarjeta de red PCIe con adaptador MCX556A-ECAT ConnectXFue seleccionado por su capacidad de doble puerto 50GbE y su maduro ASIC ConnectX-5, que ofrecía el equilibrio ideal de rendimiento, eficiencia energética y madurez del ecosistema.
La estrategia de despliegue siguió tres fases clave:
- Fase 1 Implementación piloto (16 nodos de la GPU):Se instalaron dos adaptadores MCX556A-ECAT por nodo de cómputo, con doble hogar para separar los interruptores de hoja habilitados para RoCEv2.El equipo configuró los adaptadores con SR-IOV para asignar funciones virtuales dedicadas a almacenamiento de E / S y comunicación de entrenamiento, asegurando el aislamiento de la calidad de vida.
- Fase 2: Integración del tejido de almacenamiento:Los objetivos de almacenamiento NVMe-oF fueron configurados para anunciar puntos finales compatibles con RDMA.
- Fase 3: Expansión de la producción (todos los 200 nodos de GPU):En base a los resultados positivos del proyecto piloto, el despliegue se extendió a todo el grupo.Compatible con el MCX556A-ECATEl ecosistema garantizó una integración perfecta con las plataformas de servidores existentes, las matrices de almacenamiento y la infraestructura de conmutación.
Durante todo el despliegue, elTarjeta de adaptador Ethernet MCX556A-ECATha demostrado una excepcional simplicidad de plug-and-play.El equipo aprovechó la pila de controladores MLNX_OFED con la biblioteca de comunicaciones colectivas de NVIDIA (NCCL) para optimizar el rendimiento de RDMA para los patrones de comunicación de GPU a GPU y GPU a almacenamiento.
Resultados medibles: ganancias significativas en el rendimiento y liberación de recursos
Tras el despliegue de la producción a gran escala, el equipo documentó mejoras sustanciales en múltiples métricas críticas.El cuadro siguiente resume la comparación del rendimiento antes y después de la introducción de laNVIDIA Mellanox MCX556A-ECAT, también conocido como NVIDIA:
| El método métrico | Antes (25GbE / TCP) | Después de (MCX556A-ECAT / RoCE) | Mejora |
|---|---|---|---|
| Tensión de almacenamiento y lectura (P99) | - 18 μs | ~ 4,2 μs | Reducción del 76% |
| Tiempo de ahorro en el punto de control (modelo de 200 GB) | ~ 41 segundos | ~ 11 segundos | 73% más rápido |
| Utilización efectiva de la GPU | - El 70% | ~ 94% | 24 puntos porcentuales |
| Uso de la CPU (camino de entrada/salida de almacenamiento) | ~ 38 por ciento | ~12% | 26% de capacidad de CPU liberada |
Además de las mejoras cuantitativas, el equipo informó de una reducción dramática de los tiempos de iteración de entrenamiento, de un promedio de 4,2 días por modelo a sólo 2,8 días.que representa una aceleración del 33% en el tiempo global de comercialización de los nuevos modelos de conducción autónomaAdemás, al evaluar laPrecio MCX556A-ECATLa capacidad de CPU liberada permitió al equipo aplazar las actualizaciones de servidores planificadas,La reducción del tiempo de formación se tradujo directamente en una ventaja competitiva.El.MCX556A-ECAT para la ventaLas opciones a través de los socios de canal de NVIDIA ofrecieron modelos de adquisición flexibles que se alinearon con los ciclos de gasto de capital de la compañía.
Resumen y perspectivas: una base para la futura infraestructura de IA
La adopción de la tecnología en el mundo realNVIDIA Mellanox MCX556A-ECAT, también conocido como NVIDIAEn este entorno de conducción autónoma demuestra que la conectividad de servidores habilitada para RDMA/RoCE ya no es un lujo sino una necesidad para las cargas de trabajo de IA modernas.Solución de tarjeta de adaptador Ethernet MCX556A-ECATLa tecnología de la información ha demostrado su capacidad para eliminar los cuellos de botella de almacenamiento, maximizar la utilización de la GPU y acelerar significativamente los ciclos de formación de modelos, todo ello dentro de un tejido de red unificado y manejable.
En el futuro, el equipo planea explorar casos de uso adicionalesTarjeta de red PCIe con adaptador MCX556A-ECAT ConnectX, incluida la transmisión de datos de sensores en tiempo real y la sincronización de múltiples grupos para el aprendizaje federado.Se aplicarán las siguientes medidas:y evolucionandoLas especificaciones MCX556A-ECATLas empresas de todo el mundo han seguido avanzando en el campo de la inteligencia artificial y la informática de alta velocidad (HPC) y en el de la tecnología de la información.Se aplicará el procedimiento de ensayo de la norma de calidad.ofrece una plantilla comprobada para equilibrar el rendimiento, la fiabilidad y la simplicidad operativa en entornos críticos para la misión.