NVIDIA Mellanox 920-9B210-00FN-0D0 Anunciado: Redefiniendo la Base de Redes de IA a Ultra-Escala con 400Gb/s NDR

NVIDIA Mellanox 920-9B210-00FN-0D0 Anunciado: Redefiniendo la Fundación de la Red de IA a Ultraescala con NDR de 400Gb/s

A medida que los grandes modelos de lenguaje escalan de cientos de miles de millones a billones de parámetros,Las redes HDR tradicionales de 200Gb/s están mostrando sus limitaciones en escenarios de comunicación colectiva densos como el de todos a todos., donde la utilización de GPU a menudo se desploma debido a la congestión de la red.NVIDIA Mellanox 920-9B210-00FN-0D0 también está disponible en vivo., un conmutador NDR InfiniBand de 400Gb/s diseñado para ofrecer el ancho de banda, la densidad y la inteligencia en red requeridos para las cargas de trabajo de IA y HPC más exigentes.

El desafío: Cuando el HDR se convierte en el cuello de botella

Para las organizaciones que escalan sus clusters de GPU más allá de los nodos 2,000, las limitaciones de 200Gb/s HDR se vuelven cada vez más evidentes.Durante las operaciones de reducción de todo y de todo a todo, que son fundamentales para el entrenamiento distribuido, la congestión de la red puede reducir la utilización de la GPU del 85% a menos del 50%., efectivamente desperdiciando millones de dólares en inversión informática.Los arquitectos de red se enfrentan al doble desafío de ofrecer una latencia determinista de menos de un microsegundo mientras mantienen un rendimiento sin pérdidas en miles de puntos finales.

El920-9B210-00FN-0D0 InfiniBand conmutador OPN(Ordering Part Number) aborda estos desafíos de frente al llevar el rendimiento NDR de 400Gb/s a una plataforma OSFP de 64 puertos,proporcionando el espacio y la inteligencia necesarios para eliminar los retrasos inducidos por la red incluso en los entornos de capacitación de IA más exigentes.

Características técnicas clave

Construido en el mismo silicio que el ampliamente adoptado MQM9790-NS2F, el920-9B210-00FN-0D0 MQM9790-NS2F 400Gb/s NDRLa plataforma ofrece un conjunto completo de características diseñadas para despliegues de clase exascale.Si el vehículo no está equipado con un dispositivo de seguridad, el vehículo deberá ser equipado con un dispositivo de seguridad., el interruptor ofrece:

• 64 puertos de NDR de 400 Gb/s:Cada puerto OSFP admite 400Gb/s bidireccionales con corrección de error hacia adelante (FEC), ofreciendo una capacidad de conmutación agregada de 51.2 Tb/s.
• Latencia muy baja:La latencia de corte por debajo de 100ns, como se documenta en elLas especificaciones 920-9B210-00FN-0D0, garantiza un mínimo de gastos generales para las operaciones RDMA y MPI.
• SHARPv3 integrado:Descarga las operaciones colectivas (todo reducido, todo a todos, transmisión) directamente en el tejido del interruptor, reduciendo la latencia de comunicación hasta en un 40% para trabajos a gran escala.
• Enrutamiento adaptativo y control de congestión:Reorienta dinámicamente el tráfico para evitar puntos críticos, manteniendo un rendimiento predecible incluso bajo patrones de tráfico adversarios.
• Telemetría avanzada:Los contadores por flujo y por puerto, junto con el monitoreo de la ocupación del búfer, proporcionan una visibilidad profunda para la gestión proactiva.

El920-9B210-00FN-0D0 compatibles con el sistema operativoEl ecosistema incluye una amplia gama de cables OSFP certificados por NVIDIA, transceptores ópticos y herramientas de software, lo que garantiza una integración perfecta en los entornos HDR o NDR de campo verde existentes.Para las organizaciones que planifican su infraestructura de próxima generación, el interruptor admite tejidos mixtos HDR/NDR, lo que permite actualizaciones por fases sin interrumpir las cargas de trabajo de producción.

Atender las necesidades de despliegue en el mundo real

Para los arquitectos de red que diseñan nuevos grupos de formación de IA o actualizan los tejidos HDR existentes, el920-9B210-00FN-0D0 Solución OPN de conmutador de banda anchaSu densidad de 64 puertos permite la implementación de servidores top-of-rack con hasta 64 servidores de doble puerto por switch,reducción del número de interruptores y cables necesarios en comparación con las alternativas de 40 puertosEn las topologías de hoja-columna vertebral, esto se traduce en menos niveles de columna vertebral, menor latencia y menor costo total de propiedad.

El switch también hereda las sólidas capacidades de gestión de la cartera InfiniBand de NVIDIA.Automatizar el aprovisionamientoLas dos fuentes de alimentación redundantes del interruptor y los módulos de ventilador intercambiables en caliente aseguran el 99.Disponibilidad del 999% para aplicaciones de misión crítica.

Cuando se evalúa920-9B210-00FN-0D0 precioSi bien el costo inicial es más alto que las alternativas HDR, el cambio ofrece una economía convincente para las implementaciones a gran escala.el coste por puerto y el coste de red por GPU son significativamente más bajos cuando se amortizan en un gran clúster, haciendo de la NDR una opción cada vez más rentable para los proyectos de exascala.920-9B210-00FN-0D0 para la ventaAhora está disponible a través de los socios de canal de NVIDIA, con los primeros envíos de clientes ya en marcha.

Resumen: La Fundación NDR para la próxima generación de IA

ElNVIDIA Mellanox 920-9B210-00FN-0D0 también está disponible en vivo.representa un importante paso adelante en redes de alto rendimiento, proporcionando el ancho de banda, la densidad y la inteligencia requeridos para la próxima generación de clústeres de IA y HPC.Combinando la velocidad NDR de 400 Gb/s con la densidad OSFP de 64 puertos y la computación en red SHARPv3, este interruptor permite a los arquitectos construir tejidos escalables y deterministas que pueden mantener el ritmo con las cargas de trabajo de trillones de parámetros más exigentes.

Para las organizaciones que planean su infraestructura de próxima generación, el 920-9B210-00FN-0D0 ofrece una clara,el camino hacia adelante de alto rendimiento, ya sea como un despliegue en campo verde o como una actualización estratégica de los tejidos HDR existentesCon su robusto conjunto de características, capacidad de gestión de nivel empresarial y compatibilidad perfecta con el ecosistema más amplio de NVIDIA, este switch está listo para convertirse en una piedra angular de las redes de clase exascale..