La red define el centro de datos de IA
Redes de última generación para fábricas de IA a gigaescala de alto rendimiento, escalables y seguras.
Introducción
Redes diseñadas específicamente para la era de las fábricas de IA
Las fábricas de IA ahora cuentan con decenas de miles de GPU y, pronto, con millones, que operan como un solo motor de computación distribuida. Para utilizar los aceleradores al cien por cien, las cargas de trabajo de IA exigen latencia determinista, rendimiento sin pérdidas, tiempos de iteración estables y la capacidad de escalar no solo dentro de un centro de datos, sino en varios sitios.
Las redes de NVIDIA aportan la infraestructura de pila completa que lo hace posible, al combinar NVIDIA NVLink™, NVIDIA Quantum InfiniBand y Spectrum-X™ Ethernet para el escalado horizontal, Spectrum-XGS para el escalado entre múltiples centros de datos, NVIDIA BlueField™ DPU y DOCA™ para servicios de infraestructura, y plataformas de fotónica de silicio de última generación para impulsar las fábricas de IA más avanzadas del mundo.
Una base confiable para agentes de IA
NVIDIA Sentry y BlueField™ aportan seguridad de agentes fuera de banda y en silicio que se ejecuta en la arquitectura de referencia NVIDIA OpenShell.
Tecnología
Las innovaciones que definen las redes de IA de NVIDIA
NVIDIA crea redes como parte de una plataforma de IA integrada, que combina GPU, SuperNIC™, DPU, conmutadores, óptica y software en una arquitectura extrema de diseño conjunto que ofrece un rendimiento sin concesiones y predecible a escala.
Ventajas
Redes aceleradas para fábricas de IA
Noticias
Manténgase al día de las últimas novedades en redes
Preguntas frecuentes sobre la tecnología de redes de NVIDIA
La red de NVIDIA es una estructura de capa completa, optimizada para aceleradores y diseñada específicamente para fábricas de IA, que combina la escalabilidad vertical de NVLink, la escalabilidad horizontal de Spectrum-X Ethernet y Quantum InfiniBand, la escalabilidad transversal de Spectrum-XGS, las DPU BlueField para servicios de infraestructura (incluido el acceso seguro de escalabilidad vertical y la escalabilidad contextual para la caché KV) y las plataformas de fotónica de silicio. En conjunto, estas tecnologías ofrecen las funciones innovadoras y las características de rendimiento que requieren las cargas de trabajo de IA en implementaciones que abarcan desde decenas de miles hasta millones de GPU.
Las fábricas de IA ahora cuentan con decenas de miles de GPU que funcionan como un solo motor de computación distribuida, lo que convierte a la red en la ruta crítica de cada carga de trabajo de IA. Las soluciones de red de NVIDIA ofrecen una latencia determinista, un rendimiento sin pérdidas y tiempos de iteración estables que garantizan el pleno aprovechamiento de las GPU en cargas de trabajo de entrenamiento, inferencia y RAG a cualquier escala.
NVIDIA ofrece cuatro plataformas de red principales para las fábricas de IA: Spectrum-X Ethernet, para redes de IA en la nube a hiperescala, que ofrece un rendimiento 1,6 veces superior al de las redes Ethernet estándar; Quantum-X800 InfiniBand, para el entrenamiento de IA de baja latencia y la computación de alto rendimiento (HPC) con computación integrada en la red; BlueField DPU para servicios de infraestructura, seguridad y descarga de almacenamiento; y óptica co-empaquetada con fotónica de silicio para una conmutación eficiente en consumo energético a escala de millones de GPU. Spectrum-XGS Ethernet amplía todas estas plataformas a múltiples emplazamientos, creando una superfábrica de IA unificada.
NVIDIA Spectrum-X Ethernet es una plataforma de red diseñada específicamente para la IA, que ofrece un rendimiento de red 1,6 veces superior al de las redes Ethernet estándar. Ofrece un rendimiento RoCE acelerado, latencia determinista y aislamiento del rendimiento para cargas de trabajo de IA multitenant, y se extiende a múltiples centros de datos gracias a la tecnología de escalabilidad horizontal Spectrum-XGS, unificando las instalaciones distribuidas en una única estructura de IA de alto rendimiento.
NVIDIA Quantum InfiniBand es una plataforma de red de alto rendimiento que ofrece una latencia ultrabaja, computación en red y sistemas ópticos integrados de última generación basados en fotónica de silicio para cargas de trabajo de IA y HPC. Gracias a la informática en red SHARP, que acelera las operaciones colectivas, y a las estructuras con capacidad de autorreparación que se recuperan de los fallos de enlace 1000 veces más rápido que las redes tradicionales, Quantum InfiniBand ofrece la red más rápida y escalable del sector para clústeres de entrenamiento de IA y superordenadores científicos.
La plataforma NVIDIA BlueField desencadena un rendimiento, una eficiencia y una innovación sin precedentes para impulsar las fábricas de IA, la nueva categoría de centros de datos diseñados específicamente para la IA. Con su robusta potencia de computación y sus aceleradores de hardware integrados y definidos por software para redes, almacenamiento y seguridad, BlueField crea una infraestructura segura y acelerada para cualquier carga de trabajo en cualquier entorno, lo cual marca el comienzo de una nueva era de IA de agentes, en la que los agentes autónomos razonan, colaboran y actúan a escala.
NVIDIA Spectrum-XGS Ethernet es una tecnología de redes a escala global que conecta centros de datos distribuidos en una sola superfábrica de IA unificada. Spectrum-XGS ofrece un rendimiento NCCL 1,9 veces superior para implementaciones de IA en múltiples emplazamientos en comparación con las redes Ethernet entre emplazamientos disponibles en el mercado, lo que permite a las fábricas de IA escalar más allá de los límites de potencia y capacidad física de cualquier edificio concreto, al tiempo que se mantienen las mismas características de estructura de alto rendimiento que en las implementaciones de Spectrum-X dentro de las propias instalaciones.
La tecnología de redes de fotónica de silicio de NVIDIA integra los componentes ópticos directamente en el ASIC del conmutador, lo que elimina la necesidad de transceptores enchufables y ofrece una eficiencia energética y un tiempo de actividad cinco veces superiores en comparación con los diseños enchufables tradicionales. La fotónica de silicio coempaquetada es la tecnología de capa física que permite la conexión en red a escala de millones de GPU y las fábricas de IA con múltiples emplazamientos, reduciendo la pérdida de inserción para lograr una integridad de la señal y una fiabilidad significativamente mejores.
NVIDIA DOCA es la plataforma de software unificada que aprovecha todo el potencial de NVIDIA BlueField y NVIDIA ConnectX™ para la IA agéntica. Proporciona SDK, bibliotecas, microservicios listos para la empresa y marcos de orquestación (que abarcan redes, almacenamiento nativo de IA, seguridad en tiempo de ejecución, telemetría y gestión del ciclo de vida) para acelerar, proteger y escalar las cargas de trabajo de IA de producción. DOCA es la base de software para crear y operar una infraestructura de fábrica de IA inteligente y de alto rendimiento.