Rendimiento revolucionario respaldado por innovación evolutiva

NVIDIA DGX™ B200 es una plataforma de IA unificada que permite desarrollar e implantar pipelines para empresas de cualquier tamaño y en cualquier etapa de su viaje hacia la IA.

Equipada con ocho GPU NVIDIA Blackwell interconectadas con la quinta generación de NVIDIA NVLink™, NVIDIA DGX B200™ ofrece un rendimiento de vanguardia que multiplica x3 el rendimiento de entrenamiento y x15 el rendimiento de inferencia de las generaciones anteriores. Al aprovechar la arquitectura de GPU NVIDIA Blackwell, NVIDIA DGX B200™ puede manejar diversas cargas de trabajo, incluidos modelos de lenguaje de gran tamaño, sistemas de recomendación y chatbots, lo que la hace ideal para empresas que buscan acelerar su transformación de IA.

Beneficios

Una plataforma de IA unificada

Una plataforma para los procesos de desarrollo a despliegue

Las empresas necesitan grandes cantidades de potencia de cálculo para manejar conjuntos de datos de IA complejos en cada etapa del proceso de IA, desde el entrenamiento hasta el ajuste fino y la inferencia. Con NVIDIA DGX B200™, las empresas pueden dotar a sus desarrolladores de una única plataforma diseñada para acelerar sus flujos de trabajo.

Potencia de rendimiento en IA

Gracias a los avances en computación de la arquitectura NVIDIA Blackwell, NVIDIA DGX B200™ ofrece 3 veces más rendimiento de entrenamiento y 15 veces más rendimiento de inferencia que NVIDIA DGX H100™. Como base de NVIDIA DGX BasePOD™ y NVIDIA DGX SuperPOD™, NVIDIA DGX B200™ ofrece un rendimiento de vanguardia para cualquier carga de trabajo.

Infraestructura estándar probada

NVIDIA DGX B200™ es una plataforma de hardware y software totalmente optimizada que incluye la pila completa de software de IA de NVIDIA, incluido el software NVIDIA Base Command y NVIDIA AI Enterprise, un rico ecosistema de soporte de terceros y acceso al asesoramiento experto de los servicios profesionales de NVIDIA.

Rendimiento de última generación con NVIDIA DGX B200™

Inferencia de grandes modelos lingüísticos en tiempo real

Rendimiento proyectado sujeto a cambios. Latencia de token a token (TTL) = 50 ms en tiempo real, latencia de primer token (FTL) = 5 s, longitud de la secuencia de entrada = 32.768, longitud de la secuencia de salida = 1.028, 8 GPUs NVIDIA DGX H100™ de ocho vías refrigeradas por aire frente a 1 GPU NVIDIA DGX B200™ de ocho vías refrigeradas por aire, comparación de rendimiento por GPU.

Rendimiento de entrenamiento de IA sobrealimentado

Rendimiento proyectado sujeto a cambios. Escala de 32.768 GPU, clúster NVIDIA DGX H100™ refrigerado por aire de 4.096x ocho vías: Red IB de 400 G, clúster NVIDIA DGX B200™ refrigerado por aire de 4.096x 8 vías: red IB de 400 G.

Especificaciones de NVIDIA DGX B200™

GPU	8x NVIDIA Blackwell GPUs
Memoria de la GPU	1,440GB memoria GPU total
Rendimiento	72 petaFLOPS de entrenamiento y 144 petaFLOPS de inferencia
Consumo de energía	~14.3kW max
CPU	2 Intel® Xeon® Platinum 8570 Processors 112 Cores total, 2.1 GHz (Base) 4 GHz (Max Boost)
Memoria del sistema	Hasta 4TB
Networking	4 puertos OSFP que dan servicio a 8 VPI NVIDIA ConnectX^®-7 de puerto único InfiniBand/Ethernet de hasta 400 Gb/s 2 DPU NVIDIA BlueField-3 de doble puerto QSFP11 InfiniBand/Ethernet de hasta 400 Gb/s
Red de gestión	NIC integrada de 10 Gb/s con RJ45 NIC Ethernet de doble puerto a 100 Gb/s Controlador de gestión de la placa base del host (BMC) con RJ45
Almacenamiento	Sistema operativo: 2 M.2 NVMe de 1,9 TB Almacenamiento interno: 8x 3.84TB NVMe U.2
Software	NVIDIA AI Enterprise: Software de IA optimizado NVIDIA Base Command: Orquestación, programación y gestión de clústeres DGX OS / Ubuntu: Sistema operativo
Unidades de rack (RU)	10 RU
Dimensiones del sistema	Alto: 444 mm Ancho: 482,2 mm Largo: 897,1 mm
Temperatura de funcionamiento	5ºC – 30°C (41ºF – 86°F)
Soporte	Tres años de soporte empresarial estándar para hardware y software Acceso ininterrumpido al portal de asistencia para empresas Asistencia de agente en directo durante el horario laboral local

NVIDIA DGX SuperPOD™ con sistemas NVIDIA DGX GB200™

Infraestructura de IA con tiempo de actividad constante

Infraestructura empresarial para IA de misión crítica

NVIDIA DGX SuperPOD™ con sistemas NVIDIA DGX GB200™ está diseñado para entrenar e inferir modelos de IA generativa de billones de parámetros. Cada rack con refrigeración líquida cuenta con 36 NVIDIA GB200 Grace Blackwell Superchips (36 CPU NVIDIA Grace y 72 GPU Blackwell) conectados como uno solo con NVIDIA NVLink™. Varios bastidores se conectan con NVIDIA Quantum InfiniBand para escalar hasta decenas de miles de GB200 Superchips.

Beneficios

Infraestructura de IA generativa empresarial con tiempo de actividad constante

Maximiza la productividad de los desarrolladores

Un plano de control inteligente rastrea miles de puntos de datos en el hardware, el software y la infraestructura del centro de datos para garantizar el funcionamiento continuo y la integridad de los datos, planificar el mantenimiento y reconfigurar automáticamente el clúster para evitar tiempos de inactividad.

Supercomputación masiva para IA generativa

Al escalar hasta decenas de miles de NVIDIA GB200 Superchips, NVIDIA DGX SuperPOD™ con sistemas NVIDIA DGX GB200™ puedes realizar sin esfuerzo el entrenamiento y la inferencia de modelos de IA generativa de última generación con billones de parámetros.

Basados en NVIDIA Grace Blackwell Los superchips GB200 de NVIDIA, cada uno con una CPU Grace y dos GPU Blackwell, están conectados a través de NVLink™ de quinta generación para alcanzar 1,8 terabytes por segundo (TB/s) de ancho de banda de GPU a GPU.

Contacta con nuestro equipo de expertos

comercial@azken.com | +34 91 146 17 60