NVIDIA HGX™

La plataforma de computación de IA líder en el mundo

Un salto de magnitud para la computación acelerada

Aproveche el rendimiento, la escalabilidad y la seguridad excepcionales para cada carga de trabajo con la GPU NVIDIA H100 Tensor Core. Con el sistema de conmutación NVIDIA NVLink™, pueden conectarse hasta 256 GPU NVIDIA H100 para acelerar cargas de trabajo a exaescala. La GPU también incluye un Transformer Engine dedicado para resolver modelos de lenguaje de billones de parámetros. Las innovaciones tecnológicas combinadas de la GPU NVIDIA H100 pueden acelerar los modelos de lenguaje de gran tamaño (LLM) hasta 30 veces más que la generación anterior para ofrecer una IA conversacional líder en el sector.

PLATAFORMA DE COMPUTACIÓN ACELERADA DE EXTREMO A EXTREMO

El ancho de banda NVIDIA NVLink™ punto a punto de GPU NVIDIA H100 a GPU NVIDIA H100 es de 300 GB/s bidireccional, que es aproximadamente 5 veces más rápido que el bus PCIe Gen4 x16 de la actualidad.

La clase emergente de los modelos de IA con billones de parámetros y de HPC a exaescala para tareas como la IA conversacional precisa requieren meses para entrenarse, incluso en supercomputadoras. Comprimir esto a la velocidad del negocio y completar el entrenamiento en horas requiere una comunicación fluida y de alta velocidad entre cada GPU de un clúster de servidor.

Para abordar estos grandes casos de uso, los nuevos NVIDIA NVLink™ y NVSwitch están diseñados para permitir que NVIDIA HGX™ H100 8-GPU se escale y admita un dominio NVIDIA NVLink™ mucho más grande con la nueva NVIDIA NVLink™-Network. Otra versión de NVIDIA HGX™ H100 8-GPU es compatible con NVIDIA NVLink™-Network.

NVLink-esquema

RENDIMIENTO HPC

NVIDIA HGX™ H100 8-GPU es el componente principal de la nueva generación de servidores GPU NVIDIA Hopper. Alberga ocho NVIDIA GPU H100 y cuatro NVSwitches de tercera generación. Cada GPU NVIDIA H100 tiene múltiples puertos NVIDIA NVLink™ de cuarta generación y está conectada a los cuatro NVSwitches. Cada NVSwitch es un conmutador totalmente sin bloqueo que conecta completamente las ocho GPU NVIDIA H100. Esta topología completamente conectada de NVSwitch permite que cada GPU NVIDIA H100 se comunique simultáneamente con todos los demás GPU NVIDIA H100. Esta comunicación se ejecuta a velocidades bidireccionales NVIDIA NVLink™ de 900 gigabytes por segundo (GB/s), que es más de 14 veces el ancho de banda del bus PCIe Gen4 x16 actual.
Tabla-A100-H100

ESPECIFICACIONES

NVIDIA HGX™ está disponible en placas base individuales con cuatro u ocho GPU NVIDIA H100 de 80 GB de memoria de GPU. La configuración de cuatro GPU está totalmente interconectada con NVIDIA NVLink™ y la configuración de ocho GPU, con NVIDIA NVSwitch. Se pueden combinar dos placas base NVIDIA HGX™ H100 8 GPU usando una interconexión NVSwitch para crear un potente nodo único de 16-GPU.
NVIDIA HGX™ también está disponible en formato PCIe, una opción modular y fácil de implementar que brinda el mayor rendimiento de cálculo a los servidores convencionales.
Esta poderosa combinación de hardware y software sienta las bases para la plataforma de supercomputación de IA definitiva.

HGX-Especs
end-to-end accelerated computing platform
Si no estás seguro de lo que necesitas…

Dinos qué tipo de proyecto estás planeando llevar a cabo y te ayudaremos a decidir la mejor opción.

Completa el siguiente formulario y nos pondremos en contacto contigo.

NVIDIA HGX™

Contacta con nuestro equipo de expertos para saber más:    comercial@azken.com  | +34 91 146 17 60

Azken_NVIDIA_fondo oscuro