NVIDIA HGX™
La plataforma de computación de IA líder en el mundo
Un salto de magnitud para la computación acelerada
Aproveche el rendimiento, la escalabilidad y la seguridad excepcionales para cada carga de trabajo con la GPU NVIDIA H100 Tensor Core. Con el sistema de conmutación NVIDIA NVLink™, pueden conectarse hasta 256 GPU NVIDIA H100 para acelerar cargas de trabajo a exaescala. La GPU también incluye un Transformer Engine dedicado para resolver modelos de lenguaje de billones de parámetros. Las innovaciones tecnológicas combinadas de la GPU NVIDIA H100 pueden acelerar los modelos de lenguaje de gran tamaño (LLM) hasta 30 veces más que la generación anterior para ofrecer una IA conversacional líder en el sector.
PLATAFORMA DE COMPUTACIÓN ACELERADA DE EXTREMO A EXTREMO
El ancho de banda NVIDIA NVLink™ punto a punto de GPU NVIDIA H100 a GPU NVIDIA H100 es de 300 GB/s bidireccional, que es aproximadamente 5 veces más rápido que el bus PCIe Gen4 x16 de la actualidad.
La clase emergente de los modelos de IA con billones de parámetros y de HPC a exaescala para tareas como la IA conversacional precisa requieren meses para entrenarse, incluso en supercomputadoras. Comprimir esto a la velocidad del negocio y completar el entrenamiento en horas requiere una comunicación fluida y de alta velocidad entre cada GPU de un clúster de servidor.
Para abordar estos grandes casos de uso, los nuevos NVIDIA NVLink™ y NVSwitch están diseñados para permitir que NVIDIA HGX™ H100 8-GPU se escale y admita un dominio NVIDIA NVLink™ mucho más grande con la nueva NVIDIA NVLink™-Network. Otra versión de NVIDIA HGX™ H100 8-GPU es compatible con NVIDIA NVLink™-Network.
RENDIMIENTO HPC
ESPECIFICACIONES
NVIDIA HGX™ está disponible en placas base individuales con cuatro u ocho GPU NVIDIA H100 de 80 GB de memoria de GPU. La configuración de cuatro GPU está totalmente interconectada con NVIDIA NVLink™ y la configuración de ocho GPU, con NVIDIA NVSwitch. Se pueden combinar dos placas base NVIDIA HGX™ H100 8 GPU usando una interconexión NVSwitch para crear un potente nodo único de 16-GPU.
NVIDIA HGX™ también está disponible en formato PCIe, una opción modular y fácil de implementar que brinda el mayor rendimiento de cálculo a los servidores convencionales.
Esta poderosa combinación de hardware y software sienta las bases para la plataforma de supercomputación de IA definitiva.
Si no estás seguro de lo que necesitas…
Dinos qué tipo de proyecto estás planeando llevar a cabo y te ayudaremos a decidir la mejor opción.
Completa el siguiente formulario y nos pondremos en contacto contigo.
NVIDIA HGX™
Contacta con nuestro equipo de expertos para saber más: comercial@azken.com | +34 91 146 17 60
