Nvidia ha presentado el H200, su nuevo chip de gama alta diseñado para entrenar modelos de IA.
Anunciada el lunes 13 de noviembre de 2023, esta nueva GPU está preparada para sobrealimentar las capacidades de los modelos de IA mediante la incorporación de 141 GB de memoria "HBM3" de nueva generación.
La H200 representa una evolución de su predecesora, la H100, que ha sido fundamental en el ecosistema de la IA.
Este entusiasmo en torno a las GPU de IA de Nvidia ha disparado sus acciones un fenomenal 230% en 2023La empresa prevé unos ingresos de 1.400 millones de euros en el tercer trimestre fiscal, lo que supone un aumento de 1701 millones de euros con respecto al año anterior.
Una característica clave del H200 es su rendimiento mejorado en inferencia, que se refiere al proceso de utilizar un modelo de IA entrenado para hacer predicciones o tomar decisiones basadas en datos nuevos no vistos.
Esto es distinto de la fase de entrenamiento de un modelo, en la que la IA aprende patrones a partir de un gran conjunto de datos.
Los datos actuales sugieren que el rendimiento de la H200 es casi el doble que el de la H100, como demuestran las pruebas comparativas Llama 2 de Meta con modelos de grandes lenguajes (LLM).
Previsto para el segundo trimestre de 2024, el H200 probablemente empezará a acumular inmensos pedidos de empresas de IA de todo el mundo, excepto en China, Irán y Rusia, a los que Se prohíben las exportaciones de hardware de IA de EE.UU..
El H200 será compatible con los sistemas existentes que utilicen el H100, lo que permitirá a las empresas de IA actualizarse sin necesidad de cambiar sus sistemas de servidores ni su software.
Estará disponible en configuraciones de servidor de cuatro u ocho GPU en los sistemas completos HGX de Nvidia y también como un chip independiente denominado GH200, que combina la GPU H200 con un procesador basado en Arm.
Sin embargo, la posición del H200 como el chip de IA de Nvidia más rápido podría ser efímera. Debido a la gran demanda de sus GPU, Nvidia planea cambiar a patrones de lanzamiento anuales en un intento de mantener a la industria de la IA a fondo en su bolsillo.
Hay otro chip en preparación, el B100, basado en una arquitectura Blackwell completamente nueva, que podría anunciarse y lanzarse en 2024.
