{"id":12757,"date":"2024-06-06T11:08:08","date_gmt":"2024-06-06T11:08:08","guid":{"rendered":"https:\/\/dailyai.com\/?p=12757"},"modified":"2024-06-06T15:07:56","modified_gmt":"2024-06-06T15:07:56","slug":"nvidia-blackwell-by-the-numbers-the-potential-impact-of-nvidias-new-ai-superchip","status":"publish","type":"post","link":"https:\/\/dailyai.com\/es\/2024\/06\/nvidia-blackwell-by-the-numbers-the-potential-impact-of-nvidias-new-ai-superchip\/","title":{"rendered":"NVIDIA Blackwell en cifras: el impacto potencial del nuevo superchip de IA de NVIDIA"},"content":{"rendered":"

NVIDIA CEO Jensen Huang<\/span> describi\u00f3 recientemente en detalle el \u00faltimo chip acelerador de IA de la empresa, denominado Blackwell, en la keynote de Computex 2024.\u00a0<\/strong><\/p>\n

Con Blackwell, NVIDIA pretende consolidar su dominio en el floreciente espacio del hardware de IA y demostrar al mismo tiempo su capacidad para innovar progresivamente. <\/span><\/p>\n

Con la capitalizaci\u00f3n burs\u00e1til de la compa\u00f1\u00eda acerc\u00e1ndose a la marca de los $3 billones, el ascenso de NVIDIA al mando supremo de la infraestructura de IA ha sido poco menos que asombroso. <\/span><\/p>\n

Huang no ve signos de estancamiento en el progreso de la empresa. sigue superando las expectativas de los analistas<\/a>.\u00a0<\/span><\/p>\n

Pero, \u00bfqu\u00e9 nos dicen realmente las especificaciones y las cifras sobre las capacidades y el impacto potencial de Blackwell?\u00a0<\/span><\/p>\n

Veamos c\u00f3mo puede afectar a la industria de la IA y a la sociedad en general.\u00a0<\/span><\/p>\n

Potencia de c\u00e1lculo bruta<\/h2>\n

La cifra principal es que un solo Blackwell \"superchip\"<\/a> - que consta de dos GPU conectadas por un enlace de alta velocidad, contiene la friolera de 208.000 millones de transistores.\u00a0<\/span><\/p>\n

Esto supone un incremento de casi 3 veces con respecto a la anterior generaci\u00f3n del chip Hopper de NVIDIA. NVIDIA afirma que esto se traduce en un aumento de la velocidad de 30 veces en tareas de inferencia de IA en comparaci\u00f3n con Hopper.<\/span><\/p>\n

Para ponerlo en perspectiva, consideremos un ejemplo de gran modelo ling\u00fc\u00edstico (LLM) con 100.000 millones de par\u00e1metros, similar en escala a GPT-3.\u00a0<\/span><\/p>\n

Para entrenar un modelo de este tipo con la anterior generaci\u00f3n de GPU A100 de NVIDIA se necesitar\u00edan unos 1.024 chips A100 funcionando durante un mes.<\/span><\/p>\n

Con Blackwell, NVIDIA afirma que el mismo modelo podr\u00eda entrenarse en poco m\u00e1s de una semana utilizando 256 chips Blackwell, lo que supone multiplicar por 4 el tiempo de entrenamiento.<\/span><\/p>\n

Eficiencia energ\u00e9tica<\/h2>\n

A pesar de su espectacular aumento del rendimiento, NVIDIA afirma que Blackwell puede reducir el coste y el consumo de energ\u00eda hasta 25 veces en comparaci\u00f3n con Hopper para determinadas cargas de trabajo de IA.\u00a0<\/span><\/p>\n

La compa\u00f1\u00eda puso como ejemplo el entrenamiento de un modelo de 1,8 billones de par\u00e1metros, que antes habr\u00eda requerido 8.000 GPU Hopper con 15 megavatios de potencia. <\/span><\/p>\n

Con Blackwell, NVIDIA afirma que esto podr\u00eda lograrse con 2.000 GPU que consumieran s\u00f3lo 4 megavatios.<\/span><\/p>\n

Aunque un consumo de 4 megavatios para una sola ejecuci\u00f3n de entrenamiento de IA sigue siendo considerable, es impresionante que Blackwell pueda multiplicar casi por 4 la eficiencia energ\u00e9tica para una tarea tan exigente.<\/span><\/p>\n

No subestimemos las cifras. Para poner esa cifra de 4 megavatios en perspectiva, equivale al consumo medio de energ\u00eda de m\u00e1s de 3.000 hogares estadounidenses.<\/p>\n

As\u00ed, un solo superordenador de inteligencia artificial de Blackwell para entrenar un modelo de \u00faltima generaci\u00f3n consumir\u00eda tanta energ\u00eda como toda una ciudad durante el proceso de entrenamiento.<\/p>\n

Las organizaciones que desarrollan grandes modelos de IA suelen perfeccionar sus modelos a trav\u00e9s de muchas iteraciones, y hay que tener en cuenta que hay cientos de organizaciones que desarrollan grandes modelos.<\/p>\n

Costes medioambientales<\/h2>\n

Incluso con una mayor eficiencia energ\u00e9tica, la adopci\u00f3n generalizada de Blackwell podr\u00eda aumentar significativamente el consumo total de energ\u00eda de la industria.<\/span><\/p>\n

Por ejemplo, supongamos que en todo el mundo se utilizan unas 100.000 GPU de alto rendimiento para el entrenamiento y la inferencia de inteligencia artificial.\u00a0<\/span><\/p>\n

Si Blackwell permite multiplicar por 10 la adopci\u00f3n de la IA en los pr\u00f3ximos a\u00f1os, lo que no parece una cifra extraordinaria, eso significar\u00eda que se utilizar\u00edan un mill\u00f3n de GPU Blackwell.<\/p>\n

Con el consumo de 1,875 kilovatios por GPU citado por Huang, un mill\u00f3n de GPU Blackwell consumir\u00edan 1,875 gigavatios de energ\u00eda, casi la producci\u00f3n de dos centrales nucleares medias. <\/span><\/p>\n

Las centrales nucleares tardan muchos a\u00f1os en construirse y cuestan billones. Est\u00e1n dise\u00f1adas principalmente para apoyar la infraestructura nacional, no solo para entrenar modelos de IA.\u00a0<\/span><\/p>\n

An\u00e1lisis anteriores<\/a> han pronosticado que las cargas de trabajo de IA podr\u00edan consumir tanta energ\u00eda como un pa\u00eds peque\u00f1o en 2027, y es dif\u00edcil ver con precisi\u00f3n c\u00f3mo se satisfar\u00e1n razonablemente estas demandas.<\/p>\n

El consumo de agua tambi\u00e9n es un problema colosal, y Microsoft ha revelado enormes aumentos en su consumo de agua. consumo de agua de 2022 a 2023<\/a>que se correlacionan con la formaci\u00f3n de modelos de IA y la demanda de centros de datos.<\/p>\n

Algunas partes de Estados Unidos ya han sufrido escasez de agua debido al consumo de los centros de datos.<\/p>\n

Si no se encuentran mejores formas de hacer funcionar el hardware de IA a partir de energ\u00edas renovables, las emisiones de carbono y el consumo de agua de la IA impulsada por Blackwell ser\u00e1n enormes, y NVIDIA acelerar\u00e1 la era de la \"hiperescala\" en el entrenamiento de modelos de IA.<\/p>\n

Y m\u00e1s all\u00e1 del consumo de energ\u00eda, es esencial tener en cuenta otros costes medioambientales, como los minerales de tierras raras y otros recursos necesarios para fabricar chips avanzados como Blackwell a gran escala y los residuos generados cuando llegan al final de su vida \u00fatil.<\/span><\/p>\n

Esto no quiere decir que los beneficios sociales de las capacidades de IA desbloqueadas por Blackwell no puedan compensar estos costes medioambientales.<\/span><\/p>\n

Pero s\u00ed significa que habr\u00e1 que gestionar y mitigar cuidadosamente el impacto medioambiental como parte de cualquier plan de despliegue responsable de Blackwell. Queda la duda de si eso es posible o realista.\u00a0\u00a0<\/span><\/p>\n

El impacto potencial de Blackwell<\/h2>\n

Pensemos en c\u00f3mo ser\u00eda el mundo en una era de adopci\u00f3n generalizada de Blackwell.<\/span><\/p>\n

Algunos c\u00e1lculos aproximados dan una idea de las posibilidades y los riesgos:<\/span><\/p>\n