{"id":12757,"date":"2024-06-06T11:08:08","date_gmt":"2024-06-06T11:08:08","guid":{"rendered":"https:\/\/dailyai.com\/?p=12757"},"modified":"2024-06-06T15:07:56","modified_gmt":"2024-06-06T15:07:56","slug":"nvidia-blackwell-by-the-numbers-the-potential-impact-of-nvidias-new-ai-superchip","status":"publish","type":"post","link":"https:\/\/dailyai.com\/fr\/2024\/06\/nvidia-blackwell-by-the-numbers-the-potential-impact-of-nvidias-new-ai-superchip\/","title":{"rendered":"NVIDIA Blackwell en chiffres - l'impact potentiel de la nouvelle super-puce d'IA de NVIDIA"},"content":{"rendered":"

NVIDIA CEO Jensen Huang<\/span> a r\u00e9cemment d\u00e9crit en d\u00e9tail la derni\u00e8re puce d'acc\u00e9l\u00e9ration de l'IA de l'entreprise, baptis\u00e9e Blackwell, lors de la keynote Computex 2024 de l'entreprise.\u00a0<\/strong><\/p>\n

Avec Blackwell, NVIDIA vise \u00e0 consolider sa position dominante dans l'espace mat\u00e9riel de l'IA en plein essor, tout en prouvant sa capacit\u00e9 \u00e0 innover progressivement. <\/span><\/p>\n

Avec une capitalisation boursi\u00e8re de l'entreprise qui se rapproche des $3 trillions, l'ascension de NVIDIA \u00e0 la t\u00eate de l'infrastructure de l'IA a \u00e9t\u00e9 tout simplement stup\u00e9fiante. <\/span><\/p>\n

Huang ne voit aucun signe de ralentissement de la progression de l'entreprise. continue de d\u00e9passer les attentes des analystes<\/a>.\u00a0<\/span><\/p>\n

Mais qu'est-ce que les sp\u00e9cifications et les chiffres nous apprennent r\u00e9ellement sur les capacit\u00e9s et l'impact potentiel de Blackwell ?\u00a0<\/span><\/p>\n

Examinons de plus pr\u00e8s l'impact qu'elle pourrait avoir sur le secteur de l'IA et sur la soci\u00e9t\u00e9 en g\u00e9n\u00e9ral.\u00a0<\/span><\/p>\n

Puissance de calcul brute<\/h2>\n

Le chiffre le plus important est qu'un seul Blackwell \"superchip\" (puce)<\/a> - qui se compose de deux GPU connect\u00e9s par un lien \u00e0 grande vitesse, contient un nombre impressionnant de 208 milliards de transistors.\u00a0<\/span><\/p>\n

Cela repr\u00e9sente une augmentation de pr\u00e8s de 3 fois par rapport \u00e0 la pr\u00e9c\u00e9dente g\u00e9n\u00e9ration de puce Hopper de NVIDIA. NVIDIA affirme que cela se traduit par un gain de vitesse de 30 fois sur les t\u00e2ches d'inf\u00e9rence IA par rapport \u00e0 Hopper.<\/span><\/p>\n

Pour mettre cela en perspective, consid\u00e9rons un exemple de grand mod\u00e8le linguistique (LLM) avec 100 milliards de param\u00e8tres, similaire \u00e0 l'\u00e9chelle du GPT-3.\u00a0<\/span><\/p>\n

L'entra\u00eenement d'un tel mod\u00e8le sur les GPU A100 de la g\u00e9n\u00e9ration pr\u00e9c\u00e9dente de NVIDIA n\u00e9cessiterait environ 1 024 puces A100 fonctionnant pendant un mois.<\/span><\/p>\n

Avec Blackwell, NVIDIA affirme que le m\u00eame mod\u00e8le pourrait \u00eatre form\u00e9 en un peu plus d'une semaine en utilisant 256 puces Blackwell, soit une r\u00e9duction par 4 du temps de formation.<\/span><\/p>\n

Efficacit\u00e9 \u00e9nerg\u00e9tique<\/h2>\n

Malgr\u00e9 ses gains de performances spectaculaires, NVIDIA affirme que Blackwell peut r\u00e9duire les co\u00fbts et la consommation d'\u00e9nergie jusqu'\u00e0 25 fois par rapport \u00e0 Hopper pour certaines charges de travail d'IA.\u00a0<\/span><\/p>\n

L'entreprise a donn\u00e9 l'exemple de l'entra\u00eenement d'un mod\u00e8le de 1,8 trillion de param\u00e8tres, qui aurait auparavant n\u00e9cessit\u00e9 8 000 GPU Hopper consommant 15 m\u00e9gawatts de puissance. <\/span><\/p>\n

Avec Blackwell, NVIDIA affirme que cela pourrait \u00eatre r\u00e9alis\u00e9 avec 2 000 GPU consommant seulement 4 m\u00e9gawatts.<\/span><\/p>\n

Bien qu'une consommation d'\u00e9nergie de 4 m\u00e9gawatts pour une seule ex\u00e9cution d'entra\u00eenement \u00e0 l'IA reste importante, il est impressionnant que Blackwell puisse multiplier par pr\u00e8s de 4 l'efficacit\u00e9 \u00e9nerg\u00e9tique pour une t\u00e2che aussi exigeante.<\/span><\/p>\n

Il ne faut pas sous-estimer les chiffres. Pour mettre ce chiffre de 4 m\u00e9gawatts en perspective, il \u00e9quivaut \u00e0 la consommation \u00e9lectrique moyenne de plus de 3 000 m\u00e9nages am\u00e9ricains.<\/p>\n

Ainsi, un seul superordinateur d'IA aliment\u00e9 par Blackwell et entra\u00eenant un mod\u00e8le de pointe consommerait autant d'\u00e9nergie qu'une ville enti\u00e8re pendant la dur\u00e9e de l'entra\u00eenement.<\/p>\n

Les organisations qui d\u00e9veloppent de grands mod\u00e8les d'IA les affinent souvent par de nombreuses it\u00e9rations, et il faut tenir compte du fait qu'il y a des centaines d'organisations qui d\u00e9veloppent de grands mod\u00e8les.<\/p>\n

Co\u00fbts environnementaux<\/h2>\n

M\u00eame avec une meilleure efficacit\u00e9 \u00e9nerg\u00e9tique, l'adoption g\u00e9n\u00e9ralis\u00e9e de Blackwell pourrait encore augmenter de mani\u00e8re significative la consommation d'\u00e9nergie globale de l'industrie.<\/span><\/p>\n

Par exemple, supposons qu'il y ait actuellement dans le monde 100 000 GPU haute performance utilis\u00e9s pour l'entra\u00eenement et l'inf\u00e9rence de l'IA.\u00a0<\/span><\/p>\n

Si Blackwell permet de multiplier par 10 l'adoption de l'IA au cours des prochaines ann\u00e9es, ce qui ne semble pas \u00eatre un chiffre extraordinaire, cela signifierait qu'un million de GPU Blackwell sont utilis\u00e9s.<\/p>\n

Avec la consommation de 1,875 kilowatt par GPU cit\u00e9e par Huang, 1 million de GPU Blackwell consommeraient 1,875 gigawatt d'\u00e9nergie, soit presque la production de deux centrales nucl\u00e9aires moyennes. <\/span><\/p>\n

La construction des centrales nucl\u00e9aires prend de nombreuses ann\u00e9es et co\u00fbte des milliers de milliards d'euros. Elles sont con\u00e7ues principalement pour soutenir l'infrastructure nationale, et pas seulement pour former des mod\u00e8les d'IA.\u00a0<\/span><\/p>\n

Analyses pr\u00e9c\u00e9dentes<\/a> ont pr\u00e9vu que les charges de travail de l'IA pourraient consommer autant d'\u00e9nergie qu'un petit pays d'ici 2027, et il est difficile de voir pr\u00e9cis\u00e9ment comment ces demandes seront raisonnablement satisfaites.<\/p>\n

La consommation d'eau est \u00e9galement un probl\u00e8me colossal, Microsoft ayant r\u00e9v\u00e9l\u00e9 des augmentations consid\u00e9rables de sa consommation d'eau. consommation d'eau de 2022 \u00e0 2023<\/a>qui est en corr\u00e9lation avec la formation au mod\u00e8le d'IA et la demande de centres de donn\u00e9es.<\/p>\n

Certaines r\u00e9gions des \u00c9tats-Unis ont d\u00e9j\u00e0 \u00e9t\u00e9 confront\u00e9es \u00e0 des p\u00e9nuries d'eau en raison de la consommation des centres de donn\u00e9es.<\/p>\n

Si l'on ne trouve pas de meilleurs moyens de faire fonctionner le mat\u00e9riel d'IA \u00e0 partir d'\u00e9nergies renouvelables, les \u00e9missions de carbone et la consommation d'eau de l'IA aliment\u00e9e par Blackwell seront consid\u00e9rables, NVIDIA acc\u00e9l\u00e9rant l'\u00e8re \"hyperscale\" de l'apprentissage des mod\u00e8les d'IA.<\/p>\n

Au-del\u00e0 de la seule consommation d'\u00e9nergie, il est essentiel de prendre en compte d'autres co\u00fbts environnementaux, tels que les min\u00e9raux de terres rares et les autres ressources n\u00e9cessaires \u00e0 la fabrication \u00e0 grande \u00e9chelle de puces avanc\u00e9es telles que Blackwell, ainsi que les d\u00e9chets g\u00e9n\u00e9r\u00e9s lorsqu'elles arrivent en fin de vie.<\/span><\/p>\n

Cela ne veut pas dire que les avantages soci\u00e9taux des capacit\u00e9s d'IA d\u00e9bloqu\u00e9es par Blackwell ne pourraient pas compenser ces co\u00fbts environnementaux.<\/span><\/p>\n

Mais cela signifie que l'impact sur l'environnement devra \u00eatre soigneusement g\u00e9r\u00e9 et att\u00e9nu\u00e9 dans le cadre de tout plan de d\u00e9ploiement responsable de Blackwell. Un point d'interrogation persiste quant \u00e0 la possibilit\u00e9 ou au r\u00e9alisme d'une telle d\u00e9marche.\u00a0\u00a0<\/span><\/p>\n

L'impact potentiel de Blackwell<\/h2>\n

Voyons \u00e0 quoi pourrait ressembler le monde \u00e0 l'\u00e8re de l'adoption g\u00e9n\u00e9ralis\u00e9e de Blackwell.<\/span><\/p>\n

Quelques estimations sommaires donnent une id\u00e9e des possibilit\u00e9s et des risques :<\/span><\/p>\n