{"id":12757,"date":"2024-06-06T11:08:08","date_gmt":"2024-06-06T11:08:08","guid":{"rendered":"https:\/\/dailyai.com\/?p=12757"},"modified":"2024-06-06T15:07:56","modified_gmt":"2024-06-06T15:07:56","slug":"nvidia-blackwell-by-the-numbers-the-potential-impact-of-nvidias-new-ai-superchip","status":"publish","type":"post","link":"https:\/\/dailyai.com\/de\/2024\/06\/nvidia-blackwell-by-the-numbers-the-potential-impact-of-nvidias-new-ai-superchip\/","title":{"rendered":"NVIDIA Blackwell in Zahlen - die potenziellen Auswirkungen des neuen KI-Superchips von NVIDIA"},"content":{"rendered":"

NVIDIA CEO Jensen Huang<\/span> hat k\u00fcrzlich auf der Computex 2024 Keynote des Unternehmens den neuesten KI-Beschleunigerchip namens Blackwell im Detail beschrieben.\u00a0<\/strong><\/p>\n

Mit Blackwell will NVIDIA seine Vormachtstellung im aufstrebenden Bereich der KI-Hardware festigen und gleichzeitig seine F\u00e4higkeit zu fortlaufender Innovation unter Beweis stellen. <\/span><\/p>\n

Mit einer Marktkapitalisierung, die auf die Marke von $3 Billionen zusteuert, ist der Aufstieg von NVIDIA zum obersten Befehlshaber der KI-Infrastruktur nichts weniger als erstaunlich. <\/span><\/p>\n

Huang sieht keine Anzeichen f\u00fcr einen Stillstand, da das Unternehmen \u00fcbertrifft weiterhin die Erwartungen der Analysten<\/a>.\u00a0<\/span><\/p>\n

Aber was sagen uns die Spezifikationen und Zahlen wirklich \u00fcber Blackwells F\u00e4higkeiten und potenzielle Auswirkungen?\u00a0<\/span><\/p>\n

Werfen wir einen genaueren Blick darauf, wie sich dies auf die KI-Branche und die Gesellschaft insgesamt auswirken k\u00f6nnte.\u00a0<\/span><\/p>\n

Rohe Rechenleistung<\/h2>\n

Die wichtigste Zahl ist, dass ein einziger Blackwell \"Superchip\"<\/a> - bestehend aus zwei GPU-Dies, die \u00fcber eine Hochgeschwindigkeitsverbindung miteinander verbunden sind - verf\u00fcgt \u00fcber satte 208 Milliarden Transistoren.\u00a0<\/span><\/p>\n

Das ist eine fast 3-fache Steigerung gegen\u00fcber der vorherigen Hopper-Chipgeneration von NVIDIA. NVIDIA behauptet, dies bedeute einen 30-fachen Geschwindigkeitsschub bei KI-Inferenzaufgaben im Vergleich zu Hopper.<\/span><\/p>\n

Um dies zu verdeutlichen, betrachten wir ein Beispiel f\u00fcr ein gro\u00dfes Sprachmodell (LLM) mit 100 Milliarden Parametern, das in seiner Gr\u00f6\u00dfenordnung mit GPT-3 vergleichbar ist.\u00a0<\/span><\/p>\n

Um ein solches Modell auf NVIDIAs A100-Grafikprozessoren der vorherigen Generation zu trainieren, m\u00fcssten etwa 1.024 A100-Chips einen Monat lang laufen.<\/span><\/p>\n

Mit Blackwell behauptet NVIDIA, dass dasselbe Modell mit 256 Blackwell-Chips in etwas mehr als einer Woche trainiert werden k\u00f6nnte - eine vierfache Reduzierung der Trainingszeit.<\/span><\/p>\n

Energie-Effizienz<\/h2>\n

Trotz der drastischen Leistungssteigerung gibt NVIDIA an, dass Blackwell bei bestimmten KI-Workloads Kosten und Energieverbrauch im Vergleich zu Hopper um das bis zu 25-fache senken kann.\u00a0<\/span><\/p>\n

Das Unternehmen f\u00fchrte als Beispiel das Training eines Modells mit 1,8 Billionen Parametern an, wof\u00fcr zuvor 8.000 Hopper-GPUs mit einer Leistung von 15 Megawatt erforderlich gewesen w\u00e4ren. <\/span><\/p>\n

Mit Blackwell k\u00f6nnte dies laut NVIDIA mit 2.000 GPUs erreicht werden, die nur 4 Megawatt ben\u00f6tigen.<\/span><\/p>\n

Obwohl eine Leistungsaufnahme von 4 Megawatt f\u00fcr einen einzigen KI-Trainingslauf immer noch betr\u00e4chtlich ist, ist es beeindruckend, dass Blackwell eine fast 4-fache Steigerung der Energieeffizienz f\u00fcr eine solch anspruchsvolle Aufgabe bieten kann.<\/span><\/p>\n

Wir sollten die Zahlen nicht unterbewerten. Die 4-Megawatt-Zahl entspricht dem durchschnittlichen Stromverbrauch von mehr als 3.000 US-Haushalten.<\/p>\n

Ein einziger von Blackwell betriebener KI-Supercomputer, der ein hochmodernes Modell trainiert, w\u00fcrde also so viel Energie verbrauchen wie eine ganze Stadt im Laufe des Trainingslaufs.<\/p>\n

Und das ist nur f\u00fcr einen Trainingslauf - Unternehmen, die gro\u00dfe KI-Modelle entwickeln, verfeinern ihre Modelle oft in vielen Iterationen, und dann m\u00fcssen wir bedenken, dass es Hunderte von Unternehmen gibt, die gro\u00dfe Modelle entwickeln.<\/p>\n

Umweltkosten<\/h2>\n

Selbst bei verbesserter Energieeffizienz k\u00f6nnte die breite Einf\u00fchrung von Blackwell den Gesamtenergieverbrauch der Branche noch erheblich steigern.<\/span><\/p>\n

Nehmen wir zum Beispiel an, dass derzeit weltweit etwa 100.000 Hochleistungs-GPUs f\u00fcr KI-Training und -Inferenz verwendet werden.\u00a0<\/span><\/p>\n

Wenn Blackwell in den kommenden Jahren eine 10-fache Steigerung des KI-Einsatzes erm\u00f6glicht, was nicht gerade eine aus der Luft gegriffene Zahl zu sein scheint, w\u00fcrde das bedeuten, dass 1 Million Blackwell-GPUs im Einsatz sind.<\/p>\n

Bei der von Huang genannten Leistungsaufnahme von 1,875 Kilowatt pro GPU w\u00fcrden 1 Million Blackwell-GPUs 1,875 Gigawatt verbrauchen - das entspricht fast der Leistung von zwei durchschnittlichen Kernkraftwerken. <\/span><\/p>\n

Der Bau von Kernkraftwerken dauert viele Jahre und kostet Billionen. Sie sind in erster Linie zur Unterst\u00fctzung der landesweiten Infrastruktur gedacht, nicht nur zum Training von KI-Modellen.\u00a0<\/span><\/p>\n

Fr\u00fchere Analysen<\/a> haben prognostiziert, dass KI-Workloads bis 2027 so viel Strom wie ein kleines Land verbrauchen k\u00f6nnten, und es ist schwer vorstellbar, wie diese Anforderungen vern\u00fcnftig erf\u00fcllt werden sollen.<\/p>\n

Auch der Wasserverbrauch ist ein riesiges Problem: Microsoft hat einen enormen Anstieg seiner Wasserverbrauch von 2022 bis 2023<\/a>die mit dem Training von KI-Modellen und der Nachfrage nach Rechenzentren korreliert.<\/p>\n

In Teilen der USA kam es aufgrund des Verbrauchs von Rechenzentren bereits zu Wasserknappheit.<\/p>\n

Wenn keine besseren M\u00f6glichkeiten gefunden werden, KI-Hardware mit erneuerbaren Energien zu betreiben, werden die Kohlendioxidemissionen und der Wasserverbrauch von Blackwell-getriebener KI enorm sein, wobei NVIDIA die \"Hyperscale\"-\u00c4ra des KI-Modelltrainings beschleunigt.<\/p>\n

Neben dem reinen Energieverbrauch m\u00fcssen auch andere Umweltkosten ber\u00fccksichtigt werden, z. B. die Mineralien der Seltenen Erden und andere Ressourcen, die f\u00fcr die Herstellung fortschrittlicher Chips wie Blackwell in gro\u00dfem Ma\u00dfstab ben\u00f6tigt werden, sowie die Abf\u00e4lle, die am Ende des Lebenszyklus anfallen.<\/span><\/p>\n

Das soll nicht hei\u00dfen, dass der gesellschaftliche Nutzen der von Blackwell erschlossenen KI-F\u00e4higkeiten diese Umweltkosten nicht aufwiegen k\u00f6nnte.<\/span><\/p>\n

Das bedeutet jedoch, dass die Umweltauswirkungen im Rahmen eines verantwortungsvollen Blackwell-Einsatzplans sorgf\u00e4ltig gesteuert und gemildert werden m\u00fcssen. Ob das m\u00f6glich oder realistisch ist, bleibt fraglich.\u00a0\u00a0<\/span><\/p>\n

Blackwells m\u00f6gliche Auswirkungen<\/h2>\n

Stellen wir uns vor, wie die Welt in einer \u00c4ra der weit verbreiteten Blackwell-\u00dcbernahme aussehen k\u00f6nnte.<\/span><\/p>\n

Einige ungef\u00e4hre Sch\u00e4tzungen vermitteln ein Gef\u00fchl f\u00fcr die M\u00f6glichkeiten und Risiken:<\/span><\/p>\n