NVIDIA hat auf seiner GTC-Veranstaltung eine Reihe neuer Hardware, Rechenplattformen und Simulations-Engines angekündigt, die die Entwicklung von generativer KI und Robotik beschleunigen sollen.
Gestern stellte Jensen Huang, Gründer und CEO von NVIDIA, die neuesten Produkte vor, die das Unternehmen den Entwicklern der KI-Lösungen von morgen zur Verfügung stellen wird.
Huang sagte: "Das beschleunigte Rechnen hat den Wendepunkt erreicht. Dem Allzweck-Computing ist die Luft ausgegangen. Wir brauchen eine andere Art der Datenverarbeitung, damit wir die Skalierung fortsetzen können, damit wir die Kosten für die Datenverarbeitung weiter senken können, damit wir immer mehr Daten verbrauchen können und gleichzeitig nachhaltig sind."
Um die KI-Infrastruktur der Welt massiv aufzurüsten, stellte Huang die folgenden neuen Hardware- und Softwarelösungen vor:
- Die Blackwell-GPU- und -Rechenplattform
- NVIDIA DGX SuperPOD Supercomputer
- NIM-Microservices - ein neuer Weg zur Entwicklung von KI-Software
- Omniverse - ein Realitätssimulator für die Ausbildung von Robotern
- Isaac Perceptor Software und Projekt GR00T - ein allgemeines Grundmodell für humanoide Roboter und Robotiksoftware
Hier ein genauerer Blick auf diese spannenden Neuerscheinungen.
Blackwell
Huang sagte, dass die Industrie für das multimodale Training immer größerer KI-Modelle viel größere GPUs benötigt. NVIDIA behauptet, sein neuer Blackwell-Chip sei "der größte physisch mögliche Chip" und enthalte 104 Milliarden Transistoren.
Die Verbindung von zwei von ihnen zu einem Grafikprozessor bringt eine erhebliche Steigerung der Verarbeitungsleistung. Blackwell liefert das 2,5-fache von NVIDIAs Trichter Architekturleistung in FP8 für Training, pro Chip, und 5x mit FP4 für Inferenz.
Das NVLink-Interconnect, das diese Grafikprozessoren verbindet, ist doppelt so schnell wie sein Vorgänger und ermöglicht den Anschluss von 576 Blackwell-GPUs.
Die Verbindung von zwei Blackwell-GPUs und einer Grace-CPU ergibt den Grace Blackwell Superchip, der die Grundlage für NVIDIAs GB200 NVL2-Racks bildet. Diese liefern Exaflop-Rechenleistung in einem einzigen Rack.
NVIDIA hat einige davon zu seinem neuen KI-Supercomputer namens NVIDIA DGX SuperPOD verbunden, der 11,5 Exaflops KI-Supercomputing bei FP4-Präzision liefert.
In der Pressemitteilung werden AWS, Google Cloud, Microsoft Azure und Oracle als erste Interessenten für die neue Computing-Hardware genannt, die laut NVIDIA in der Lage ist, "generative KI in Echtzeit auf großen Sprachmodellen mit Billionen von Parametern zu erstellen und auszuführen, und das bei bis zu 25-mal geringeren Kosten und geringerem Energieverbrauch als die Vorgängerversion".
So sehen die Fortschritte von NVIDIA im Bereich Computing in den letzten 8 Jahren aus.
NVIDIA NIMs
"Wie werden wir in Zukunft Software entwickeln? Es ist unwahrscheinlich, dass man sie von Grund auf neu schreibt oder einen ganzen Haufen Python-Code oder etwas Ähnliches", sagte Huang. "Es ist sehr wahrscheinlich, dass man ein Team von KIs zusammenstellt."
Huang sagte, dass Unternehmen, anstatt Software zu schreiben, "KI-Modelle zusammenstellen, ihnen Aufträge erteilen, Beispiele für Arbeitsprodukte geben, Pläne überprüfen und Zwischenergebnisse liefern".
NVIDIA hat eine Sammlung von vorgefertigten Containern oder Microservices mit der Bezeichnung NIM (NVIDIA Inference Microservice) auf den Markt gebracht.
NIMs sind wie kleine Boxen mit KI-Software, die ein vortrainiertes Modell, APIs und andere Softwarekomponenten enthalten. Unternehmen werden diese ähnlich wie GPTs oder Zapier einsetzen können, anstatt die Funktionalität von Grund auf neu zu entwickeln.
Omniversum
Die verkörperte KI, oder physische KI, ist der Bereich, in dem derzeit viele Entwicklungen stattfinden. Das Training von Robotern in der realen Welt ist teuer und ineffizient, und NVIDIA sagt, dass es die Lösung für dieses Problem hat.
Omniverse ist eine Simulationsmaschine für die virtuelle Welt, die wie ein virtuelles "Fitnessstudio" für einen Roboter fungiert, um die Artikulation und die Physik der Interaktion mit der realen Welt zu erlernen.
NVIDIA bietet Entwicklern API-Zugang, um ihre Roboter in Omniverse zu trainieren. Entwickler können einen digitalen Zwilling eines physischen Raums, z. B. eines Lagers, erstellen und automatisierte Geräte und Roboter optimieren, bevor sie im physischen Raum eingesetzt werden.
Isaac-Software und Projekt GR00T
Huang kündigte neue Software zur Unterstützung von Robotik-Entwicklern an. Die Software Isaac Perceptor und die Bibliothek Isaac Manipulator werden Robotern helfen, ihre Umgebung zu sehen, zu navigieren und zu manipulieren.
NVIDIA stellte außerdem das Projekt GR00T (General Robotics 003) vor, ein universell einsetzbares Grundmodell für humanoide Roboter. Dieses Modell wird zusammen mit der Isaac Perceptor Software auf einem neuen Computer, dem Jetson Thor, laufen, um Roboter im Omniversum zu trainieren und sie dann ohne Vorwarnung in der realen Welt einzusetzen.
Am ersten Tag der GTC gab es einige wichtige neue technische Ankündigungen, die den Aktienkurs von NVIDIA wahrscheinlich weiter steigen lassen werden. Es wird interessant sein, zu sehen, welche weiteren Überraschungen Huang in den nächsten Tagen für uns bereithält.
Die Keynote von Huang können Sie hier ansehen.
