NVIDIA heeft tijdens haar GTC-evenement een reeks nieuwe hardware, rekenplatforms en simulatie-engines aangekondigd die zijn gericht op het versnellen van de ontwikkeling van generatieve AI en robotica.
Gisteren presenteerde NVIDIA-oprichter en CEO Jensen Huang de nieuwste producten die het bedrijf zal leveren aan ontwikkelaars van de AI-oplossingen van morgen.
Huang zei: "Versneld computergebruik heeft het omslagpunt bereikt. General-purpose computing is uitgeput. We hebben een andere manier van computergebruik nodig zodat we kunnen blijven schalen, zodat we de kosten van computergebruik kunnen blijven verlagen, zodat we steeds meer computergebruik kunnen blijven gebruiken en tegelijkertijd duurzaam kunnen zijn."
Om de enorme upgrade te leveren die de AI-infrastructuur van de wereld nodig heeft, onthulde Huang de volgende nieuwe hardware- en softwareoplossingen:
- Het Blackwell GPU- en rekenplatform
- NVIDIA DGX SuperPOD supercomputer
- NIM microservices - een nieuwe manier om AI-software te maken
- Omniverse - een simulator voor het trainen van robots in de echte wereld
- Isaac Perceptor-software en Project GR00T - een algemeen funderingsmodel voor humanoïde robots en robotica-software
Hier volgt een blik op deze spannende nieuwe releases.
Blackwell
Huang zei dat de industrie veel grotere GPU's nodig heeft om multimodale training van steeds grotere AI-modellen mogelijk te maken. NVIDIA claimt dat haar nieuwe Blackwell-chip "de grootste chip is die fysiek mogelijk is" en 104 miljard transistors bevat.
Als je er twee op een GPU aansluit, levert dat een aanzienlijke verwerkingsboost op. Blackwell levert 2,5x NVIDIA's Vultrechter prestaties van de architectuur in FP8 voor training, per chip, en 5x met FP4 voor inferentie.
De NVLink interconnectie die deze GPU's verbindt is twee keer zo snel als zijn voorganger en maakt het mogelijk om 576 Blackwell GPU's met elkaar te verbinden.
Het verbinden van twee Blackwell GPU's en een Grace CPU resulteert in de Grace Blackwell Superchip die de basis vormt van NVIDIA's GB200 NVL2 racks. Deze leveren exaflop computing in een enkel rack.
NVIDIA heeft er een paar aangesloten om zijn nieuwe AI-supercomputer NVIDIA DGX SuperPOD te maken, die 11,5 exaflops aan AI-supercomputing levert met FP4-precisie.
In het persbericht worden AWS, Google Cloud, Microsoft Azure en Oracle genoemd als eerste in de rij voor de nieuwe computerhardware die volgens NVIDIA "real-time generatieve AI kan bouwen en uitvoeren op biljoen-parameter grote taalmodellen tegen tot 25x lagere kosten en energieverbruik dan zijn voorganger".
Zo ziet de vooruitgang van NVIDIA op het gebied van computers er de afgelopen 8 jaar uit.
NVIDIA NIM's
"Hoe bouwen we software in de toekomst? Het is onwaarschijnlijk dat je het vanaf nul schrijft of een hele hoop Python-code of iets dergelijks schrijft," zei Huang. "Het is zeer waarschijnlijk dat je een team van AI's samenstelt."
Huang zei dat in plaats van het schrijven van software, bedrijven "AI-modellen zullen samenstellen, ze opdrachten geven, voorbeelden geven van werkproducten, plannen beoordelen en tussentijdse resultaten".
NVIDIA heeft een verzameling vooraf gebouwde containers, of microservices, gelanceerd die het NIM (NVIDIA Inference Microservice) noemt.
NIM's zijn als kleine doosjes AI-software met een voorgetraind model, API's en andere softwarecomponenten erin. Bedrijven zullen deze kunnen inzetten op dezelfde manier als we GPT's of Zapier gebruiken, in plaats van de functionaliteit helemaal opnieuw te moeten maken.
Omniversum
Embodied AI, of fysieke AI, is waar op dit moment veel ontwikkeling plaatsvindt. Het trainen van robots in de fysieke wereld is duur en inefficiënt en NVIDIA zegt daar de oplossing voor te hebben.
Omniverse is een simulatie-engine voor een virtuele wereld die fungeert als een virtuele "sportschool" voor een robot om articulatie en de fysica van interactie met de echte wereld te leren.
NVIDIA biedt API-toegang aan ontwikkelaars om hun robots te trainen in Omniverse. Ontwikkelaars kunnen een digitale tweeling maken van een fysieke ruimte, zoals een magazijn, en geautomatiseerde apparatuur en robots optimaliseren voordat ze in de fysieke ruimte worden ingezet.
Isaac-software en Project GR00T
Huang kondigde nieuwe software aan om robotica-ontwikkelaars te ondersteunen. Isaac Perceptor software en de Isaac Manipulator bibliotheek zullen robots helpen bij het zien, navigeren en manipuleren van hun omgeving.
NVIDIA onthulde ook Project GR00T (General Robotics 003), een algemeen inzetbaar basismodel voor humanoïde robots. Dit model zal samen met de Isaac Perceptor-software draaien op een nieuwe computer, de Jetson Thor, om robots te trainen in Omniverse en ze vervolgens zero-shot in te zetten in de echte wereld.
Op de eerste dag van de GTC werden enkele belangrijke nieuwe techaankondigingen gedaan, waardoor de aandelenkoers van NVIDIA waarschijnlijk zal blijven stijgen. Het wordt interessant om te zien welke verrassingen Huang de komende dagen nog meer voor ons in petto heeft.
Je kunt de keynote van Huang hier bekijken.
