NVIDIA kunngjorde en rekke nye maskinvareprodukter, databehandlingsplattformer og simuleringsmotorer som skal akselerere utviklingen av generativ AI og robotteknologi på GTC-arrangementet.
I går presenterte NVIDIAs grunnlegger og administrerende direktør Jensen Huang de nyeste produktene selskapet vil tilby utviklere av morgendagens AI-løsninger.
Huang sa: "Akselerert databehandling har nådd et vendepunkt. Allmenn databehandling har gått tom for damp. Vi trenger en annen måte å drive databehandling på, slik at vi kan fortsette å skalere, slik at vi kan fortsette å redusere kostnadene for databehandling, slik at vi kan fortsette å bruke mer og mer databehandling samtidig som vi er bærekraftige."
For å levere den massive oppgraderingen verdens AI-infrastruktur trenger, presenterte Huang følgende nye maskinvare- og programvareløsninger:
- Blackwells GPU- og databehandlingsplattform
- NVIDIA DGX SuperPOD superdatamaskin
- NIM-mikrotjenester - en ny måte å lage AI-programvare på
- Omniverse - en simulator for opplæring av roboter i den virkelige verden
- Programvaren Isaac Perceptor og prosjekt GR00T - en generell grunnmodell for humanoide roboter og programvare for robotteknologi
Her ser vi nærmere på disse spennende nyhetene.
Blackwell
Huang sa at for å muliggjøre multimodal trening av stadig større AI-modeller trenger bransjen mye større GPU-er. NVIDIA hevder at den nye Blackwell-brikken er "den største brikken som er fysisk mulig" og inneholder 104 milliarder transistorer.
Ved å koble sammen to av dem til en GPU får du en betydelig økning i prosesseringskapasiteten. Blackwell leverer 2,5 ganger NVIDIAs Hopper arkitekturens ytelse i FP8 for trening, per brikke, og 5x med FP4 for inferens.
NVLink-koblingen som kobler sammen disse GPU-ene, er dobbelt så rask som forgjengeren og gjør det mulig å koble sammen 576 Blackwell GPU-er.
Ved å koble sammen to Blackwell GPU-er og en Grace CPU får man Grace Blackwell Superchip, som danner grunnlaget for NVIDIAs GB200 NVL2-rack. Disse leverer exaflop-databehandling i ett enkelt rack.
NVIDIA koblet sammen noen av disse for å lage sin nye AI-superdatamaskin kalt NVIDIA DGX SuperPOD, som leverer 11,5 exaflops AI-superdatabehandling med FP4-presisjon.
I pressemeldingen nevnes AWS, Google Cloud, Microsoft Azure og Oracle som de første i køen for den nye maskinvaren, som ifølge NVIDIA kan "bygge og kjøre generativ AI i sanntid på store språkmodeller med billioner av parametere til opptil 25 ganger lavere kostnader og energiforbruk enn forgjengeren".
Slik ser NVIDIAs databehandlingsfremgang ut i løpet av de siste åtte årene.
NVIDIA NIM-er
"Hvordan bygger vi programvare i fremtiden? Det er lite sannsynlig at du skriver den fra bunnen av eller skriver en hel haug med Python-kode eller noe sånt", sier Huang. "Det er svært sannsynlig at du setter sammen et team av AI-er."
Huang sa at i stedet for å skrive programvare, vil selskapene "sette sammen AI-modeller, gi dem oppdrag, gi eksempler på arbeidsprodukter, gjennomgå planer og mellomresultater".
NVIDIA lanserte en samling forhåndsbygde containere, eller mikrotjenester, som de kaller NIM (NVIDIA Inference Microservice).
NIM-er er som små bokser med AI-programvare med en forhåndstrenet modell, API-er og andre programvarekomponenter inni. Bedrifter vil kunne distribuere disse på samme måte som vi bruker GPT-er eller Zapier, i stedet for å måtte gjenskape funksjonaliteten fra bunnen av.
Omniversum
Embodied AI, eller fysisk AI, er et område der det skjer mye utvikling nå. Det er dyrt og ineffektivt å trene roboter i den fysiske verden, og NVIDIA sier at de har løsningen på dette.
Omniverse er en simuleringsmotor for en virtuell verden som fungerer som et virtuelt "treningsstudio" der roboten kan lære seg artikulasjon og fysikken i samspillet med den virkelige verden.
NVIDIA gir API-tilgang til utviklere slik at de kan trene robotene sine i Omniverse. Utviklere kan lage en digital tvilling av et fysisk rom, for eksempel et lager, og optimalisere automatisert utstyr og roboter før de settes ut i det fysiske rommet.
Isaac-programvare og prosjekt GR00T
Huang kunngjorde ny programvare for å støtte robotutviklere. Programvaren Isaac Perceptor og biblioteket Isaac Manipulator vil hjelpe roboter med å se, navigere og manipulere omgivelsene sine.
NVIDIA avduket også Project GR00T (General Robotics 003), en generell grunnmodell for humanoide roboter. Denne modellen, sammen med programvaren Isaac Perceptor, vil kjøre på en ny datamaskin, Jetson Thor, for å trene roboter i Omniverse og deretter sette dem ut i den virkelige verden.
Den første dagen av GTC bød på noen store, nye teknologikunngjøringer som sannsynligvis vil få NVIDIAs aksjekurs til å fortsette å stige. Det blir interessant å se hvilke andre overraskelser Huang har for oss i løpet av de neste dagene.
Du kan se Huangs hovedtale her.
