NVIDIA brukte åpningsdagen på CES til å kunngjøre en rekke nye GPU-er, grafikkort og utviklerverktøy som tar sikte på å bygge og kjøre AI-modeller og -applikasjoner på lokale enheter.
Det meste av oppmerksomheten selskapet fikk i fjor var fokusert på etterspørselen etter GPU-ene som driver store datasentre. Med denne kunngjøringen går NVIDIA tilbake til røttene med fokus på å drive generativ AI på bærbare datamaskiner og PC-er.
GeForce RTX SUPER GPUer for stasjonære PC-er vil drive en rekke nye bærbare PC-er fra produsenter som Acer, ASUS, Dell, HP, Lenovo, MSI, Razer og Samsung.
Tensor Cores i disse GPU-ene gir betydelige AI-ytelsesforbedringer som NVIDIA sier varierer fra "20x-60x sammenlignet med å bruke nevrale prosesseringsenheter." NVIDIA sier at de første av disse bærbare datamaskinene vil bli levert senere denne måneden.
NVIDIA har kunngjort sin nye GeForce RTX 40 SUPER-serie med grafikkort for stasjonære PC-brukere. RTX 4060 Super, RTX 4070 Ti Super og RTX 4080 Super ligger i prisklassen mellom $599 og $999. Disse kortene flyr alle under radaren til USA eksportkontroll begrense AI-teknologi som leveres til Kina.
GeForce RTX 4080 SUPER genererer AI-video 1,5 ganger raskere og bilder 1,7 ganger raskere enn forgjengeren GeForce RTX 3080 Ti GPU.
Det er en stor fordel å ha maskinvare som kan kjøre LLM-er lokalt.
- Kostnad: Ingen skybaserte API- eller infrastrukturkostnader for LLM-inferens.
- Alltid på: Ingen internettforbindelse er nødvendig.
- Ytelse: Lav latenstid eller til og med sanntidsinferens.
- Personvern: Data kan alltid forbli på enheten i stedet for å passere gjennom skyservere.
Nye verktøy for AI-utviklere
Jensen Huang, grunnlegger og administrerende direktør i NVIDIA, sa: "Generativ AI er den mest betydningsfulle plattformovergangen i databehandlingens historie og vil forandre alle bransjer, inkludert spill. Med over 100 millioner RTX AI-PC-er og arbeidsstasjoner utgjør NVIDIA en massiv installert base for utviklere og spillere som kan nyte magien ved generativ AI."
Det finnes med andre ord mange brukere med kraftig maskinvare som bare venter på AI-drevne spill og applikasjoner.
NVIDIAs AI Workbench vil være tilgjengelig i betaversjon senere denne måneden. Den tilbyr utviklere et forenklet grensesnitt for å utvikle prosjekter på Hugging Face, GitHub og NVIDIA NGC.
Det gjør det mulig for utviklere å utvikle, kjøre og migrere prosjektene sine frem og tilbake mellom datasentre og lokale maskiner.
AI er allerede i ferd med å endre måten dataspill utvikles på. NVIDIA RTX Remix vil blåse nytt liv i de klassiske favorittspillene dine.
Verktøyet fanger scener og elementer i et eldre spill og oppskalerer oppløsningen til 4K. Det forbedrer også teksturer og detaljer og gjør det mulig å modifisere elementer i spillet.
Denne demoen viser hvor fantastiske noen av disse eldre spillene kan se ut etter litt generativ AI-magi.
For å holde oss til spill, kunngjorde NVIDIA også NVIDIA Avatar Cloud Engine (ACE). Dette verktøyet gjør det mulig for spillutviklere å bruke generativ AI til å skape digitale avatarer som kjører i skyen eller lokalt på PC-en. Disse avatarene fungerer sømløst med tredjepartsapplikasjoner som Unreal Engine 5.
Chat med RTX vil også bli tilgjengelig senere denne måneden. Denne bruker RAG (retrieval-augmented generation) til å koble en LLM som kjører på en PC, med brukerens data. Utviklere kan bruke dette til å lage applikasjoner som personlige assistenter, der den lokalt kjørte LLM-en kan svare på spørsmål som er spesifikke for brukerdataene.
CES-teknologimessen har bare så vidt startet, så vi kan forvente flere spennende kunngjøringer fra NVIDIA og andre selskaper denne uken.
