NVIDIA använde öppningsdagen av CES till att presentera en rad nya GPU:er, grafikkort och utvecklarverktyg som syftar till att bygga och köra AI-modeller och applikationer på lokala enheter.
Det mesta av uppmärksamheten som bolaget fick förra året fokuserade på efterfrågan på dess GPU:er som driver stora datacenter. Med detta tillkännagivande går NVIDIA tillbaka till sina rötter med fokus på att driva generativ AI på bärbara och stationära datorer.
Dess GeForce RTX SUPER GPU:er för stationära datorer kommer att driva en rad nya bärbara datorer från tillverkare som Acer, ASUS, Dell, HP, Lenovo, MSI, Razer och Samsung.
Tensor Cores i dessa GPU:er erbjuder betydande AI-prestandaförbättringar som NVIDIA säger sträcker sig från "20x-60x jämfört med att använda neurala processorenheter." NVIDIA säger att den första av dessa bärbara datorer kommer att levereras senare denna månad.
För stationära PC-användare presenterade NVIDIA sina nya grafikkort i GeForce RTX 40 SUPER-serien. RTX 4060 Super, RTX 4070 Ti Super och RTX 4080 Super ligger i prisintervallet $599 till $999. Dessa kort flyger alla under radarn för USA: s exportkontroller begränsning av AI-teknik som levereras till Kina.
GeForce RTX 4080 SUPER genererar AI-video 1,5x snabbare och bilder 1,7x snabbare än sin föregångare GeForce RTX 3080 Ti GPU.
Att ha hårdvara som kan köra LLM:er lokalt har stora fördelar.
- Kostnad: Inga molnbaserade API- eller infrastrukturkostnader för LLM-inferens.
- Alltid påslagen: Ingen internetuppkoppling krävs.
- Prestanda: Låg latens eller till och med realtidsinferens.
- Sekretess för data: Data kan alltid ligga kvar på enheten i stället för att passera genom molnservrar.
Nya verktyg för AI-utvecklare
Jensen Huang, grundare och VD för NVIDIA, säger: "Generativ AI är den enskilt mest betydelsefulla plattformsövergången i datorhistorien och kommer att förändra alla branscher, inklusive spel. Med över 100 miljoner RTX AI-datorer och arbetsstationer har NVIDIA en massiv installerad bas för utvecklare och spelare som kan njuta av magin med generativ AI."
Med andra ord finns det gott om användare med kraftfull hårdvara som bara väntar på AI-drivna spel och applikationer.
NVIDIA:s AI Workbench kommer att finnas tillgänglig i betaversion senare denna månad. Den erbjuder utvecklare ett förenklat gränssnitt för att utveckla projekt på Hugging Face, GitHub och NVIDIA NGC.
Det gör det möjligt för utvecklare att utveckla, köra och migrera sina projekt fram och tillbaka mellan datacenter och lokala maskiner.
AI förändrar redan hur datorspel utvecklas. NVIDIA RTX Remix kommer att blåsa nytt liv i dina klassiska favoritspel.
Verktyget fångar scener och element i ett äldre spel och skalar upp upplösningen till 4K. Det förbättrar också texturer och detaljer och gör det möjligt att modifiera element i spelet.
Den här demonstrationen visar hur fantastiska några av dessa äldre spel kan se ut efter lite generativ AI-magi.
På spelfronten presenterade NVIDIA också NVIDIA Avatar Cloud Engine (ACE). Detta verktyg gör det möjligt för spelutvecklare att använda generativ AI för att skapa digitala avatarer som körs i molnet eller lokalt på datorn. Dessa avatarer fungerar sömlöst med tredjepartsapplikationer som Unreal Engine 5.
Chat med RTX kommer också att finnas tillgängligt senare denna månad. Detta använder RAG (retrieval-augmented generation) för att koppla samman en LLM som körs på en PC med en användares data. Utvecklare kan använda detta för att skapa applikationer som personliga assistenter där den lokalt körda LLM:n kan svara på frågor som är specifika för användardata.
Teknikmässan CES har bara börjat så vi kan förvänta oss fler spännande tillkännagivanden från NVIDIA och andra företag den här veckan.
