NVIDIA brugte åbningsdagen på CES til at annoncere en række nye GPU'er, grafikkort og udviklerværktøjer, der har til formål at bygge og køre AI-modeller og applikationer på lokale enheder.
Det meste af den opmærksomhed, virksomheden fik sidste år, var fokuseret på efterspørgsel efter sine GPU'er der driver store datacentre. Med denne annoncering går NVIDIA tilbage til sine rødder med fokus på at drive generativ AI på bærbare computere og pc'er.
Dens GeForce RTX SUPER desktop GPU'er vil drive en række nye bærbare computere fra producenter som Acer, ASUS, Dell, HP, Lenovo, MSI, Razer og Samsung.
Tensor-kernerne i disse GPU'er giver betydelige forbedringer i AI-ydelsen, som ifølge NVIDIA er "20x-60x sammenlignet med brugen af neurale behandlingsenheder". NVIDIA siger, at de første af disse bærbare computere vil blive leveret senere i denne måned.
Til brugere af stationære pc'er har NVIDIA annonceret sin nye GeForce RTX 40 SUPER-serie af grafikkort. RTX 4060 Super, RTX 4070 Ti Super og RTX 4080 Super ligger prismæssigt mellem $599 og $999. Disse kort flyver alle under radaren på den amerikanske Eksportkontrol begrænsning af AI-teknologi, der leveres til Kina.
GeForce RTX 4080 SUPER genererer AI-video 1,5 gange hurtigere og billeder 1,7 gange hurtigere end sin forgænger GeForce RTX 3080 Ti GPU.
Der er store fordele ved at have hardware, der kan køre LLM'er lokalt.
- Omkostninger: Ingen cloud-hostede API- eller infrastrukturomkostninger til LLM-inferens.
- Altid på: Der kræves ingen internetforbindelse.
- Ydeevne: Lav latenstid eller endda inferens i realtid.
- Beskyttelse af data: Data kan altid forblive på enheden i stedet for at passere gennem cloud-servere.
Nye værktøjer til AI-udviklere
Jensen Huang, grundlægger og CEO for NVIDIA, sagde: "Generativ AI er den mest betydningsfulde platformovergang i computerens historie og vil transformere alle brancher, herunder spil. Med over 100 millioner RTX AI-pc'er og -arbejdsstationer udgør NVIDIA en massiv installeret base, hvor udviklere og gamere kan nyde magien ved generativ AI."
Der er med andre ord masser af brugere med kraftig hardware, som bare venter på AI-drevne spil og applikationer.
NVIDIA's AI Workbench vil være tilgængelig i beta senere på måneden. Det giver udviklere en forenklet grænseflade til at udvikle projekter på Hugging Face, GitHub og NVIDIA NGC.
Det giver udviklere mulighed for at udvikle, køre og migrere deres projekter frem og tilbage mellem datacentre og lokale maskiner.
AI forstyrrer allerede den måde, computerspil udvikles på. NVIDIA RTX Remix vil puste nyt liv i dine klassiske yndlingsspil.
Værktøjet indfanger scener og elementer i et ældre spil og opskalerer opløsningen til 4K. Det forbedrer også teksturer og detaljer og gør det muligt at ændre elementer i spillet.
Denne demo viser, hvor fantastiske nogle af disse ældre spil kan se ud efter lidt generativ AI-magi.
I forbindelse med spil annoncerede NVIDIA også NVIDIA Avatar Cloud Engine (ACE). Dette værktøj gør det muligt for spiludviklere at bruge generativ AI til at skabe digitale avatarer, der kører i skyen eller lokalt på pc'en. Disse avatarer fungerer problemfrit med tredjepartsapplikationer som Unreal Engine 5.
Chat med RTX bliver også tilgængelig senere på måneden. Den bruger RAG (retrieval-augmented generation) til at forbinde en LLM, der kører på en pc, med en brugers data. Udviklere kan bruge dette til at skabe applikationer som personlige assistenter, hvor den lokalt kørende LLM kan besvare spørgsmål, der er specifikke for brugerdata.
CES-teknologibegivenheden er kun lige begyndt, så vi kan forvente flere spændende meddelelser fra NVIDIA og andre virksomheder i denne uge.
