NVIDIA kondigt nieuwe chips en tools aan voor on-device AI

9 januari 2024

NVIDIA gebruikte de openingsdag van CES om een reeks nieuwe GPU's, grafische kaarten en ontwikkelaarstools aan te kondigen die gericht zijn op het bouwen en uitvoeren van AI-modellen en -toepassingen op lokale apparaten.

De meeste aandacht die het bedrijf vorig jaar kreeg, ging uit naar de vraag naar zijn GPU's die grote datacenters van energie voorzien. Met deze aankondiging gaat NVIDIA terug naar haar roots met een focus op het aandrijven van generatieve AI op laptops en pc's.

De GeForce RTX SUPER desktop GPU's zullen een reeks nieuwe laptops aandrijven van fabrikanten als Acer, ASUS, Dell, HP, Lenovo, MSI, Razer en Samsung.

Tensor Cores in deze GPU's bieden aanzienlijke verbeteringen in AI-prestaties die volgens NVIDIA variëren van "20x-60x in vergelijking met het gebruik van neurale verwerkingseenheden". NVIDIA zegt dat de eerste van deze laptops later deze maand worden geleverd.

Voor desktop pc-gebruikers heeft NVIDIA de nieuwe GeForce RTX 40 SUPER-serie grafische kaarten aangekondigd. De RTX 4060 Super, RTX 4070 Ti Super en RTX 4080 Super variëren in prijs tussen $599 en $999. Deze kaarten vliegen allemaal onder de radar van de Amerikaanse exportcontroles het beperken van AI-technologie die aan China wordt geleverd.

De GeForce RTX 4080 SUPER genereert AI-video 1,5x sneller en afbeeldingen 1,7x sneller dan zijn voorganger de GeForce RTX 3080 Ti GPU.

Het heeft grote voordelen om hardware te hebben die LLM's lokaal kan uitvoeren.

  • Kosten: Geen cloud-hosted API of infrastructuurkosten voor LLM-inferentie.
  • Altijd aan: Er is geen internetverbinding nodig.
  • Prestaties: Lage latentie of zelfs real-time inferentie.
  • Privacy van gegevens: Gegevens kunnen altijd op het apparaat blijven in plaats van via cloudservers.

Nieuwe AI-ontwikkelaarstools

Jensen Huang, oprichter en CEO van NVIDIA: "Generatieve AI is de belangrijkste platformtransitie in de geschiedenis van computers en zal elke industrie transformeren, inclusief gaming. Met meer dan 100 miljoen RTX AI-pc's en -werkstations vormt NVIDIA een enorme installed base voor ontwikkelaars en gamers om te genieten van de magie van generatieve AI."

Met andere woorden, er zijn genoeg gebruikers met krachtige hardware die wachten op AI-gestuurde games en applicaties.

NVIDIA's AI Workbench is later deze maand beschikbaar in bèta. Het biedt ontwikkelaars een vereenvoudigde interface om projecten te ontwikkelen op Hugging Face, GitHub en NVIDIA NGC.

Hiermee kunnen ontwikkelaars hun projecten ontwikkelen, uitvoeren en heen en weer migreren tussen datacenters en lokale machines.

AI ontwricht nu al de manier waarop computerspellen worden ontwikkeld. NVIDIA RTX Remix blaast je favoriete klassieke games nieuw leven in.

De tool legt scènes en elementen in een oudere game vast en verhoogt de resolutie naar 4K. Het verbetert ook texturen en details en maakt het mogelijk om elementen in de game aan te passen.

Deze demo laat zien hoe geweldig sommige van deze oudere spellen eruit kunnen zien na een beetje generatieve AI-magie.

Om bij gaming te blijven, heeft NVIDIA ook de NVIDIA Avatar Cloud Engine (ACE) aangekondigd. Met deze tool kunnen gameontwikkelaars generatieve AI gebruiken om digitale avatars te maken die in de cloud of lokaal op de pc draaien. Deze avatars werken naadloos samen met toepassingen van derden, zoals Unreal Engine 5.

Later deze maand is ook Chat met RTX beschikbaar. Dit maakt gebruik van retrieval-augmented generation (RAG) om een LLM die op een pc draait te verbinden met de gegevens van een gebruiker. Ontwikkelaars zouden dit kunnen gebruiken om toepassingen als persoonlijke assistenten te maken waarbij de lokaal draaiende LLM vragen kan beantwoorden die specifiek zijn voor de gegevens van de gebruiker.

Het tech-evenement CES is nog maar net begonnen, dus we kunnen deze week nog meer spannende aankondigingen van NVIDIA en andere bedrijven verwachten.

Doe mee met de toekomst


SCHRIJF JE VANDAAG NOG IN

Duidelijk, beknopt, uitgebreid. Krijg grip op AI-ontwikkelingen met DailyAI

Eugene van der Watt

Eugene heeft een achtergrond in elektrotechniek en houdt van alles wat met techniek te maken heeft. Als hij even pauzeert van het consumeren van AI-nieuws, kun je hem aan de snookertafel vinden.

×

GRATIS PDF EXCLUSIEF
Blijf voorop met DailyAI

Meld je aan voor onze wekelijkse nieuwsbrief en ontvang exclusieve toegang tot DailyAI's nieuwste eBook: 'Mastering AI Tools: Your 2024 Guide to Enhanced Productivity'.

* Door u aan te melden voor onze nieuwsbrief accepteert u onze Privacybeleid en onze Algemene voorwaarden