NVIDIA:s VD Jensen Huang använde sitt öppningsanförande på Taiwans Computex 2024 för att presentera nästa generations teknik och den färdplan som företaget kommer att följa för att bli den ledande AI-hårdvaruplattformen.
Temat för hans tal var "Accelerate everything" och Huang presenterade nya chip, snabbare AI-nätverk och en ambitiös utvecklingsplan. Från AI-datorer till massiva AI-fabriker - NVIDIA vill vara en möjliggörare för det som kommer härnäst med AI.
"Framtiden för databehandling är accelererad", säger Huang. "Med våra innovationer inom AI och accelererad databehandling flyttar vi fram gränserna för vad som är möjligt och driver på nästa våg av tekniska framsteg."
Här är en snabb titt på några av tillkännagivandena:
Nya chips
Blackwell GPU:erna kommer direkt från produktionslinjen men Huang säger att vi redan nu kan förvänta oss en uppgraderad Blackwell Ultra GPU senare i år. Han sa att NVIDIAs utvecklingsplan kommer att se en ny familj av chips som släpps varje år.
"Vårt företag har en ettårsrytm. Vår grundfilosofi är mycket enkel: bygg hela datacentret i stor skala, dela upp och sälj till dig delar på ett års sikt och pressa allt till teknikens gränser", förklarade Huang.
Huang meddelade att 2026 kommer Rubin-plattformen att ersätta Blackwell-familjen av GPU:er.
AI-fabriker
Huang nämnde flera dataföretag som ska bygga "AI-fabriker" som ska leverera molnbaserade, lokala, inbyggda och avancerade AI-system med hjälp av NVIDIA GPU:er och nätverk.
Huang sa: "Nästa industriella revolution har börjat. Företag och länder samarbetar med NVIDIA för att flytta de traditionella datacentren, som omsätter biljoner dollar, till accelererad databehandling och bygga en ny typ av datacenter - AI-fabriker - för att producera en ny råvara: artificiell intelligens."
NVIDIA MGX (Modular Server Reference Architecture) är en plan för att bygga datacenterservrar som fokuserar på accelererad databehandling. Den använder ett standardiserat tillvägagångssätt för att bygga servrar med NVIDIA-produkter, vilket gör det mycket enklare att bygga dessa AI-fabriker.
NVIDIA Spectrum-X
NVIDIA använder NVLink för att flytta data mellan GPU:er, men att flytta data mellan GPU-pods inom eller mellan datacenter innebär ytterligare en utmaning.
NVIDIA Spectrum-X är världens första Ethernet-nätverksplattform som är särskilt utformad för att förbättra prestandan hos AI-arbetsbelastningar. Naturligtvis är NVIDIA Spectrum-X optimerat för NVIDIAs hårdvara.
NVIDIA säger att Spectrum-X accelererar generativ AI-nätverksprestanda med 1,6x jämfört med traditionella Ethernet-strukturer.
Förra veckan rapporterade vi att stora dataföretag arbetar med att utveckla en öppen standard för accelererade AI-nätverk utan NVIDIA:s medverkan.
Trots detta säger Huang att Spectrum-X redan används av företag som Dell Technologies, Hewlett Packard Enterprise och Lenovo.
NIM
NVIDIA NIM, som står för NVIDIA Inference Microservices, är en uppsättning verktyg som är utformade för att förenkla och påskynda implementeringen av generativa AI-modeller.
Innan du kan använda en AI-modell måste utvecklarna distribuera den. Istället för att behöva hålla på med alla detaljer i den processen förenklar NVIDIA NIM:er distributionen genom att automatiskt containerisera AI-modeller och optimera dem för NVIDIA-hårdvara.
Det är som skillnaden mellan att köpa, hacka och sätta ihop alla ingredienser till en måltid och att sätta in en färdiglagad måltid i ugnen.
Huang meddelade att Llama 3 NIM nu finns tillgänglig som en gratis nedladdning för utvecklare att prova. Huang presenterade också Nvidia Ace NIMs som inkluderar en Digital Human-modell som kan generera AI-mänskliga modeller med verklighetstrogen hud.
Du kan titta på hela presentationen för att se mer information om AI RTX-drivna datorer och bärbara datorer, Nividias robotplattform Isaac ROS 3.0 och hur fabriker använder NVIDIA:s teknik för att skapa digitala tvillingar i sina fabriker för att träna robotar.
