Big Tech-computervirksomheder har dannet et konsortium for at definere en ny åben standard for sammenkobling af AI-acceleratorer. NVIDIA blev ikke inviteret til at være en del af gruppen, selv om de er langt den største leverandør af AI-GPU'er.
AI-datacentre skal flytte enorme mængder data med meget lav latenstid. Databehandling med høj båndbredde på GPU'er sker ekstremt hurtigt, men udfordringen er at overføre data inden for og mellem klynger af disse AI-acceleratorer i datacentre.
NVIDIA skabte NVLinkNVLink er NVIDIAs egen højhastighedsforbindelse, der er specielt designet til kommunikation mellem GPU'erne. Problemet er, at NVLink er proprietært, så det fungerer kun med NVIDIA GPU'er.
AMD, Broadcom, Cisco, Google, Hewlett Packard Enterprise (HPE), Intel, Meta og Microsoft har meddelt, at de har dannet Ultra Accelerator Link Promoter Group. Gruppen har til formål at definere og fremme en åben standard kaldet Ultra Accelerator Link eller UALink.
Ideen er at få UALink vedtaget af branchen som standardløsning for dataoverførsel med høj båndbredde og lav latenstid mellem AI-acceleratorer i datacentre.
Lignende bestræbelser på at standardisere protokoller har tidligere været afgørende for teknologibranchen. Fordi vi har åbne standarder som PCI-bussen, Ethernet eller TCP/IP, kan hardware og software fra forskellige producenter forbindes med hinanden.
Det kan være en af grundene til, at NVIDIA ikke blev inviteret med til festen. Hvis konsortiet af teknologivirksomheder kan blive enige om en åben netværksstandard, der ikke er påvirket af NVIDIA's teknologi, kan det være med til at bryde det næsten-monopol, som NVIDIA ser ud til at have.
AMD og Intel er direkte konkurrenter til NVIDIA på GPU-markedet, og Microsoft og Google er begge i gang med at udvikle deres egen AI-hardware.
"En branchespecifikation bliver afgørende for at standardisere grænsefladen for AI og maskinlæring, HPC (high-performance computing) og cloud-applikationer til den næste generation af AI-datacentre og -implementeringer", siger konsortiet i en udtalelse.
Version 1.0 af UALink forventes at være klar i 3. kvartal 2024 og vil blive stillet til rådighed for virksomheder, der tilslutter sig Ultra Accelerator Link (UALink)-konsortiet.
At NVIDIA ikke er med, betyder ikke nødvendigvis, at de er permanent udelukket. Konsortiet kan beslutte at byde dem velkommen i fremtiden, og NVIDIA kan vælge at adoptere UALink, hvis der er bred accept i branchen.
