Big Tech-dataselskaper har dannet et konsortium for å definere en ny åpen standard for sammenkobling av AI-akseleratorer. NVIDIA ble ikke invitert til å delta i gruppen, selv om selskapet er den desidert største leverandøren av GPU-er for kunstig intelligens.
AI-datasentre må flytte enorme datamengder med svært lav ventetid. Databehandling med høy båndbredde på GPU-er skjer ekstremt raskt, men utfordringen er å overføre data innenfor og mellom klynger av disse AI-akseleratorene i datasentrene.
NVIDIA opprettet NVLinkNVLink er NVIDIAs egenutviklede høyhastighetskobling som er spesielt utviklet for kommunikasjon mellom GPU-ene. Problemet er at NVLink er proprietært, så det fungerer bare med NVIDIA GPUer.
AMD, Broadcom, Cisco, Google, Hewlett Packard Enterprise (HPE), Intel, Meta og Microsoft kunngjorde at de har dannet Ultra Accelerator Link Promoter Group. Gruppen har som mål å definere og fremme en åpen standard kalt Ultra Accelerator Link, eller UALink.
Tanken er at UALink skal bli tatt i bruk av bransjen som standardløsning for dataoverføring med høy båndbredde og lav latenstid mellom AI-akseleratorer i datasentre.
Lignende arbeid for å standardisere protokoller har vært avgjørende for teknologibransjen tidligere. Fordi vi har åpne standarder som PCI-bussen, Ethernet eller TCP/IP, kan maskin- og programvare fra ulike produsenter kobles til hverandre.
Dette kan være noe av grunnen til at NVIDIA ikke ble invitert til festen. Hvis konsortiet av teknologiselskaper kan bli enige om en åpen bransjestandard for nettverk som ikke er påvirket av NVIDIAs teknologi, kan det bidra til å bryte det nesten-monopolet NVIDIA ser ut til å ha.
AMD og Intel er direkte konkurrenter til NVIDIA i GPU-markedet, og både Microsoft og Google utvikler sin egen AI-maskinvare.
"En bransjespesifikasjon blir avgjørende for å standardisere grensesnittet for AI og maskinlæring, HPC (high-performance computing) og skyapplikasjoner for neste generasjon AI-datasentre og -implementeringer", sier konsortiet i en uttalelse.
Versjon 1.0 av UALink forventes å være klar innen 3. kvartal 2024 og vil bli gjort tilgjengelig for selskaper som blir med i Ultra Accelerator Link (UALink)-konsortiet.
Fraværet av NVIDIA betyr ikke nødvendigvis at de er permanent ekskludert. Konsortiet kan bestemme seg for å ønske dem velkommen i fremtiden, og NVIDIA kan velge å ta i bruk UALink hvis det er bred aksept i bransjen.
