Big Tech-företag inom databehandling har bildat ett konsortium för att definiera en ny öppen standard för sammankoppling av AI-acceleratorer. NVIDIA bjöds inte in att delta i gruppen, trots att företaget är den överlägset största leverantören av GPU:er för AI.
Datacenter för artificiell intelligens måste kunna flytta stora mängder data med mycket låg latens. Databehandling med hög bandbredd på GPU:er sker extremt snabbt, men utmaningen är att överföra data inom och mellan kluster av dessa AI-acceleratorer inom datacenter.
NVIDIA skapade NVLinkNVLink är en egenutvecklad höghastighetskoppling som är särskilt utformad för kommunikation mellan GPU:er. Problemet är att NVLink är proprietärt, så det fungerar bara med NVIDIA GPU:er.
AMD, Broadcom, Cisco, Google, Hewlett Packard Enterprise (HPE), Intel, Meta och Microsoft meddelade att de har bildat Ultra Accelerator Link Promoter Group. Gruppen har som mål att definiera och främja en öppen standard som kallas Ultra Accelerator Link, eller UALink.
Tanken är att UALink ska antas av branschen som standardlösning för dataöverföring med hög bandbredd och låg latens mellan AI-acceleratorer i datacenter.
Liknande ansträngningar för att standardisera protokoll har tidigare varit avgörande för teknikindustrin. Eftersom vi har öppna standarder som PCI-bussen, Ethernet eller TCP/IP kan hård- och mjukvara från olika tillverkare anslutas till varandra.
Detta kan vara en del av anledningen till att NVIDIA inte var inbjudna till festen. Om konsortiet av teknikföretag kan enas om en öppen nätverksstandard för industrin som inte påverkas av NVIDIA:s teknik kan det bidra till att bryta det nära monopol som NVIDIA verkar ha.
AMD och Intel är direkta konkurrenter till NVIDIA på GPU-marknaden, och både Microsoft och Google utvecklar egen AI-hårdvara.
"En branschspecifikation blir avgörande för att standardisera gränssnittet för AI och maskininlärning, HPC (high-performance computing) och molnapplikationer för nästa generations AI-datacenter och implementeringar", säger konsortiet i ett uttalande.
Version 1.0 av UALink förväntas vara klar under Q3 2024 och kommer att göras tillgänglig för företag som ansluter sig till Ultra Accelerator Link (UALink)-konsortiet.
Att NVIDIA inte finns med behöver inte betyda att de är permanent uteslutna. Konsortiet kan besluta att välkomna dem i framtiden, och NVIDIA kan välja att anta UALink om det finns en utbredd acceptans i branschen.
