Big Tech computerbedrijven hebben een consortium gevormd om een nieuwe open standaard te definiëren voor de interconnectie van AI-versnellers. NVIDIA werd niet uitgenodigd om deel uit te maken van de groep, hoewel het veruit de grootste leverancier van AI GPU's is.
AI-datacenters moeten enorme hoeveelheden gegevens verplaatsen met een zeer lage latentie. Gegevensverwerking met hoge bandbreedte op GPU's gebeurt razendsnel, maar de uitdaging is om gegevens binnen en tussen clusters van deze AI-versnellers binnen datacenters te verplaatsen.
NVIDIA creëerde NVLinkNVLink is een eigen hogesnelheidsinterconnector die speciaal is ontworpen voor communicatie tussen de GPU's van NVIDIA. Het probleem is dat NVLink gepatenteerd is, dus het werkt alleen met NVIDIA GPU's.
AMD, Broadcom, Cisco, Google, Hewlett Packard Enterprise (HPE), Intel, Meta en Microsoft hebben aangekondigd dat ze de Ultra Accelerator Link Promoter Group hebben opgericht. De groep heeft als doel het definiëren en promoten van een open standaard genaamd Ultra Accelerator Link, of UALink.
Het idee is om UALink door de industrie te laten adopteren als de standaardoplossing voor gegevensoverdracht met hoge bandbreedte en lage latentie tussen AI-accelerators in datacenters.
Soortgelijke inspanningen om protocollen te standaardiseren zijn in het verleden essentieel geweest voor de technische industrie. Omdat we open standaarden hebben zoals de PCI Bus, Ethernet of TCP/IP, kunnen hardware en software van verschillende fabrikanten met elkaar verbonden worden.
Dit kan een van de redenen zijn waarom NVIDIA niet is uitgenodigd voor het feestje. Als het consortium van technische bedrijven het eens kan worden over een open netwerkstandaard die niet wordt beïnvloed door de technologie van NVIDIA, dan zou dit het bijna-monopolie dat NVIDIA lijkt te hebben kunnen doorbreken.
AMD en Intel zijn directe concurrenten van NVIDIA op de GPU-markt, en Microsoft en Google ontwikkelen allebei hun eigen AI-hardware.
"Een industriespecificatie wordt cruciaal voor het standaardiseren van de interface voor AI en Machine Learning, HPC (high-performance computing) en Cloud-toepassingen voor de volgende generatie AI-datacenters en -implementaties", aldus het consortium in een verklaring.
Versie 1.0 van UALink zal naar verwachting klaar zijn in het derde kwartaal van 2024 en zal beschikbaar worden gesteld aan bedrijven die zich aansluiten bij het Ultra Accelerator Link (UALink) Consortium.
De afwezigheid van NVIDIA betekent niet noodzakelijk dat ze permanent uitgesloten zijn. Het consortium zou kunnen besluiten om ze in de toekomst wel te verwelkomen en NVIDIA zou ervoor kunnen kiezen om UALink te adopteren als er brede acceptatie in de industrie is.
