Tesla kommer att slå på strömbrytaren på sin nya $300M superdator på måndag för att öka sitt fullständiga självkörningsprogram (FSD).
Det tillvägagångssätt som Tesla tar med sin självkörande teknik kommer att kräva mycket datorkraft.
Elon Musk gjorde en live demo av Teslas FSD V12 för några dagar sedan, och även om det fungerade riktigt bra, fanns det några problem. Systemet är fortfarande i beta och är ett ambitiöst sätt att ta sig an självkörande fordon eftersom det enbart förlitar sig på kameror utan hjälp från radar- eller lidarsensorer.
I en tweet sa Musk: "Det som också är häpnadsväckande är att den inferensberäkningskraft som behövs för 8 kameror som körs med 36FPS bara är cirka 100W på den Tesla-designade AI-datorn. Denna ynka mängd kraft räcker för att uppnå övermänsklig körning!"
Det må vara sant när det gäller den datorkraft som krävs i fordonet, men det är bara möjligt när AI:n har utbildats ordentligt.
Musk förklarade behovet av Teslas datainvestering genom att säga att "att nå övermänsklig körning med AI kräver miljarder dollar per år för träningsberäkning och datalagring, samt ett stort antal körda mil."
Och det är där Teslas nya superdator kommer in i bilden. Datorn består av 10 000 Nvidia H100 compute GPU:er. Det gör den till en av de mest kraftfulla superdatorerna i världen.
Tesla har för närvarande 4 miljoner bilar på vägarna som kan lägga till sin träningsdataset med 10 miljoner förväntade inom några år. Det är en hel del video att gå igenom.
Tim Zaman, en av Teslas AI Engineering-chefer, sa: "På grund av videoträning i verkligheten kan vi ha de största träningsdataseten i världen, hot tier cache-kapacitet över 200 PB - storleksordningar mer än LLM."
Teslas nya dator kommer att leverera 340 FP64 PFLOPS för tekniska beräkningar och 39,58 INT8 ExaFLOPS för AI-applikationer.
Om dessa siffror inte betyder så mycket för dig, så är de bättre än Leonardo, som ligger på fjärde plats på listan över världens bästa superdatorer.
Nvidia kan inte hänga med
Nvidias H100 GPU:er utför AI-träning upp till 9 gånger snabbare än de A100-processorer som Tesla har använt fram till nu. Och det är fortfarande inte tillräckligt för Teslas behov.
Så varför köper de inte bara fler GPU: er? För att Nvidia inte har kapacitet att leverera dem tillräckligt snabbt.
Men Tesla väntar inte på att Nvidia ska öka sin produktion. Under de senaste åren har de byggt sin egen superdator, Dojo, baserad på chips som Tesla har designat internt.
Dojo förväntas komma online mot slutet av 2024 och kommer att vara ännu mer kraftfullt än Teslas Nvidia-kluster.
Källa: Tesla
Att vara produktionschef på Nvidia måste vara ett tufft jobb just nu med den omättliga efterfrågan på Nvidias GPU:er.
Intressant nog citerades Musk och sa: "Ärligt talat ... om de (NVIDIA) kunde leverera oss tillräckligt med GPU: er kanske vi inte behöver Dojo."
Vi brukar tänka på Tesla som ett elbilsföretag, men alltmer verkar det som om det faktiskt är ett AI-företag för superdatorer.
Det ska bli intressant att se hur den exponentiella ökningen av datorkraft driver Musks ambitioner med både Tesla och hans xAI-projekt.
