Lunedì Tesla accenderà il suo nuovo supercomputer $300M, dando così impulso al suo programma di guida autonoma (FSD).
L'approccio che Tesla sta adottando con la sua tecnologia di guida autonoma richiederà molta potenza di calcolo.
Elon Musk ha fatto una dimostrazione dal vivo dell'FSD V12 di Tesla qualche giorno fa e, sebbene si sia comportato molto bene, ci sono stati alcuni problemi. Il sistema è ancora in fase beta e rappresenta una soluzione ambiziosa per i veicoli a guida autonoma, in quanto si basa esclusivamente sulle telecamere senza l'ausilio di sensori radar o lidar.
In un tweet, Musk ha dichiarato: "Ciò che è sbalorditivo è che la potenza di calcolo dell'inferenza necessaria per 8 telecamere che funzionano a 36 FPS è solo di circa 100W sul computer AI progettato da Tesla. Questa misera quantità di potenza è sufficiente per ottenere una guida sovrumana!".
Questo può essere vero per quanto riguarda la potenza di calcolo richiesta nel veicolo, ma è possibile solo una volta che l'IA è stata addestrata correttamente.
Musk ha spiegato la necessità dell'investimento informatico di Tesla affermando che "per raggiungere una guida sovrumana con l'IA sono necessari miliardi di dollari all'anno di calcolo e archiviazione dei dati per l'addestramento, oltre a un gran numero di chilometri percorsi".
Ed è qui che interviene il nuovo supercomputer di Tesla. Il computer è composto da 10.000 GPU Nvidia H100. Questo lo rende uno dei supercomputer più potenti al mondo.
Tesla ha attualmente 4 milioni di auto in circolazione in grado di arricchire il suo set di dati di addestramento, con 10 milioni previsti in pochi anni. Si tratta di un sacco di video da analizzare.
Tim Zaman, uno dei responsabili dell'AI Engineering di Tesla, ha dichiarato: "Grazie all'addestramento video nel mondo reale, potremmo avere i più grandi dataset di addestramento al mondo, con una capacità di cache hot tier superiore a 200PB - ordini di grandezza superiori agli LLM".
Il nuovo computer Tesla fornirà 340 FP64 PFLOPS per il calcolo tecnico e 39,58 INT8 ExaFLOPS per le applicazioni di intelligenza artificiale.
Se questi numeri non significano molto per voi, queste cifre sono migliori di Leonardo, che è quarto nella lista dei migliori supercomputer del mondo.
Nvidia non riesce a tenere il passo
Le GPU H100 di Nvidia eseguono l'addestramento dell'intelligenza artificiale fino a 9 volte più velocemente dei processori A100 che Tesla ha utilizzato fino a questo momento. E non è ancora sufficiente per le esigenze di Tesla.
Allora perché non acquistano semplicemente altre GPU? Perché Nvidia non ha la capacità di fornirle abbastanza velocemente.
Ma Tesla non sta aspettando che Nvidia aumenti la sua produzione. Negli ultimi anni ha costruito un proprio supercomputer, Dojo, basato su chip progettati internamente da Tesla.
Dojo dovrebbe entrare in funzione verso la fine del 2024 e sarà ancora più potente del cluster Nvidia di Tesla.
Fonte: Tesla
Essere il responsabile della produzione di Nvidia deve essere un lavoro difficile in questo momento, vista l'insaziabile domanda di GPU di Nvidia.
È interessante notare che Musk ha dichiarato: "Francamente... se loro (NVIDIA) ci fornissero un numero sufficiente di GPU, forse non avremmo bisogno di Dojo".
Tendiamo a pensare a Tesla come a un'azienda di auto elettriche, ma sempre più spesso sembra che sia in realtà un'azienda di supercomputing AI.
Sarà interessante vedere come l'aumento esponenziale della potenza di calcolo alimenterà le ambizioni di Musk sia con Tesla che con il suo progetto xAI.
