Tesla s'apprête à mettre en marche son nouveau supercalculateur $300M lundi, afin de donner un coup de pouce à son programme de conduite autonome intégrale (FSD).
L'approche adoptée par Tesla pour sa technologie de conduite autonome va nécessiter une grande puissance de calcul.
Elon Musk a fait une démonstration en direct du FSD V12 de Tesla il y a quelques jours, et bien qu'il se soit très bien comporté, il y a eu quelques pépins. Le système, qui est encore en phase bêta, est une approche ambitieuse de la conduite autonome, car il s'appuie uniquement sur des caméras, sans l'aide de radars ou de lidars.
Dans un tweet, Musk a déclaré : "Ce qui est également stupéfiant, c'est que la puissance de calcul d'inférence nécessaire pour 8 caméras fonctionnant à 36FPS n'est que d'environ 100W sur l'ordinateur d'IA conçu par Tesla. Cette petite quantité de puissance est suffisante pour obtenir une conduite surhumaine !"
C'est peut-être vrai en ce qui concerne la puissance de calcul requise dans le véhicule, mais ce n'est possible qu'une fois que l'IA a été correctement entraînée.
Musk a expliqué la nécessité de l'investissement informatique de Tesla en disant que "pour atteindre une conduite surhumaine avec l'IA, il faut des milliards de dollars par an en calcul d'entraînement et en stockage de données, ainsi qu'un grand nombre de kilomètres parcourus".
C'est là qu'intervient le nouveau superordinateur de Tesla. L'ordinateur est composé de 10 000 GPU de calcul Nvidia H100. Cela en fait l'un des superordinateurs les plus puissants au monde.
Tesla dispose actuellement de 4 millions de voitures sur les routes, capables d'enrichir son ensemble de données de formation, et devrait en compter 10 millions d'ici quelques années. Cela fait beaucoup de vidéos à visionner.
Tim Zaman, l'un des responsables de l'ingénierie de l'IA chez Tesla, a déclaré : "Grâce à l'entraînement vidéo dans le monde réel, nous disposons peut-être des plus grands ensembles de données d'entraînement au monde, avec une capacité de cache à chaud de plus de 200 Po, soit plusieurs ordres de grandeur de plus que les LLM."
Le nouvel ordinateur de Tesla fournira 340 FP64 PFLOPS pour le calcul technique et 39,58 INT8 ExaFLOPS pour les applications d'intelligence artificielle.
Si ces chiffres ne vous disent pas grand-chose, ils sont meilleurs que Leonardo, qui occupe la quatrième place sur la liste des meilleurs supercalculateurs du monde.
Nvidia n'arrive pas à suivre
Les GPU H100 de Nvidia effectuent l'apprentissage de l'IA jusqu'à 9 fois plus vite que les processeurs A100 que Tesla utilisait jusqu'à présent. Et ce n'est toujours pas suffisant pour les besoins de Tesla.
Alors pourquoi n'achètent-ils pas simplement plus de GPU ? Parce que Nvidia n'a pas la capacité de les fournir assez rapidement.
Mais Tesla n'attend pas que Nvidia augmente sa production. Depuis quelques années, elle construit son propre superordinateur, Dojo, basé sur des puces qu'elle a conçues en interne.
Dojo devrait être mis en ligne vers la fin de l'année 2024 et sera encore plus puissant que le cluster Nvidia de Tesla.
Source : Tesla
Être directeur de production chez Nvidia doit être un travail difficile en ce moment, compte tenu de la demande insatiable pour les GPU de Nvidia.
Il est intéressant de noter que Musk aurait déclaré : "Franchement, s'ils (NVIDIA) pouvaient nous fournir suffisamment de GPU, nous n'aurions peut-être pas besoin de Dojo".
Nous avons tendance à considérer Tesla comme un constructeur de voitures électriques, mais il semble de plus en plus qu'il s'agisse en fait d'une entreprise de supercalculateurs d'intelligence artificielle.
Il sera intéressant de voir comment l'augmentation exponentielle de la puissance de calcul alimentera les ambitions de Musk, tant pour Tesla que pour son projet xAI.
