Le laboratoire d'IBM Research à Almaden, en Californie, a annoncé son prototype de puce NorthPole qui pourrait faire de l'IA en périphérie une réalité plus tôt que prévu.
L'exécution de modèles d'intelligence artificielle nécessite beaucoup de traitement et d'énergie. Les annonces quasi hebdomadaires d'appareils plus rapides et plus puissants semblent incessantes, mais une limite stricte se rapproche. Le pôle Nord d'IBM peut aider les ingénieurs à repousser les limites des technologies actuelles.
La loi de Moore stipule que le nombre de transistors dans les circuits intégrés double chaque année, ce qui s'accompagne d'une amélioration des performances. Cette loi a longtemps été valable, mais l'augmentation de la densité s'est ralentie ces derniers temps.
Les lois de la thermodynamique fixent une limite stricte au nombre de transistors que l'on peut faire tenir dans un nanomètre carré, mais c'est l'agencement typique des puces qui, pour l'instant, entrave les performances.
Le "goulot d'étranglement de von Neumann" est le principal responsable du ralentissement et de l'inefficacité des puces. L'architecture de von Neumann fait référence à la disposition typique des puces informatiques, avec la mémoire d'un côté, le traitement de l'autre et un bus de données reliant les deux.
La puce NorthPole est composée de 256 unités de calcul, ou cœurs, chacune contenant sa propre mémoire. Cet hybride de calcul et de mémoire dans la même partie de la puce élimine le besoin de mémoire hors puce.
Comme les données ne doivent pas être transférées de la mémoire au processeur, puis de nouveau à la mémoire, la puce est beaucoup plus rapide et plus économe en énergie.
Conception d'une puce inspirée par le cerveau
Dharmendra Modha, responsable scientifique d'IBM pour l'informatique inspirée par le cerveau, explique que les noyaux sont connectés les uns aux autres d'une manière inspirée des connexions de la matière blanche dans le cortex cérébral du cerveau humain.
IBM a partagé le résultats des tests sur Science.org qui indique que "NorthPole réalise une mesure énergétique 25 fois plus élevée d'images par seconde (FPS) par watt, une mesure spatiale 5 fois plus élevée de FPS par transistor, et une mesure temporelle 22 fois plus faible de latence".
Il s'agit en fait de dire qu'elle consomme beaucoup moins d'énergie, qu'elle est beaucoup plus petite et qu'elle fonctionne beaucoup plus rapidement que les autres puces.
Ce qui rend les premiers résultats d'IBM particulièrement intéressants, c'est que NorthPole a été fabriqué à l'aide d'une technologie de 12 nm. Cela signifie que les transistors de la puce ont une taille de 12 nm. La technologie de pointe actuelle pour la fabrication des puces est déjà réduite à 3 nm.
Lorsque IBM reproduira l'architecture de la puce de NorthPole à ce niveau, la densité de traitement et l'efficacité seront bien supérieures à tout ce que l'industrie a actuellement à sa disposition.
Les progrès réalisés en matière de traitement grâce à des puces plus petites et consommant beaucoup moins d'énergie font de l'IA à la périphérie des applications une perspective alléchante. Les véhicules autonomes et même les appareils portables ou wearables pourraient éventuellement exécuter des modèles d'IA complets sans avoir recours à l'informatique en nuage.
