Il laboratorio IBM Research di Almaden, in California, ha annunciato il prototipo di chip NorthPole che potrebbe rendere l'IA on the edge una realtà prima del previsto.
L'esecuzione di modelli di intelligenza artificiale richiede molta elaborazione e molta energia. Gli annunci quasi settimanali di dispositivi più veloci e più potenti sembrano inarrestabili, ma si sta avvicinando un limite difficile da raggiungere. Il Polo Nord di IBM può aiutare gli ingegneri a superare i limiti delle tecnologie attuali.
La legge di Moore afferma che il numero di transistor nei circuiti integrati raddoppia ogni anno, con relativi miglioramenti delle prestazioni. Per molto tempo questa legge è stata valida, ma negli ultimi tempi l'aumento della densità è rallentato.
Le leggi della termodinamica pongono un limite rigido al numero di transistor che si possono inserire in un nanometro quadrato, ma è la tipica disposizione dei chip che per ora ostacola le prestazioni.
Il "collo di bottiglia di von Neumann" è il principale responsabile del rallentamento e dell'inefficienza dei chip. L'architettura di Von Neumann si riferisce al tipico layout dei chip per computer, con la memoria su un lato, l'elaborazione sull'altro e un bus dati che collega i due.
Il chip NorthPole è composto da 256 unità di calcolo, o core, ognuna delle quali contiene la propria memoria. Questo ibrido di calcolo e memoria nello stesso pezzo di chip elimina la necessità di memoria fuori dal chip.
Poiché i dati non devono essere spostati dalla memoria al processore e di nuovo alla memoria, il chip è molto più veloce e più efficiente dal punto di vista energetico.
Progettazione di chip ispirati al cervello
Dharmendra Modha, scienziato capo di IBM per il brain-inspired computing, afferma che i nuclei sono collegati tra loro in un modo che si ispira alle connessioni della materia bianca nella corteccia cerebrale del cervello umano.
IBM ha condiviso il I risultati dei test su Science.org che ha dichiarato che "NorthPole raggiunge una metrica energetica 25 volte superiore di fotogrammi al secondo (FPS) per watt, una metrica spaziale 5 volte superiore di FPS per transistor e una metrica temporale 22 volte inferiore di latenza".
In pratica si dice che consuma molta meno energia, è molto più piccolo e funziona molto più velocemente di altri chip.
Ciò che rende i risultati iniziali di IBM particolarmente entusiasmanti è che NorthPole è stato realizzato con tecnologia a 12 nm. Ciò significa che i transistor del chip sono grandi 12 nm. L'attuale tecnologia di produzione di chip all'avanguardia è già scesa a 3 nm.
Quando IBM riprodurrà l'architettura dei chip NorthPole a quel livello, la densità di elaborazione e l'efficienza saranno di gran lunga superiori a tutto ciò che l'industria ha attualmente a disposizione.
I progressi nell'elaborazione da parte di chip più piccoli e che consumano molta meno energia rendono le applicazioni AI on the edge una prospettiva allettante. I veicoli autonomi e persino i dispositivi portatili o gli indossabili potrebbero eseguire modelli di IA completi senza bisogno di cloud computing.
