IBM Researchs laboratorium i Almaden, Californien, annoncerede sin prototype på NorthPole-chippen, der kan gøre AI på kanten til en realitet hurtigere end forventet.
At køre AI-modeller kræver en masse behandling og en masse energi. De næsten ugentlige annonceringer af hurtigere, mere kraftfulde enheder virker ubarmhjertige, men der er en hård grænse, der nærmer sig. IBM's nordpol kan hjælpe ingeniører med at skubbe grænsen ud over de nuværende teknologier.
Moores lov siger, at antallet af transistorer i integrerede kredsløb fordobles hvert år med tilhørende forbedringer i ydeevnen. I lang tid holdt den lov, men stigningen i tæthed er aftaget på det seneste.
Termodynamikkens love sætter en hård grænse for, hvor mange transistorer man kan få plads til på en kvadratisk nanometer, men det er det typiske layout af chips, der hæmmer ydeevnen lige nu.
"Von Neumann-flaskehalsen" er den største synder, når det gælder om at gøre chips langsommere og mere ineffektive. Von Neumann-arkitektur henviser til det typiske layout af computerchips med hukommelse på den ene side, processoren på den anden og en databus, der forbinder de to.
NorthPole-chippen består af 256 computerenheder eller kerner, som hver indeholder sin egen hukommelse. Denne hybrid af databehandling og hukommelse i det samme stykke chip eliminerer behovet for hukommelse uden for chippen.
Fordi data ikke skal flyttes fra hukommelsen til processoren og tilbage til hukommelsen igen, er chippen meget hurtigere og mere energieffektiv.
Hjerne-inspireret chip-design
Dharmendra Modha, IBM's chefforsker for hjerneinspireret databehandling, siger, at kernerne er forbundet med hinanden på en måde, der er inspireret af de hvide forbindelser i hjernebarken i den menneskelige hjerne.
IBM delte den testresultater på Science.org som sagde, at "NorthPole opnår en 25 gange højere energimåling af billeder pr. sekund (FPS) pr. watt, en 5 gange højere pladsmåling af FPS pr. transistor og en 22 gange lavere tidsmåling af latenstid."
Man kan sige, at den bruger meget mindre strøm, er meget mindre og arbejder meget hurtigere end andre chips.
Det, der gør IBM's første resultater særligt spændende, er, at NorthPole er fremstillet ved hjælp af 12 nm-teknologi. Det betyder, at transistorerne i chippen er 12 nm store. Den nuværende state-of-the-art chip-produktionsteknologi er allerede nede på 3 nm.
Når IBM reproducerer NorthPoles chiparkitektur på det niveau, vil processortætheden og effektiviteten være langt foran alt andet, som industrien har til rådighed i øjeblikket.
Spring i behandlingen fra chips, der er mindre og bruger meget mindre strøm, gør AI på kanten af applikationer til et fristende perspektiv. Autonome køretøjer og endda håndholdte enheder eller wearables kan i sidste ende køre fulde AI-modeller uden behov for cloud computing.
