IBM Researchs laboratorium i Almaden i California kunngjorde prototypen på NorthPole-brikken som kan gjøre AI på kanten til en realitet raskere enn forventet.
Å kjøre AI-modeller krever mye prosessering og mye energi. Nesten ukentlig kommer det stadig nye kunngjøringer om raskere og kraftigere enheter, men det nærmer seg en hard grense. IBMs NorthPole kan hjelpe ingeniører med å flytte grensene for dagens teknologi.
Moores lov sier at antallet transistorer i integrerte kretser fordobles hvert år, med tilhørende forbedringer i ytelse. Denne loven holdt lenge, men økningen i tetthet har avtatt i det siste.
Termodynamikkens lover setter en hard grense for hvor mange transistorer man kan få plass til på en kvadratisk nanometer, men det er den typiske utformingen av brikkene som foreløpig hemmer ytelsen.
"Von Neumann-flaskehalsen" er den største synderen når det gjelder å gjøre databrikker langsommere og mer ineffektive. Von Neumann-arkitektur refererer til den typiske utformingen av databrikker med minne på den ene siden, prosessering på den andre og en databuss som forbinder de to.
NorthPole-brikken består av 256 beregningsenheter, eller kjerner, som hver inneholder sitt eget minne. Denne hybriden av databehandling og minne i samme brikke eliminerer behovet for minne utenfor brikken.
Fordi data ikke trenger å flyttes fra minnet til prosessoren og tilbake til minnet igjen, er brikken mye raskere og mer energieffektiv.
Hjerneinspirert chipdesign
Dharmendra Modha, IBMs sjefforsker for hjerneinspirert databehandling, sier at kjernene er koblet til hverandre på en måte som er inspirert av forbindelsene i den hvite substansen i hjernebarken i menneskehjernen.
IBM delte testresultater på Science.org som sa at "NorthPole oppnår en 25 ganger høyere energimåling av bilder per sekund (FPS) per watt, en 5 ganger høyere plassmåling av FPS per transistor og en 22 ganger lavere tidsmåling av ventetid."
Den bruker mye mindre strøm, er mye mindre og fungerer mye raskere enn andre brikker.
Det som gjør IBMs første resultater spesielt spennende, er at NorthPole er laget ved hjelp av 12 nm-teknologi. Det betyr at transistorene i brikken er 12 nm store. Dagens toppmoderne teknologi for brikkeproduksjon er allerede nede i 3 nm.
Når IBM reproduserer NorthPoles chiparkitektur på dette nivået, vil prosesseringstettheten og effektiviteten være langt foran alt annet som bransjen har tilgjengelig i dag.
Sprang i prosessering fra brikker som er mindre og bruker mye mindre strøm, gjør AI i edge-applikasjoner til et fristende perspektiv. Selvkjørende kjøretøy og til og med håndholdte enheter eller wearables kan etter hvert kjøre fullstendige AI-modeller uten behov for cloud computing.
