IBM Researchs laboratorium i Almaden, Kalifornien, presenterade sin prototyp av NorthPole-chipet som kan göra AI på kanten till verklighet tidigare än väntat.
Att köra AI-modeller kräver mycket bearbetning och mycket energi. De nästan veckovisa tillkännagivandena av snabbare, kraftfullare enheter verkar obevekliga, men det finns en hård gräns som närmar sig. IBM:s norra stolpe kan hjälpa ingenjörer att tänja på gränserna för dagens teknik.
Moores lag säger att antalet transistorer i integrerade kretsar fördubblas varje år, med åtföljande prestandaförbättringar. Under lång tid gällde den lagen, men på senare tid har ökningen av densiteten avtagit.
Termodynamikens lagar sätter en hård gräns för hur många transistorer som kan rymmas på en kvadratisk nanometer, men det är den typiska layouten på chip som hämmar prestandan för närvarande.
"Von Neumann-flaskhalsen" är den största boven i dramat när det gäller att göra datachip långsammare och mer ineffektiva. Von Neumann-arkitekturen avser den typiska layouten för datachip med minne på ena sidan, bearbetning på den andra och en databuss som förbinder de två.
NorthPole-chipet består av 256 beräkningsenheter, eller kärnor, som var och en innehåller sitt eget minne. Denna hybrid av beräkning och minne i samma chip eliminerar behovet av minne utanför chippet.
Eftersom data inte behöver flyttas från minnet till processorn och tillbaka till minnet igen, är chipet mycket snabbare och mer energieffektivt.
Hjärninspirerad chipdesign
Dharmendra Modha, IBM:s chefsforskare för hjärninspirerade datorsystem, säger att kärnorna är kopplade till varandra på ett sätt som inspirerats av kopplingarna mellan vit materia i hjärnbarken i den mänskliga hjärnan.
IBM delade med sig av testresultat på Science.org där det stod att "NorthPole uppnår en 25 gånger högre energimätning av bilder per sekund (FPS) per watt, en 5 gånger högre rymdmätning av FPS per transistor och en 22 gånger lägre tidsmätning av latens".
Det betyder i princip att den använder mycket mindre ström, är mycket mindre och arbetar mycket snabbare än andra chip.
Det som gör IBM:s första resultat extra spännande är att NorthPole tillverkades med 12 nm-teknik. Det innebär att transistorerna i chippet är 12 nm stora. Dagens toppmoderna teknik för chiptillverkning är redan nere i 3 nm.
När IBM reproducerar NorthPoles chiparkitektur på den nivån kommer processdensiteten och effektiviteten att ligga långt före allt annat som industrin för närvarande har tillgängligt.
Framsteg inom bearbetning från chip som är mindre och använder mycket mindre ström gör AI i kantapplikationer till ett lockande perspektiv. Autonoma fordon och till och med handhållna enheter eller wearables skulle så småningom kunna köra fullständiga AI-modeller utan behov av molnbaserad databehandling.
