IBM har utvecklat ett bioinspirerat chip med potential att göra AI grönare och mer energieffektivt.
När superkraftiga AI-modeller som ChatGPT blir allestädes närvarande i hela samhället har stora teknikrivaler som Google, Microsoft, Meta och nystartade företag som Anthropic och Inflection börjat samla på sig stora mängder datorkraft.
Den hårdvara som krävs för att träna AI är kraftkrävande, vilket bidrar till den redan enorma datacenters miljöpåverkan.
Detta har lett till FoU-ansträngningar för att bygga innovativa AI-chip som klarar tunga arbetsbelastningar med lägre strömförbrukning. Nvidias senaste GH2000-chip har redan uppnått högre energieffektivitet än sina föregångare, och företaget hävdar att det kommer att göra datacenter 12 gånger billigare och använda 20 gånger mindre energi.
IBM:s nytt bioinspirerat analogt chip är modellerad efter den biologiska hjärnan och kommer att vara effektiv i portabla arbetsbelastningar som bilar, telefoner och kameror.
Thanos Vasilopoulos, forskare vid IBM:s forskningslaboratorium i Zürich, berättade för BBC, "Jämfört med traditionella datorer uppnår den mänskliga hjärnan en anmärkningsvärd prestanda med minimal strömförbrukning."
De flesta befintliga chip är digitala och använder binära värden (0 och 1) för datalagring. IBM:s nya chip är annorlunda eftersom det använder analoga komponenter, så kallade memristorer (minnesmotstånd), som kan lagra varierande numeriska värden.
Denna analoga karaktär hos memristorer speglar synaptiska funktioner. Det är inte det första bioinspirerade chipet - ett indiskt forskarlag lyckades utformad en 2022.
Professor. Ferrante Neri från University of Surrey förklarade: "Sammankopplade memristorer kan skapa ett nätverk som speglar en biologisk hjärna."
Även om IBM:s chip i första hand är analogt har det vissa digitala komponenter, vilket säkerställer kompatibilitet med dagens AI-system.
Dessa lättviktschip skulle vara särskilt användbara för prylar, fordon och IoT-hårdvara.
IBM:s nya analoga chip för djupinlärning
IBM:s chip minskar strömförbrukningen samtidigt som de ger imponerande prestanda i ett lättviktigt paket.
Dessa chip är modellerade efter den mänskliga hjärnan, som förbrukar ungefär lika mycket watt som en glödlampa.
Här är de viktigaste punkterna:
- Nuvarande begränsningar för AI-hårdvara: De flesta AI-arkitekturer separerar minne från processorenheter, vilket innebär att de kontinuerligt måste utbyta data mellan de två, vilket saktar ner beräkningen och äventyrar energieffektiviteten.
- Analoga chips: IBM:s metod speglar den mänskliga hjärnans funktioner och använder sig av PCM-minnen (Phase Change Memory), som registrerar sitt tillstånd som ett spektrum av värden i stället för 0 och 1. Detta minskar behovet av dataöverföring mellan minne och processor.
- Den tekniska biten: IBM:s design har 64 analoga beräkningskärnor i minnet, som var och en innehåller en 256 gånger 256 synaptisk matris. Varje kärna kan beräkna ett DNN-modellager (Deep Neural Network). En central digital processorenhet på chipet hanterar andra komplexa operationer.
- Mätning av prestanda: Chipet uppnådde en utmärkt noggrannhet på 92,81% i ett benchmark-test för datorseende (CV). Det är över 15 gånger effektivare än flera befintliga chip.
När dessa bioinspirerade chip har förfinats kommer de att användas tillsammans med digitala chip i hybridarkitekturer. Detta kommer att möjliggöra lätta, energieffektiva AI-system som fortfarande kan hantera tunga arbetsbelastningar.
Så småningom kommer dessa chip att bli tillräckligt lätta för att kunna användas i intelligent autonom teknik, vilket kan leda till en ny generation robotar som går, pratar och interagerar med sin omgivning utan alltför hög strömförbrukning.