Volgens een nieuw rapport van de Information Technology and Innovation Foundation (ITIF) is het verhaal over het uit de hand gelopen energieverbruik van AI overdreven en vaak misleidend.
De ITIF, een denktank zonder winstoogmerk, heeft een rapport uitgebracht met de titel "Rethinking Concerns About AI's Energy Use" (De bezorgdheid over het energieverbruik van AI heroverwegen) en presenteert een realiteitscheck voor alarmerende uitspraken over AI-energie en CO2-uitstoot.
Het verslag merkte op dat dramatische krantenkoppen over het energieverbruik van nieuwe technologieën geen nieuw fenomeen zijn. Toen het dot-com tijdperk in de jaren 90 zijn hoogtepunt bereikte, beweerde een artikel in Forbes: "Ergens in Amerika wordt een brok steenkool verbrand elke keer als er online een boek wordt besteld."
Het rapport, dat alom werd geciteerd, beweerde verder dat "de helft van het elektriciteitsnet de digitale interneteconomie zal voeden binnen het volgende decennium".
We weten nu dat die schattingen sterk overdreven waren. Het Internationaal Energieagentschap (IEA) schat dat de datacenters en transmissienetwerken die het internet van stroom voorzien tussen de 1-1,5% van het wereldwijde elektriciteitsverbruik gebruiken.
We hebben eerder bericht over de enorme water- en energiebronnen die worden verbruikt door het trainen van AI-modellen en tijdens inferentie, maar het ITIF-rapport helpt om onze aanvankelijke paniekerige reactie een beetje gezond te maken.
Feiten vs Fictie
Het is een uitdaging om accurate cijfers te geven over de uitstoot en het energieverbruik van AI. Naast CPU-verwerkingskracht zijn er de energiebronnen die worden toegeschreven aan chipfabricage, koeling, variabele werkbelasting, enzovoort...
Dit maakt het moeilijk om een nauwkeurig cijfer te krijgen en gemakkelijk om een geloofwaardig alarmcijfer te presenteren.
In 2019 schatten onderzoekers van de Universiteit van Massachusetts Amherst dat het trainen van Google's BERT-model 1.438 pond kooldioxide (CO2) zou hebben uitgestoten gedurende 79 uur training. Dat is ongeveer 75% van de CO2-uitstoot van een retourvlucht van New York naar San Francisco.
Ze schatten ook dat als, hypothetisch gezien, een model als BERT zou worden getraind voor neural architecture search (NAS), een van de meest rekenkundig complexe problemen in machinaal leren, het 626.155 pond CO2 zou uitstoten.
Dat is het equivalent van ongeveer 300 retourvluchten van de oost- naar de westkust van de VS. Raad eens welk uitstootcijfer de krantenkoppen haalde.
Tot overmaat van ramp bleek dat de schatting van de onderzoekers in dat worst-case NAS-scenario een factor 88 te hoog was ingeschat. Het zal niemand verbazen dat de correctie op het rapport het nieuws niet haalde.
Critici speculeren dat de snelle adoptie van #AI gecombineerd met een toename in de grootte van deep learning-modellen zal leiden tot een enorme toename in 1TP5Energie gebruik met een mogelijk verwoestende impact op het milieu. Maar is dat waar? https://t.co/GHayfR4GTf
- Stichting Informatie Technologie en Innovatie (@ITIFdc) 4 februari 2024
Het wordt beter, niet slechter
Ja, AI-modellen trainen en vooral inferentie, gebruikt veel energie. Het rapport merkte echter op dat efficiëntieverbeteringen in AI-modellen en hardware het energieverbruik na verloop van tijd zullen terugdringen.
Hier volgt een korte versie van de redenen die in het rapport worden gegeven:
- Aangezien de incrementele snelheid van verbetering in AI-modellen vertraagt, zullen ontwikkelaars zich richten op het efficiënter maken van modellen om ze economisch levensvatbaar te maken.
- AI-chips worden steeds efficiënter. Tussen 2010 en 2018 was er een toename van 550 procent in compute instances en een toename van 2400 procent in opslagcapaciteit in wereldwijde datacenters, maar slechts een toename van 6 procent in het wereldwijde energieverbruik van datacenters.
- Er moet rekening worden gehouden met de substitutie-effecten van AI. Een boek downloaden is milieuvriendelijker dan een boek printen en bezorgen. Op vergelijkbare wijze kan AI taken elimineren die meer koolstof uitstoten. Mensen stoten veel meer koolstof uit bij het typen van een pagina tekst dan wanneer een AI die tekst genereert.
- Het vermogen van AI om nutsvoorzieningen efficiënter te maken, complexe gegevens over klimaatverandering te verwerken, precisielandbouw mogelijk te maken en de logistiek te optimaliseren, vermindert allemaal de CO2-uitstoot.
Volgens het rapport is het energieverbruik van AI minder alarmerend dan wordt gerapporteerd, maar er wordt wel opgeroepen tot standaarden voor energietransparantie voor AI-modellen om benchmarking gemakkelijker te maken.
De ITIF concludeerde ook dat AI-modellen door overmatige regulering mogelijk minder energie-efficiënt worden, omdat debiasingtechnieken voor LLM's meer energiekosten met zich meebrengen.
Het rapport is de moeite waard om in zijn geheel te lezen. Het bevat meer uitstekende voorbeelden die duidelijk maken hoe die tegenover het versnellen van AI ontwikkeling gebruiken misleidende gegevens over energieverbruik om hun zaak te bepleiten.
Het eindigde met een verwijzing naar een columnist in The Guardian die de in diskrediet gebrachte BERT-studie uit 2019 herhaalde in december 2023, twee jaar nadat was aangetoond dat deze onjuist en misleidend was. Het probleem gaat niet weg.
Geloof niet alles wat technofoben beweren. Reizen met de trein zal het menselijk lichaam niet vernietigen, het internet verbruikt niet het grootste deel van onze elektriciteit en AI zal waarschijnlijk het milieu niet vernietigen.
