Tijdens Google's meest recente vlaggenschip, de I/O-conferentie, heeft het bedrijf zijn Search Generative Experience (SGE), waarmee generatieve AI in Google Search wordt geïntegreerd, nog eens extra onder de aandacht gebracht.
SGE, dat als doel heeft om tegen het einde van 2024 AI-gegenereerde antwoorden naar meer dan een miljard gebruikers te brengen, vertrouwt op Gemini, Google's familie van grote taalmodellen (LLM's), om mensachtige antwoorden op zoekopdrachten te genereren.
In plaats van een traditionele Google-zoekopdracht, waarbij voornamelijk links worden weergegeven, krijg je een door AI gegenereerde samenvatting te zien naast andere resultaten.
Dit "AI-overzicht" is bekritiseerd vanwege het verstrekken van onzin-informatieen Google werkt snel aan oplossingen voordat het met de massale uitrol begint.
Maar afgezien van het advies om lijm op pizza's te doen en te zeggen dat pythons zoogdieren zijn, is er nog een ander probleem met Google's nieuwe AI-gestuurde zoekstrategie: de ecologische voetafdruk.
Waarom SGE veel middelen vergt
Terwijl traditionele zoekmachines simpelweg bestaande informatie van het internet halen, moeten generatieve AI-systemen zoals SGE voor elke zoekopdracht volledig nieuwe inhoud creëren.
Dit proces vereist veel meer rekenkracht en energie dan conventionele zoekmethoden.
Naar schatting worden er dagelijks tussen de 3 en 10 miljard Google-zoekopdrachten uitgevoerd. De impact van het toepassen van AI op zelfs maar een klein percentage van deze zoekopdrachten kan ongelooflijk zijn.
Sasha Luccioni, een onderzoeker bij het AI-bedrijf Hugging Face die de impact van deze technologieën op het milieu bestudeert, besprak onlangs de sterke toename in energieverbruik die SGE zou kunnen veroorzaken.
Luccioni en haar team schatten dat het genereren van zoekinformatie met AI 30 keer zoveel energie kan kosten als een conventionele zoekopdracht.
"Het is gewoon logisch, toch? Terwijl een alledaagse zoekopdracht bestaande gegevens van het internet vindt, moeten toepassingen zoals AI-overzichten geheel nieuwe informatie creëren," vertelde ze aan Scientific American.
In 2023 ontdekten Luccioni en haar collega's dat het trainen van de LLM BLOOM broeikasgassen uitstootte die overeenkomen met 19 kilogram CO2 per gebruiksdag, of de hoeveelheid die wordt gegenereerd door 49 mijl te rijden in een gemiddelde auto die op gas rijdt. Ze ontdekten ook dat het genereren van slechts twee afbeeldingen met AI kan evenveel energie verbruiken als het volledig opladen van een gemiddelde smartphone.
Eerdere studies schatten dat de CO2-uitstoot die gepaard gaat met het trainen van een AI-model hoger zou kunnen zijn dan de uitstoot van honderden commerciële vluchten of de gemiddelde auto gedurende zijn levensduur.
In een interview met Reuters vorig jaarJohn Hennessy, voorzitter van Google's moederbedrijf Alphabet, heeft zelf toegegeven dat er hogere kosten zijn verbonden aan AI-gebaseerd zoeken.
"Een uitwisseling met een groot taalmodel kan tien keer meer kosten dan een traditionele zoekopdracht," stelde hij, hoewel hij voorspelde dat de kosten zullen dalen naarmate de modellen verder worden verfijnd.
AI-zoekopdrachten belasten infrastructuur en middelen
Datacenters met AI-servers zullen hun energieverbruik naar verwachting verdubbelen in 2026, waarbij mogelijk net zoveel energie wordt verbruikt als in datacenters met AI-servers. macht als klein land.
Met chipfabrikanten als NVIDIA die grotere, krachtigere chips uitrollen, zou het binnenkort wel eens de equivalent van meerdere kerncentrales om grootschalige AI-workloads uit te voeren.
Als AI-bedrijven reageren op vragen over hoe dit kan worden volgehouden, noemen ze meestal de toegenomen efficiëntie en capaciteit van hernieuwbare energiebronnen en de verbeterde energie-efficiëntie van AI-hardware.
De overgang naar hernieuwbare energiebronnen voor datacenters blijkt echter langzaam en complex te verlopen.
Shaolei Ren, een computeringenieur aan de University of California, Riverside, die onderzoek doet naar duurzame AI, legt uit: "Er is een mismatch tussen vraag en aanbod voor hernieuwbare energie. De intermitterende aard van de productie van hernieuwbare energie komt vaak niet overeen met de constante, stabiele stroom die datacenters nodig hebben."
Door deze mismatch worden centrales op fossiele brandstoffen langer dan gepland in bedrijf gehouden in gebieden met veel technologische infrastructuur.
Een andere oplossing voor energieproblemen ligt in energie-efficiënte AI-hardware. NVIDIA's nieuwe Blackwell chip is vele malen energiezuiniger dan zijn voorgangers, en andere bedrijven zoals Delta werken aan efficiënte datacenterhardware.
Rama Ramakrishnan, een professor aan de MIT Sloan School of Management, legt uit dat het aantal zoekopdrachten via LLM's waarschijnlijk zal toenemen, maar dat de kosten per zoekopdracht lijken te dalen omdat bedrijven werken aan het efficiënter maken van hardware en software.
Maar zal dat genoeg zijn om de toenemende vraag naar energie te compenseren? "Het is moeilijk te voorspellen," zegt Ramakrishnan. "Mijn gok is dat het waarschijnlijk zal stijgen, maar waarschijnlijk niet dramatisch."
Nu de AI-race steeds sneller gaat, is het noodzakelijk geworden om de gevolgen voor het milieu te beperken. Noodzaak is de moeder van de uitvinding en techbedrijven staan onder druk om oplossingen te bedenken om het momentum van AI op gang te houden.
Energie-efficiënte hardware, hernieuwbare energiebronnen en zelfs fusie-energie kan de weg banen naar een duurzamere toekomst voor AI, maar de reis is bezaaid met onzekerheid.
SGE kan ook de watervoorraden belasten
We kunnen ook speculeren over de vraag naar water die wordt gecreëerd door SGE, wat een afspiegeling zou kunnen zijn van de enorme toename in het waterverbruik van datacenters die wordt toegeschreven aan de generatieve AI-industrie.
Volgens recente milieurapporten van Microsoft heeft het waterverbruik omhooggeschoten tot 50% in sommige regio's, waarbij het waterverbruik van het datacenter in Las Vegas sinds 2022 is verdubbeld. De rapporten van Google registreerden ook een stijging van 20% in datacenterwaterverbruik in 2023 vergeleken met 2022.
Ren schrijft het grootste deel van deze groei toe aan AI en zegt: "Het is eerlijk om te zeggen dat het grootste deel van de groei te danken is aan AI, inclusief Microsofts grote investering in generatieve AI en samenwerking met OpenAI."
Ren schat dat elke interactie met ChatGPT, bestaande uit 5 tot 50 prompts, maar liefst 500 ml water verbruikt.
In een papier gepubliceerd in 2023, schreef het team van Ren: "De wereldwijde AI-vraag kan verantwoordelijk zijn voor 4,2 - 6,6 miljard kubieke meter wateronttrekking in 2027, wat meer is dan de totale jaarlijkse wateronttrekking van 4 - 6 Denemarken of de helft van het Verenigd Koninkrijk."
Met behulp van Ren's onderzoek kunnen we enkele berekeningen maken over hoe Google's SGE in deze voorspellingen zou kunnen passen.
Laten we zeggen dat Google wereldwijd gemiddeld 8,5 miljard zoekopdrachten per dag verwerkt. Ervan uitgaande dat zelfs maar een fractie van deze zoekopdrachten, zeg 10%, SGE gebruiken en AI-gestuurde antwoorden genereren met een gemiddelde van 50 woorden per antwoord, zou het waterverbruik fenomenaal kunnen zijn.
Met behulp van Ren's schatting van 500 milliliter water per 5 tot 50 prompts (zeg, een enkele sessie op Google SGE), kunnen we ruwweg berekenen dat 850 miljoen zoekopdrachten op basis van SGE (10% van Google's dagelijkse zoekopdrachten) ongeveer 425 miljoen liter water per dag zouden verbruiken.
Dit komt overeen met de dagelijks waterverbruik van een stad met meer dan 2,5 miljoen inwoners.
In werkelijkheid kan het werkelijke waterverbruik variëren afhankelijk van factoren zoals de efficiëntie van de datacenters van Google en de specifieke implementatie en schaal van SGE.
Desondanks is het heel redelijk om te speculeren dat SGE en andere vormen van AI-zoeken het gebruik van AI's bronnen verder zullen opdrijven.
Zullen wereldwijde AI-ervaringen zoals SGE duurzaam zijn op grote schaal? Er spelen tal van factoren mee, maar het zal geen makkie worden.
