\u00c4ven om effektiva tekniker och arkitekturer f\u00f6r AI-tr\u00e4ning lovar att minska energif\u00f6rbrukningen har AI-boomen bara b\u00f6rjat, och big tech \u00f6kar investeringarna i resurskr\u00e4vande datacenter och molnteknik.<\/span><\/p>\n I takt med att klimatkrisen f\u00f6rdjupas \u00e4r det viktigare \u00e4n n\u00e5gonsin att hitta en balans mellan tekniska framsteg och energieffektivitet.<\/span><\/p>\n AI:s energif\u00f6rbrukning har \u00f6kat i och med tillkomsten av komplexa, ber\u00e4kningskr\u00e4vande arkitekturer som neurala n\u00e4tverk. <\/span><\/p>\n Till exempel ryktas GPT-4 vara baserad p\u00e5 8 modeller med 220 miljarder parametrar vardera, vilket ger totalt cirka 1,76 biljoner parametrar. Inflection h\u00e5ller f\u00f6r n\u00e4rvarande p\u00e5 att bygga ett kluster av 22.000 avancerade Nvidia-chip<\/a>som kan kosta omkring $550.000.000 till ett ungef\u00e4rligt detaljhandelspris p\u00e5 $25.000 per kort. Och det \u00e4r bara f\u00f6r chipen.\u00a0<\/span><\/p>\n Varje avancerad AI-modell kr\u00e4ver enorma resurser f\u00f6r att tr\u00e4nas, men det har varit sv\u00e5rt att f\u00f6rst\u00e5 den verkliga kostnaden f\u00f6r AI-utveckling fram till nyligen.\u00a0<\/span><\/p>\n A <\/span>2019 \u00e5rs studie<\/span><\/a> fr\u00e5n University of Massachusetts at Amherst unders\u00f6kte resursf\u00f6rbrukningen i samband med Deep Neural Networks (DNN).\u00a0<\/span><\/p>\n Vanligtvis kr\u00e4ver dessa DNN att datavetare manuellt utformar eller anv\u00e4nder Neural Architecture Search (NAS) f\u00f6r att hitta och tr\u00e4na ett specialiserat neuralt n\u00e4tverk fr\u00e5n grunden f\u00f6r varje unikt fall.\u00a0<\/span><\/p>\n Detta tillv\u00e4gag\u00e5ngss\u00e4tt \u00e4r inte bara resurskr\u00e4vande utan har ocks\u00e5 ett betydande koldioxidavtryck. I studien uppt\u00e4cktes att tr\u00e4ning av ett enda stort Transformer-baserat neuralt n\u00e4tverk, byggt med NAS - ett verktyg som ofta anv\u00e4nds vid maskin\u00f6vers\u00e4ttning - genererade cirka 626.000 pund koldioxid. <\/span><\/p>\n Detta motsvarar ungef\u00e4r gasutsl\u00e4ppen fr\u00e5n 5 bilar under hela deras livstid.<\/span><\/p>\n Carlos G\u00f3mez-Rodr\u00edguez, datavetare vid universitetet i A Coru\u00f1a i Spanien, kommenterade studien: \"\u00c4ven om m\u00e5nga av oss f\u00f6rmodligen har t\u00e4nkt p\u00e5 det h\u00e4r p\u00e5 en abstrakt, vag niv\u00e5, visar siffrorna verkligen hur stort problemet \u00e4r\", och tillade: \"Varken jag eller andra forskare som jag har diskuterat dem med trodde att milj\u00f6p\u00e5verkan var s\u00e5 stor.\"<\/span><\/p>\n Energikostnaderna f\u00f6r att tr\u00e4na modellen \u00e4r bara baslinjer - den minsta m\u00e4ngd arbete som kr\u00e4vs f\u00f6r att f\u00e5 en modell i drift.\u00a0<\/span><\/p>\n Som Emma Strubell, doktorand vid University of Massachusetts, s\u00e4ger: \"Att tr\u00e4na en enda modell \u00e4r den minsta m\u00e4ngd arbete du kan g\u00f6ra.\"<\/span><\/p>\n Forskare vid MIT f\u00f6reslog senare en l\u00f6sning p\u00e5 detta problem: den <\/span>\"En g\u00e5ng f\u00f6r alla\"-metoden (OFA)<\/span><\/a>.<\/span><\/p>\n Forskarna <\/span>beskriva fr\u00e5gan<\/span><\/a> med konventionell tr\u00e4ning av neurala n\u00e4tverk: \"Att utforma specialiserade DNN f\u00f6r varje scenario \u00e4r ingenj\u00f6rskr\u00e4vande och ber\u00e4kningsm\u00e4ssigt dyrt, antingen med m\u00e4nniskobaserade metoder eller NAS. Eftersom s\u00e5dana metoder m\u00e5ste upprepa n\u00e4tverksdesignprocessen och tr\u00e4na om det designade n\u00e4tverket fr\u00e5n grunden f\u00f6r varje fall, v\u00e4xer deras totala kostnad linj\u00e4rt n\u00e4r antalet utplaceringsscenarier \u00f6kar, vilket kommer att leda till \u00f6verdriven energif\u00f6rbrukning och koldioxidutsl\u00e4pp.\"<\/span><\/p>\n Med MIT:s OFA-paradigm tr\u00e4nar forskarna ett enda neuralt n\u00e4tverk f\u00f6r allm\u00e4nna \u00e4ndam\u00e5l, fr\u00e5n vilket olika specialiserade undern\u00e4tverk kan skapas. <\/span>OFA-processen kr\u00e4ver ingen ytterligare utbildning f\u00f6r nya undern\u00e4tverk, vilket minskar de energikr\u00e4vande GPU-timmar som beh\u00f6vs f\u00f6r modellutbildning och s\u00e4nker CO2-utsl\u00e4ppen.<\/span><\/p>\n Ut\u00f6ver milj\u00f6f\u00f6rdelarna ger OFA-metoden \u00e4ven betydande prestandaf\u00f6rb\u00e4ttringar. I interna tester presterade modeller som skapats med OFA-metoden upp till 2,6 g\u00e5nger snabbare p\u00e5 edge-enheter (kompakta IoT-enheter) \u00e4n modeller som skapats med NAS.<\/span><\/p>\n MIT:s OFA-metod uppm\u00e4rksammades vid 4th Low Power Computer Vision Challenge 2019 - ett \u00e5rligt evenemang som arrangeras av IEEE och som fr\u00e4mjar forskning f\u00f6r att f\u00f6rb\u00e4ttra energieffektiviteten i system f\u00f6r datorseende (CV). <\/span><\/p>\n MIT-teamet tog hem f\u00f6rstapriset och arrang\u00f6rerna av evenemanget ber\u00f6mde det: \"De h\u00e4r teamens l\u00f6sningar \u00f6vertr\u00e4ffar de b\u00e4sta l\u00f6sningarna i litteraturen.\"<\/span><\/p>\n Den <\/span>2023 Utmaning f\u00f6r datorseende med l\u00e5g effekt<\/span><\/a> tar f\u00f6r n\u00e4rvarande emot bidrag fram till den 4 augusti.\u00a0<\/span><\/p>\n F\u00f6rutom utbildningsmodeller beh\u00f6ver utvecklare enorma molnresurser f\u00f6r att hosta och distribuera sina modeller. <\/span><\/p>\n Stora teknikf\u00f6retag som Microsoft och Google \u00f6kar investeringarna i molnresurser under 2023 f\u00f6r att hantera de \u00f6kande kraven p\u00e5 AI-relaterade produkter.<\/span><\/p>\n Cloud computing och tillh\u00f6rande datacenter har enorma resursbehov. Fr\u00e5n och med 2016, <\/span>f\u00f6reslagna uppskattningar<\/span><\/a> att datacenter v\u00e4rlden \u00f6ver stod f\u00f6r cirka 1% till 3% av den globala elf\u00f6rbrukningen, vilket motsvarar energianv\u00e4ndningen i vissa sm\u00e5 l\u00e4nder.\u00a0<\/span><\/p>\n Datacenters vattenavtryck \u00e4r ocks\u00e5 kolossalt. Stora datacenter kan f\u00f6rbruka miljontals liter vatten varje dag.\u00a0<\/span><\/p>\n 2020 rapporterades det att Googles datacenter i South Carolina fick tillst\u00e5nd att anv\u00e4nda <\/span>549 miljoner liter vatten<\/span><\/a>vilket \u00e4r n\u00e4stan dubbelt s\u00e5 mycket som tv\u00e5 \u00e5r tidigare. Ett datacenter p\u00e5 15 megawatt kan f\u00f6rbruka upp till 360.000 liter vatten per dag.<\/span><\/p>\nEnergiutmaningar f\u00f6r AI<\/span><\/h2>\n
![\"AI:s](\"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/07\/dataconsumption-1024x801.png\")
MIT:s \"en g\u00e5ng f\u00f6r alla\"-strategi<\/span><\/h2>\n
Molntj\u00e4nstens roll f\u00f6r AI:s milj\u00f6p\u00e5verkan<\/span><\/h2>\n