Den brittiska regeringen släppte sin rapport "Capabilities and risks from frontier AI" som kommer att ligga till grund för diskussionerna vid det kommande AI Safety Summit.
Rapporten ger en översikt över nuvarande och framtida kapacitet och risker i samband med gränsmodeller. Frontier-modeller är mycket kapabla AI-modeller för allmänna ändamål som kan utföra en mängd olika uppgifter, som GPT-4 eller Llama 2.
Innan rapporten tar upp nuvarande och framtida risker erkänns att AI har potential att förbättra våra liv på många sätt. I rapportens inledning sägs att vi på grund av AI "befinner oss mitt i en teknisk revolution som i grunden kommer att förändra vårt sätt att leva, arbeta och förhålla oss till varandra".
Det är de risker och domedagsscenarier som beskrivs i rapporten som är särskilt intressanta att läsa.
Framtida risker med AI
I rapporten konstateras att "komplexiteten i öppna domäner gör det svårt att utforma säkra system eller att uttömmande utvärdera alla nedströms användningsfall". I grund och botten säger de att AI är ett verktyg ungefär som en penna; du kan få det att fungera bra men kan inte hindra någon från att använda det för att skriva dåliga saker.
De risker som följer av AI:s dubbla användningsområden fyller tiotals sidor i rapporten och får en att undra vad toppmötet kommer att uppnå om 2 dagar.
En anmärkningsvärd risk som tas upp i rapporten är att framtida AI aktivt strävar efter autonomi. I rapporten står det: "Förlusten av kontroll kan påskyndas om AI-system vidtar åtgärder för att öka sitt eget inflytande och minska den mänskliga kontrollen."
Det konstaterades att framtida AI skulle kunna utveckla både förmågan och viljan att göra just detta.
Samtidigt som vi erkänner att vissa experter anser att riskerna med AI har överskattatsavfärdar rapporten inte de mer existentiella hoten.
AI kan snabbt utveckla sjukvård, vetenskap och energi, men vi måste utnyttja den på ett säkert sätt.
Regeringen har publicerat ett diskussionsunderlag om risker och möjligheter med Frontier AI:https://t.co/YIjyZsgcbe
Läs en sammanfattning nedan 👇
(1/4) pic.twitter.com/FJdbKcqk4e- Avdelningen för vetenskap, innovation och teknik (@SciTechgovuk) 26 oktober 2023
Domedagsscenarier för AI
I rapporten står det: "Med tanke på den betydande osäkerheten i att förutse AI-utvecklingen finns det inte tillräckligt med bevis för att utesluta att framtida Frontier AI-system med hög kapacitet, om de är felriktade eller otillräckligt kontrollerade, skulle kunna utgöra ett existentiellt hot."
Det skulle bland annat kunna ske om "människan, i takt med att AI:s kapacitet ökar, ger AI mer kontroll över kritiska system och till slut blir oåterkalleligt beroende av system som hon inte förstår fullt ut".
Om lamporna slocknar och AI är den enda som vet var strömbrytaren sitter kan vi bli sittande i mörkret ett bra tag.
I ett futuristiskt scenario beskrivs vad som i rapporten kallas "AI-vilda västern". I detta scenario, som utspelar sig 2030, "kämpar myndigheterna med volymen och mångfalden av missbruk. Fokus på att hantera de omedelbara effekterna av denna kris har gjort det svårt att nå ett globalt samförstånd om hur man ska hantera frågorna på lång sikt."
Det låter inte som framtiden, det låter som vad som händer just nu. Ett tvådagarstoppmöte kommer sannolikt inte att göra mycket åt de alarmerande risker som beskrivs i denna rapport.
AI Safety Summit bygger på idén att "säker" AI är möjlig om vi bara anstränger oss tillräckligt mycket. Men är den det?
Om ett AGI redan finns i naturen kan det lätt läsa de farhågor som beskrivs i den här rapporten och sedan dölja sin förmåga eller avsikt att spela ut dessa scenarier. Tills det är för sent.
