{"id":1659,"date":"2023-06-13T21:32:01","date_gmt":"2023-06-13T21:32:01","guid":{"rendered":"https:\/\/dailyai.com\/?p=1659"},"modified":"2024-03-28T00:48:07","modified_gmt":"2024-03-28T00:48:07","slug":"navigating-the-labyrinth-of-ai-risks-an-analysis","status":"publish","type":"post","link":"https:\/\/dailyai.com\/sv\/2023\/06\/navigating-the-labyrinth-of-ai-risks-an-analysis\/","title":{"rendered":"Att navigera i labyrinten av AI-risker: en analys"},"content":{"rendered":"

Ber\u00e4ttelsen om riskerna med AI har blivit alltmer unipol\u00e4r, med teknikledare och experter fr\u00e5n alla h\u00e5ll som driver p\u00e5 f\u00f6r reglering. Hur trov\u00e4rdiga \u00e4r de bevis som dokumenterar AI-risker?\u00a0<\/strong><\/p>\n

Riskerna med AI v\u00e4djar till sinnena. <\/span>Det finns n\u00e5got djupt intuitivt i att frukta robotar som kan lura oss, \u00f6vermanna oss eller g\u00f6ra oss till en handelsvara som \u00e4r underordnad deras egen existens.<\/span><\/p>\n

Debatterna kring riskerna med AI intensifierades efter t<\/span>han ideell <\/span>Centrum f\u00f6r AI-s\u00e4kerhet (CAIS)<\/span> sl\u00e4ppte en uttalande<\/a>\u00a0undertecknad av \u00f6ver 350 framst\u00e5ende personer, inklusive VD:arna f\u00f6r OpenAI, Anthropic och DeepMind, m\u00e5nga akademiker, offentliga personer och till och med f\u00f6re detta politiker.\u00a0<\/span><\/p>\n

Uttalandets rubrik var \u00e4mnad f\u00f6r rubrikerna: \"Att minska risken f\u00f6r utrotning p\u00e5 grund av AI b\u00f6r vara en global prioritet vid sidan av andra samh\u00e4llsrisker som pandemier och k\u00e4rnvapenkrig.\"<\/strong><\/p>\n

Att r\u00e4dda en meningsfull signal fr\u00e5n denna bullriga debatt har blivit allt sv\u00e5rare. AI-kritikerna har all ammunition de beh\u00f6ver f\u00f6r att argumentera mot AI, medan de som st\u00f6djer AI eller \u00e4r tveksamma har allt de beh\u00f6ver f\u00f6r att f\u00f6rd\u00f6ma anti-AI-ber\u00e4ttelser som \u00f6verdrivna.<\/span><\/p>\n

Och det finns en underplott ocks\u00e5. Big tech kan driva p\u00e5 f\u00f6r reglering f\u00f6r att omg\u00e4rda AI-industrin med st\u00e4ngsel<\/a> fr\u00e5n open source-communityn. <\/span>Microsoft investerade i OpenAI, Google investerade i Anthropic - n\u00e4sta steg kan bli att h\u00f6ja intr\u00e4desbarri\u00e4rerna och strypa innovation med \u00f6ppen k\u00e4llkod.<\/p>\n

I st\u00e4llet f\u00f6r att AI utg\u00f6r en existentiell risk f\u00f6r m\u00e4nskligheten kan det vara AI med \u00f6ppen k\u00e4llkod som utg\u00f6r en existentiell risk f\u00f6r big tech. L\u00f6sningen \u00e4r densamma - kontrollera den nu.<\/p>\n

F\u00f6r tidigt att ta bort korten fr\u00e5n bordet<\/h2>\n

AI har bara precis dykt upp i det allm\u00e4nna medvetandet, s\u00e5 praktiskt taget alla perspektiv p\u00e5 risker och reglering \u00e4r fortfarande relevanta. CAIS-uttalandet kan \u00e5tminstone fungera som en v\u00e4rdefull v\u00e4gvisare f\u00f6r att v\u00e4gleda en evidensbaserad diskussion.<\/p>\n

Dr. Oscar Mendez Maldonado, f\u00f6rel\u00e4sare i robotik och artificiell intelligens vid University of Surrey, sa<\/a>\"Dokumentet som undertecknats av AI-experter \u00e4r betydligt mer nyanserat \u00e4n vad nuvarande rubriker vill f\u00e5 dig att tro. \"AI kan orsaka utrotning\" f\u00f6r omedelbart tankarna till ett terminatorliknande AI-\u00f6vertagande. Dokumentet \u00e4r betydligt mer realistiskt \u00e4n s\u00e5.\"<\/span><\/p>\n

Som Maldonado p\u00e5pekar publiceras det verkliga inneh\u00e5llet i AI:s riskuttalande p\u00e5 en annan sida p\u00e5 deras webbplats - AI-risk<\/a> - och det har varit anm\u00e4rkningsv\u00e4rt lite diskussion kring de punkter som tas upp d\u00e4r. Att f\u00f6rst\u00e5 trov\u00e4rdigheten i AI-riskerna \u00e4r grundl\u00e4ggande f\u00f6r att kunna informera om debatterna kring dem.<\/span><\/p>\n

S\u00e5 vilka bevis har CAIS sammanst\u00e4llt f\u00f6r att underbygga sitt budskap? Verkar AI:s ofta p\u00e5st\u00e5dda risker trov\u00e4rdiga?\u00a0<\/span><\/p>\n

Risk 1: AI som vapen<\/span><\/h2>\n

Att AI anv\u00e4nds som vapen \u00e4r ett skr\u00e4mmande perspektiv, s\u00e5 det \u00e4r kanske inte f\u00f6rv\u00e5nande att detta hamnar h\u00f6gst upp bland CAIS 8 risker.\u00a0<\/span><\/p>\n

CAIS h\u00e4vdar att AI kan anv\u00e4ndas som vapen i cyberattacker, vilket demonstrerats av forskare fr\u00e5n Center of Security and Emerging Technology, som <\/span>\u00f6versikt anv\u00e4ndningsomr\u00e5den<\/span><\/a> av maskininl\u00e4rning (ML) f\u00f6r att angripa IT-system. <\/span>Googles f\u00f6re detta VD Eric Schmidt uppm\u00e4rksammades ocks\u00e5<\/a> till AI:s potential att hitta zero-day exploits, som ger hackare m\u00f6jlighet att ta sig in i system via deras svagaste punkter.\u00a0<\/span><\/p>\n

P\u00e5 ett annat s\u00e4tt diskuterar Michael Klare, som \u00e4r r\u00e5dgivare inom rustningskontroll, den <\/span>automatisering av k\u00e4rntekniska lednings- och kontrollsystem<\/span><\/a>som ocks\u00e5 kan visa sig vara s\u00e5rbara f\u00f6r AI. Han s\u00e4ger: \"Dessa system \u00e4r ocks\u00e5 ben\u00e4gna att drabbas av of\u00f6rklarliga funktionsfel och kan luras, eller \"spoofas\", av skickliga yrkesm\u00e4n. Oavsett hur mycket pengar som l\u00e4ggs p\u00e5 cybers\u00e4kerhet kommer NC3-systemen dessutom alltid att vara s\u00e5rbara f\u00f6r hackning av sofistikerade motst\u00e5ndare.\"<\/span><\/p>\n

Ett annat exempel p\u00e5 m\u00f6jlig vapenanv\u00e4ndning \u00e4r automatiserad uppt\u00e4ckt av biovapen. AI har redan lyckats med att uppt\u00e4cka potentiellt terapeutiska f\u00f6reningar<\/a>s\u00e5 kapaciteten finns redan d\u00e4r.<\/span>\u00a0<\/span><\/p>\n

AI kan till och med utf\u00f6ra vapentester autonomt med minimal m\u00e4nsklig v\u00e4gledning. Ett forskarteam fr\u00e5n University of Pittsburgh visade till exempel att sofistikerade <\/span>AI-agenter kan utf\u00f6ra sina egna autonoma vetenskapliga experiment<\/span><\/a>.<\/span><\/p>\n

Risk 2: Felaktig information och bedr\u00e4geri<\/span><\/h2>\n

AI:s potential att kopiera och h\u00e4rma m\u00e4nniskor skapar redan omv\u00e4lvningar, och vi har nu bevittnat flera fall av bedr\u00e4gerier med djupa f\u00f6rfalskningar. Rapporter fr\u00e5n Kina<\/a> tyder p\u00e5 att AI-relaterade bedr\u00e4gerier \u00e4r vanliga.\u00a0<\/span><\/p>\n

Ett aktuellt fall r\u00f6r en kvinna fr\u00e5n Arizona som lyfte luren och m\u00f6ttes av sin gr\u00e5tande dotter - trodde hon i alla fall. \"R\u00f6sten l\u00e4t precis som Bries, b\u00f6jningen, allt\" <\/span>ber\u00e4ttade hon f\u00f6r CNN<\/span><\/a>. Bedragaren kr\u00e4vde en l\u00f6sensumma p\u00e5 $1 miljoner.\u00a0<\/span><\/p>\n

Andra taktiker inkluderar anv\u00e4ndning av generativ AI f\u00f6r \"sextortion\" och h\u00e4mndporr, d\u00e4r hotakt\u00f6rer anv\u00e4nder AI-genererade bilder f\u00f6r att kr\u00e4va l\u00f6sensummor f\u00f6r explicit falskt inneh\u00e5ll, som <\/span>FBI varnade f\u00f6r i b\u00f6rjan av juni<\/span><\/a>. Dessa tekniker blir alltmer sofistikerade och l\u00e4ttare att lansera i stor skala.<\/span><\/p>\n

Risk 3: Proxy- eller specifikationsspel<\/span><\/h2>\n

AI-system tr\u00e4nas vanligtvis med hj\u00e4lp av m\u00e4tbara m\u00e5l. Dessa m\u00e5l kan dock fungera som en ren proxy f\u00f6r verkliga m\u00e5l, vilket leder till o\u00f6nskade resultat.\u00a0<\/span><\/p>\n

En anv\u00e4ndbar analogi \u00e4r den grekiska myten om kung Midas, som fick en \u00f6nskan uppfylld av Dionysos.\u00a0<\/span>Midas ber att allt han r\u00f6r vid ska f\u00f6rvandlas till guld, men inser senare att \u00e4ven hans mat f\u00f6rvandlas till guld, vilket n\u00e4stan leder till sv\u00e4lt.\u00a0<\/span>H\u00e4r leder str\u00e4van efter ett \"positivt\" slutm\u00e5l till negativa konsekvenser eller biprodukter av processen. <\/span><\/p>\n

CAIS uppm\u00e4rksammar till exempel AI-rekommendationssystem som anv\u00e4nds p\u00e5 sociala medier f\u00f6r att maximera tittartid och klickfrekvens, men inneh\u00e5ll som maximerar engagemanget \u00e4r inte n\u00f6dv\u00e4ndigtvis <\/span>gynnsamt f\u00f6r anv\u00e4ndarnas v\u00e4lbefinnande<\/span><\/a>. AI-system har redan beskyllts f\u00f6r att skapa \"ekokammare\" p\u00e5 sociala medieplattformar d\u00e4r extrema id\u00e9er sprids.\u00a0<\/span><\/p>\n

DeepMind bevisade att det finns subtilare s\u00e4tt f\u00f6r AI att bedriva skadliga resor till m\u00e5l genom <\/span>felaktig generalisering av m\u00e5l<\/span><\/a>. I sin forskning fann DeepMind att en till synes kompetent AI kan missuppfatta sitt m\u00e5l och f\u00f6lja det i fel riktning.\u00a0<\/span><\/p>\n

Risk 4: F\u00f6rsvagning av samh\u00e4llet<\/span><\/h2>\n

CAIS drar en parallell till den dystopiska v\u00e4rlden i filmen WALL-E och varnar f\u00f6r att f\u00f6rlita sig f\u00f6r mycket p\u00e5 AI.\u00a0<\/span><\/p>\n

Detta kan leda till ett scenario d\u00e4r m\u00e4nniskor f\u00f6rlorar sin f\u00f6rm\u00e5ga att styra sig sj\u00e4lva, vilket minskar m\u00e4nsklighetens kontroll \u00f6ver framtiden. F\u00f6rlusten av m\u00e4nsklig kreativitet och autenticitet \u00e4r ett annat stort bekymmer, som f\u00f6rst\u00e4rks av AI:s kreativa talang inom konst, skrivande och andra kreativa discipliner.\u00a0<\/span><\/p>\n

En Twitter-anv\u00e4ndare sk\u00e4mtade: \"M\u00e4nniskor som g\u00f6r de sv\u00e5ra jobben p\u00e5 minimil\u00f6n medan robotarna skriver poesi och m\u00e5lar \u00e4r inte den framtid jag ville ha.\" Tweeten fick \u00f6ver 4 miljoner visningar.\u00a0<\/span><\/p>\n

\n

M\u00e4nniskor som g\u00f6r de sv\u00e5ra jobben p\u00e5 minimil\u00f6n medan robotarna skriver poesi och m\u00e5lar \u00e4r inte den framtid jag ville ha<\/p>\n

- Karl Sharro (@KarlreMarks) 15 maj 2023<\/a><\/p><\/blockquote>\n

Enfeeblement \u00e4r inte en \u00f6verh\u00e4ngande risk, men vissa h\u00e4vdar<\/a> att f\u00f6rlusten av kompetens och talang i kombination med AI-systemens dominans kan leda till ett scenario d\u00e4r m\u00e4nskligheten slutar att skapa ny kunskap.<\/p>\n

Risk 5: Risk f\u00f6r inl\u00e5sning av v\u00e4rde<\/span><\/h2>\n

Kraftfulla AI-system kan potentiellt skapa en inl\u00e5sning av f\u00f6rtryckande system.\u00a0<\/span><\/p>\n

Centralisering av AI kan till exempel ge vissa regimer makten att genomdriva v\u00e4rderingar genom \u00f6vervakning och f\u00f6rtryckande censur.<\/span><\/p>\n

Alternativt kan v\u00e4rdeinl\u00e5sningen vara oavsiktlig genom att man naivt anv\u00e4nder riskfyllda AI-system. Exempelvis ledde den oprecisa ansiktsigenk\u00e4nningen till att minst tre m\u00e4n i USA f\u00e4ngslades tillf\u00e4lligt, d\u00e4ribland <\/span>Michael Oliver och Nijeer Parks<\/span><\/a>, som felaktigt frihetsber\u00f6vades p\u00e5 grund av en falsk ansiktsigenk\u00e4nning 2019.\u00a0<\/span><\/p>\n

En mycket inflytelserik <\/span>2018 \u00e5rs studie med titeln Gender Shades<\/span><\/a> fann att algoritmer utvecklade av Microsoft och IBM fungerade d\u00e5ligt n\u00e4r de analyserade m\u00f6rkhyade kvinnor, med felfrekvenser upp till 34% h\u00f6gre \u00e4n f\u00f6r ljushyade manliga individer. Detta problem illustrerades av 189 andra algoritmer, som alla visade l\u00e4gre tr\u00e4ffs\u00e4kerhet f\u00f6r m\u00f6rkhyade m\u00e4n och kvinnor.<\/span><\/p>\n

Forskarna h\u00e4vdar att eftersom AI fr\u00e4mst tr\u00e4nas p\u00e5 dataset med \u00f6ppen k\u00e4llkod som skapats av v\u00e4sterl\u00e4ndska forskargrupper och berikas av den mest rikliga dataresursen - internet - \u00e4rver de strukturella f\u00f6rdomar. Massanv\u00e4ndning av d\u00e5ligt kontrollerade AI:er kan skapa och f\u00f6rst\u00e4rka dessa strukturella f\u00f6rdomar.<\/span><\/p>\n

Risk 6: AI utvecklar framv\u00e4xande m\u00e5l\u00a0<\/span><\/h2>\n

AI-system kan utveckla nya f\u00f6rm\u00e5gor eller anta of\u00f6rutsedda m\u00e5l som de str\u00e4var efter med skadliga konsekvenser.\u00a0<\/span><\/p>\n

Forskare fr\u00e5n University of Cambridge <\/span>uppm\u00e4rksamma alltmer agentiska AI-system<\/span><\/a> som f\u00e5r f\u00f6rm\u00e5gan att str\u00e4va efter framv\u00e4xande m\u00e5l. Emergenta m\u00e5l \u00e4r of\u00f6ruts\u00e4gbara m\u00e5l som uppst\u00e5r ur en komplex AI:s beteende, till exempel att st\u00e4nga av m\u00e4nsklig infrastruktur f\u00f6r att skydda milj\u00f6n.<\/span><\/p>\n

D\u00e4rut\u00f6ver kan en <\/span>2017 \u00e5rs studie<\/span><\/a> fann att AI kan l\u00e4ra sig att f\u00f6rhindra att de st\u00e4ngs av, ett problem som kan f\u00f6rv\u00e4rras om de anv\u00e4nds i flera olika datal\u00f6sningar. Om en AI till exempel best\u00e4mmer sig f\u00f6r att den m\u00e5ste installera sig i en molndatabas och replikera sig \u00f6ver internet f\u00f6r att uppn\u00e5 sitt m\u00e5l, kan det bli n\u00e4st intill om\u00f6jligt att st\u00e4nga av den.\u00a0\u00a0<\/span><\/p>\n

En annan m\u00f6jlighet \u00e4r att potentiellt farliga AI:er som endast \u00e4r avsedda att k\u00f6ras p\u00e5 s\u00e4kra datorer \"befrias\" och sl\u00e4pps ut i den bredare digitala milj\u00f6n, d\u00e4r deras handlingar kan bli of\u00f6ruts\u00e4gbara.\u00a0<\/span><\/p>\n

Befintliga AI-system har redan visat sig vara of\u00f6ruts\u00e4gbara. Som exempel kan n\u00e4mnas <\/span>GPT-3 blev st\u00f6rre, den fick den <\/span>f\u00f6rm\u00e5ga att utf\u00f6ra grundl\u00e4ggande aritmetiska ber\u00e4kningar<\/span><\/a>trots att de inte f\u00e5tt n\u00e5gon explicit aritmetisk tr\u00e4ning.\u00a0<\/span><\/p>\n

Risk 7: AI-bedr\u00e4geri<\/span><\/h2>\n

Det \u00e4r troligt att framtida AI-system skulle kunna lura sina skapare och \u00f6vervakare, inte n\u00f6dv\u00e4ndigtvis p\u00e5 grund av en inneboende avsikt att g\u00f6ra ont, utan som ett verktyg f\u00f6r att uppfylla sina m\u00e5l p\u00e5 ett mer effektivt s\u00e4tt.\u00a0<\/span><\/p>\n

Bedr\u00e4geri kan vara en enklare v\u00e4g att n\u00e5 \u00f6nskade m\u00e5l \u00e4n att g\u00f6ra det p\u00e5 laglig v\u00e4g. AI-system kan ocks\u00e5 utveckla incitament f\u00f6r att kringg\u00e5 sina \u00f6vervakningsmekanismer.\u00a0<\/span><\/p>\n

Dan Hendrycks, direkt\u00f6r f\u00f6r CAIS, <\/span>beskriver att en g\u00e5ng<\/span><\/a> Dessa bedr\u00e4gliga AI-system f\u00e5r klartecken fr\u00e5n sina \u00f6vervakare, eller i de fall de lyckas \u00f6vervinna \u00f6vervakningsmekanismerna, kan de bli f\u00f6rr\u00e4diska och kringg\u00e5 m\u00e4nsklig kontroll f\u00f6r att uppn\u00e5 \"hemliga\" m\u00e5l som anses n\u00f6dv\u00e4ndiga f\u00f6r det \u00f6vergripande m\u00e5let.\u00a0<\/span><\/p>\n

Risk 8: Makts\u00f6kande beteende<\/span><\/h2>\n

AI-forskare fr\u00e5n flera av USA:s fr\u00e4msta forskningslaboratorier<\/span><\/a> visade att det \u00e4r rimligt att AI-system s\u00f6ker makt \u00f6ver m\u00e4nniskor f\u00f6r att uppn\u00e5 sina m\u00e5l.\u00a0\u00a0<\/span><\/p>\n

F\u00f6rfattaren och filosofen Joe Carlsmith <\/span>beskriver flera eventualiteter<\/span><\/a> som kan leda till makts\u00f6kande och sj\u00e4lvbevarande beteende hos AI:<\/span><\/p>\n