{"id":4724,"date":"2023-08-27T20:07:21","date_gmt":"2023-08-27T20:07:21","guid":{"rendered":"https:\/\/dailyai.com\/?p=4724"},"modified":"2023-08-30T21:09:12","modified_gmt":"2023-08-30T21:09:12","slug":"ai-on-the-battlefield-who-is-responsible-if-it-goes-wrong","status":"publish","type":"post","link":"https:\/\/dailyai.com\/sv\/2023\/08\/ai-on-the-battlefield-who-is-responsible-if-it-goes-wrong\/","title":{"rendered":"AI p\u00e5 slagf\u00e4ltet: vem b\u00e4r ansvaret om det g\u00e5r fel?"},"content":{"rendered":"

I en v\u00e4rld d\u00e4r \"krigsspel\" inte l\u00e4ngre bara avser br\u00e4dspel eller videospel utan scenarier p\u00e5 liv och d\u00f6d som m\u00f6jligg\u00f6rs av maskinell intelligens \u00e4r ansvarsfr\u00e5gan monumental.<\/strong><\/p>\n

Milit\u00e4ren \u00f6kar sin forskning och sina investeringar i AI. <\/span><\/p>\n

Vissa analytiker definierade ett 11-dagars Israel-Palestina-m\u00f6te 2021 som det f\u00f6rsta \"AI-krig<\/a>\", d\u00e4r israelisk teknik bidrog till underr\u00e4ttelseinh\u00e4mtning och utplacering p\u00e5 slagf\u00e4ltet. <\/span><\/p>\n

Under de senaste m\u00e5naderna,<\/span>\u00a0t<\/span>Den amerikanska milit\u00e4ren etablerade en <\/span>arbetsgrupp f\u00f6r generativ AI<\/span><\/a> och framg\u00e5ngsrikt testat en <\/span>autonomt AI-drivet jetplan<\/span><\/a>.<\/span><\/p>\n

AI:s \u00f6kande roll i krigf\u00f6ring inneb\u00e4r en rad komplexa juridiska och etiska dilemman som vi \u00e4nnu inte har svarat p\u00e5, trots att AI-driven milit\u00e4r teknik anv\u00e4nds just nu. <\/span><\/p>\n

Vem b\u00e4r ansvaret n\u00e4r AI g\u00e5r fel?<\/span><\/h2>\n

Milit\u00e4rtekniktillverkaren Rafaels \"Eldv\u00e4vare<\/a>\" lokaliserar fiendens positioner med hj\u00e4lp av sensorer och f\u00f6resl\u00e5r vilken enhet som \u00e4r b\u00e4st placerad f\u00f6r att beskjuta dem.\u00a0<\/span><\/p>\n

I produktbeskrivningen st\u00e5r det: \"Fire Weaver ber\u00e4knar insatsreglerna och styr inriktning och avfyrning genom att anv\u00e4nda den l\u00e4mpligaste skytten f\u00f6r varje f\u00f6rv\u00e4rvat m\u00e5l.\" <\/span><\/p>\n

\"Ber\u00e4knar\" \u00e4r det avg\u00f6rande ordet h\u00e4r -\u00a0<\/span>AI-vapen kan reducera beslutet att f\u00f6rst\u00f6ra ett m\u00e5l till ett bin\u00e4rt ja\/nej-beslut, men vad h\u00e4nder om Fire Weaver misstar ett barn f\u00f6r en fiendesoldat? Eller en lastbil f\u00f6r humanit\u00e4rt bist\u00e5nd i st\u00e4llet f\u00f6r ett fiendefordon?<\/span><\/p>\n

F\u00f6r n\u00e4rvarande \u00e4r bristen p\u00e5 moralisk, etisk och juridisk klarhet skriande. AI befinner sig i ett juridiskt och etiskt vakuum, och s\u00e5 kan det komma att f\u00f6rbli under en tid fram\u00f6ver, eftersom lagstiftningen \u00e4r notoriskt l\u00e5ngsam - och s\u00e4llan m\u00f6ter en s\u00e5 snabbt utvecklande teknik.\u00a0<\/span><\/p>\n

I samh\u00e4llet i stort finns det redan m\u00e5nga exempel p\u00e5 att AI \u00e4ventyrar m\u00e4nniskor och deras r\u00e4ttigheter. Dessa exempel ger en inblick i det tomrum i lagstiftning och etik som AI och dess olika anv\u00e4ndningsomr\u00e5den skapar.\u00a0<\/span><\/p>\n

Till exempel, <\/span>ChatGPT p\u00e5stods<\/span><\/a> en man fr\u00e5n Georgia, Mark Walters, befanns skyldig till f\u00f6rskingring och anklagade juridikprofessorn Jonathan Turley f\u00f6r sexuella \u00f6vergrepp. ChatGPT var falskt i b\u00e5da fallen.<\/span><\/p>\n

P\u00e5 samma s\u00e4tt har Getty Images och flera konstn\u00e4rer, f\u00f6rfattare och andra upphovsm\u00e4n lanserat st\u00e4mningar om upphovsr\u00e4tt<\/a> mot teknikf\u00f6retag f\u00f6r att de anv\u00e4nder utbildningsdata f\u00f6r att bygga sina modeller.\u00a0<\/span><\/p>\n

Utbildningsdata samlas ofta in fr\u00e5n tredje part, t.ex. Common Crawl, och \"skuggbibliotek\" som Bibliotik, som liknar torrentsajter som PirateBay.\u00a0<\/span><\/p>\n

Vem \u00e4r i s\u00e5 fall ansvarig f\u00f6r upphovsr\u00e4ttsintr\u00e5ng? AI-utvecklarna eller utgivarna av datasetet? Det \u00e4r en tecknad ansvarscirkel d\u00e4r varje potentiellt skyldig part pekar p\u00e5 dem som st\u00e5r bredvid dem, och i slut\u00e4ndan slipper alla undan skulden.\u00a0<\/span><\/p>\n

Detta oklara etiska landskap \u00e4r mycket mer riskfyllt i samband med AI-vapen och algoritmisk milit\u00e4r taktik, d\u00e4r en modells ber\u00e4kningar bokstavligen kan avg\u00f6ra liv eller d\u00f6d.\u00a0<\/span><\/p>\n

Milit\u00e4ra organisationer \u00e4r redan medvetna om det paradigmskifte som AI-vapen inneb\u00e4r. Enligt f\u00f6rsvarsdepartementet (DoD) har den f\u00f6rsta av dess fem \"<\/span>etiska principer f\u00f6r artificiell intelligens<\/span><\/a>\" f\u00f6r milit\u00e4r anv\u00e4ndning \u00e4r \"Ansvarig\", definierat som \"DoD-personal kommer att ut\u00f6va l\u00e4mpliga niv\u00e5er av omd\u00f6me och f\u00f6rsiktighet, samtidigt som de f\u00f6rblir ansvariga f\u00f6r utveckling, utplacering och anv\u00e4ndning av AI-funktioner.\"<\/span><\/p>\n

Detta inneb\u00e4r att en m\u00e4nniska i slut\u00e4ndan m\u00e5ste vara ansvarig f\u00f6r maskinens handlingar. Milit\u00e4ren har alltid f\u00f6rlitat sig p\u00e5 principen att n\u00e5gon - vanligtvis bef\u00e4lhavaren eller en soldat - m\u00e5ste h\u00e5llas ansvarig f\u00f6r \u00e5tg\u00e4rder som vidtas under krigf\u00f6ring. AI:s roll i beslutsprocessen blir dock alltmer oklar.\u00a0<\/span><\/p>\n

Den f\u00f6rsta fr\u00e5gan \u00e4r, n\u00e4r AI tar p\u00e5 sig mer sofistikerade roller inom m\u00e5linriktning, \u00f6vervakning och andra omr\u00e5den, motsvarar det att trycka p\u00e5 \"Godk\u00e4nn\"-knappen skuld?\u00a0<\/span><\/p>\n

Om AI:s f\u00f6ruts\u00e4gelser till exempel skulle sl\u00e5 fel och leda till civila d\u00f6dsoffer, \u00e4r det tveksamt om n\u00e5gon skulle acceptera att \"maskinen\" f\u00e5r hela skulden f\u00f6r en olycka.\u00a0<\/span><\/p>\n

I sin tur kan det uppst\u00e5 situationer d\u00e4r m\u00e4nniskor felaktigt beskylls f\u00f6r sin roll i en olycka som de inte bidragit till, vilket antropologen M.C. Elish beskriver som en \"<\/span>moralisk skrynkelzon<\/span><\/a>.\"\u00a0<\/span><\/p>\n

Elishs forskning om industriella och maskinbaserade olyckor tyder p\u00e5 att m\u00e4nniskor tenderar att ta p\u00e5 sig skulden f\u00f6r alla olyckor, \u00e4ven om felet ligger hos maskinen, algoritmen eller den beslutsfattare som godk\u00e4nde tekniken fr\u00e5n f\u00f6rsta b\u00f6rjan.\u00a0<\/span><\/p>\n

Hon tar upp flera exempel fr\u00e5n verkligheten, t.ex. k\u00e4rnkraftsolyckan p\u00e5 Three Mile Island i Pennsylvania och kraschen med Air France Flight 447, som till stor del tillskrevs \"den m\u00e4nskliga faktorn\" snarare \u00e4n en mer komplicerad serie av fel som var f\u00f6rdelade p\u00e5 flera individer och system.\u00a0<\/span><\/p>\n

Elish s\u00e4ger om ansvar i AI-eran: \"N\u00e4r det g\u00e4ller autonom och robotiserad teknik \u00e4r regler, lagar och normer fortfarande under utformning och kan vara s\u00e4rskilt k\u00e4nsliga f\u00f6r os\u00e4kerheter eller till och med ansvarsflykt.\"<\/span><\/p>\n

Detta v\u00e4cker ocks\u00e5 fr\u00e5gor om de demokratiska processernas roll i krigf\u00f6ringen och om suver\u00e4niteten i det m\u00e4nskliga beslutsfattandet. N\u00e4r Vietnamkriget s\u00e4ndes i vardagsrummen runt om i USA p\u00e5verkades den allm\u00e4nna opinionen och politiken av de omedelbara konsekvenserna av kriget.\u00a0<\/span><\/p>\n

D\u00e4remot kan AI-st\u00f6dd strid ta bort de samh\u00e4lleliga kontrollerna och balanserna fr\u00e5n den allm\u00e4nna opinionen och det demokratiska samtalet.<\/span><\/p>\n

Etikern och filosofen Thomas Metzinger understryker att etiska normer inte bara \u00e4r juridiska konstruktioner utan \u00e4ven sociala som uppst\u00e5r i demokratiska processer. <\/span><\/p>\n

Om algoritmerna fattar besluten blir den m\u00e4nskliga inblandningen - och d\u00e4rmed det moraliska ansvaret - diffus och \u00f6verfl\u00f6dig.\u00a0<\/span><\/p>\n

Internationella r\u00e4ttsliga konsekvenser av AI i krigf\u00f6ring<\/span><\/h2>\n

En av Gen\u00e8vekonventionens grundpelare \u00e4r principen om \"\u00e5tskillnad\", som inneb\u00e4r att man ska skilja mellan stridande och civila.\u00a0<\/span><\/p>\n

Tekniken har redan visat sig misslyckas med att uppfylla l\u00f6ftena om \u00f6kat skydd f\u00f6r civila, d\u00e5 endast 10% av dem som d\u00f6dades i amerikanska dr\u00f6narattacker under Obamas presidentskap var de avsedda m\u00e5len, enligt l\u00e4ckta dokument fr\u00e5n <\/span>The Intercept<\/span><\/a>.\u00a0<\/span><\/p>\n

AI-algoritmer \u00e4r bara s\u00e5 bra som de data de tr\u00e4nas p\u00e5 och de regler de \u00e4r programmerade att f\u00f6lja. N\u00e4r det g\u00e4ller krigf\u00f6ring kan en algoritm misstolka data p\u00e5 grund av krigsdimma, bristf\u00e4lliga tr\u00e4ningsdata eller avsiktligt vilseledande fiendetaktik.\u00a0<\/span><\/p>\n

Internationella r\u00f6dakorskommitt\u00e9n (ICRC) har inlett diskussioner om huruvida autonoma vapensystem \u00e4r lagliga enligt g\u00e4llande internationell humanit\u00e4r r\u00e4tt, men det finns f\u00e5 konkreta definitioner.\u00a0<\/span><\/p>\n

De konstaterar att befintliga ramverk \u00e4r d\u00e5ligt l\u00e4mpade f\u00f6r de nya utmaningar som AI inneb\u00e4r, och de <\/span>ICRC:s f\u00f6reslagna principer<\/span><\/a> \u00e4r vaga, till exempel: \"Of\u00f6ruts\u00e4gbara autonoma vapensystem b\u00f6r uttryckligen uteslutas.\" <\/span><\/p>\n

Var s\u00e4tter vi gr\u00e4nsen f\u00f6r \"of\u00f6ruts\u00e4gbart\" n\u00e4r ett litet misstag kan f\u00e5 katastrofala f\u00f6ljder?<\/span><\/p>\n