{"id":4724,"date":"2023-08-27T20:07:21","date_gmt":"2023-08-27T20:07:21","guid":{"rendered":"https:\/\/dailyai.com\/?p=4724"},"modified":"2023-08-30T21:09:12","modified_gmt":"2023-08-30T21:09:12","slug":"ai-on-the-battlefield-who-is-responsible-if-it-goes-wrong","status":"publish","type":"post","link":"https:\/\/dailyai.com\/nb\/2023\/08\/ai-on-the-battlefield-who-is-responsible-if-it-goes-wrong\/","title":{"rendered":"AI p\u00e5 slagmarken: Hvem har ansvaret hvis det g\u00e5r galt?"},"content":{"rendered":"

I en verden der \"krigsspill\" ikke lenger bare refererer til brettspill eller videospill, men til scenarier p\u00e5 liv og d\u00f8d tilrettelagt av maskinell intelligens, er sp\u00f8rsm\u00e5let om ansvar monumentalt.<\/strong><\/p>\n

Milit\u00e6ret \u00f8ker forskningen og investeringene i kunstig intelligens. <\/span><\/p>\n

Noen analytikere definerte et 11 dager langt m\u00f8te mellom Israel og Palestina i 2021 som det f\u00f8rste \"AI-krig<\/a>\", der israelsk teknologi bisto med etterretning og utplassering p\u00e5 slagmarken. <\/span><\/p>\n

De siste m\u00e5nedene<\/span>\u00a0t<\/span>et amerikanske milit\u00e6ret etablerte en <\/span>arbeidsgruppe for generativ AI<\/span><\/a> og vellykket testet en <\/span>autonomt AI-drevet jetfly<\/span><\/a>.<\/span><\/p>\n

AIs \u00f8kende rolle i krigf\u00f8ring byr p\u00e5 en rekke komplekse juridiske og etiske dilemmaer som vi enn\u00e5 ikke har funnet svar p\u00e5, til tross for at AI-drevet milit\u00e6rteknologi tas i bruk akkurat n\u00e5. <\/span><\/p>\n

Hvem har ansvaret n\u00e5r AI g\u00e5r galt?<\/span><\/h2>\n

Milit\u00e6rteknologiprodusenten Rafaels \"Fire Weaver<\/a>\" lokaliserer fiendens posisjoner ved hjelp av sensorer og foresl\u00e5r den best plasserte enheten til \u00e5 skyte mot dem.\u00a0<\/span><\/p>\n

Produktbeskrivelsen sier: \"Fire Weaver beregner engasjementsreglene og styrer siktet og avfyringen ved \u00e5 bruke den mest hensiktsmessige skytteren for hvert m\u00e5l.\" <\/span><\/p>\n

\"Beregner\" er det avgj\u00f8rende ordet her - og\u00a0<\/span>AI-v\u00e5pen kan redusere beslutningen om \u00e5 \u00f8delegge et m\u00e5l til en bin\u00e6r ja\/nei-avgj\u00f8relse, s\u00e5 hva om Fire Weaver forveksler et barn med en fiendtlig soldat? Eller en lastebil med humanit\u00e6r hjelp i stedet for et fiendtlig kj\u00f8ret\u00f8y?<\/span><\/p>\n

For \u00f8yeblikket er mangelen p\u00e5 moralsk, etisk og juridisk klarhet skrikende. Kunstig intelligens befinner seg i et juridisk og etisk vakuum, og slik kan det komme til \u00e5 v\u00e6re i lang tid fremover, ettersom lovgivningen er notorisk treg - og sjelden m\u00f8ter en teknologi som utvikler seg s\u00e5 raskt.\u00a0<\/span><\/p>\n

I samfunnet generelt finnes det allerede mange eksempler p\u00e5 at kunstig intelligens g\u00e5r p\u00e5 bekostning av mennesker og deres rettigheter. Disse eksemplene gir et glimt av det tomrommet i lovgivning og etikk som kunstig intelligens og dens ulike bruksomr\u00e5der har skapt.\u00a0<\/span><\/p>\n

For eksempel, <\/span>ChatGPT p\u00e5st\u00e5tt<\/span><\/a> ble en mann fra Georgia, Mark Walters, funnet skyldig i underslag og anklaget jusprofessor Jonathan Turley for seksuelle overgrep. ChatGPT var falsk i begge sakene.<\/span><\/p>\n

P\u00e5 samme m\u00e5te har Getty Images og flere kunstnere, forfattere og andre kreat\u00f8rer lansert s\u00f8ksm\u00e5l om opphavsrett<\/a> mot teknologiselskaper for \u00e5 bruke treningsdata til \u00e5 bygge modellene sine.\u00a0<\/span><\/p>\n

Oppl\u00e6ringsdata samles ofte inn fra tredjeparter, som Common Crawl, og \"skyggebiblioteker\" som Bibliotik, som ligner p\u00e5 torrentsider som PirateBay.\u00a0<\/span><\/p>\n

Hvem er i s\u00e5 fall ansvarlig for brudd p\u00e5 opphavsretten? AI-utviklerne eller datasettutgiverne? Det er en tegneserieaktig ansvarssirkel der hver potensielt skyldig part peker p\u00e5 dem ved siden av seg, og til slutt slipper alle unna skylden.\u00a0<\/span><\/p>\n

Dette uklare etiske landskapet er langt mer risikofylt i forbindelse med AI-v\u00e5pen og algoritmiske milit\u00e6re taktikker, der en modells beregninger bokstavelig talt kan avgj\u00f8re liv eller d\u00f8d.\u00a0<\/span><\/p>\n

Milit\u00e6re organisasjoner er allerede klar over paradigmeskiftet som AI-v\u00e5pen inneb\u00e6rer. If\u00f8lge Department of Defense (DoD) er den f\u00f8rste av de fem \"<\/span>etiske prinsipper for kunstig intelligens<\/span><\/a>\" for milit\u00e6r bruk er \"Ansvarlig\", definert som \"DoD-personell vil utvise passende grad av d\u00f8mmekraft og forsiktighet, samtidig som de forblir ansvarlige for utvikling, utplassering og bruk av AI-kapasiteter.\"<\/span><\/p>\n

Det betyr at et menneske til syvende og sist m\u00e5 v\u00e6re ansvarlig for maskinens handlinger. Milit\u00e6ret har alltid basert seg p\u00e5 prinsippet om at noen - typisk sjefen eller en soldat - m\u00e5 holdes ansvarlig for handlinger som utf\u00f8res under krigf\u00f8ring. Likevel blir AIs rolle i beslutningsprosessen stadig mer uklar.\u00a0<\/span><\/p>\n

Det f\u00f8rste sp\u00f8rsm\u00e5let er om det \u00e5 trykke p\u00e5 \"Godkjenn\"-knappen er ensbetydende med skyld n\u00e5r AI f\u00e5r mer sofistikerte roller innen m\u00e5lretting, overv\u00e5king og andre omr\u00e5der.\u00a0<\/span><\/p>\n

Hvis AIs sp\u00e5dommer skulle sl\u00e5 feil, for eksempel med sivile d\u00f8dsfall som resultat, er det tvilsomt om noen ville akseptere at \"maskinen\" fikk hele skylden for en ulykke.\u00a0<\/span><\/p>\n

P\u00e5 sin side kan det oppst\u00e5 situasjoner der mennesker urettmessig f\u00e5r skylden for sin rolle i en ulykke som de ikke har bidratt til, noe antropologen M.C. Elish beskriver som en \"<\/span>moralsk kr\u00f8llesone<\/span><\/a>.\"\u00a0<\/span><\/p>\n

Elishs forskning p\u00e5 industri- og maskinulykker tyder p\u00e5 at mennesker har en tendens til \u00e5 ta p\u00e5 seg skylden i enhver ulykke, selv om feilen ligger hos maskinen, algoritmen eller beslutningstakeren som godkjente teknologien i f\u00f8rste omgang.\u00a0<\/span><\/p>\n

Hun trekker frem flere eksempler fra virkeligheten, som atomulykken p\u00e5 Three Mile Island i Pennsylvania og styrten med Air France Flight 447, som i stor grad ble tilskrevet \"menneskelig svikt\" snarere enn en mer intrikat serie av feil fordelt p\u00e5 flere individer og systemer.\u00a0<\/span><\/p>\n

Elish sier om ansvar i AI-\u00e6raen: \"N\u00e5r det gjelder autonome teknologier og robotteknologier, er regelverket, lovene og normene fortsatt under utforming, og de kan v\u00e6re spesielt utsatt for usikkerhet eller til og med ansvarsfraskrivelse.\"<\/span><\/p>\n

Dette reiser ogs\u00e5 sp\u00f8rsm\u00e5l om demokratiske prosessers rolle i krigf\u00f8ring og om menneskers suverenitet i beslutningsprosesser. Da Vietnamkrigen ble vist i amerikanske stuer, fikk krigens umiddelbare konsekvenser for opinionen og politikken.\u00a0<\/span><\/p>\n

AI-st\u00f8ttet kamp kan derimot fjerne samfunnets kontroll og balanse fra folkemeningen og den demokratiske diskursen.<\/span><\/p>\n

Etikkforskeren og filosofen Thomas Metzinger understreker at etiske normer ikke bare er juridiske konstruksjoner, men ogs\u00e5 sosiale normer som springer ut av demokratiske prosesser. <\/span><\/p>\n

Hvis algoritmene tar avgj\u00f8relsene, blir menneskelig engasjement - og dermed moralsk ansvar - diffust og overfl\u00f8dig.\u00a0<\/span><\/p>\n

Internasjonale juridiske konsekvenser av kunstig intelligens i krigf\u00f8ring<\/span><\/h2>\n

En av Gen\u00e8ve-konvensjonens grunnpilarer er prinsippet om \"distinksjon\", som inneb\u00e6rer at det skal skilles mellom stridende og sivile.\u00a0<\/span><\/p>\n

Teknologien har allerede vist seg \u00e5 ikke innfri l\u00f8ftene om \u00f8kt beskyttelse av sivile, og bare 10% av de som ble drept i amerikanske droneangrep under Obamas presidentperiode var de tiltenkte m\u00e5lene, if\u00f8lge lekkede papirer fra <\/span>The Intercept<\/span><\/a>.\u00a0<\/span><\/p>\n

AI-algoritmer er bare s\u00e5 gode som dataene de er trent p\u00e5, og reglene de er programmert til \u00e5 f\u00f8lge. N\u00e5r det gjelder krigf\u00f8ring, kan en algoritme feiltolke data p\u00e5 grunn av krigens t\u00e5ke, mangelfulle treningsdata eller bevisst villedende fiendtlig taktikk.\u00a0<\/span><\/p>\n

Den internasjonale R\u00f8de Kors-komiteen (ICRC) har startet diskusjoner om lovligheten av autonome v\u00e5pensystemer i henhold til eksisterende internasjonal humanit\u00e6rrett, men det finnes f\u00e5 konkrete definisjoner.\u00a0<\/span><\/p>\n

De fastsl\u00e5r at eksisterende rammeverk er d\u00e5rlig egnet for de nye utfordringene som kunstig intelligens stiller oss overfor, og de <\/span>ICRCs forslag til prinsipper<\/span><\/a> er vage, for eksempel: \"Uforutsigbare autonome v\u00e5pensystemer b\u00f8r uttrykkelig utelukkes.\" <\/span><\/p>\n

Hvor g\u00e5r grensen for \"uforutsigbar\" n\u00e5r en \u00f8rliten feil kan f\u00e5 katastrofale f\u00f8lger?<\/span><\/p>\n