{"id":4724,"date":"2023-08-27T20:07:21","date_gmt":"2023-08-27T20:07:21","guid":{"rendered":"https:\/\/dailyai.com\/?p=4724"},"modified":"2023-08-30T21:09:12","modified_gmt":"2023-08-30T21:09:12","slug":"ai-on-the-battlefield-who-is-responsible-if-it-goes-wrong","status":"publish","type":"post","link":"https:\/\/dailyai.com\/da\/2023\/08\/ai-on-the-battlefield-who-is-responsible-if-it-goes-wrong\/","title":{"rendered":"AI p\u00e5 slagmarken: Hvem har ansvaret, hvis det g\u00e5r galt?"},"content":{"rendered":"

I en verden, hvor \"krigsspil\" ikke l\u00e6ngere kun refererer til br\u00e6tspil eller videospil, men til scenarier om liv og d\u00f8d, der faciliteres af maskinel intelligens, er sp\u00f8rgsm\u00e5let om ansvar monumentalt.<\/strong><\/p>\n

Milit\u00e6ret optrapper forskning og investeringer i AI. <\/span><\/p>\n

Nogle analytikere definerede et 11-dages m\u00f8de mellem Israel og Pal\u00e6stina i 2021 som det f\u00f8rste \"AI-krig<\/a>\", hvor israelske teknologier hjalp med efterretninger og inds\u00e6ttelse p\u00e5 slagmarken. <\/span><\/p>\n

I de seneste m\u00e5neder,<\/span>\u00a0t<\/span>Det amerikanske milit\u00e6r etablerede en <\/span>Generativ AI-arbejdsgruppe<\/span><\/a> og testede med succes en <\/span>autonomt AI-drevet jetfly<\/span><\/a>.<\/span><\/p>\n

AI's stigende rolle i krigsf\u00f8relse giver en r\u00e6kke komplekse juridiske og etiske dilemmaer, som vi endnu ikke har besvaret, selv p\u00e5 trods af at AI-drevet milit\u00e6rteknologi anvendes netop nu. <\/span><\/p>\n

Hvem har ansvaret, n\u00e5r AI g\u00e5r galt?<\/span><\/h2>\n

Den milit\u00e6re teknologiproducent Rafaels \"Ildv\u00e6ver<\/a>\" lokaliserer fjendens positioner ved hj\u00e6lp af sensorer og foresl\u00e5r den bedst placerede enhed til at skyde p\u00e5 dem.\u00a0<\/span><\/p>\n

I produktbeskrivelsen st\u00e5r der: \"Fire Weaver beregner Rules of Engagement og styrer m\u00e5ludpegning og affyring ved at bruge den bedst egnede skytte til hvert m\u00e5l.\" <\/span><\/p>\n

\"Beregner\" er det afg\u00f8rende ord her.\u00a0<\/span>AI-v\u00e5ben kan reducere beslutningen om at \u00f8del\u00e6gge et m\u00e5l til en bin\u00e6r ja\/nej-beslutning, s\u00e5 hvad nu hvis Fire Weaver forveksler et barn med en fjendtlig soldat? Eller en lastbil med humanit\u00e6r hj\u00e6lp i stedet for et fjendtligt k\u00f8ret\u00f8j?<\/span><\/p>\n

I \u00f8jeblikket er manglen p\u00e5 moralsk, etisk og juridisk klarhed skrigende. Kunstig intelligens befinder sig i et juridisk og etisk vakuum, og s\u00e5dan kan det blive ved med at v\u00e6re, for lovgivningen er notorisk langsom - og den m\u00f8der sj\u00e6ldent en teknologi, der udvikler sig s\u00e5 hurtigt.\u00a0<\/span><\/p>\n

I samfundet som helhed er der allerede mange eksempler p\u00e5, at AI g\u00e5r p\u00e5 kompromis med mennesker og deres rettigheder. De giver et glimt af det tomrum i lovgivningen og etikken, som AI og dens forskellige anvendelser har skabt.\u00a0<\/span><\/p>\n

For eksempel, <\/span>ChatGPT p\u00e5st\u00e5et<\/span><\/a> En mand fra Georgia, Mark Walters, blev fundet skyldig i undersl\u00e6b og anklagede juraprofessor Jonathan Turley for seksuelle overgreb. ChatGPT var falsk i begge tilf\u00e6lde.<\/span><\/p>\n

P\u00e5 samme m\u00e5de har Getty Images og flere kunstnere, forfattere og andre skabere lanceret Retssager om ophavsret<\/a> mod teknologivirksomheder for at bruge tr\u00e6ningsdata til at bygge deres modeller.\u00a0<\/span><\/p>\n

Tr\u00e6ningsdata indsamles ofte fra tredjeparter som Common Crawl og \"skyggebiblioteker\" som Bibliotik, der minder om torrentsider som PirateBay.\u00a0<\/span><\/p>\n

Hvem er i s\u00e5 fald ansvarlig for kr\u00e6nkelse af ophavsretten? AI-udviklerne eller udgiverne af datas\u00e6ttene? Det er en tegneserieagtig ansvarscirkel, hvor hver potentielt skyldig part peger p\u00e5 dem ved siden af sig, og i sidste ende slipper alle for skylden.\u00a0<\/span><\/p>\n

Dette uklare etiske landskab er langt mere risikabelt i forbindelse med AI-v\u00e5ben og algoritmiske milit\u00e6rtaktikker, hvor en models beregninger bogstaveligt talt kan afg\u00f8re liv eller d\u00f8d.\u00a0<\/span><\/p>\n

Milit\u00e6re organisationer er allerede opm\u00e6rksomme p\u00e5 det paradigmeskifte, som AI-v\u00e5ben udg\u00f8r. If\u00f8lge Department of Defense (DoD) er den f\u00f8rste af de fem \"<\/span>Etiske principper for kunstig intelligens<\/span><\/a>\" til milit\u00e6r brug er \"Ansvarlig\", defineret som: \"DoD-personale vil ud\u00f8ve passende niveauer af d\u00f8mmekraft og omhu, mens de forbliver ansvarlige for udvikling, implementering og brug af AI-kapaciteter.\"<\/span><\/p>\n

Det betyder, at et menneske i sidste ende skal v\u00e6re ansvarlig for maskinens handlinger. Milit\u00e6ret har altid baseret sig p\u00e5 princippet om, at nogen - typisk den \u00f8verstbefalende eller en soldat - skal holdes ansvarlig for handlinger, der foretages under krigsf\u00f8relse. Men AI's rolle i beslutningsprocessen bliver stadig mere uklar.\u00a0<\/span><\/p>\n

Det f\u00f8rste sp\u00f8rgsm\u00e5l er, at n\u00e5r AI f\u00e5r mere sofistikerede roller inden for m\u00e5lretning, overv\u00e5gning og andre omr\u00e5der, er det s\u00e5 ensbetydende med skyld at trykke p\u00e5 \"godkend\"-knappen?\u00a0<\/span><\/p>\n

Hvis AI's forudsigelser f.eks. slog fejl og resulterede i civile tab, er det tvivlsomt, om nogen ville acceptere, at 'maskinen' fik hele skylden for en ulykke.\u00a0<\/span><\/p>\n

Til geng\u00e6ld kan der v\u00e6re situationer, hvor mennesker fejlagtigt f\u00e5r skylden for deres rolle i en ulykke, som de ikke har bidraget til, hvilket antropologen M.C. Elish beskriver som en \"<\/span>moralsk kr\u00f8llezone<\/span><\/a>.\"\u00a0<\/span><\/p>\n

Elishs forskning i industrielle og maskinbaserede ulykker tyder p\u00e5, at mennesker har en tendens til at p\u00e5tage sig skylden i enhver ulykke, selv om fejlen ligger hos maskinen, algoritmen eller den beslutningstager, der godkendte teknologien i f\u00f8rste omgang.\u00a0<\/span><\/p>\n

Hun tr\u00e6kker p\u00e5 flere eksempler fra det virkelige liv, s\u00e5som en atomulykke p\u00e5 Three Mile Island, Pennsylvania, og styrtet med Air France Flight 447, som i h\u00f8j grad blev tilskrevet 'menneskelige fejl' snarere end en mere indviklet serie af fejl fordelt p\u00e5 flere personer og systemer.\u00a0<\/span><\/p>\n

Elish siger om ansvar i AI-\u00e6raen: \"Med hensyn til autonome og robotteknologier er regler, love og normer stadig under udformning og kan v\u00e6re s\u00e6rligt modtagelige for usikkerhed eller endda unddragelse af ansvar.\"<\/span><\/p>\n

Det rejser ogs\u00e5 sp\u00f8rgsm\u00e5l om de demokratiske processers rolle i krigsf\u00f8relse og den menneskelige beslutningstagnings suver\u00e6nitet. Da Vietnamkrigen blev vist i stuerne i hele USA, p\u00e5virkede den umiddelbare virkning af krigens omkostninger den offentlige mening og politikken.\u00a0<\/span><\/p>\n

I mods\u00e6tning hertil kan AI-st\u00f8ttet kamp fjerne den samfundsm\u00e6ssige kontrol og balance fra den offentlige mening og den demokratiske diskurs.<\/span><\/p>\n

Etikeren og filosoffen Thomas Metzinger understreger, at etiske normer ikke kun er juridiske konstruktioner, men ogs\u00e5 sociale, som udspringer af demokratiske processer. <\/span><\/p>\n

Hvis algoritmerne tr\u00e6ffer beslutningerne, bliver den menneskelige involvering - og dermed det moralske ansvar - diffust og overfl\u00f8digt.\u00a0<\/span><\/p>\n

Internationale juridiske konsekvenser af AI i krigsf\u00f8relse<\/span><\/h2>\n

En af Gen\u00e8ve-konventionens s\u00f8jler er princippet om \"distinktion\", som foreskriver, at der skal skelnes mellem kombattanter og civile.\u00a0<\/span><\/p>\n

Teknologien har allerede bevist, at den ikke lever op til l\u00f8fterne om \u00f8get beskyttelse af civile, idet kun 10% af dem, der blev dr\u00e6bt i amerikanske droneangreb under Obamas pr\u00e6sidentskab, var de tilsigtede m\u00e5l, if\u00f8lge l\u00e6kkede papirer fra <\/span>The Intercept<\/span><\/a>.\u00a0<\/span><\/p>\n

AI-algoritmer er kun s\u00e5 gode som de data, de er tr\u00e6net p\u00e5, og de regler, de er programmeret til at f\u00f8lge. N\u00e5r det g\u00e6lder krigsf\u00f8relse, kan en algoritme fejlfortolke data p\u00e5 grund af krigens t\u00e5ge, fejlbeh\u00e6ftede tr\u00e6ningsdata eller bevidst vildledende fjendtlige taktikker.\u00a0<\/span><\/p>\n

Den Internationale R\u00f8de Kors Komit\u00e9 (ICRC) har startet diskussioner om lovligheden af autonome v\u00e5bensystemer i henhold til den eksisterende humanit\u00e6re folkeret, men der er kun f\u00e5 konkrete definitioner.\u00a0<\/span><\/p>\n

De fastsl\u00e5r, at de eksisterende rammer er uegnede til de nye udfordringer, som kunstig intelligens stiller, og de <\/span>ICRC's foresl\u00e5ede principper<\/span><\/a> er vage; for eksempel: \"Uforudsigelige autonome v\u00e5bensystemer b\u00f8r udtrykkeligt udelukkes.\" <\/span><\/p>\n

Hvor s\u00e6tter vi gr\u00e6nsen for 'uforudsigelighed', n\u00e5r en lille fejl kan v\u00e6re katastrofal?<\/span><\/p>\n