{"id":13224,"date":"2024-07-03T21:10:08","date_gmt":"2024-07-03T21:10:08","guid":{"rendered":"https:\/\/dailyai.com\/?p=13224"},"modified":"2024-07-04T18:47:53","modified_gmt":"2024-07-04T18:47:53","slug":"modern-battlefields-have-become-a-breeding-ground-of-experimental-ai-weaponry","status":"publish","type":"post","link":"https:\/\/dailyai.com\/nb\/2024\/07\/modern-battlefields-have-become-a-breeding-ground-of-experimental-ai-weaponry\/","title":{"rendered":"Moderne slagmarker har blitt en grobunn for eksperimentelle AI-v\u00e5pen"},"content":{"rendered":"

Mens konfliktene raser i Ukraina og Midt\u00f8sten, har den moderne slagmarken blitt et testomr\u00e5de for AI-drevet krigf\u00f8ring. <\/strong><\/p>\n

Fra autonome droner til prediktive m\u00e5lstyringsalgoritmer - AI-systemer er i ferd med \u00e5 omforme v\u00e6pnede konflikter.<\/p>\n

USA, Ukraina, Russland, Kina, Israel og andre er l\u00e5st fast i et AI-v\u00e5penkappl\u00f8p, der alle kjemper om teknologisk overherred\u00f8mme i et stadig mer ustabilt geopolitisk landskap.<\/p>\n

Etter hvert som disse nye v\u00e5pnene og taktikkene dukker opp, f\u00e5r de ogs\u00e5 konsekvenser.<\/p>\n

Vi st\u00e5r n\u00e5 overfor kritiske sp\u00f8rsm\u00e5l om krigf\u00f8ringens fremtid, menneskelig kontroll og etikken i \u00e5 overlate beslutninger om liv og d\u00f8d til maskiner.<\/p>\n

KI kan allerede ha utl\u00f8st milit\u00e6r opptrapping<\/h2>\n

Tilbake i 2017, <\/span>Prosjekt Maven<\/span><\/a> representerte Pentagons f\u00f8rste fors\u00f8k p\u00e5 \u00e5 integrere kunstig intelligens i milit\u00e6re operasjoner. M\u00e5let er \u00e5 muliggj\u00f8re identifisering og sporing av m\u00e5l i sanntid fra droneopptak uten menneskelig inngripen.<\/span><\/p>\n

Selv om Project Maven ofte omtales i forbindelse med analyse av opptak fra dronekameraer, er det sannsynlig at mulighetene strekker seg mye lenger.<\/p>\n

If\u00f8lge den ideelle vakthunden Tech Inquiry's forskning<\/a>I tillegg behandler AI-systemet ogs\u00e5 data fra satellitter, radar, sosiale medier og til og med erobrede fiendtlige ressurser. Dette brede spekteret av inndata er kjent som \"allkildeetterretning\".<\/p>\n

I mars 2023 inntraff en milit\u00e6r hendelse da en amerikansk MQ-9 Reaper-drone kolliderte med et russisk jagerfly over Svartehavet, noe som f\u00f8rte til at dronen styrtet.<\/p>\n

Kort tid f\u00f8r denne hendelsen bekreftet National Geospatial-Intelligence Agency (NGA) at de hadde brukt Project Maven-teknologi i Ukraina.<\/p>\n

Generall\u00f8ytnant Christopher T. Donahue, sjef for XVIII luftb\u00e5rne korps, ble senere <\/span>sa det ganske klart og tydelig<\/span><\/a> om Ukraina-Russland-konflikten: \"Til syvende og sist ble dette v\u00e5rt laboratorium.\"<\/span><\/p>\n

Prosjekt Maven i Ukraina involverte avanserte AI-systemer integrert i Lynx Synthetic Aperture Radar (SAR) p\u00e5 MQ-9 Reapers. Dermed kan kunstig intelligens ha v\u00e6rt avgj\u00f8rende for dronekollisjonen.<\/p>\n

\"Drone\"
Om morgenen 14. mars 2023 avskj\u00e6rte og skadet et russisk Su-27-jagerfly en amerikansk MQ-9 Reaper-drone, noe som resulterte i at dronen styrtet ned i Svartehavet. Dette var den f\u00f8rste direkte konfrontasjonen mellom russiske og amerikanske luftstyrker siden den kalde krigen, og en betydelig opptrapping av de milit\u00e6re spenningene mellom de to nasjonene. Kilde: US Air Force: US Air Force.<\/figcaption><\/figure>\n

I etterkant av hendelsen innkalte USA den russiske ambassad\u00f8ren til Washington for \u00e5 uttrykke sine innvendinger, mens den amerikanske Europakommandoen kalte hendelsen \"utrygg og uprofesjonell\".<\/p>\n

Russland benektet at det hadde skjedd noen kollisjon. Som svar p\u00e5 dette plasserte USA ut noen ubemannede fly for \u00e5 overv\u00e5ke omr\u00e5det, noe Russland protesterte mot.<\/p>\n

Denne situasjonen skapte en truende mulighet for at AI-systemer kunne p\u00e5virke milit\u00e6re beslutninger, og til og med bidra til uforutsette opptrappinger i milit\u00e6re konflikter.<\/p>\n

Som Tech Inquiry sp\u00f8r: \"Det er verdt \u00e5 finne ut om Project Maven utilsiktet bidro til en av de mest betydningsfulle milit\u00e6re opptrappingene i v\u00e5r tid.\"<\/p>\n

Etiske minefelt<\/h2>\n

Prosjekt Maven har hittil hatt sv\u00e6rt varierende resultater. <\/span><\/p>\n

If\u00f8lge <\/span>Siterte Bloomberg-data<\/span><\/a> av Kyiv Independent<\/a>\"Ved bruk av ulike typer bildedata kan soldater identifisere en stridsvogn i 84% av tilfellene, mens Project Maven AI ligger n\u00e6rmere 60%, og tallet synker til 30% i sn\u00f8v\u00e6r.\"<\/span><\/p>\n

De etiske implikasjonene av \u00e5 bruke kunstig intelligens til \u00e5 ta avgj\u00f8relser om liv eller d\u00f8d i krigf\u00f8ring er dypt bekymringsfulle, men risikoen for funksjonsfeil introduserer et enda mer skremmende aspekt ved dette teknologiske v\u00e5penkappl\u00f8pet.<\/p>\n

Det er ikke bare et sp\u00f8rsm\u00e5l om vi b\u00f8r bruke kunstig intelligens til \u00e5 angripe mennesker, men ogs\u00e5 om vi kan stole p\u00e5 at disse systemene fungerer etter hensikten i krigens t\u00e5ke.<\/p>\n

Hva skjer n\u00e5r sivile i n\u00e6rheten blir utpekt som m\u00e5l og \u00f8delagt autonomt? Og hva om dronen selv g\u00e5r amok og ikke fungerer som den skal, og beveger seg inn i milj\u00f8er den ikke er trent til \u00e5 operere i?<\/span><\/p>\n

En AI-feil i denne sammenhengen er ikke bare en teknisk feil - det er en potensiell katalysator for tragedier av ufattelig omfang. I motsetning til menneskelige feil, som kan v\u00e6re begrenset i omfang, kan et AI-systems feil f\u00f8re til et omfattende og vilk\u00e5rlig blodbad i l\u00f8pet av sekunder.<\/p>\n

Forpliktelser til \u00e5 bremse denne utviklingen og holde v\u00e5pnene under l\u00e5s og sl\u00e5 har allerede blitt inng\u00e5tt, som vist da <\/span>30 land sluttet seg til US<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span> rekkverk<\/span><\/a> om milit\u00e6r AI-teknologi.<\/span><\/p>\n

Det amerikanske forsvarsdepartementet (DoD)<\/span>\u00a0ga ogs\u00e5 ut fem \"etiske prinsipper for kunstig intelligens<\/a>\" for milit\u00e6r bruk, inkludert at <\/span>\"Forsvarsdepartementets personell vil utvise tilstrekkelig skj\u00f8nn og forsiktighet, samtidig som de fortsatt er ansvarlige for utvikling, utplassering og bruk av AI-kapasiteter.\"<\/span><\/p>\n

Den siste tidens utvikling tyder imidlertid p\u00e5 at det er et gap mellom disse prinsippene og praksis. <\/span><\/p>\n

For det f\u00f8rste er det sannsynlig at AI-teknologi allerede er ansvarlig for alvorlige hendelser som ligger utenfor det tiltenkte omr\u00e5det. For det andre inneb\u00e6rer DoDs generative AI-arbeidsgruppe outsourcing til private selskaper <\/span>som Palantir, Microsoft og OpenAI<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/a>.\u00a0<\/span><\/p>\n

Samarbeid med kommersielle akt\u00f8rer som ikke er underlagt samme tilsyn som offentlige etater, s\u00e5r tvil om Forsvarsdepartementets evne til \u00e5 kontrollere utviklingen av kunstig intelligens.<\/span><\/p>\n

I mellomtiden har Den internasjonale R\u00f8de Kors-komiteen (ICRC) tatt initiativ til <\/span>diskusjoner om lovligheten av disse systemene<\/span><\/a>, s\u00e6rlig med hensyn til <\/span>Gen\u00e8vekonvensjonens prinsipp om \"distinksjon\"<\/span><\/a>som p\u00e5legger \u00e5 skille mellom stridende og sivile.\u00a0<\/span><\/p>\n

AI-algoritmer er bare s\u00e5 gode som treningsdataene og de programmerte reglene, s\u00e5 de kan slite med denne differensieringen, spesielt under dynamiske og uforutsigbare forhold p\u00e5 slagmarken.<\/span><\/p>\n

Som dronehendelsen i Svartehavet viser, er denne frykten reell. Likevel er milit\u00e6re ledere over hele verden fortsatt optimistiske n\u00e5r det gjelder AI-infunderte krigsmaskiner.\u00a0<\/span><\/p>\n

For ikke lenge siden utkonkurrerte et AI-drevet F-16-jagerfly menneskelige piloter i en testdemonstrasjon.<\/span><\/p>\n