{"id":13224,"date":"2024-07-03T21:10:08","date_gmt":"2024-07-03T21:10:08","guid":{"rendered":"https:\/\/dailyai.com\/?p=13224"},"modified":"2024-07-04T18:47:53","modified_gmt":"2024-07-04T18:47:53","slug":"modern-battlefields-have-become-a-breeding-ground-of-experimental-ai-weaponry","status":"publish","type":"post","link":"https:\/\/dailyai.com\/sv\/2024\/07\/modern-battlefields-have-become-a-breeding-ground-of-experimental-ai-weaponry\/","title":{"rendered":"Moderna slagf\u00e4lt har blivit en grogrund f\u00f6r experimentella AI-vapen"},"content":{"rendered":"

I takt med att konflikter rasar i Ukraina och Mellan\u00f6stern har det moderna slagf\u00e4ltet blivit en testplats f\u00f6r AI-driven krigf\u00f6ring. <\/strong><\/p>\n

AI-system, fr\u00e5n autonoma dr\u00f6nare till prediktiva m\u00e5linriktningsalgoritmer, h\u00e5ller p\u00e5 att omforma v\u00e4pnade konflikter.<\/p>\n

USA, Ukraina, Ryssland, Kina, Israel och andra \u00e4r fastl\u00e5sta i en AI-vapenkappl\u00f6pning, d\u00e4r alla t\u00e4vlar om teknisk \u00f6verl\u00e4gsenhet i ett alltmer instabilt geopolitiskt landskap.<\/p>\n

I takt med att dessa nya vapen och taktiker dyker upp \u00f6kar ocks\u00e5 deras konsekvenser.<\/p>\n

Vi st\u00e5r nu inf\u00f6r kritiska fr\u00e5gor om krigf\u00f6ringens framtid, m\u00e4nsklig kontroll och etiken i att l\u00e4gga ut beslut om liv och d\u00f6d p\u00e5 maskiner.<\/p>\n

AI kan redan ha utl\u00f6st milit\u00e4r upptrappning<\/h2>\n

Tillbaka till 2017, <\/span>Projekt Maven<\/span><\/a> representerade Pentagons fr\u00e4msta insats f\u00f6r att integrera AI i milit\u00e4ra operationer. Syftet \u00e4r att m\u00f6jligg\u00f6ra identifiering och sp\u00e5rning av m\u00e5l i realtid fr\u00e5n dr\u00f6narbilder utan m\u00e4nsklig inblandning.<\/span><\/p>\n

\u00c4ven om Project Maven ofta diskuteras i termer av att analysera bilder fr\u00e5n dr\u00f6narkameror, str\u00e4cker sig dess m\u00f6jligheter sannolikt mycket l\u00e4ngre.<\/p>\n

Enligt den icke-vinstdrivande vakthunden Tech Inquiry's forskning<\/a>Men AI-systemet bearbetar \u00e4ven data fr\u00e5n satelliter, radar, sociala medier och till och med tillf\u00e5ngatagna fientliga tillg\u00e5ngar. Detta breda spektrum av ing\u00e5ngar kallas \"allk\u00e4llsinformation\".<\/p>\n

I mars 2023 intr\u00e4ffade en milit\u00e4r incident n\u00e4r en amerikansk dr\u00f6nare av typen MQ-9 Reaper kolliderade med ett ryskt stridsflygplan \u00f6ver Svarta havet, vilket ledde till att dr\u00f6naren kraschade.<\/p>\n

Strax f\u00f6re den incidenten bekr\u00e4ftade National Geospatial-Intelligence Agency (NGA) att Project Mavens teknik anv\u00e4nts i Ukraina.<\/p>\n

Generall\u00f6jtnant Christopher T. Donahue, bef\u00e4lhavare f\u00f6r XVIII luftburna k\u00e5ren, senare <\/span>sade helt klart och tydligt<\/span><\/a> om konflikten mellan Ukraina och Ryssland: \"I slut\u00e4ndan blev det h\u00e4r v\u00e5rt laboratorium.\"<\/span><\/p>\n

Projekt Maven i Ukraina omfattade avancerade AI-system som integrerades i Lynx Synthetic Aperture Radar (SAR) p\u00e5 MQ-9 Reapers. AI kan d\u00e4rf\u00f6r ha varit en bidragande orsak till dr\u00f6narkollisionen.<\/p>\n

\"Dr\u00f6nare\"
P\u00e5 morgonen den 14 mars 2023 f\u00e5ngade ett ryskt Su-27 stridsflygplan upp och skadade en amerikansk MQ-9 Reaper dr\u00f6nare, vilket resulterade i att dr\u00f6naren kraschade i Svarta havet. Det var den f\u00f6rsta direkta konfrontationen mellan ryska och amerikanska flygvapen sedan kalla kriget, en betydande upptrappning av de milit\u00e4ra sp\u00e4nningarna mellan de tv\u00e5 nationerna. K\u00e4lla: US Air Force: US Air Force.<\/figcaption><\/figure>\n

I efterdyningarna kallade USA upp den ryske ambassad\u00f6ren till Washington f\u00f6r att uttrycka sina inv\u00e4ndningar, medan USA:s europeiska kommando kallade h\u00e4ndelsen \"os\u00e4ker och oprofessionell\".<\/p>\n

Ryssland f\u00f6rnekade att n\u00e5gon kollision skulle ha \u00e4gt rum. Som svar p\u00e5 detta flyttade USA n\u00e5gra obemannade flygplan f\u00f6r att \u00f6vervaka regionen, vilket Ryssland protesterade mot.<\/p>\n

Denna situation innebar en hotfull m\u00f6jlighet att AI-system skulle kunna p\u00e5verka milit\u00e4ra beslut och till och med bidra till of\u00f6rutsedda upptrappningar av milit\u00e4ra konflikter.<\/p>\n

Som Tech Inquiry fr\u00e5gar: \"Det \u00e4r v\u00e4rt att avg\u00f6ra om Project Maven oavsiktligt bidrog till en av de mest betydande milit\u00e4ra upptrappningarna i v\u00e5r tid.\"<\/p>\n

Etiska minf\u00e4lt<\/h2>\n

Project Mavens prestanda har hittills varit mycket oj\u00e4mn. <\/span><\/p>\n

Enligt uppgift fr\u00e5n <\/span>Bloomberg-uppgifter citerade<\/span><\/a> av Kyiv Independent<\/a>\"N\u00e4r man anv\u00e4nder olika typer av bilddata kan soldater korrekt identifiera en tank 84% av tiden, medan Project Maven AI \u00e4r n\u00e4rmare 60%, med siffran som sjunker till 30% under sn\u00f6iga f\u00f6rh\u00e5llanden.\"<\/span><\/p>\n

De etiska konsekvenserna av att anv\u00e4nda AI f\u00f6r att fatta beslut om liv eller d\u00f6d i krigf\u00f6ring \u00e4r djupt oroande, men risken f\u00f6r funktionsfel inneb\u00e4r en \u00e4nnu mer skr\u00e4mmande aspekt av denna tekniska kapprustning.<\/p>\n

Det \u00e4r inte bara en fr\u00e5ga om huruvida vi ska anv\u00e4nda AI f\u00f6r att rikta in oss p\u00e5 m\u00e4nniskor, utan om vi kan lita p\u00e5 att dessa system fungerar som avsett i krigsdimman.<\/p>\n

Vad h\u00e4nder n\u00e4r civila i n\u00e4rheten m\u00e4rks ut som m\u00e5l och f\u00f6rst\u00f6rs autonomt? Och vad h\u00e4nder om dr\u00f6naren sj\u00e4lv f\u00e5r fnatt och inte fungerar som den ska och f\u00e4rdas in i milj\u00f6er som den inte \u00e4r utbildad f\u00f6r att operera i?<\/span><\/p>\n

Ett AI-fel i det h\u00e4r sammanhanget \u00e4r inte bara ett tekniskt fel - det \u00e4r en potentiell katalysator f\u00f6r tragedier i en ofattbar skala. Till skillnad fr\u00e5n m\u00e4nskliga fel, som kan vara begr\u00e4nsade i omfattning, kan ett AI-systems misstag leda till omfattande, urskillningsl\u00f6st blodbad p\u00e5 bara n\u00e5gra sekunder.<\/p>\n

\u00c5taganden f\u00f6r att bromsa denna utveckling och h\u00e5lla vapnen under l\u00e5s och bom har redan gjorts, vilket framg\u00e5r av f\u00f6ljande <\/span>30 l\u00e4nder ansl\u00f6t sig US<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span> skyddsr\u00e4cken<\/span><\/a> om milit\u00e4r AI-teknik.<\/span><\/p>\n

USA:s f\u00f6rsvarsdepartement (DoD)<\/span>\u00a0sl\u00e4ppte ocks\u00e5 fem \"etiska principer f\u00f6r artificiell intelligens<\/a>\" f\u00f6r milit\u00e4rt bruk, inklusive att <\/span>\"DoD-personal kommer att ut\u00f6va l\u00e4mpliga niv\u00e5er av omd\u00f6me och f\u00f6rsiktighet, samtidigt som de f\u00f6rblir ansvariga f\u00f6r utveckling, utplacering och anv\u00e4ndning av AI-funktioner.\"<\/span><\/p>\n

Den senaste tidens utveckling tyder dock p\u00e5 att det finns en koppling mellan dessa principer och praktiken. <\/span><\/p>\n

F\u00f6r det f\u00f6rsta \u00e4r AI-infunderad teknik sannolikt redan ansvarig f\u00f6r allvarliga incidenter utanf\u00f6r dess avsedda ansvarsomr\u00e5de. F\u00f6r det andra inneb\u00e4r DoD:s arbetsgrupp f\u00f6r generativ AI outsourcing till privata f\u00f6retag <\/span>som Palantir, Microsoft och OpenAI<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/a>.\u00a0<\/span><\/p>\n

Samarbete med kommersiella enheter som inte \u00e4r f\u00f6rem\u00e5l f\u00f6r samma tillsyn som statliga myndigheter ifr\u00e5gas\u00e4tter DoD:s f\u00f6rm\u00e5ga att kontrollera AI-utvecklingen.<\/span><\/p>\n

Under tiden har Internationella r\u00f6dakorskommitt\u00e9n (ICRC) inlett <\/span>diskussioner om lagligheten hos dessa system<\/span><\/a>, s\u00e4rskilt n\u00e4r det g\u00e4ller <\/span>Gen\u00e8vekonventionens princip om \"\u00e5tskillnad\"<\/span><\/a>som f\u00f6reskriver att man ska g\u00f6ra \u00e5tskillnad mellan stridande och civila.\u00a0<\/span><\/p>\n

AI-algoritmer \u00e4r bara s\u00e5 bra som deras tr\u00e4ningsdata och programmerade regler, s\u00e5 de kan f\u00e5 problem med denna differentiering, s\u00e4rskilt under dynamiska och of\u00f6ruts\u00e4gbara f\u00f6rh\u00e5llanden p\u00e5 slagf\u00e4ltet.<\/span><\/p>\n

Som framg\u00e5r av dr\u00f6narincidenten i Svarta havet \u00e4r dessa farh\u00e5gor verkliga. \u00c4nd\u00e5 \u00e4r milit\u00e4ra ledare v\u00e4rlden \u00f6ver fortsatt positiva till AI-infunderade krigsmaskiner.\u00a0<\/span><\/p>\n

F\u00f6r inte s\u00e5 l\u00e4nge sedan utman\u00f6vrerade ett AI-drivet F-16-stridsflygplan m\u00e4nskliga piloter i en testdemo.<\/span><\/p>\n