{"id":13224,"date":"2024-07-03T21:10:08","date_gmt":"2024-07-03T21:10:08","guid":{"rendered":"https:\/\/dailyai.com\/?p=13224"},"modified":"2024-07-04T18:47:53","modified_gmt":"2024-07-04T18:47:53","slug":"modern-battlefields-have-become-a-breeding-ground-of-experimental-ai-weaponry","status":"publish","type":"post","link":"https:\/\/dailyai.com\/nl\/2024\/07\/modern-battlefields-have-become-a-breeding-ground-of-experimental-ai-weaponry\/","title":{"rendered":"Moderne slagvelden zijn een broedplaats geworden voor experimentele AI-wapens"},"content":{"rendered":"

Terwijl conflicten woeden in Oekra\u00efne en het Midden-Oosten, is het moderne slagveld een proeftuin geworden voor AI-gestuurde oorlogsvoering. <\/strong><\/p>\n

Van autonome drones tot voorspellende richtalgoritmen: AI-systemen veranderen de aard van gewapende conflicten.<\/p>\n

De VS, Oekra\u00efne, Rusland, China, Isra\u00ebl en anderen zijn verwikkeld in een AI-wapenwedloop, waarbij ze allemaal strijden om de technologische suprematie in een geopolitiek landschap dat steeds volatieler wordt.<\/p>\n

Naarmate deze nieuwe wapens en tactieken verschijnen, doen ook de gevolgen ervan hun intrede.<\/p>\n

We worden nu geconfronteerd met kritieke vragen over de toekomst van oorlogvoering, menselijke controle en de ethiek van het uitbesteden van beslissingen over leven en dood aan machines.<\/p>\n

AI heeft mogelijk al militaire escalatie in gang gezet<\/h2>\n

Terug in 2017, <\/span>Project Maven<\/span><\/a> is de eerste poging van het Pentagon om AI te integreren in militaire operaties. Het doel is om doelen in realtime te kunnen identificeren en volgen met behulp van dronebeelden zonder menselijke tussenkomst.<\/span><\/p>\n

Hoewel Project Maven vaak wordt besproken in termen van het analyseren van camerabeelden van drones, reiken de mogelijkheden waarschijnlijk veel verder.<\/p>\n

Volgens de non-profit waakhond Het onderzoek van Tech Inquiry<\/a>Het AI-systeem verwerkt ook gegevens van satellieten, radar, sociale media en zelfs buitgemaakte vijandelijke activa. Dit brede scala aan input staat bekend als \"all-source intelligence\".<\/p>\n

In maart 2023 vond er een militair incident plaats toen een Amerikaanse MQ-9 Reaper drone boven de Zwarte Zee in botsing kwam met een Russisch gevechtsvliegtuig, waardoor de drone neerstortte.<\/p>\n

Kort voor dat incident bevestigde de National Geospatial-Intelligence Agency (NGA) het gebruik van Project Maven's technologie in Oekra\u00efne.<\/p>\n

Luitenant-generaal Christopher T. Donahue, commandant van het XVIII Airborne Corps, later <\/span>heel duidelijk gesteld<\/span><\/a> over het conflict tussen Oekra\u00efne en Rusland: \"Uiteindelijk is dit ons laboratorium geworden.\"<\/span><\/p>\n

Bij Project Maven in Oekra\u00efne waren geavanceerde AI-systemen ge\u00efntegreerd in de Lynx Synthetic Aperture Radar (SAR) van MQ-9 Reapers. AI kan dus een rol hebben gespeeld bij de botsing met de drone.<\/p>\n

\"Drone\"
In de ochtend van 14 maart 2023 onderschepte en beschadigde een Russisch Su-27 gevechtsvliegtuig een Amerikaanse MQ-9 Reaper drone, waardoor de drone neerstortte in de Zwarte Zee. Het was de eerste directe confrontatie tussen de Russische en Amerikaanse luchtmacht sinds de Koude Oorlog, een belangrijke escalatie in de militaire spanningen tussen de twee naties. Bron: US Air Force.<\/figcaption><\/figure>\n

In de nasleep ontboden de VS de Russische ambassadeur in Washington om hun bezwaren kenbaar te maken, terwijl het US European Command het incident \"onveilig en onprofessioneel\" noemde.<\/p>\n

Rusland ontkende dat er een botsing had plaatsgevonden. Als reactie daarop verplaatste de VS enkele onbemande vliegtuigen om het gebied in de gaten te houden, waartegen Rusland protesteerde.<\/p>\n

Deze situatie bood de dreigende mogelijkheid dat AI-systemen militaire beslissingen zouden be\u00efnvloeden en zelfs zouden bijdragen aan onvoorziene escalaties in militaire conflicten.<\/p>\n

Zoals Tech Inquiry vraagt: \"Het is de moeite waard om vast te stellen of Project Maven onbedoeld heeft bijgedragen aan een van de meest significante militaire escalaties van onze tijd.\"<\/p>\n

Ethische mijnenvelden<\/h2>\n

De prestaties van Project Maven zijn tot nu toe grotendeels inconsistent geweest. <\/span><\/p>\n

Volgens <\/span>Aangehaalde gegevens Bloomberg<\/span><\/a> door de Onafhankelijke Kyiv<\/a>\"Bij gebruik van verschillende soorten beeldgegevens kunnen soldaten 84% van de tijd een tank correct identificeren, terwijl Project Maven AI dichter bij 60% zit, waarbij het cijfer keldert naar 30% in besneeuwde omstandigheden.\"<\/span><\/p>\n

Hoewel de ethische implicaties van het gebruik van AI voor het nemen van beslissingen op leven of dood in oorlogsvoering zeer verontrustend zijn, introduceert het risico op storingen een nog huiveringwekkender aspect in deze technologische wapenwedloop.<\/p>\n

Het is niet alleen de vraag of we AI moeten gebruiken om mensen aan te vallen, maar ook of we erop kunnen vertrouwen dat deze systemen functioneren zoals bedoeld in de oorlogsmist.<\/p>\n

Wat gebeurt er als burgers in de buurt als doelwit worden bestempeld en autonoom worden vernietigd? En wat als de drone zelf op hol slaat en defect raakt en zich begeeft in omgevingen waar hij niet voor getraind is?<\/span><\/p>\n

Een AI-fout is in deze context niet slechts een technische storing - het is een potenti\u00eble katalysator voor tragedies op een onvoorstelbare schaal. In tegenstelling tot menselijke fouten, die beperkt kunnen zijn in omvang, kan een fout van een AI-systeem binnen enkele seconden leiden tot een wijdverspreid, willekeurig bloedbad.<\/p>\n

Er zijn al toezeggingen gedaan om deze ontwikkelingen te vertragen en wapens achter slot en grendel te houden, zoals bleek toen <\/span>30 landen aangesloten US<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span> relingen<\/span><\/a> over militaire AI-technologie.<\/span><\/p>\n

Het Amerikaanse Ministerie van Defensie (DoD)<\/span>\u00a0heeft ook vijf \"ethische principes voor kunstmatige intelligentie<\/a>\" voor militair gebruik, met inbegrip van <\/span>\"DoD-personeel zal de juiste mate van oordeel en zorgvuldigheid in acht nemen, terwijl het verantwoordelijk blijft voor de ontwikkeling, de inzet en het gebruik van AI-mogelijkheden.\"<\/span><\/p>\n

Recente ontwikkelingen wijzen echter op een kloof tussen deze principes en de praktijk. <\/span><\/p>\n

Ten eerste is AI-technologie waarschijnlijk al verantwoordelijk voor ernstige incidenten die buiten het beoogde doel vallen. Ten tweede wordt de generatieve AI-taakgroep van het DoD uitbesteed aan particuliere bedrijven. <\/span>zoals Palantir, Microsoft en OpenAI<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/a>.\u00a0<\/span><\/p>\n

Samenwerking met commerci\u00eble entiteiten die niet onder hetzelfde toezicht staan als overheidsinstellingen, doet twijfels rijzen over het vermogen van het DoD om de ontwikkeling van AI te controleren.<\/span><\/p>\n

Ondertussen heeft het Internationale Comit\u00e9 van het Rode Kruis (ICRC) het initiatief genomen tot <\/span>discussies over de legaliteit van deze systemen<\/span><\/a>met name wat betreft de <\/span>Het \"onderscheid\"-principe van de Conventie van Gen\u00e8ve<\/span><\/a>die het maken van onderscheid tussen strijders en burgers voorschrijft.\u00a0<\/span><\/p>\n

AI-algoritmen zijn slechts zo goed als hun trainingsgegevens en geprogrammeerde regels, dus ze kunnen moeite hebben met deze differentiatie, vooral in dynamische en onvoorspelbare omstandigheden op het slagveld.<\/span><\/p>\n

Zoals blijkt uit het incident met de drones in de Zwarte Zee, zijn deze angsten re\u00ebel. Toch blijven militaire leiders wereldwijd enthousiast over AI-oorlogsmachines.\u00a0<\/span><\/p>\n

Nog niet zo lang geleden was een F-16 gevechtsvliegtuig met AI in een testdemonstratie beter in het manoeuvreren dan menselijke piloten.<\/span><\/p>\n