{"id":13224,"date":"2024-07-03T21:10:08","date_gmt":"2024-07-03T21:10:08","guid":{"rendered":"https:\/\/dailyai.com\/?p=13224"},"modified":"2024-07-04T18:47:53","modified_gmt":"2024-07-04T18:47:53","slug":"modern-battlefields-have-become-a-breeding-ground-of-experimental-ai-weaponry","status":"publish","type":"post","link":"https:\/\/dailyai.com\/de\/2024\/07\/modern-battlefields-have-become-a-breeding-ground-of-experimental-ai-weaponry\/","title":{"rendered":"Moderne Schlachtfelder sind zu einer Brutst\u00e4tte f\u00fcr experimentelle KI-Waffen geworden"},"content":{"rendered":"

W\u00e4hrend in der Ukraine und im Nahen Osten Konflikte toben, ist das moderne Schlachtfeld zu einem Testfeld f\u00fcr die KI-gest\u00fctzte Kriegsf\u00fchrung geworden. <\/strong><\/p>\n

Von autonomen Drohnen bis hin zu pr\u00e4diktiven Targeting-Algorithmen - KI-Systeme ver\u00e4ndern die Art bewaffneter Konflikte.<\/p>\n

Die USA, die Ukraine, Russland, China, Israel und andere befinden sich in einem KI-Wettr\u00fcsten, bei dem jeder um die technologische Vorherrschaft in einer zunehmend instabilen geopolitischen Landschaft wetteifert.<\/p>\n

In dem Ma\u00dfe, wie diese neuen Waffen und Taktiken auftauchen, werden auch ihre Folgen deutlich.<\/p>\n

Wir stehen nun vor kritischen Fragen \u00fcber die Zukunft der Kriegsf\u00fchrung, die menschliche Kontrolle und die Ethik der Auslagerung von Entscheidungen \u00fcber Leben und Tod an Maschinen.<\/p>\n

KI k\u00f6nnte milit\u00e4rische Eskalation bereits ausgel\u00f6st haben<\/h2>\n

Zur\u00fcck im Jahr 2017, <\/span>Projekt Maven<\/span><\/a> war der erste Versuch des Pentagons, KI in milit\u00e4rische Operationen zu integrieren. Es soll die Identifizierung und Verfolgung von Zielen anhand von Drohnenaufnahmen in Echtzeit ohne menschliches Eingreifen erm\u00f6glichen.<\/span><\/p>\n

Auch wenn Project Maven h\u00e4ufig im Zusammenhang mit der Analyse von Drohnenkamerabildern diskutiert wird, gehen seine M\u00f6glichkeiten wahrscheinlich viel weiter.<\/p>\n

Nach Angaben der gemeinn\u00fctzigen \u00dcberwachungsorganisation Die Forschung von Tech Inquiry<\/a>Das KI-System verarbeitet auch Daten von Satelliten, Radar, sozialen Medien und sogar erbeutete feindliche Objekte. Dieses breite Spektrum an Daten wird als \"All-Source Intelligence\" bezeichnet.<\/p>\n

Im M\u00e4rz 2023 kam es zu einem milit\u00e4rischen Zwischenfall, als eine US-amerikanische MQ-9 Reaper-Drohne \u00fcber dem Schwarzen Meer mit einem russischen Kampfjet kollidierte und die Drohne zum Absturz brachte.<\/p>\n

Kurz vor diesem Vorfall best\u00e4tigte die National Geospatial-Intelligence Agency (NGA) den Einsatz der Technologie von Project Maven in der Ukraine.<\/p>\n

Generalleutnant Christopher T. Donahue, Kommandeur des XVIII. Luftlandekorps, sp\u00e4ter <\/span>klar und deutlich gesagt<\/span><\/a> \u00fcber den Ukraine-Russland-Konflikt: \"Letzten Endes wurde dies unser Labor\".<\/span><\/p>\n

Das Projekt Maven in der Ukraine umfasste fortschrittliche KI-Systeme, die in das Lynx-Radar mit synthetischer Apertur (SAR) der MQ-9 Reaper integriert waren. Somit k\u00f6nnte die KI bei der Drohnenkollision eine Rolle gespielt haben.<\/p>\n

\"Drohne\"
Am Morgen des 14. M\u00e4rz 2023 fing ein russischer Su-27-Kampfjet eine US-amerikanische MQ-9 Reaper-Drohne ab und besch\u00e4digte sie, woraufhin die Drohne ins Schwarze Meer st\u00fcrzte. Dies war die erste direkte Konfrontation zwischen den russischen und den US-amerikanischen Luftstreitkr\u00e4ften seit dem Kalten Krieg und stellte eine erhebliche Eskalation der milit\u00e4rischen Spannungen zwischen den beiden Nationen dar. Quelle: US Air Force.<\/figcaption><\/figure>\n

Daraufhin beriefen die USA den russischen Botschafter nach Washington ein, um ihre Einw\u00e4nde zum Ausdruck zu bringen, w\u00e4hrend das US European Command den Vorfall als \"unsicher und unprofessionell\" bezeichnete.<\/p>\n

Russland bestritt, dass es zu einem Zusammensto\u00df gekommen sei. Daraufhin verlegten die USA einige unbemannte Flugzeuge zur \u00dcberwachung der Region, wogegen Russland protestierte.<\/p>\n

In dieser Situation bestand die bedrohliche M\u00f6glichkeit, dass KI-Systeme milit\u00e4rische Entscheidungen beeinflussen und sogar zu unvorhergesehenen Eskalationen in milit\u00e4rischen Konflikten beitragen k\u00f6nnten.<\/p>\n

Tech Inquiry fragt: \"Es lohnt sich herauszufinden, ob Project Maven unbeabsichtigt zu einer der bedeutendsten milit\u00e4rischen Eskalationen unserer Zeit beigetragen hat.\"<\/p>\n

Ethische Minenfelder<\/h2>\n

Die Leistung von Project Maven war bisher weitgehend uneinheitlich. <\/span><\/p>\n

Nach Angaben von <\/span>Bloomberg-Daten zitiert<\/span><\/a> durch die Kiewer Unabh\u00e4ngiger<\/a>Bei der Verwendung verschiedener Arten von Bilddaten k\u00f6nnen Soldaten einen Panzer in 84% der Zeit korrekt identifizieren, w\u00e4hrend die KI von Project Maven eher bei 60% liegt, wobei die Zahl bei Schneefall auf 30% sinkt.\"<\/span><\/p>\n

W\u00e4hrend die ethischen Implikationen des Einsatzes von KI f\u00fcr Entscheidungen \u00fcber Leben und Tod in der Kriegsf\u00fchrung zutiefst beunruhigend sind, bringt das Risiko von Fehlfunktionen einen noch beunruhigenderen Aspekt in dieses technologische Wettr\u00fcsten ein.<\/p>\n

Es geht nicht nur um die Frage, ob wir KI zur Bek\u00e4mpfung von Menschen einsetzen sollten, sondern auch darum, ob wir darauf vertrauen k\u00f6nnen, dass diese Systeme im Nebel des Krieges wie vorgesehen funktionieren.<\/p>\n

Was passiert, wenn Zivilisten in der N\u00e4he als Ziele markiert und autonom zerst\u00f6rt werden? Und was ist, wenn die Drohne selbst durchdreht und eine Fehlfunktion hat und in Umgebungen vordringt, f\u00fcr die sie nicht ausgebildet ist?<\/span><\/p>\n

Eine KI-Fehlfunktion ist in diesem Zusammenhang nicht nur eine technische Panne - sie ist ein potenzieller Katalysator f\u00fcr eine Trag\u00f6die unvorstellbaren Ausma\u00dfes. Im Gegensatz zu menschlichen Fehlern, die vielleicht nur ein begrenztes Ausma\u00df haben, k\u00f6nnte der Fehler eines KI-Systems innerhalb von Sekunden zu einem weit verbreiteten, wahllosen Gemetzel f\u00fchren.<\/p>\n

Verpflichtungen, diese Entwicklungen zu verlangsamen und die Waffen unter Verschluss zu halten, wurden bereits eingegangen, wie die folgenden Beispiele zeigen <\/span>30 L\u00e4nder sind beigetreten US<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span> Leitplanken<\/span><\/a> \u00fcber KI-Milit\u00e4rtechnologie.<\/span><\/p>\n

Das US-Verteidigungsministerium (DoD)<\/span>\u00a0ver\u00f6ffentlichte auch f\u00fcnf \"ethische Grunds\u00e4tze f\u00fcr k\u00fcnstliche Intelligenz<\/a>\" f\u00fcr milit\u00e4rische Zwecke, einschlie\u00dflich <\/span>\"Das DoD-Personal wird ein angemessenes Ma\u00df an Urteilsverm\u00f6gen und Sorgfalt walten lassen, w\u00e4hrend es f\u00fcr die Entwicklung, den Einsatz und die Nutzung von KI-F\u00e4higkeiten verantwortlich bleibt.<\/span><\/p>\n

Die j\u00fcngsten Entwicklungen zeigen jedoch, dass zwischen diesen Grunds\u00e4tzen und der Praxis eine Diskrepanz besteht. <\/span><\/p>\n

Zum einen ist die KI-Technologie wahrscheinlich bereits f\u00fcr schwerwiegende Vorf\u00e4lle verantwortlich, die nicht in ihren Zust\u00e4ndigkeitsbereich fallen. Zweitens beinhaltet die generative KI-Taskforce des Verteidigungsministeriums das Outsourcing an private Unternehmen <\/span>wie Palantir, Microsoft und OpenAI<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/a>.\u00a0<\/span><\/p>\n

Die Zusammenarbeit mit kommerziellen Unternehmen, die nicht der gleichen Aufsicht unterliegen wie Regierungsbeh\u00f6rden, l\u00e4sst Zweifel an der F\u00e4higkeit des Verteidigungsministeriums aufkommen, die KI-Entwicklung zu kontrollieren.<\/span><\/p>\n

Unterdessen hat das Internationale Komitee vom Roten Kreuz (IKRK) eine <\/span>Diskussionen \u00fcber die Rechtm\u00e4\u00dfigkeit dieser Systeme<\/span><\/a>insbesondere in Bezug auf die <\/span>Der Grundsatz der \"Unterscheidung\" der Genfer Konvention<\/span><\/a>die eine Unterscheidung zwischen Kombattanten und Zivilisten vorschreibt.\u00a0<\/span><\/p>\n

KI-Algorithmen sind nur so gut wie ihre Trainingsdaten und programmierten Regeln, so dass sie mit dieser Unterscheidung Schwierigkeiten haben k\u00f6nnten, insbesondere unter dynamischen und unvorhersehbaren Bedingungen auf dem Schlachtfeld.<\/span><\/p>\n

Wie der Drohnenvorfall im Schwarzen Meer zeigt, sind diese Bef\u00fcrchtungen real. Dennoch sind milit\u00e4rische F\u00fchrer weltweit weiterhin optimistisch, was KI-gest\u00fctzte Kriegsmaschinen angeht.\u00a0<\/span><\/p>\n

Vor nicht allzu langer Zeit hat ein KI-gesteuerter F-16-Kampfjet bei einer Testvorf\u00fchrung menschliche Piloten \u00fcberfl\u00fcgelt.<\/span><\/p>\n