{"id":4724,"date":"2023-08-27T20:07:21","date_gmt":"2023-08-27T20:07:21","guid":{"rendered":"https:\/\/dailyai.com\/?p=4724"},"modified":"2023-08-30T21:09:12","modified_gmt":"2023-08-30T21:09:12","slug":"ai-on-the-battlefield-who-is-responsible-if-it-goes-wrong","status":"publish","type":"post","link":"https:\/\/dailyai.com\/de\/2023\/08\/ai-on-the-battlefield-who-is-responsible-if-it-goes-wrong\/","title":{"rendered":"KI auf dem Schlachtfeld: Wer ist verantwortlich, wenn es schief geht?"},"content":{"rendered":"

In einer Welt, in der sich \"Kriegsspiele\" nicht mehr nur auf Brettspiele oder Videospiele beziehen, sondern auf Szenarien, in denen es um Leben und Tod geht, die durch maschinelle Intelligenz erm\u00f6glicht werden, ist die Frage der Verantwortung von gro\u00dfer Bedeutung.<\/strong><\/p>\n

Die Milit\u00e4rs verst\u00e4rken die Forschung und Investitionen in KI. <\/span><\/p>\n

Einige Analysten bezeichneten die 11-t\u00e4gige israelisch-pal\u00e4stinensische Begegnung 2021 als die erste \"KI-Krieg<\/a>, wo israelische Technologien zur Aufkl\u00e4rung und zum Einsatz auf dem Schlachtfeld beitrugen. <\/span><\/p>\n

In den letzten Monaten,<\/span>\u00a0t<\/span>as US-Milit\u00e4r hat eine <\/span>Arbeitsgruppe f\u00fcr generative KI<\/span><\/a> und testete erfolgreich ein <\/span>autonomer KI-gesteuerter Jet<\/span><\/a>.<\/span><\/p>\n

Die zunehmende Rolle der KI in der Kriegsf\u00fchrung wirft eine Reihe komplexer rechtlicher und ethischer Dilemmata auf, auf die wir noch keine Antwort gefunden haben, auch wenn KI-gest\u00fctzte Milit\u00e4rtechnologie bereits jetzt eingesetzt wird. <\/span><\/p>\n

Wer ist verantwortlich, wenn KI schief l\u00e4uft?<\/span><\/h2>\n

Der Milit\u00e4rtechnikhersteller Rafael hat \"Feuerweber<\/a>\"ortet feindliche Positionen mit Hilfe von Sensoren und schl\u00e4gt die am besten platzierte Einheit zum Beschuss vor.\u00a0<\/span><\/p>\n

In der Produktbeschreibung hei\u00dft es: \"Fire Weaver berechnet die Einsatzregeln und steuert das Zielen und Feuern, wobei f\u00fcr jedes erfasste Ziel der am besten geeignete Sch\u00fctze verwendet wird.\" <\/span><\/p>\n

\"Berechnet\" ist hier das entscheidende Wort.\u00a0<\/span>KI-Waffen k\u00f6nnen die Entscheidung, ein Ziel zu zerst\u00f6ren, auf eine bin\u00e4re Ja\/Nein-Entscheidung reduzieren. Was aber, wenn Fire Weaver ein Kind mit einem feindlichen Soldaten verwechselt? Oder einen humanit\u00e4ren Hilfstransporter anstelle eines feindlichen Fahrzeugs?<\/span><\/p>\n

Derzeit ist der Mangel an moralischer, ethischer und rechtlicher Klarheit eklatant. Die KI befindet sich in einem rechtlichen und ethischen Vakuum, was noch einige Zeit so bleiben k\u00f6nnte, da die Gesetzgebung notorisch langsam ist - und selten mit einer sich so schnell entwickelnden Technologie konfrontiert wird.\u00a0<\/span><\/p>\n

In der Gesellschaft gibt es bereits viele Beispiele daf\u00fcr, dass die KI die Menschen und ihre Rechte gef\u00e4hrdet. Sie geben einen Einblick in die L\u00fccke in der Gesetzgebung und der Ethik, die durch die KI und ihre verschiedenen Anwendungen entstanden ist.\u00a0<\/span><\/p>\n

Zum Beispiel, <\/span>ChatGPT angeblich<\/span><\/a> ein Mann aus Georgia, Mark Walters, wurde der Veruntreuung von Firmengeldern f\u00fcr schuldig befunden und der Juraprofessor Jonathan Turley der sexuellen N\u00f6tigung beschuldigt. ChatGPT war in beiden F\u00e4llen falsch.<\/span><\/p>\n

In \u00e4hnlicher Weise haben Getty Images und mehrere K\u00fcnstler, Autoren und andere Kreative Urheberrechtsklagen<\/a> gegen Technologieunternehmen wegen der Verwendung von Trainingsdaten zur Erstellung ihrer Modelle.\u00a0<\/span><\/p>\n

Die Trainingsdaten werden h\u00e4ufig von Drittanbietern wie Common Crawl und \"Schattenbibliotheken\" wie Bibliotik gesammelt, \u00e4hnlich wie bei Torrent-Sites wie PirateBay.\u00a0<\/span><\/p>\n

Wer ist in diesem Fall f\u00fcr die Verletzung des Urheberrechts verantwortlich? Die KI-Entwickler oder die Herausgeber der Datens\u00e4tze? Es ist ein cartoonartiger Kreis der Verantwortung, in dem jede potenziell schuldige Partei auf die n\u00e4chste zeigt, und am Ende entkommen alle der Schuld.\u00a0<\/span><\/p>\n

Diese unklare ethische Situation ist im Zusammenhang mit KI-Waffen und algorithmischen Milit\u00e4rtaktiken, wo die Berechnungen eines Modells buchst\u00e4blich \u00fcber Leben und Tod entscheiden k\u00f6nnen, noch viel riskanter.\u00a0<\/span><\/p>\n

Milit\u00e4rische Organisationen sind sich des Paradigmenwechsels, den die KI-Waffen darstellen, bereits bewusst. Nach Angaben des Verteidigungsministeriums (DoD) ist die erste der f\u00fcnf \"<\/span>ethische Grunds\u00e4tze f\u00fcr k\u00fcnstliche Intelligenz<\/span><\/a>\"Der Begriff \"Verantwortlich\" f\u00fcr milit\u00e4rische Anwendungen ist definiert als: \"DoD-Personal wird ein angemessenes Ma\u00df an Urteilsverm\u00f6gen und Sorgfalt walten lassen, w\u00e4hrend es f\u00fcr die Entwicklung, den Einsatz und die Nutzung von KI-F\u00e4higkeiten verantwortlich bleibt.\"<\/span><\/p>\n

Das bedeutet, dass letztlich ein Mensch f\u00fcr die Handlungen der Maschine verantwortlich sein muss. Das Milit\u00e4r hat sich immer auf den Grundsatz gest\u00fctzt, dass jemand - in der Regel der Kommandeur oder ein Soldat - f\u00fcr die Handlungen im Krieg verantwortlich gemacht werden muss. Doch die Rolle der KI im Entscheidungsprozess wird immer undurchsichtiger.\u00a0<\/span><\/p>\n

Die erste Frage ist, ob das Dr\u00fccken des \"Genehmigen\"-Buttons gleichbedeutend mit Schuld ist, wenn die KI immer ausgefeiltere Aufgaben bei der Zielerfassung, \u00dcberwachung und in anderen Bereichen \u00fcbernimmt.\u00a0<\/span><\/p>\n

Wenn beispielsweise die Vorhersagen der KI nicht zutreffen und zivile Opfer zu beklagen sind, w\u00fcrde wohl kaum jemand akzeptieren, dass \"die Maschine\" die alleinige Schuld an einem Unfall tr\u00e4gt.\u00a0<\/span><\/p>\n

Im Gegenzug kann es Situationen geben, in denen Menschen zu Unrecht f\u00fcr ihre Rolle bei einem Unfall verantwortlich gemacht werden, zu dem sie keinen Beitrag geleistet haben, was der Anthropologe M.C. Elish als \"<\/span>moralische Knautschzone<\/span><\/a>.\"\u00a0<\/span><\/p>\n

Elishs Untersuchungen von Industrie- und Maschinenunf\u00e4llen legen den Schluss nahe, dass der Mensch bei jedem Unfall die Schuld auf sich nimmt, auch wenn der Fehler bei der Maschine, dem Algorithmus oder dem Entscheidungstr\u00e4ger liegt, der die Technologie \u00fcberhaupt erst zugelassen hat.\u00a0<\/span><\/p>\n

Sie st\u00fctzt sich dabei auf mehrere Beispiele aus dem wirklichen Leben, wie den Nuklearunfall in Three Mile Island, Pennsylvania, und den Absturz des Air-France-Fluges 447, die gr\u00f6\u00dftenteils auf \"menschliches Versagen\" zur\u00fcckgef\u00fchrt wurden und nicht auf eine kompliziertere Reihe von Fehlern, die auf mehrere Personen und Systeme verteilt waren.\u00a0<\/span><\/p>\n

Zur Verantwortung im Zeitalter der KI sagt Elish: \"Im Hinblick auf autonome und robotische Technologien befinden sich die Vorschriften, Gesetze und Normen noch im Aufbau und k\u00f6nnen besonders anf\u00e4llig f\u00fcr Unsicherheiten oder sogar Umgehungen der Verantwortung sein.\"<\/span><\/p>\n

Dies wirft auch Fragen nach der Rolle demokratischer Prozesse in der Kriegsf\u00fchrung und der Souver\u00e4nit\u00e4t menschlicher Entscheidungen auf. Als der Vietnamkrieg in den amerikanischen Wohnzimmern ausgestrahlt wurde, beeinflusste die Unmittelbarkeit der Kriegsfolgen die \u00f6ffentliche Meinung und die Politik.\u00a0<\/span><\/p>\n

Im Gegensatz dazu k\u00f6nnte ein KI-gest\u00fctzter Kampf die gesellschaftliche Kontrolle und das Gleichgewicht der \u00f6ffentlichen Meinung und des demokratischen Diskurses aufheben.<\/span><\/p>\n

Der Ethiker und Philosoph Thomas Metzinger unterstreicht, dass ethische Normen nicht nur rechtliche Konstrukte sind, sondern gesellschaftliche, die aus demokratischen Prozessen hervorgehen. <\/span><\/p>\n

Wenn Algorithmen die Entscheidungen treffen, wird die menschliche Beteiligung - und damit die moralische Verantwortung - diffus und \u00fcberfl\u00fcssig.\u00a0<\/span><\/p>\n

Internationale rechtliche Auswirkungen von KI in der Kriegsf\u00fchrung<\/span><\/h2>\n

Einer der Grundpfeiler der Genfer Konvention ist der Grundsatz der Unterscheidung zwischen Kombattanten und Zivilisten, der eine solche Unterscheidung vorschreibt.\u00a0<\/span><\/p>\n

Die Technologie hat bereits bewiesen, dass sie die Versprechen eines verbesserten Schutzes der Zivilbev\u00f6lkerung nicht einhalten kann. Laut durchgesickerten Papieren der Obama-Regierung waren nur 10% der bei US-Drohnenangriffen get\u00f6teten Personen die beabsichtigten Ziele. <\/span>Das Intercept<\/span><\/a>.\u00a0<\/span><\/p>\n

KI-Algorithmen sind nur so gut wie die Daten, auf denen sie trainiert werden, und die Regeln, nach denen sie programmiert sind. In der Kriegsf\u00fchrung kann ein Algorithmus Daten aufgrund von \"Fog of War\", fehlerhaften Trainingsdaten oder absichtlichen T\u00e4uschungsman\u00f6vern des Feindes falsch interpretieren.\u00a0<\/span><\/p>\n

Das Internationale Komitee vom Roten Kreuz (IKRK) hat eine Diskussion \u00fcber die Rechtm\u00e4\u00dfigkeit autonomer Waffensysteme im Rahmen des geltenden humanit\u00e4ren V\u00f6lkerrechts eingeleitet, doch gibt es nur wenige konkrete Definitionen.\u00a0<\/span><\/p>\n

Sie stellen fest, dass die bestehenden Rahmenwerke f\u00fcr die neuen Herausforderungen der KI ungeeignet sind und die <\/span>Die vom IKRK vorgeschlagenen Grunds\u00e4tze<\/span><\/a> sind vage; zum Beispiel: \"Unvorhersehbare autonome Waffensysteme sollten ausdr\u00fccklich ausgeschlossen werden\". <\/span><\/p>\n

Wo setzen wir die Grenze f\u00fcr \"unvorhersehbar\", wenn ein winziger Fehler katastrophale Folgen haben kann?<\/span><\/p>\n