Auf der internationalen Konferenz "Humanity at the Crossroads: Autonomous Weapons Systems and the Challenge of Regulation" in Wien wurde gefordert, den Einsatz von KI in autonomen Waffensystemen (AWS) zu regulieren, solange die Technologie noch in den Kinderschuhen steckt.
Im Laufe der Jahrhunderte hat der technische Fortschritt die Art und Weise, wie Kriege geführt werden, dramatisch verändert. Entwicklungen wie Stahl, Schießpulver und schließlich die Atombombe fanden alle zunächst in der Kriegsführung Anwendung, bevor sie ihren Weg in die zivile Nutzung fanden.
Die KI hat sich in dieser Hinsicht dem Trend widersetzt. Die ersten Anwendungen waren weitgehend kommerzieller Natur, aber die Streitkräfte haben schnell erkannt, dass KI das Schlachtfeld erneut verändern kann.
In Anspielung auf die erste Atombombe erklärte der österreichische Außenminister Alexander Schallenberg den Teilnehmern aus 143 Ländern, dass die Welt vor einem "Oppenheimer-Moment" stehe, wenn es darum gehe, zu entscheiden, ob und wie KI in autonomen Waffen eingesetzt werden solle.
Die Menschheit steht am Scheideweg: Autonome Waffensysteme werden bald die Schlachtfelder der Welt bevölkern. Wir müssen handeln und uns auf internationale Regeln einigen, um sicherzustellen, dass Entscheidungen über Leben und Tod niemals von Maschinen getroffen werden!
➡️ Anpfiff #AWS2024Wien mit über 900 Gästen aus 142 Staaten pic.twitter.com/AtwumLu4OP
- Alexander Schallenberg (@a_schallenberg) 29. April 2024
Der Anstoß für den dringenden Bedarf an Vorschriften war nicht nur die Antizipation potenzieller künftiger Bedrohungen, sondern auch die Reaktion auf den Einsatz von KI in aktuellen Konflikten.
Autonome Drohnen werden von beiden Seiten im Krieg in der Ukraine eingesetzt. Israelische Streitkräfte setzen KI in zahlreichen Verteidigungsanwendungen ein, darunter angeblich auch bei der Identifizierung menschlicher Ziele im Gaza-Krieg.
Schallenberg sagte: "Autonome Waffensysteme werden bald die Schlachtfelder der Welt bevölkern" und warnte, dass es nun an der Zeit sei, "sich auf internationale Regeln und Normen zu einigen, um die menschliche Kontrolle zu gewährleisten".
Er drängte darauf, die Autonomie von KI-Waffen einzuschränken: "Lassen Sie uns wenigstens dafür sorgen, dass die tiefgreifendste und weitreichendste Entscheidung - wer lebt und wer stirbt - in den Händen von Menschen und nicht von Maschinen bleibt."
In einer Erklärung der österreichischen Regierung heißt es: "Autonome Waffensysteme (AWS) werfen aus rechtlicher, ethischer, humanitärer und sicherheitspolitischer Sicht tiefgreifende Fragen auf. Die Menschheit steht an einem Scheideweg und muss sich gemeinsam der grundlegenden Herausforderung stellen, diese Waffen zu regulieren".
Verteidigungsdollar gegen Menschlichkeit
Aufgrund der anhaltenden Konflikte sind die Verteidigungshaushalte weltweit gestiegen, und die Aktienkurse mehrerer KI-gestützte Unternehmen der Verteidigungstechnik als Reaktion darauf stark ansteigen. AWS-Technologien sind möglicherweise zu lukrativ, um sie zu verbieten.
Jaan Tallinn, ein früher Investor von Googles DeepMind Technologies sagte, dass "die Anreize des Silicon Valley möglicherweise nicht mit dem Rest der Menschheit übereinstimmen".
In seinem Grundsatzrede Auf der Konferenz sagte Tallinn: "Ich bitte Sie, sich vor denen in Acht zu nehmen, die Präzision und Vorhersagbarkeit in Systemen versprechen, die KI einsetzen. Wir haben bereits erlebt, dass KI im Großen wie im Kleinen Selektionsfehler macht - von der Fehleinschätzung der Glatze eines Schiedsrichters als Fußball bis hin zu tödlichen Fußgängerunfällen durch selbstfahrende Autos, die nicht in der Lage sind, einen Fußgängerüberweg zu erkennen".
"Wir müssen äußerst vorsichtig sein, wenn wir uns auf die Genauigkeit dieser Systeme verlassen, egal ob im militärischen oder zivilen Bereich. Unbeabsichtigte Fehler, die durch autonome Waffen verursacht werden, haben das Potenzial, Kriege auszulösen, die niemals geführt werden sollten.
Tallinn wies darauf hin, dass die Entwicklung von KI-Waffen, die zuverlässiger sind, nicht die Lösung ist. Er erklärte, dass "selbst wenn autonome Waffen in der Lage sein werden, perfekt zwischen Menschen zu unterscheiden, werden sie es wesentlich einfacher machen, Völkermorde und gezielte Tötungen durchzuführen, die auf bestimmte menschliche Merkmale abzielen".
"Der Ausstieg aus dem Wettrüsten erfordert Mut und Weitsicht. Wir haben es schon einmal getan, und wir können es wieder tun".
Aus der Eröffnung der historischen Wiener Konferenz über autonome Waffen #AWS2024 gestern, hier die vollständige Grundsatzrede von FLI-Mitbegründer Jaan Tallinn ⬇️ pic.twitter.com/wFYxWpDl1S
- Institut Zukunft des Lebens (@FLI_org) 30. April 2024
In einer abschließenden Erklärung an den UN-Generalsekretär bekräftigte die Gruppe ihr "starkes Engagement, sich gemeinsam mit allen interessierten Akteuren für ein internationales Rechtsinstrument zur Regulierung autonomer Waffensysteme einzusetzen".
Die Erklärung fügte hinzu: "Wir haben die Verantwortung zu handeln und die Regeln aufzustellen, die wir brauchen, um die Menschheit zu schützen... Die menschliche Kontrolle muss bei der Anwendung von Gewalt Vorrang haben."
Mehr als 115 UN-Mitgliedsstaaten sind sich einig, dass verbindliche Regelungen für AWS notwendig sind, aber ein Veto von Russland, China oder der US scheint unwahrscheinlich.
Anthony Aguirre, Kosmologe und Mitbegründer des Future Life Institute, fasste die Situation mit den Worten zusammen: "Die Zukunft der Schlachtroboter ist da."
