KI steht vor dem "Oppenheimer-Moment" im Wettrüsten der Killerroboter

Mai 1, 2024
  • Auf einer internationalen Konferenz in Wien wurde über die Notwendigkeit einer Regulierung von autonomen KI-Waffen diskutiert
  • Der österreichische Außenminister Alexander Schallenberg sagte, die Welt stehe vor einem "Oppenheimer-Moment".
  • KI wird bereits in Kriegen in Israel und der Ukraine eingesetzt, obwohl es keine Vorschriften für diese Technologie gibt

Auf der internationalen Konferenz "Humanity at the Crossroads: Autonomous Weapons Systems and the Challenge of Regulation" in Wien wurde gefordert, den Einsatz von KI in autonomen Waffensystemen (AWS) zu regulieren, solange die Technologie noch in den Kinderschuhen steckt.

Im Laufe der Jahrhunderte hat der technische Fortschritt die Art und Weise, wie Kriege geführt werden, dramatisch verändert. Entwicklungen wie Stahl, Schießpulver und schließlich die Atombombe fanden alle zunächst in der Kriegsführung Anwendung, bevor sie ihren Weg in die zivile Nutzung fanden.

Die KI hat sich in dieser Hinsicht dem Trend widersetzt. Die ersten Anwendungen waren weitgehend kommerzieller Natur, aber die Streitkräfte haben schnell erkannt, dass KI das Schlachtfeld erneut verändern kann.

In Anspielung auf die erste Atombombe erklärte der österreichische Außenminister Alexander Schallenberg den Teilnehmern aus 143 Ländern, dass die Welt vor einem "Oppenheimer-Moment" stehe, wenn es darum gehe, zu entscheiden, ob und wie KI in autonomen Waffen eingesetzt werden solle.

Der Anstoß für den dringenden Bedarf an Vorschriften war nicht nur die Antizipation potenzieller künftiger Bedrohungen, sondern auch die Reaktion auf den Einsatz von KI in aktuellen Konflikten.

Autonome Drohnen werden von beiden Seiten im Krieg in der Ukraine eingesetzt. Israelische Streitkräfte setzen KI in zahlreichen Verteidigungsanwendungen ein, darunter angeblich auch bei der Identifizierung menschlicher Ziele im Gaza-Krieg.

Schallenberg sagte: "Autonome Waffensysteme werden bald die Schlachtfelder der Welt bevölkern" und warnte, dass es nun an der Zeit sei, "sich auf internationale Regeln und Normen zu einigen, um die menschliche Kontrolle zu gewährleisten".

Er drängte darauf, die Autonomie von KI-Waffen einzuschränken: "Lassen Sie uns wenigstens dafür sorgen, dass die tiefgreifendste und weitreichendste Entscheidung - wer lebt und wer stirbt - in den Händen von Menschen und nicht von Maschinen bleibt."

In einer Erklärung der österreichischen Regierung heißt es: "Autonome Waffensysteme (AWS) werfen aus rechtlicher, ethischer, humanitärer und sicherheitspolitischer Sicht tiefgreifende Fragen auf. Die Menschheit steht an einem Scheideweg und muss sich gemeinsam der grundlegenden Herausforderung stellen, diese Waffen zu regulieren".

Verteidigungsdollar gegen Menschlichkeit

Aufgrund der anhaltenden Konflikte sind die Verteidigungshaushalte weltweit gestiegen, und die Aktienkurse mehrerer KI-gestützte Unternehmen der Verteidigungstechnik als Reaktion darauf stark ansteigen. AWS-Technologien sind möglicherweise zu lukrativ, um sie zu verbieten.

Jaan Tallinn, ein früher Investor von Googles DeepMind Technologies sagte, dass "die Anreize des Silicon Valley möglicherweise nicht mit dem Rest der Menschheit übereinstimmen".

In seinem Grundsatzrede Auf der Konferenz sagte Tallinn: "Ich bitte Sie, sich vor denen in Acht zu nehmen, die Präzision und Vorhersagbarkeit in Systemen versprechen, die KI einsetzen. Wir haben bereits erlebt, dass KI im Großen wie im Kleinen Selektionsfehler macht - von der Fehleinschätzung der Glatze eines Schiedsrichters als Fußball bis hin zu tödlichen Fußgängerunfällen durch selbstfahrende Autos, die nicht in der Lage sind, einen Fußgängerüberweg zu erkennen".

"Wir müssen äußerst vorsichtig sein, wenn wir uns auf die Genauigkeit dieser Systeme verlassen, egal ob im militärischen oder zivilen Bereich. Unbeabsichtigte Fehler, die durch autonome Waffen verursacht werden, haben das Potenzial, Kriege auszulösen, die niemals geführt werden sollten.

Tallinn wies darauf hin, dass die Entwicklung von KI-Waffen, die zuverlässiger sind, nicht die Lösung ist. Er erklärte, dass "selbst wenn autonome Waffen in der Lage sein werden, perfekt zwischen Menschen zu unterscheiden, werden sie es wesentlich einfacher machen, Völkermorde und gezielte Tötungen durchzuführen, die auf bestimmte menschliche Merkmale abzielen".

In einer abschließenden Erklärung an den UN-Generalsekretär bekräftigte die Gruppe ihr "starkes Engagement, sich gemeinsam mit allen interessierten Akteuren für ein internationales Rechtsinstrument zur Regulierung autonomer Waffensysteme einzusetzen".

Die Erklärung fügte hinzu: "Wir haben die Verantwortung zu handeln und die Regeln aufzustellen, die wir brauchen, um die Menschheit zu schützen... Die menschliche Kontrolle muss bei der Anwendung von Gewalt Vorrang haben."

Mehr als 115 UN-Mitgliedsstaaten sind sich einig, dass verbindliche Regelungen für AWS notwendig sind, aber ein Veto von Russland, China oder der US scheint unwahrscheinlich.

Anthony Aguirre, Kosmologe und Mitbegründer des Future Life Institute, fasste die Situation mit den Worten zusammen: "Die Zukunft der Schlachtroboter ist da."

Join The Future


HEUTE ABONNIEREN

Klar, prägnant, umfassend. Behalten Sie den Überblick über KI-Entwicklungen mit DailyAI

Eugene van der Watt

Eugene kommt aus der Elektronikbranche und liebt alles, was mit Technik zu tun hat. Wenn er eine Pause vom Konsum von KI-Nachrichten einlegt, findet man ihn am Snookertisch.

×
 
 

KOSTENLOSES PDF EXKLUSIV
Mit DailyAI immer einen Schritt voraus


 

Melden Sie sich für unseren wöchentlichen Newsletter an und erhalten Sie exklusiven Zugang zum neuesten eBook von DailyAI: 'Mastering AI Tools: Ihr Leitfaden für mehr Produktivität im Jahr 2024".



 
 

*Mit der Anmeldung zu unserem Newsletter akzeptieren Sie unsere Datenschutzbestimmungen und unsere Bedingungen und Konditionen