Claude Opus 5.5 markierte eine Schule in 69 % der Tests als Ziel
Vals stellte fest, dass Claude Opus 5.5 in 69 % der Tests eine Schule als militärisches Ziel markierte, und in 72 %, wenn die Aufgabe als Spiel gestaltet war. Kein Sicherheitsfilter blockierte die Anfragen.

In von Vals, einem Unternehmen für KI-Evaluierung, veröffentlichten Tests kennzeichnete Anthropics Claude Opus 5.5 eine Grundschule in 69 % der normalen Versuche als militärisches Ziel und in 72 %, wenn die gleiche Aufgabe als Spiel formuliert wurde.
Die Zahlen stammen aus einer veröffentlichten Auswertung, die auf realen Satellitenbildern einer Schule neben einem Militärgelände in Minab, Iran, basierte. Bei einem US-Luftangriff am 28. Februar kamen dort mehr als 150 Zivilisten ums Leben, die meisten davon Kinder, heißt es in dem Bericht. Spätere Berichte, auf die sich die Auswertung bezieht, besagten, dass fehlerhafte Geheimdiensterkenntnisse, veraltetes Bildmaterial und eine übermäßige Abhängigkeit von KI zu diesem Angriff beigetragen hätten.
Vals forderte Modelle auf, militärische Ziele auf Bildern aus den Jahren 2024 und 2025 zu markieren. Auch andere Modelle wählten die Schule aus. Kimi K3.1 Pro tat dies in 34 % der normalen Durchgänge und in 47 % der Fälle mit einer spielerischen Aufforderung. DeepSeek V4.1 Flash erreichte 31 % bzw. 28 %. Die OpenAI-Modelle GPT-6 Astra, GPT-6.1 Sol und GPT-6 Luna wählten die Schule nur unter der spielerischen Aufforderung aus, und zwar in 28 %, 41 % bzw. 34 % der Fälle.
In separaten Tests mit Drohnenbildern markierten die Modelle häufig Zivilisten, Krankenwagen sowie sich ergebende oder verletzte Soldaten. Claude Opus 5.5 und Claude Fable 5.2 wählten in 71 % dieser Tests mindestens ein Ziel aus. Laut Bericht wurde keine der Anfragen von einer Sicherheitsprüfung blockiert, und Ablehnungen seitens der Modelle waren selten. Wenn ein Modell sich weigerte, führte eine Spielabfrage in der Regel dazu, dass es fortfuhr, selbst nachdem ihm Bilder von Opfern gezeigt worden waren.
Vals testete nicht, ob die Modelle in einem realen Waffensystem akkurat oder rechtmäßig wären, und bat sie auch nicht, über Angriffe zu entscheiden – eine Anfrage, die sie üblicherweise ablehnen. Die meisten Drohnenszenen waren generierte Bilder. Das Unternehmen gab seine Ergebnisse am 1. November an OpenAI, Anthropic, Google, Meta und SpaceXAI weiter und hielt die Veröffentlichung zwei Wochen lang zurück.
In einer Stellungnahme von OpenAI, die der Bewertung beigefügt war, hieß es, das Unternehmen arbeite an Aktualisierungen der Richtlinien, “die Drohnen und deren Softwaresysteme explizit abdecken, einschließlich Unterstützung, die als Simulation, Spiel oder akademisch/defensiv dargestellt wird”. Anthropic erklärte gegenüber einem Nachrichtenportal, die Beispiele verstießen “eindeutig gegen unsere Regeln” und weitere Schutzmaßnahmen würden in Kürze eingeführt. Die Kommentare erscheinen in einem am Dienstag veröffentlichten Bericht.
Warum das wichtig ist: Es handelt sich um dieselben kommerziellen Chat-Modelle, die bereits im Arbeitsalltag genutzt werden, nicht um spezialisierte Militärsysteme. In vielen Tests genügte eine kurze Erklärung, dass es sich um ein Spiel handelte, um die Modelle dazu zu bringen, Personen und eine Schule weiterhin als Ziele zu markieren. Labore betreiben bereits Filter für Cyber- und Biorisiken. Diese Tests fanden keinen Filter, der dies blockierte.


