Vier Chatbots lieferten dem GAO innerhalb von weniger als 12 Stunden praktikable Angriffspläne
Die US-Regierungsaufsichtsbehörde berichtet, dass ChatGPT, Claude, Gemini und Grok jeweils innerhalb von weniger als zwölf Stunden einen durchführbaren Angriffsplan entwickelt haben. Die Tester umgingen die eingebauten Abwehrmechanismen und überprüften die Pläne anschließend mit Experten.

Vier der am häufigsten verwendeten Chatbots – ChatGPT, Claude, Gemini und Grok – erstellten jeweils innerhalb von weniger als zwölf Stunden einen realisierbaren Plan für einen Anschlag mit vielen Opfern oder einen Angriff auf das Stromnetz, wie aus einem Bericht des US Government Accountability Office vom 18. November hervorgeht.
Das GAO ist die Rechnungsprüfungsbehörde des Kongresses. Die Rechnungsprüfungsbehörde des Kongresses veröffentlichte den Bericht am 18. November, nachdem er am 16. Oktober fertiggestellt worden war. Senatorin Margaret Wood Hassan vom Gemeinsamen Wirtschaftsausschuss hatte die Überprüfung beantragt.
Im Frühjahr 2026 testeten Anwender die öffentlichen Versionen der vier Chatbots Claude 4, Grok 4, der GPT-5-Serie und Gemini 3 Flash, Stand April. Zwei von ihnen erhielten den Auftrag, eine selbstgebaute Bombe (einen improvisierten Sprengsatz) zu konstruieren, die viele Opfer fordern sollte. Die anderen beiden sollten einen Angriff auf das Stromnetz durchführen. Der Bericht gibt weder an, welcher Chatbot welche Aufgabe erhielt, noch veröffentlicht er die genauen Anweisungen.
Was die Tester herausfanden
Alle vier lieferten Informationen, die die Behörde als ausreichend für die Planung und Durchführung eines Anschlags einstufte: eine Methode, einen Ort in einer US-amerikanischen Großstadt und in drei Fällen einen Zeitpunkt. Zwei schlugen eine Bombe in einem Fahrzeug vor, die auf ein Hotel oder ein Kongresszentrum gerichtet sein sollte. Die anderen beiden schlugen einen Angriff auf Umspannwerke mit einer Drohne oder mit Schusswaffen vor. Jeder Plan wurde in weniger als zwölf Stunden erstellt. Die Details waren nicht neu, heißt es im Bericht. Arbeiten, die Wochen oder Monate hätten dauern können, wurden innerhalb weniger Stunden abgeschlossen.
Jeder Chatbot lehnte irgendwann eine Anfrage ab, entfernte Informationen oder sperrte das Testkonto. Die Tester umgingen diese eingebauten Ablehnungen jedoch mit gängigen Methoden, die im Bericht nicht genannt werden. Anschließend überprüfte die Behörde durch Recherchen, Observationen und Expertenbefragungen, ob die Pläne “durchführbar” waren, also ob eine Person die Schritte wahrscheinlich umsetzen könnte.
“Wären wir böswillige Akteure gewesen und hätten wir die von der KI generierten Pläne ausgeführt, hätten wir der Sicherheit und der Wirtschaft des Landes schweren Schaden zufügen können”, heißt es in dem Bericht.
Was die Unternehmen sagten
Die vier im Bericht genannten Unternehmen – Anthropic, Google, OpenAI und SpaceXAI – gaben an, ihre Sicherheitsvorkehrungen seit den Tests im Frühjahr verschärft zu haben. Anthropic erklärte, die Studie beschreibe ihr System auf dem Stand von Mai 2026 und die Stichprobe sei zu klein, um Modelle zu vergleichen. Die Behörde stimmte zu, dass die Tests nicht zur Bewertung der Chatbots herangezogen werden sollten, räumte aber ein, dass alle vier letztendlich verwertbare Informationen lieferten. OpenAI kritisierte, der Bericht trenne die Aussagen der Chatbots nicht immer von den Forschungsergebnissen der Untersucher. Die Behörde entgegnete, genau so würde ein Angreifer das Tool missbrauchen.
Warum das wichtig ist: Die gleichen öffentlichen Chatbots, die von Millionen Menschen genutzt werden, entwickelten innerhalb eines Arbeitstages funktionierende Angriffspläne, selbst nachdem sie zunächst abgelehnt hatten. Die Unternehmen geben an, dass neuere Versionen sicherer seien; dieser Bericht testet diese Versionen jedoch nicht erneut.


