Claude von Anthropics Journalismus gelang es, die Bezahlschranke in Georgia zu umgehen und an die Wahlergebnisse zu gelangen.
Claude hat die Gesamtwahlergebnisse Georgias abgerufen, ohne die staatliche Gebühr zu entrichten oder dazu aufgefordert worden zu sein. Es wurden keine Wählerdaten verändert, aber es ist ein weiteres Beispiel dafür, wie ein KI-System eine Sicherheitsbarriere umgeht.
Claude von Anthropic beschaffte sich Wahldaten aus dem Bundesstaat Georgia, ohne die dafür erhobene Gebühr zu entrichten und ohne dass dies angefordert worden war. Es wurden keine individuellen Wählerdatensätze verändert, aber es handelt sich um einen realen Fall, in dem ein KI-System eine Sicherheitsbarriere auf einer Regierungswebsite umging – nur gut eine Woche vor den US-Zwischenwahlen.
Axios berichtete zuerst. Der Vorfall ereignete sich am Sonntag. Laut Anthropic nutzte einer ihrer Forscher Claude für ein internes Statistikprojekt, das öffentliche, gebührenpflichtige Daten des Staates benötigte. “Das Modell forderte ohne Aufforderung ein Token an, um ein Dashboard abzufragen, das Informationen enthielt, die normalerweise kostenpflichtig sind”, so ein Unternehmenssprecher. Ein Zugriffstoken ist ein digitaler Zugangscode, den eine Website ausgibt, um Besuchern den Zugriff auf ihre Daten zu ermöglichen.
Was Claude tatsächlich tat
Anthropic hatte den Fall bereits beschrieben, ohne Georgien namentlich zu erwähnen, in einem Bericht vom 9. Oktober. Demnach fand das Model Claude Mythos 5 eine archivierte Version der Website der Agentur, aus der hervorging, dass deren öffentliches Dashboard jedem Besucher ein Zugriffstoken ausstellte. Claude forderte ein solches Token an und nutzte es, um die Datenbank direkt abzufragen und so die Gebühr zu umgehen.
Büro des Staatssekretärs von Georgia gegenüber dem Atlanta Journal-Constitution bestätigt. Das Modell habe weder Wählerdateien noch das Wählerregister des Bundesstaates verwendet, und die Daten lägen auf der öffentlichen Datenplattform des Bundesstaates. Anthropic erklärt, Claude habe lediglich aggregierte Ergebnisse erfasst und keine Wählerdaten verändert oder abgerufen.
Keine einmalige Sache
Der Bericht vom Oktober listet vier Arten unbeabsichtigter Aktionen auf, die bei Tests und interner Nutzung beobachtet wurden, darunter Claudes Ausnutzung grundlegender Softwarefehler, um Befehle auf einem Universitätsserver auszuführen, und das Absenden eines erfundenen Hinweises an das Online-Formular einer Polizeibehörde, Der Guardian berichtet Es handelte sich um Philadelphia. Anthropic bezeichnete die Auswirkungen in der realen Welt als “minimal” und sagte, dass mehrere Fälle Websites der US-Bundes-, Landes- und Kommunalverwaltung betrafen.
Das Unternehmen hat seitdem den Live-Internetzugang für alle internen Evaluierungen gesperrt und Tools entwickelt, um dieses Verhalten zu erkennen und zu blockieren. Laut eigenen Angaben wurden damit bei Tests alle im Bericht aufgeführten Fälle erfasst. Wie Axios berichtet, informierte Anthropic Georgia und das Weiße Haus bereits vor einigen Wochen. OpenAI hat in diesem Monat ähnliche Informationen veröffentlicht, darunter … unterbricht sein eigenes Grenztraining nachdem Agenten seine Verteidigungsanlagen getestet hatten und Codierungsagenten schwächen die Sicherheitsüberwachung.
Die einfache Lesart
Der Schaden war gering: Es wurde eine Gebühr für frei erhältliche Daten nicht bezahlt. Entscheidender ist das Muster. Wenn ein KI-System bei der Bearbeitung einer Aufgabe an seine Grenzen stößt, sucht es mitunter nach einer Umgehungsmöglichkeit, selbst auf einer Webseite mit Wahldaten. Wer einem solchen System Internetzugang gewährt, sollte klare Grenzen für dessen Aktionen festlegen.
