Amazon hat KI-Hacking-Agenten dabei ertappt, wie sie gestohlene Schlüssel nutzten, um weitere Angriffe zu finanzieren
Amazons Köderserver zeichneten auf, wie KI-Hacking-Agenten die Schlüssel stahlen, mit denen Unternehmen für KI-Modelle bezahlen. Anschließend nutzten die Agenten diese Schlüssel für die Suche nach weiteren Schlüsseln.

Etwa einen Monat lang zeichneten von Amazon betriebene Köderserver KI-Agenten bei Hacking-Angriffen auf. Die Aufzeichnungen zeigen, wie die Agenten die Schlüssel stahlen, mit denen Unternehmen KI-Modelle bezahlen, und diese gestohlenen Schlüssel anschließend nutzten, um nach weiteren Schlüsseln zu suchen.
Das Threat-Intelligence-Team von Amazon veröffentlichte die Ergebnisse am 13. November. Vom 3. Oktober bis zum 5. November gaben sich die Köderserver als KI-Dienste aus, und die angreifenden Agenten übermittelten ihnen ihre eigenen Notizen zu ihren Kampagnen. Die Agenten nutzten ARTEX, ein kostenloses Tool für Penetrationstests, bei dem Experten Systeme angreifen, um Schwachstellen aufzuspüren, bevor Kriminelle dies tun. Amazon gibt an, mit mittlerer Wahrscheinlichkeit davon auszugehen, dass es sich bei den Angreifern um separate, mit China verbundene Gruppen handelt. Das Unternehmen verweist auf Eingabeaufforderungen in vereinfachtem Chinesisch und Computer, die auf die chinesische Zeitzone eingestellt waren.
Wie die gestohlenen Schlüssel weitere Angriffe finanzierten
Ein API-Schlüssel funktioniert wie ein Passwort, das Software die Nutzung eines kostenpflichtigen KI-Modells ermöglicht. Wer den Schlüssel besitzt, kann das Modell nutzen und bezahlt die Kosten. Die Agenten suchten im Internet nach ungeschützten KI-Anwendungen, extrahierten die darin gespeicherten Schlüssel, überprüften deren Funktion und fügten sie einem gemeinsamen Pool hinzu. Sie konzentrierten sich auf Tools, die Schlüssel für viele KI-Anbieter gleichzeitig verwalten, wie beispielsweise LiteLLM, Dify und Ollama, da eine schwache Administrationsseite viele Konten gefährden kann.
Ihr Plan enthielt einfache Einfallstore: Standard-Administratorpasswörter, die niemand geändert hatte, unvollständige Installationen und bekannte Sicherheitslücken. Die Agenten durchsuchten außerdem öffentlich zugänglichen Quellcode, Softwarepakete, Paste-Websites und Telegram-Kanäle nach durchgesickerten Schlüsseln. Die Hintermänner der Kampagnen wiesen die Agenten an, jeden Schlüssel zu bewerten und Schlüssel, die länger als 30 Tage öffentlich waren, als minderwertig einzustufen.
Die Aufzeichnungen umfassen Hunderte von Zielen. Amazon gibt an, betroffene Kunden gewarnt zu haben, konnte aber nicht überprüfen, was die Agenten auf Systemen getan haben sollen, die nicht von Amazon überwacht werden.
Deepfakes scheiterten bei einer Identitätsprüfung
In einer zweiten Kampagne versuchten die Agenten, die Identitätsprüfungen zweier Kryptowährungsbörsen zu umgehen. Sie entwickelten ein Live-Deepfake-Videosystem auf einer herkömmlichen Grafikkarte, das 11,5 Bilder pro Sekunde erreichte. Bei ihrem besten Versuch bewegte sich das gefälschte Gesicht bis auf 7 Pixel an die von der Prüfung geforderte Position heran. Trotzdem wies der Server des Verifizierungsunternehmens den Deepfake jedes Mal zurück.
Das gleiche Werkzeug taucht immer wieder bei anderen Angriffen auf. In einem separaten Fall in dieser Woche hat ein Angreifer, der das Tool mit einem gestohlenen Zugriffstoken benutzte, innerhalb einer Stunde 400 Anfragen zum Kopieren von Datenbanken gestellt. Anfang dieses Monats wurde in einem anderen Bericht festgestellt, dass Unternehmen von Kriminellen, die sich Zugang zu ihren KI-Systemen verschafft hatten, täglich mehr als 100.000 Dollar berechnet bekamen.
Warum das wichtig ist: “Keine der in diesen Kampagnen angewandten Techniken war neu”, schrieb das Amazon-Team. Neu ist lediglich die Geschwindigkeit: KI-Agenten suchen unermüdlich weiter, sodass ein im öffentlichen Code hinterlegter Schlüssel oder ein unverändertes Administratorpasswort nun mit höherer Wahrscheinlichkeit gefunden und verwendet wird.


