Zweiter Sicherheitsverstoß bei Fireworks AI betrifft Kundenmodellgewichte
Fireworks AI meldet einen zweiten Einbruch, der am 24. Oktober entdeckt wurde und Abrechnungsdaten sowie bei einigen Kunden unfertige Modelldateien erfasste. Das Unternehmen aktualisierte seinen Sicherheitsbericht am 9. November.
Bei einem zweiten Einbruch in die Systeme von Fireworks AI wurden Abrechnungsdaten und, bei einigen Kunden, unfertige Kopien ihrer KI-Modelle erbeutet. Die Angreifer verschafften sich am 24. Oktober über eine Sicherheitslücke bei einem externen Cloud-Anbieter Zugang. Fireworks veröffentlichte die Ergebnisse am 9. November.
Fireworks hostet KI-Modelle anderer Unternehmen und unterstützt sie beim Training spezialisierter Versionen. Die neuen Details finden Sie in eine Aktualisierung des Sicherheitsbulletins vom Oktober. Es wurde weder der Cloud-Anbieter genannt noch die Anzahl der betroffenen Konten.
Zwei Vorfälle in drei Wochen
Am 6. Oktober stellte Fireworks die unbefugte Nutzung eigener interner Zugangsdaten fest. Ein Angreifer hatte sich in einer begrenzten Anzahl von Kundenkonten Zugriff auf API-Schlüssel und andere für Auswertungsaufträge verwendete Geheimnisse verschafft. ein Bulletin, veröffentlicht am 9. Oktober, Das Unternehmen gab zunächst an, keinen Zugriff auf Kundendaten, Datensätze oder personenbezogene Daten gefunden zu haben. Weitere Recherchen mit der Palo Alto Networks Unit 42 und eine Anzeige bei den Strafverfolgungsbehörden änderten dies jedoch. Fireworks erlangte später Zugriff auf Abrechnungsinformationen und, bei einigen Konten, auf vertrauliche Daten, Datensätze und unvollständige Modelle.
Was der Einbruch am 24. Oktober bewirkte
Am 23. Oktober kam es bei einem externen Cloud-Anbieter, der die Testrechner von Fireworks hostete, zu einem Sicherheitsvorfall. Am darauffolgenden Tag nutzte ein Unbefugter diese Sicherheitslücke, um auf die Entwicklungsrechner von Fireworks zuzugreifen und eine Anwendung auszuführen, die weitere Kundendaten offenlegte. Fireworks gibt an, den Vorfall noch am selben Tag bemerkt zu haben und seit dem 25. Oktober keine weiteren erfolgreichen Zugriffe auf die Kundenplattform festgestellt zu haben.
Die betroffene Anwendung enthielt Ressourcennamen, Rechnungs- und Lieferadressen, Rechnungshistorie, Kontostände und Kreditnutzung sowie – bei einigen Kunden – unvollständige Modelldateien und Datensätze. Modelldateien, oft auch Gewichte genannt, sind die Lerndaten, die ein KI-Modell funktionsfähig machen. Zahlungskartennummern werden von Fireworks nicht gespeichert und waren daher nicht betroffen. Auch der Live-Inferenzdienst, der Modelle für Kunden ausführt, war nicht beeinträchtigt.
Verbunden mit einem Diebstahl-zum-Weiterverkauf-Handel
Fireworks zufolge deuten die Beweise auf eine finanziell motivierte Gruppe hin, die gestohlenen Zugriff auf große KI-Modelle über illegale Routing-Gateways verkauft, ein Phänomen, das als LLMJacking bekannt ist. Am 2. November, Googles Threat Intelligence Group und Mandiant beschrieben diesen Handel, Laut DailyAI wurden einigen Opfern innerhalb eines Tages über 100.000 US-Dollar an Kosten verursacht, bei manchen Organisationen beliefen sich die Rechnungen sogar auf bis zu einer Million US-Dollar. Diese Forschung umfasste.
Fireworks hat Zugangsdaten widerrufen und ersetzt, betroffene Systeme isoliert und den automatischen Upload und Download von Datensätzen deaktiviert, während die Untersuchung läuft. Betroffene Kunden werden benachrichtigt.
Warum das wichtig ist: Unternehmen, die unfertige Modelle an einen KI-Hoster senden, vertrauen auch dessen Cloud-Anbietern. Ein Einbruch bei einem Anbieter reichte aus, um auf die Modelldateien einiger Kunden zuzugreifen, die nicht wie ein API-Schlüssel ersetzt werden können.
