La seconda violazione di Fireworks AI ha raggiunto i pesi del modello del cliente

Un secondo attacco informatico a Fireworks AI ha compromesso i dati di fatturazione e, per alcuni clienti, le copie incomplete dei loro modelli di intelligenza artificiale. Gli aggressori sono riusciti ad accedere al sistema il 24 ottobre sfruttando una vulnerabilità di sicurezza presso un fornitore di servizi cloud di terze parti. Fireworks ha pubblicato i risultati dell'indagine il 9 novembre.

Fireworks ospita i modelli di intelligenza artificiale di altre aziende e le aiuta ad addestrare versioni specializzate. I nuovi dettagli sono in un aggiornamento al suo bollettino di sicurezza di ottobre. Non è stato specificato il nome del fornitore di servizi cloud né il numero di account interessati.

Due episodi in tre settimane

Il 6 ottobre, Fireworks ha scoperto un utilizzo non autorizzato delle proprie credenziali interne. Un hacker era riuscito ad accedere alle chiavi API e ad altri segreti utilizzati nei lavori di valutazione in un numero limitato di account clienti. un bollettino pubblicato il 9 ottobre, Inizialmente, l'azienda aveva dichiarato di non aver trovato accesso a modelli, set di dati o informazioni personali dei clienti. Ulteriori indagini con l'Unità 42 di Palo Alto Networks e una segnalazione alle forze dell'ordine hanno cambiato la situazione. Fireworks ha successivamente trovato accesso alle informazioni di fatturazione e, per alcuni account, a segreti, set di dati e modelli incompleti.

Ciò che l'intrusione del 24 ottobre ha raggiunto

Il 23 ottobre, un fornitore di servizi cloud di terze parti che ospitava le macchine di ricerca di Fireworks ha subito un incidente di sicurezza. Il giorno successivo, la parte non autorizzata ha sfruttato tale vulnerabilità per accedere alle macchine di sviluppo di Fireworks ed eseguire un carico di lavoro che ha esposto ulteriori dati dei clienti. Fireworks afferma di aver rilevato l'incidente lo stesso giorno e di non aver riscontrato ulteriori accessi non autorizzati alla piattaforma clienti dal 25 ottobre.

L'applicazione a cui hanno avuto accesso conteneva i nomi delle risorse, gli indirizzi di fatturazione e spedizione, la cronologia delle fatture, i saldi dei conti e l'utilizzo del credito e, per alcuni clienti, file di modello e set di dati incompleti. I file di modello, spesso chiamati pesi, sono i dati appresi che consentono a un modello di intelligenza artificiale di funzionare. Fireworks non memorizza i numeri delle carte di pagamento e non ha subito alcun impatto. L'azienda ha inoltre segnalato che non vi è stato alcun impatto sul suo servizio di inferenza in tempo reale, che esegue modelli per i clienti.

Collegato a un traffico di furti a scopo di rivendita.

Fireworks afferma che le prove indicano un gruppo motivato finanziariamente che vende l'accesso rubato a grandi modelli di IA attraverso gateway di routing illeciti, noti come LLMJacking. Il 2 novembre, Il gruppo di intelligence sulle minacce di Google e Mandiant hanno descritto quel commercio, e ha affermato che ad alcune vittime sono stati addebitati più di 100.000 dollari in un solo giorno, con fatture che presso alcune organizzazioni hanno raggiunto 1 milione di dollari. DailyAI quella ricerca ha coperto.

Fireworks ha revocato e sostituito le credenziali, isolato i sistemi interessati e disattivato il caricamento e il download self-service dei set di dati in attesa delle indagini. L'azienda sta informando i clienti interessati.

Perché è importante: Le aziende che inviano modelli incompleti a un fornitore di servizi di intelligenza artificiale si affidano anche ai fornitori di servizi cloud di quest'ultimo. Un'intrusione presso uno di questi fornitori è stata sufficiente per accedere ai file dei modelli di alcuni clienti, che non possono essere recuperati come invece è possibile sostituire una chiave API.