Fireworks AI's tweede inbreuk heeft toegang gekregen tot klantmodelgewichten.
Fireworks AI meldt dat een tweede inbraak, ontdekt op 24 oktober, toegang heeft verschaft tot factuurgegevens en, voor sommige klanten, tot onvoltooide modelbestanden. Het bedrijf heeft zijn beveiligingsbulletin op 9 november bijgewerkt.
Bij een tweede inbraak bij Fireworks AI werden factuurgegevens en, voor sommige klanten, onvoltooide versies van hun AI-modellen buitgemaakt. De aanvallers kregen op 24 oktober toegang via een beveiligingslek bij een externe cloudprovider. Fireworks publiceerde de bevindingen op 9 november.
Fireworks host AI-modellen van andere bedrijven en helpt hen bij het trainen van gespecialiseerde versies. De nieuwe details zijn te vinden in... een update van het beveiligingsbulletin van oktober. Het bedrijf heeft de cloudprovider niet bij naam genoemd en ook niet aangegeven hoeveel accounts erdoor getroffen zijn.
Twee incidenten in drie weken tijd.
Op 6 oktober ontdekte Fireworks ongeoorloofd gebruik van eigen inloggegevens. Een aanvaller had toegang gekregen tot API-sleutels en andere geheimen die werden gebruikt bij evaluatietaken in een beperkt aantal klantaccounts. een bulletin gepubliceerd op 9 oktober, Het bedrijf verklaarde aanvankelijk geen toegang te hebben gevonden tot klantmodellen, datasets of persoonlijke informatie. Nader onderzoek met Palo Alto Networks Unit 42 en een melding aan de politie brachten daar verandering in. Fireworks ontdekte later toegang tot factuurgegevens en, voor sommige accounts, tot geheimen, datasets en onvolledige modellen.
Wat de inbraak van 24 oktober inhield
Op 23 oktober deed zich een beveiligingsincident voor bij een externe cloudprovider die de onderzoeksmachines van Fireworks hostte. De volgende dag maakte de onbevoegde partij gebruik van deze opening om toegang te krijgen tot de ontwikkelmachines van Fireworks en een workload uit te voeren die meer klantgegevens blootlegde. Fireworks zegt dit dezelfde dag nog te hebben ontdekt en heeft sinds 25 oktober geen verdere succesvolle toegang tot het klantplatform meer waargenomen.
De applicatie die ze hebben getroffen, bevatte namen van resources, factuur- en verzendadressen, factuurgeschiedenis, rekeningsaldi en kredietgebruik, en voor sommige klanten ook onvoltooide modelbestanden en datasets. Modelbestanden, vaak 'weights' genoemd, zijn de geleerde gegevens die ervoor zorgen dat een AI-model werkt. Betaalkaartnummers worden niet door Fireworks opgeslagen en zijn niet getroffen. Het bedrijf meldde ook geen impact op zijn live inferentieservice, die modellen voor klanten uitvoert.
Gelinkt aan een handel in gestolen goederen met het oog op doorverkoop.
Fireworks zegt dat het bewijs wijst op een financieel gemotiveerde groep die gestolen toegang tot grote AI-modellen verkoopt via illegale routeringsgateways, bekend als LLMJacking. Op 2 november, Google's Threat Intelligence Group en Mandiant beschreven die handel, En er werd gezegd dat sommige slachtoffers op één dag meer dan $100.000 kwijt waren, en dat de rekeningen bij sommige organisaties zelfs $1 miljoen bedroegen. DailyAI dat onderzoek behandelde.
Fireworks heeft inloggegevens ingetrokken en vervangen, de getroffen systemen geïsoleerd en de zelfservice-uploads en -downloads van datasets uitgeschakeld in afwachting van een onderzoek. Getroffen klanten worden hiervan op de hoogte gesteld.
Waarom het belangrijk is: Bedrijven die onafgewerkte modellen naar een AI-host sturen, vertrouwen ook op de cloudleveranciers van die host. Een inbraak bij één leverancier was voldoende om toegang te krijgen tot de modelbestanden van sommige klanten, die niet kunnen worden teruggehaald zoals een API-sleutel kan worden vervangen.
