La deuxième faille de sécurité de Fireworks AI a atteint les poids du modèle client.

Une seconde intrusion chez Fireworks AI a permis d'accéder aux données de facturation et, pour certains clients, à des copies inachevées de leurs modèles d'IA. Les pirates ont pénétré le système le 24 octobre via une faille de sécurité chez un fournisseur de services cloud tiers. Fireworks a publié les conclusions de l'enquête le 9 novembre.

Fireworks héberge les modèles d'IA d'autres entreprises et les aide à former des versions spécialisées. Plus de détails dans une mise à jour de son bulletin de sécurité d'octobre. Elle n'a pas précisé le fournisseur de services cloud ni le nombre de comptes concernés.

Deux incidents en trois semaines

Le 6 octobre, Fireworks a constaté une utilisation non autorisée de ses propres identifiants internes. Un attaquant avait accédé aux clés API et à d'autres secrets utilisés dans les tâches d'évaluation d'un nombre limité de comptes clients. un bulletin publié le 9 octobre, L'entreprise a alors déclaré n'avoir pas trouvé d'accès aux modèles, ensembles de données ou informations personnelles des clients. Des investigations complémentaires menées avec l'unité 42 de Palo Alto Networks, ainsi qu'un signalement aux forces de l'ordre, ont changé la donne. Fireworks a par la suite découvert un accès aux informations de facturation et, pour certains comptes, à des données confidentielles, des ensembles de données et des modèles incomplets.

Ce que l'intrusion du 24 octobre a atteint

Le 23 octobre, un fournisseur de services cloud tiers hébergeant les machines de recherche de Fireworks a subi une faille de sécurité. Le lendemain, un individu non autorisé a exploité cette vulnérabilité pour accéder aux machines de développement de Fireworks et exécuter une charge de travail exposant ainsi davantage de données clients. Fireworks affirme avoir détecté l'incident le jour même et n'avoir constaté aucun autre accès réussi à la plateforme client depuis le 25 octobre.

L'application concernée contenait les noms des ressources, les adresses de facturation et de livraison, l'historique des factures, les soldes des comptes et l'utilisation du crédit, ainsi que, pour certains clients, des fichiers de modèles et des jeux de données inachevés. Les fichiers de modèles, souvent appelés poids, correspondent aux données d'apprentissage qui permettent à un modèle d'IA de fonctionner. Fireworks ne stocke pas les numéros de carte de paiement et ceux-ci n'ont pas été affectés. L'entreprise n'a par ailleurs signalé aucun impact sur son service d'inférence en direct, qui exécute les modèles pour ses clients.

Lié à un trafic de vol en vue de la revente

Fireworks affirme que les preuves pointent vers un groupe motivé par le gain financier qui vend l'accès volé à de grands modèles d'IA via des passerelles de routage illicites, connues sous le nom de LLMJacking. Le 2 novembre, Le groupe de renseignement sur les menaces de Google et Mandiant ont décrit cet échange., Selon DailyAI, certaines victimes ont vu leurs factures dépasser les 100 000 dollars en une seule journée, et certaines organisations ont même atteint le million de dollars. ont couvert cette recherche.

Fireworks a révoqué et remplacé les identifiants, isolé les systèmes concernés et suspendu les téléchargements et chargements de données en libre-service le temps de son enquête. Les clients concernés sont en cours d'information.

Pourquoi c'est important : Les entreprises qui envoient des modèles inachevés à une plateforme d'IA font également confiance aux fournisseurs de services cloud de cette plateforme. Une intrusion chez l'un de ces fournisseurs a suffi pour accéder aux fichiers de modèles de certains clients, fichiers qu'il est impossible de récupérer comme on peut remplacer une clé API.