La segunda brecha de seguridad de Fireworks AI alcanzó los pesos del modelo de clientes.

Un segundo ataque informático a Fireworks AI afectó a los registros de facturación y, en el caso de algunos clientes, a copias incompletas de sus modelos de IA. Los atacantes accedieron el 24 de octubre a través de un incidente de seguridad en un proveedor de servicios en la nube externo. Fireworks publicó los resultados el 9 de noviembre.

Fireworks aloja los modelos de IA de otras empresas y les ayuda a entrenar versiones especializadas. Los nuevos detalles están en una actualización de su boletín de seguridad de octubre. No ha revelado el nombre del proveedor de la nube ni cuántas cuentas se vieron afectadas.

Dos incidentes en tres semanas

El 6 de octubre, Fireworks descubrió un uso no autorizado de sus propias credenciales internas. Un atacante había accedido a claves API y otros secretos utilizados en trabajos de evaluación en un número limitado de cuentas de clientes. un boletín publicado el 9 de octubre, En ese momento, la empresa afirmó no haber encontrado acceso a modelos de clientes, conjuntos de datos ni información personal. Sin embargo, una colaboración posterior con la Unidad 42 de Palo Alto Networks y un informe a las autoridades cambiaron esta situación. Posteriormente, Fireworks encontró acceso a información de facturación y, en el caso de algunas cuentas, a secretos, conjuntos de datos y modelos incompletos.

Lo que alcanzó la intrusión del 24 de octubre

El 23 de octubre, un proveedor de servicios en la nube externo que alojaba las máquinas de investigación de Fireworks sufrió un incidente de seguridad. Al día siguiente, un tercero no autorizado aprovechó esta vulnerabilidad para acceder a las máquinas de desarrollo de Fireworks y ejecutar una carga de trabajo que expuso más datos de los clientes. Fireworks afirma haber detectado el incidente ese mismo día y no ha registrado ningún otro acceso exitoso a la plataforma de clientes desde el 25 de octubre.

La aplicación a la que accedieron contenía nombres de recursos, direcciones de facturación y envío, historial de facturas, saldos de cuentas y uso de crédito, y, para algunos clientes, archivos de modelos y conjuntos de datos incompletos. Los archivos de modelos, a menudo llamados pesos, son los datos aprendidos que hacen funcionar un modelo de IA. Fireworks no almacena números de tarjetas de pago y estos no se vieron afectados. Tampoco informó de ningún impacto en su servicio de inferencia en tiempo real, que ejecuta modelos para los clientes.

Vinculado a una red de robo para reventa.

Fireworks afirma que la evidencia apunta a un grupo motivado financieramente que vende acceso robado a grandes modelos de IA a través de pasarelas de enrutamiento ilícitas, conocidas como LLMJacking. El 2 de noviembre, El Grupo de Inteligencia de Amenazas de Google y Mandiant describieron ese intercambio, y afirmó que algunas víctimas llegaron a gastar más de 100.000 dólares en un solo día, y que las facturas en algunas organizaciones alcanzaron el millón de dólares. DailyAI esa investigación cubrió.

Fireworks ha revocado y reemplazado las credenciales, aislado los sistemas afectados y desactivado las cargas y descargas de conjuntos de datos de autoservicio mientras investiga. Está notificando a los clientes afectados.

Por qué es importante: Las empresas que envían modelos sin terminar a un proveedor de IA también confían en los proveedores de servicios en la nube de dicho proveedor. Una intrusión en uno de los proveedores bastó para acceder a los archivos de modelos de algunos clientes, los cuales no se pueden recuperar como se puede reemplazar una clave API.