Вторая уязвимость в системе Fireworks AI достигла весовых коэффициентов модели клиента.
Компания Fireworks AI сообщает о втором взломе, обнаруженном 24 октября, который затронул платежные системы и, у некоторых клиентов, незавершенные файлы моделей. Компания обновила свой бюллетень безопасности 9 ноября.
Вторая попытка взлома Fireworks AI затронула платежные системы и, для некоторых клиентов, незавершенные копии их моделей ИИ. Злоумышленники проникли в систему 24 октября через инцидент безопасности у стороннего облачного провайдера. Fireworks опубликовала результаты 9 ноября.
Fireworks размещает модели искусственного интеллекта других компаний и помогает им обучать специализированные версии. Новые подробности появились в... обновление октябрьского бюллетеня по безопасности. В сообщении не указано, какой именно облачный провайдер и сколько учетных записей пострадало.
Два инцидента за три недели
6 октября компания Fireworks обнаружила несанкционированное использование собственных внутренних учетных данных. Злоумышленник получил доступ к ключам API и другим секретным данным, используемым в задачах оценки в ограниченном количестве учетных записей клиентов. бюллетень, опубликованный 9 октября, В заявлении говорилось, что на тот момент доступ к моделям клиентов, наборам данных или личной информации не был обнаружен. Дальнейшая работа с подразделением № 42 компании Palo Alto Networks и сообщение в правоохранительные органы изменили ситуацию. Позже Fireworks обнаружила доступ к платежной информации, а для некоторых учетных записей — к секретам, наборам данных и неполным моделям.
До чего дошло вторжение 24 октября?
23 октября у стороннего облачного провайдера, размещавшего исследовательские машины Fireworks, произошел собственный инцидент безопасности. На следующий день злоумышленник воспользовался этой уязвимостью, чтобы получить доступ к машинам разработки Fireworks и запустить рабочую нагрузку, которая привела к утечке дополнительных данных клиентов. Fireworks заявляет, что обнаружила это в тот же день, и с 25 октября не зафиксировано никаких дальнейших успешных попыток доступа к платформе клиентов.
Приложение, к которому они получили доступ, содержало имена ресурсов, платежные и почтовые адреса, историю счетов, остатки на счетах и использование кредита, а для некоторых клиентов — незавершенные файлы моделей и наборы данных. Файлы моделей, часто называемые весами, — это данные, полученные в результате обучения модели ИИ. Номера платежных карт не хранятся в Fireworks и не были затронуты. Компания также сообщила об отсутствии влияния на свой сервис оперативного вывода, который запускает модели для клиентов.
Связано с кражей с целью перепродажи.
Компания Fireworks утверждает, что имеющиеся доказательства указывают на группу лиц, движимую финансовыми мотивами, которая продает украденный доступ к крупным моделям ИИ через незаконные маршрутизирующие шлюзы, известные как LLMJacking. 2 ноября..., Группа по анализу угроз Google и компания Mandiant описали эту сделку., и заявили, что некоторые пострадавшие потратили более 100 000 долларов в день, а счета в некоторых организациях достигли 1 миллиона долларов. DailyAI охватило это исследование.
Компания Fireworks аннулировала и заменила учетные данные, изолировала затронутые системы и отключила самостоятельную загрузку и скачивание наборов данных на время проведения расследования. Компания уведомляет затронутых клиентов.
Почему это важно: Компании, отправляющие незавершенные модели на сервер ИИ, также доверяют поставщикам облачных услуг этого сервера. Взлом у одного из поставщиков позволил получить доступ к файлам моделей некоторых клиентов, которые невозможно восстановить так же легко, как можно заменить ключ API.
