Amazon поймала ИИ-агентов для взлома, которые использовали украденные ключи для финансирования новых атак
Серверы-приманки Amazon зафиксировали, как ИИ-агенты для взлома крали ключи, которыми компании оплачивают модели ИИ. Затем агенты использовали эти ключи для поиска новых ключей.

Примерно в течение месяца серверы-приманки, управляемые Amazon, записывали хакерские атаки, совершаемые агентами искусственного интеллекта. Записи показывают, что агенты крали ключи, которые компании используют для оплаты моделей ИИ, а затем использовали эти украденные ключи для поиска новых ключей.
Группа специалистов Amazon по анализу угроз опубликовала результаты исследования 13 ноября. С 3 октября по 5 ноября серверы-приманки выдавали себя за сервисы искусственного интеллекта, а атакующие агенты отправляли им собственные заметки о своих кампаниях. Агенты использовали ARTEX, бесплатный инструмент, разработанный для тестирования на проникновение, с помощью которого эксперты атакуют систему, чтобы найти слабые места до того, как это сделают преступники. Amazon заявляет, что у нее есть умеренная уверенность в том, что операторы представляли собой отдельные группы, связанные с Китаем. Компания указывает на подсказки, написанные на упрощенном китайском языке, и компьютеры, настроенные на китайский часовой пояс.
Как украденные ключи использовались для финансирования новых нападений
Ключ API работает как пароль, позволяющий программному обеспечению использовать платную модель ИИ. Тот, кто владеет ключом, может использовать модель, а владелец ключа оплачивает счет. Агенты искали приложения ИИ, оставленные открытыми в интернете, извлекали хранящиеся в них ключи, проверяли их работоспособность и добавляли в общий пул. Они преследовали инструменты, которые хранят ключи для множества поставщиков ИИ одновременно, такие как LiteLLM, Dify и Ollama, потому что одна слабая страница администратора может раскрыть множество учетных записей.
В их плане действий были перечислены простые способы проникновения: стандартные пароли администратора, которые никто не менял, незавершенные установки и известные уязвимости безопасности. Агенты также искали утечки ключей в открытом коде, программных пакетах, на сайтах для размещения контента и в каналах Telegram. Организаторы кампаний поручили агентам оценивать каждый ключ и считать ключи, которые были опубликованы более 30 дней, малоценными.
В записях отражены сотни целей. Amazon заявляет, что предупредила клиентов, которые могли пострадать, но не смогла проверить, что, по утверждению агентов, они делали в системах, которые компания не отслеживает.
Дипфейки не смогли обмануть одну проверку личности
Во второй кампании агенты попытались обойти проверку личности на двух криптовалютных биржах. Они создали систему создания дипфейков в реальном времени на одной потребительской видеокарте, которая достигала 11,5 кадров в секунду. В лучшей попытке им удалось добиться того, чтобы поддельное лицо сместилось в пределах 7 пикселей от требуемого значения. Тем не менее, сервер компании, занимающейся проверкой, каждый раз отклонял дипфейк.
Тот же самый инструмент постоянно используется и в других атаках. В другом случае на этой неделе злоумышленник, использовавший инструмент с украденным токеном доступа, за один час выполнил 400 запросов на копирование баз данных. Ранее в этом месяце в другом отчете было установлено, что компаниям ежедневно выставлялись счета более чем на 100 000 долларов из-за преступников, взломавших их доступ к искусственному интеллекту.
Почему это важно: “Ни один из методов, использованных в этих кампаниях, не был новым”, — написала команда Amazon. Изменилась лишь скорость: агенты ИИ никогда не устают от поиска, поэтому ключ, оставленный в открытом коде, или пароль администратора, оставленный без изменений, теперь с большей вероятностью будут найдены и использованы.


