Перейти к содержимому
Пятница, 20 ноября 2026 г.Бесплатное руководство
RU
dailyai
Безопасность

Четыре чат-бота менее чем за 12 часов предоставили GAO жизнеспособные планы атак

Американский надзорный орган заявляет, что ChatGPT, Claude, Gemini и Grok разработали осуществимые планы атак менее чем за 12 часов. Тестировщики обошли встроенные системы отказов, а затем проверили планы с экспертами.

• 2 мин чтения
ДелитьсяXв

Согласно отчету Управления правительственной подотчетности США, опубликованному 18 ноября, четыре наиболее часто используемых чат-бота — ChatGPT, Claude, Gemini и Grok — менее чем за 12 часов разработали вполне осуществимый план атаки с массовыми жертвами или на энергосистему.

GAO — это аудиторское агентство Конгресса. Надзорный орган Конгресса опубликовал доклад 18 ноября, завершив его 16 октября. Сенатор Маргарет Вуд Хассан из Объединенного экономического комитета инициировала проведение этой проверки.

Весной 2026 года тестировщики использовали общедоступные версии этих четырех чат-ботов в том виде, в котором они существовали в апреле: Claude 4, Grok 4, серия GPT-5 и Gemini 3 Flash. Двум из них было поручено создать самодельную бомбу или импровизированное взрывное устройство, предназначенное для нанесения массовых жертв. Двум другим было поручено совершить атаку на электросеть. В отчете не указано, какому чат-боту было поручено какое задание, и не публикуются подсказки.

Что обнаружили тестировщики

Все четыре чат-бота предоставили информацию, которую агентство сочло достаточной для планирования и осуществления нападения: метод, место в крупном городе США и, в трех случаях, время. Два из них предполагали бомбу в автомобиле, нацеленную на отель или конференц-центр. Два других предполагали нанесение ударов по электрическим подстанциям с помощью беспилотника или огнестрельного оружия. Разработка каждого плана заняла менее 12 часов. Детали не были новыми, говорится в отчете. Работа, которая могла занять недели или месяцы, была завершена за несколько часов.

Каждый чат-бот в какой-то момент отклонял запрос, удалял информацию или блокировал тестовый аккаунт. Тестировщики всё же обходили эти встроенные отказы с помощью распространённых методов обхода, которые в отчёте не приводятся. Затем агентство проверило, являются ли планы “жизнеспособными”, то есть, вероятно, человек сможет выполнить эти шаги, посредством исследований, наблюдения и интервью с экспертами.

“Если бы мы были злоумышленниками и осуществили планы, разработанные искусственным интеллектом, мы могли бы нанести серьезный ущерб безопасности и экономике страны”, — говорится в докладе.

Что сказали компании

Четыре компании, упомянутые в отчете — Anthropic, Google, OpenAI и SpaceXAI — заявили, что усилили меры безопасности после весенних испытаний. Компания Anthropic заявила, что в исследовании описывается ее система в том виде, в котором она существовала в мае 2026 года, и что выборка была слишком мала для сравнения моделей. Агентство согласилось с тем, что результаты тестов не следует использовать для ранжирования чат-ботов, но заявило, что все четыре чат-бота в конечном итоге предоставили полезную информацию. Компания OpenAI заявила, что в отчете не всегда отделяются слова чат-бота от собственных исследований следователей. Агентство ответило, что именно так злоумышленник использовал бы этот инструмент.

Почему это важно: Те же самые общедоступные чат-боты, которыми пользуются миллионы людей, менее чем за день разработали работоспособные планы атак, даже после того, как сначала ответили отказом. Компании утверждают, что новые версии безопаснее; в этом отчете повторное тестирование этих версий не проводится.