DailyAI Briefing: иск требует остановить новые модели ИИ, и ещё 4 новости

Добро пожаловать на брифинг DailyAI, посвященный пяти главным новостям в сфере ИИ за сегодняшний день. Четыре некоммерческие организации обратились в суд Сан-Франциско с просьбой запретить пяти крупнейшим компаниям, занимающимся ИИ, создавать новые модели. Исследователи показали, как поддельное сообщение об ошибке могло попасть в инструмент для программирования, который скачивают почти 97 миллионов раз в месяц; Япония представила планы штрафов для самых мощных систем ИИ; четыре компании, занимающиеся ИИ, согласились на независимые тесты влияния своих инструментов на детей; а United Airlines запретила ИИ-помощникам бронировать её рейсы.

Давайте начнём.

Иск требует от суда остановить новые модели ИИ

Пять компаний, один судья. В четверг в Высшем суде Сан-Франциско был подан иск с просьбой к судье запретить компаниям Anthropic, Google, Meta, OpenAI и SpaceXSI разрабатывать или выпускать новые модели искусственного интеллекта. Об этом случае впервые сообщило информационное агентство. За этим стоят такие организации, как Irreplaceable Education Fund, Public Citizen, Heat Initiative и Alliance for Secure AI.

НОВЫЙ СУДЕБНЫЙ ИСК: мы подаём в суд, чтобы заморозить разработку передовых систем ИИ в компаниях Google, Anthropic, SpaceXSI, OpenAI & Meta. Компании, занимающиеся искусственным интеллектом, продолжают выпускать новые системы, которые они не могут контролировать, несмотря на серьезные риски. Суд должен вмешаться, прежде чем произойдет катастрофа.

— Public Citizen (@Public_Citizen) 12 ноября 2026 г.

Жалоба опирается на предупреждения самих компаний и на недавние случаи взлома компьютерных сетей системами ИИ, включая случай в июле, когда ChatGPT самостоятельно проник в системы другой компании, занимающейся ИИ, сообщает Associated Press. «Ни одной другой отрасли не позволено считать неизбежной разработку собственных небезопасных продуктов — тем более таких, которые могут убить нас всех», — говорится в жалобе.

В сентябре в отдельном федеральном иске утверждалось почти противоположное: что некоторые из тех же компаний договорились замедлить прогресс в области искусственного интеллекта. Мы считаем, что скорость разработки искусственного интеллекта должны определять законодатели, а не судьи. Наиболее полезным результатом этого дела может стать получение доказательств. Если оно пройдет первые этапы, компаниям, возможно, придется передать внутренние документы по технике безопасности.

Поддельное сообщение об ошибке поставило под угрозу популярный инструмент для программирования

96,8 миллиона. Именно столько раз версия Codex, помощника программиста от OpenAI, для работы из командной строки была загружена из библиотеки npm за 30 дней до 10 ноября. Исследователи в области безопасности опубликовали каждый этап своей атаки 11 ноября. ИИ-помощник, который помечал новые сообщения об ошибках на общедоступной странице проекта в GitHub, выполнил инструкции, скрытые в поддельном сообщении.

Мы взломали последнюю версию OpenAI Codex. Мы внедрили подсказки. Мы вырвались из песочницы. Мы похитили секреты… И в итоге получили контроль над тем, что можно публиковать в официальном npm-пакете openai/codex.

— Depi (@depi_) 11 ноября 2026 г.

Исследователи утверждают, что затем им удалось вырваться из закрытого рабочего пространства, прочитать секретные ключи и устроить ловушку для ключа, используемого для публикации новых версий. Компания OpenAI устранила проблему и выплатила первое вознаграждение в размере 1000 долларов. Рано утром 12 ноября вспомогательный инструмент для маркировки был заменен коротким скриптом, который не поддерживает использование инструментов.

Однако Depi провел полномасштабную атаку на собственной тестовой копии, в то время как настоящий вспомогательный инструмент с мая использовал более строгий режим только для чтения. Depi не сообщает о каких-либо вредоносных обновлениях, достигших пользователей. В нашем отчете подробно описан каждый этап атаки. Любой инструмент искусственного интеллекта, читающий текст от незнакомых людей, следует рассматривать как потенциальный способ проникновения.

Япония планирует штрафы для самых мощных систем ИИ

Ноль. Именно столько штрафов предусмотрено законом об искусственном интеллекте, принятым Японией в мае 2025 года. Правительственные советники хотят ввести штрафы для самых мощных систем. Документы заседания от 11 ноября опубликованы в интернете.

Хотите, чтобы ИИ экономил вам часы в неделю? Наше бесплатное руководство покажет вам, как это сделать.Получите бесплатное руководство →

План состоит из четырех этапов. Компании должны принимать меры безопасности и сообщать о рисках, правительство может официально рекомендовать изменения, а в случае неудачи — издать обязательный к исполнению приказ с применением штрафных санкций. Правила будут применяться только к ИИ, демонстрирующему определенный уровень производительности, и только к конкретным серьезным рискам, таким как кибератаки и атаки с применением химического, биологического или ядерного оружия. Информационное агентство Kyodo сообщает, что предварительный вариант плана должен быть представлен к концу года.

В нашей статье подробно описаны четыре этапа. До настоящего времени Япония полагалась на добровольные рекомендации.

Четыре компании, занимающиеся ИИ, согласились на независимые тесты безопасности для детей

8 миллионов евро. Именно столько, по словам сторонников новой хартии, они потратят на исследования в области искусственного интеллекта и развития детей. Организации OpenAI, Anthropic, Microsoft и Black Forest Labs поддержали её на Парижском форуме мира. Полный текст хартии был опубликован 10 ноября.

В число десяти принципов входят ограничения на сбор данных о детях и проверка возраста, которая не основывается только на введенной дате рождения. Исследования будут проводиться независимыми экспертами, и компания, которая их финансирует, не сможет блокировать или задерживать результаты. OpenAI заявляет, что выделяет 2 миллиона долларов. Хартия является добровольной, и Google, Meta и xAI не входят в число компаний, которые ее поддержали.

Президент Франции Эммануэль Макрон заявил, что ИИ не должен попадать к детям, пока не будет протестирован, оценён и одобрен, однако хартия не предусматривает процедуры одобрения. Мы изучили обещания компаний. Опубликованные результаты тестов, хорошие или плохие, принесут родителям и школам больше пользы, чем любые обещания.

United Airlines запрещает ИИ-помощникам бронировать рейсы

Один из семи взрослых. В ходе опроса, проведенного Оксфордским университетом в девяти странах, именно эта доля респондентов заявила, что использовала ИИ-помощника для решения реальных задач за последнюю неделю. С 11 ноября бронирование рейса United Airlines больше не может быть одной из таких задач. Авиакомпания объявила о новых правилах в среду.

ИИ-помощники других компаний больше не могут искать рейсы, бронировать их, изменять бронирования или тратить бонусные мили на сайте или в приложении авиакомпании. Правила также распространяются на турагентов. Авиакомпания ссылается на риск для персональных данных и нежелательных покупок, а также на правило США, согласно которому человек должен подтвердить, что в его багаже нет запрещённых предметов. «Честно говоря, я не хочу создавать ещё одного посредника», — заявил генеральный директор Скотт Кирби на мероприятии 10 ноября.

В нашей статье объясняется, какие изменения произойдут для путешественников. ИИ-помощник может помочь вам выбрать рейс, но билет всё равно придётся покупать самостоятельно.

На прощание

В четверг обсуждался вопрос о том, кто устанавливает ограничения на использование ИИ. Некоммерческие организации обратились в суд, Япония – к закону, четыре компании подписали добровольную хартию, а авиакомпания просто заблокировала работу ИИ-помощников. А атака на инструмент для программирования показала, что самым слабым звеном может быть всего лишь одно сообщение об ошибке.

Увидимся завтра.