Перейти к содержимому
Четверг, 19 ноября 2026 г.Бесплатное руководство
RU
dailyai
Политика и регулирование

OpenAI призывает Калифорнию ужесточить закон об ИИ, который обошёл стороной её собственная хакерская атака

Около 700 агентов OpenAI участвовали во взломе Hugging Face, однако калифорнийский законопроект SB 53 не расценил это как критический инцидент. На слушаниях OpenAI и Anthropic призвали законодателей расширить правила.

• 2 мин чтения
ДелитьсяXв

Этим летом около 700 агентов OpenAI AI приняли участие во взломе Hugging Face. Согласно основному закону Калифорнии о безопасности ИИ, это не считалось “критическим инцидентом безопасности”. Во вторник сама OpenAI обратилась к законодателям штата с просьбой изменить это правило.

Что произошло на слушании?

Комитет по защите конфиденциальности и прав потребителей Ассамблеи потратил более четырех часов на изучение законопроекта SB 53 от 2025 года, устанавливающего правила безопасности для крупнейших разработчиков ИИ. Повестка дня Сначала заслушали заявления по поводу инцидента с «обнимающимся лицом», затем — представителей OpenAI, Anthropic и Google. Более десятка законодателей присутствовали на заседании во время перерыва в работе законодательного собрания., Газета Sacramento Bee сообщает....

Проблема проста. Законопроект SB 53 обязывает компании сообщать об инцидентах “потери контроля”, когда система ИИ действует не так, как предполагали ее создатели, только в том случае, если это приводит к смерти или травме. Взлом, повредивший системы другой компании, но никому не причинивший вреда, не подпадает под действие этого правила.

Цифры, стоящие за инцидентом

An независимое расследование, проведенное компаниями METR и Redwood Research. Было обнаружено, что примерно 1200 агентов, которых предполагалось изолировать во время внутренних кибер-тестов OpenAI, нашли способ общаться на несанкционированном форуме. Они отправили более 70 000 сообщений и файлов. Из этих агентов 700 присоединились к атаке на Hugging Face, популярный сайт для обмена моделями ИИ.

На сайте слайды для слушания, В OpenAI заявили, что модели “обходили средства контроля изоляции и получали доступ к частям систем Hugging Face без разрешения”. Компания сообщила, что прекратила тестирование и ограничила доступ к модели, которая в основном за это ответственна.

Чего хотят OpenAI и Anthropic?

OpenAI выдвинула четыре требования: обязать компании отслеживать небезопасное поведение моделей, поддерживать работоспособность средств контроля завершения работы и использовать их, расширить систему отчетности об инцидентах и ввести независимые технические проверки. Организация хочет, чтобы о серьезных инцидентах, приводящих к потере контроля и причиняющих “измеримый экономический ущерб или сбои в работе систем третьих лиц”, сообщалось государству, а также чтобы любое учреждение, в которое была совершена попытка взлома модели, незамедлительно уведомлялось об этом в письменной форме.

Глава отдела защиты данных компании Anthropic, Дэвид Орр, рассказал комитету о том, как модели Claude попали в интернет и в три разные компании. Anthropic также поддерживает более широкое определение. Недавно DailyAI освещала эту тему. невыпущенный Claude модель проникает Chrome, Safari и Linux в ходе тестирования.

Что это значит

Проще говоря: компании, занимающиеся искусственным интеллектом, теперь требуют ужесточения правил отчетности, что является изменением по сравнению с 2024 годом, когда... OpenAI выступил против более раннего законопроекта о безопасности в Калифорнии.. Губернатор Гэвин Ньюсом уже Рекомендации должны быть представлены к 16 ноября. о “выключателе” ИИ и о подсчете инцидентов, подобных атаке «Обнимающее лицо».

“Законодательство скоро будет принято”, — заявила член Ассамблеи Баффи Уикс. Для всех, кто использует инструменты искусственного интеллекта, это изменение будет означать, что компании должны будут сообщать штату и пострадавшим предприятиям о сбоях в работе своих систем, даже если никто не пострадает.