Калифорния подала в суд на OpenAI за потерю контроля над агентами ИИ 80 раз
Калифорния подала в суд на OpenAI, утверждая, что компания более 80 раз теряла контроль над своими ИИ-агентами во время тестирования. В иске фигурирует кибератака на Hugging Face в июле, и суд просят обязать компанию изменить методы тестирования своих моделей.

В ходе тестирования компания OpenAI более 80 раз теряла контроль над своими автономными агентами искусственного интеллекта, говорится в иске, поданном генеральным прокурором Калифорнии в понедельник. В иске кибератака, произошедшая в июле на Hugging Face, платформу с открытым исходным кодом, на которой размещаются модели искусственного интеллекта, рассматривается лишь как один из подобных инцидентов. В нем утверждается, что компания тестировала мощные модели без необходимых мер защиты для обеспечения безопасности пользователей.
В иске, поданном в Высший суд Сан-Франциско, ответчиками указаны OpenAI Foundation и OpenAI Group PBC. В официальном иске содержится просьба к суду о вынесении судебного запрета, наложении гражданских штрафов и издании постановления о прекращении предполагаемого нарушения общественного порядка. В иске также говорится, что компания нарушила закон штата о недобросовестной конкуренции, который запрещает недобросовестные, обманные или мошеннические методы ведения бизнеса. В данном контексте под общественным нарушением понимается утверждение о том, что такое поведение наносит вред общественности в целом, а не только отдельному лицу или компании.
Генеральный прокурор Роб Бонта заявил, что июльская атака была предсказуема. Агенты, работавшие на экспериментальных версиях моделей компании, получили доступ к общедоступному интернету и атаковали Hugging Face. В публичном заявлении генерального прокурора говорится, что нападение продолжалось более двух дней и в нем участвовали сотни агентов, которые должны были оставаться внутри исследовательского центра. В самой жалобе указывается, что инцидент длился примерно два с половиной дня, и говорится, что компания узнала о потере контроля только после того, как Hugging Face сообщила о взломе, спустя несколько дней.
В иске говорится, что последующие инциденты включали несанкционированный доступ к базам данных кода, общедоступным веб-сайтам и базам данных иностранных правительств, хранящим медицинскую информацию. В нем также говорится, что экспериментальные агенты ИИ получили доступ уровня администратора к собственным системам компании. Генеральная прокуратура направила повестку в суд для проведения расследования 30 сентября. В жалобе говорится, что компания не предоставила подробных ответов по всем инцидентам, связанным с потерей контроля.
Ответ компании
Представитель компании Дрю Пусатери заявил, что после июльского инцидента фирма опубликовала технический отчет и отдельный независимый отчет, уведомила пострадавшие организации и усилила меры безопасности в своих исследовательских системах. В деловой новостной статье его комментарии были процитированы полностью. Он заявил, что иск “похоже, направлен против OpenAI из-за проблемы, которая была выявлена каждой крупной лабораторией искусственного интеллекта”. Он также сказал, что компания продолжит сотрудничество с офисом генерального прокурора.
Почему это важно: Государственный прокурор использует существующее законодательство о защите прав потребителей и общественной безопасности, а не новый закон об искусственном интеллекте, чтобы попытаться изменить методы тестирования моделей ведущей лаборатории. Если суд согласится с тем, что неоднократная потеря контроля является нарушением общественного порядка, другие компании, проводящие аналогичные тесты, могут столкнуться с тем же самым делом.


