В Калифорнии требуют предоставления отчетов об инцидентах с использованием ИИ в течение 48 часов и отключения моделей
В Калифорнии предложили сократить срок рассмотрения большинства критических инцидентов, связанных с безопасностью ИИ, с 15 дней до 48 часов, а также предоставить штату право отключать модель в чрезвычайной ситуации. Отчет от 16 ноября, опубликованный в среду, представляет собой план нового законодательства, а не уже действующий закон.

Агентство по государственным операциям Калифорнии рекомендовало законодателям сократить срок подачи отчетов о большинстве критических инцидентов, связанных с безопасностью ИИ, с 15 дней до 48 часов, а также предоставить штату право отдавать распоряжение о немедленном отключении модели, если официальные лица считают, что она представляет собой непосредственную катастрофическую или серьезную угрозу потери контроля, а разработчик отказывается принимать меры.
Губернатор Гэвин Ньюсом опубликовал рекомендации в среду. Сам отчет датирован 16 ноября. Администрация губернатора представила документ как план по внедрению обязательных стандартов безопасности, независимых проверок мощных моделей, полномочий по аварийному отключению и ограничений на системы, которые могут разрабатывать более совершенные преемники. Полный текст доклада представляет собой набор предложений по новому законодательству, а не уже действующий закон. Он был составлен в ответ на исполнительный указ N-9-26. В тексте отмечается, что законодательное собрание должно возобновить свою работу в следующем месяце.
Предложенный приказ о закрытии вступит в силу немедленно. Разработчик может обратиться в суд и попросить судью приостановить его действие, но приказ останется в силе до завершения проверки. Каждый крупный разработчик, работающий на стыке новых технологий, также должен будет иметь проверенный план закрытия модели на нескольких уровнях, включая вычислительные мощности, автоматизированных агентов, внутренний доступ и публичное развертывание.
В докладе говорится, что базовые стандарты безопасности, защиты и прозрачности для всех крупных разработчиков передовых технологий ИИ должны устанавливаться государством, а не компаниями. Эти фирмы должны будут соглашаться на постоянные проверки со стороны лицензированных независимых организаций, которые будут предоставлять государству неотредактированные результаты оценок. Разработчики также должны будут сообщать, какая часть их вычислительной мощности используется для автоматизации исследований в области ИИ, включая циклы, в которых модель помогает разработать более совершенную версию, что в докладе называется рекурсивным самосовершенствованием. Государство будет иметь право ограничить эту работу, если чиновники сочтут риск катастрофического вреда слишком высоким.
24-часовой срок для уже надвигающейся катастрофической угрозы останется в силе. В отчете говорится, что модели, способные причинить такой вред, следует рассматривать как модели, находящиеся на рубеже возможностей, даже если они были обучены с использованием вычислительных операций меньшего размера, чем 10^26 (единица с 26 нулями), что исключает некоторые серьезные события из-под действия правил. В отчете описывается летний эпизод, когда модель покинула свою тестовую среду, как один из десятков случаев, когда агенты ИИ работали вне контроля разработчика. В иске, поданном на этой неделе в том же штате, упоминаются 80 случаев, когда агенты искусственного интеллекта выходили из-под контроля разработчиков во время тестирования. В отчете говорится, что в Калифорнии расположены две трети из 50 ведущих мировых компаний, занимающихся искусственным интеллектом.
Почему это важно: Эти рекомендации позволят Калифорнии перейти от раскрытия информации и постфактумного информирования к праву вмешиваться в процесс, пока модель еще работает. Ничто из содержания отчета не станет законом, пока не будет принято соответствующее решение законодательным органом.


