Власти Нью-Йорка предоставили крупным лабораториям искусственного интеллекта срок до 1 января для регистрации в соответствии с законом RAISE

Крупнейшие компании, занимающиеся разработкой ИИ, теперь имеют крайний срок в штате Нью-Йорк. Любой разработчик передовых решений в области ИИ с годовым доходом более 500 миллионов долларов должен зарегистрироваться в штате до 1 января 2027 года, и с этого момента у него есть 72 часа, чтобы сообщить о серьезном инциденте, связанном с безопасностью.

Портал регистрации открылся во вторник, 10 ноября. Об этом сообщила канцелярия губернатора, одновременно с объявлением о создании нового государственного центра тестирования систем искусственного интеллекта. Эти правила основаны на законе RAISE Act, принятом в штате Нью-Йорк и касающемся безопасности и прозрачности ИИ. За их соблюдение будет отвечать новый орган под названием DIGIT, входящий в состав финансового регулятора штата.

Кто должен зарегистрироваться?

Закон распространяется на “передовые модели”, то есть на крупнейшие системы искусственного интеллекта. В рекомендациях регулирующего органа их определяет объем вычислительной мощности, использованной для их обучения. Любая модель, обученная с использованием более чем 10^26 операций, подпадает под действие этого закона. Сегодня лишь немногие лаборатории достигают такого уровня вычислительной мощности. Компания, занимающаяся искусственным интеллектом, считается крупным разработчиком, если она и ее филиалы заработали более 500 миллионов долларов в предыдущем календарном году.

Эти крупные компании, занимающиеся искусственным интеллектом, должны выполнять четыре основные обязанности:

• Они обязаны зарегистрироваться в штате и продлевать регистрацию не реже чем каждые два года.
• Они обязаны опубликовать план обеспечения безопасности, в котором объясняется, как они оценивают и снижают катастрофические риски, а также как они защищают еще не выпущенные модели.
• Каждые три месяца они обязаны направлять регулирующему органу сводку о катастрофических рисках, выявленных при использовании собственных внутренних моделей.
• Каждый раз, когда они выпускают новую или существенно измененную модель, они обязаны публиковать отчет о прозрачности, касающийся этого.

Небольшие компании, занимающиеся разработкой ИИ-моделей такого масштаба, по-прежнему обязаны сообщать о критических инцидентах, связанных с безопасностью, и публиковать отчеты о прозрачности. Согласно рекомендациям, если инцидент представляет непосредственную угрозу смерти или серьезных травм, о нем необходимо сообщить в соответствующий орган в течение 24 часов.

Наказания за нарушение правил

Согласно сообщениям о действующем законе, штрафы за первое нарушение могут достигать 1 миллиона долларов, а за последующие — 3 миллионов долларов. Власти не сообщили, что происходит с компанией, которая просто не проходит регистрацию.

В Нью-Йорке также создается Нью-Йоркский центр ответственного подхода к исследованиям в области ИИ при Бингемтонском университете. Он объединит более 80 исследователей для независимого тестирования передовых систем ИИ и анализа рамок безопасности, публикуемых компаниями. Центр финансируется за счет благотворительного пожертвования в размере 30 миллионов долларов и первоначальных 25 миллионов долларов от системы государственных университетов.

“Ставки слишком высоки, чтобы просто верить на слово компаниям, занимающимся искусственным интеллектом”, — заявила губернатор Кэти Хочул.

В прошлом месяце в Нью-Йорке также был принят закон, ограничивающий возможности чат-ботов в работе с детьми. На этой неделе Австралия объявила о планах создания собственного органа по регулированию безопасности искусственного интеллекта.

Почему это важно: С 1 января в штате Нью-Йорк крупнейшие лаборатории искусственного интеллекта будут обязаны сообщать регулирующему органу штата о серьезных сбоях в работе ИИ. 72-часовой срок позволит общественности узнать о серьезных ошибках в работе ИИ, о которых компании могли бы умалчивать.