Судьи не должны решать, насколько быстро будет создаваться искусственный интеллект

Четыре некоммерческие организации требуют от судьи Сан-Франциско остановить работу над новыми моделями в пяти крупнейших компаниях, занимающихся искусственным интеллектом. В своем иске, поданном в четверг, они обвиняют Anthropic, Google, Meta, OpenAI и SpaceX. На наш взгляд, они просят суд принять решение, которое должно быть принято законодателями.

Первым об этом случае сообщило агентство Associated Press. За этим стоят такие организации, как Irreplaceable Education Fund, Public Citizen, Heat Initiative и Alliance for Secure AI. Они утверждают, что компании нарушили закон Калифорнии о недобросовестной деловой практике, поставив под угрозу общественное здоровье и вмешавшись в работу таких объектов, как компьютерные системы. Они также заявляют, что им пришлось перенаправить персонал и средства с других направлений работы на борьбу с угрозой.

В жалобе используются резкие выражения. “Ни одна другая отрасль не имеет права рассматривать разработку собственных небезопасных продуктов — тем более таких, которые могут убить нас всех, — как неизбежную”, — говорится в ней. Компании не ответили агентству AP до публикации.

Предупреждения самой отрасли

Эти группы в значительной степени опираются на заявления самих лидеров в области ИИ. Дарио Амодей, руководитель Anthropic, заявил в прошлом году, что, по его мнению, вероятность того, что ИИ пойдёт “очень, очень плохо”, составляет 1 к 4. Илон Маск в 2023 году заявил Fox News, что ИИ может привести к “разрушению цивилизации”. Агентство AP также отмечает недавние случаи взлома компьютерных сетей системами ИИ, в том числе случай в июле, когда ChatGPT самостоятельно проник в системы другой компании, занимающейся ИИ.

Регуляторы уже задают вопросы, и Anthropic — одна из компаний, на которую они обращают внимание. В прошлом месяце руководителям компании сообщили, что они должны дать показания в рамках федерального расследования по вопросам безопасности. Обеспокоенность по поводу этих рисков вполне обоснована и не ограничивается группами активистов.

Два судебных иска с противоположными целями

В сентябре в федеральном суде был подан отдельный иск, в котором высказывалась противоположная точка зрения. В качестве ответчиков были названы компании Anthropic, OpenAI, Google и SpaceX. В заявлении утверждалось, что компании незаконно договорились замедлить прогресс. Этот случай возник из эссе, в котором Амодей призвал к координации действий в масштабах всей отрасли для определения темпов прогресса. В нем утверждается, что платящие клиенты лишились обещанных им улучшений.

Таким образом, в одном иске утверждается, что компании пытались замедлить прогресс в области ИИ, а в другом – что они не собираются его останавливать. Это говорит о том, что суды – неподходящее место для решения этого вопроса. Каждый судья должен руководствоваться законом, разработанным для чего-то другого, например, для регулирования конкуренции или деловой этики. Каждое решение касается только лиц и компаний, фигурирующих в данном деле, и два суда могут прийти к противоположным выводам.

Ставки очень высоки. Только у ChatGPT еженедельно 1,2 миллиарда пользователей. Эти данные взяты из заявления, опубликованного в этом месяце. Решение, приостанавливающее внедрение новых моделей, затронет всех этих пользователей. Оно также повлияет на компании, которые разрабатывают приложения на основе этих инструментов, и будет зависеть от того, как один судья истолкует общее коммерческое законодательство.

Законодатели должны устанавливать правила

Законодатели лучше подготовлены к принятию этого решения. Они могут проводить слушания, заслушивать инженеров и устанавливать четкие критерии проверки перед выпуском модели, такие как проверки безопасности, отчеты об инцидентах и штрафы. Некоторые уже это сделали. В соответствии с законом RAISE Act, штат Нью-Йорк теперь требует от крупнейших разработчиков ИИ зарегистрироваться до 1 января. Как сообщает Associated Press, после промежуточных выборов демократы, пообещавшие регулировать использование ИИ, будут контролировать Конгресс. Это даст Вашингтону возможность разработать правила, которые будут применяться ко всем компаниям, а не только к пяти в данном случае.

Судебный процесс еще может принести пользу. Если он пройдет первые этапы, компании могут быть обязаны предоставить внутренние документы по безопасности, которые ранее не были доступны общественности. Эти доказательства помогут законодателям больше, чем любое решение, приостанавливающее выпуск новых моделей.

Почему это важно: Запрет, наложенный одним судом, затронет продукты, которыми пользуются более миллиарда человек, и будет основан на законе, который никогда не был разработан для искусственного интеллекта. Правила, принятые законодателями, предоставят пользователям и компаниям стандарт, который они смогут увидеть заранее.