Компании, занимающиеся разработкой искусственного интеллекта в Калифорнии, вздохнули с облегчением, когда губернатор Гэвин Ньюсом наложил вето на законопроект SB 1047 о безопасности искусственного интеллекта, принятый Сенатом штата ранее в этом месяце.
Спорный законопроект, если он будет подписан, потребует дополнительных проверок безопасности для моделей ИИ, которые преодолевают порог обучающих вычислений или стоимости. Такие модели должны будут оснащаться "выключателем", а их создатели будут подвергаться крупным штрафам, если их использование нанесет "критический вред".
В своем письме в Сенат штата Калифорния Ньюсом пояснил причины своего решения наложить вето на законопроект.
Он отметил, что одной из причин того, что в Калифорнии работают 32 из 50 ведущих мировых компаний в области ИИ, является "свободное культивирование интеллектуальной свободы". Он не упомянул о риске ухода некоторых из этих компаний из Калифорнии, но намекнул на то, какое влияние окажет на них законопроект.
По словам Ньюсома, основной причиной наложения вето на законопроект стало то, что он слишком широк, а порог регулирования не учитывает реальные риски.
Он сказал: "Сосредоточившись только на самых дорогих и масштабных моделях, SB 1047 создает нормативную базу, которая может дать обществу ложное чувство безопасности в отношении контроля над этой быстро развивающейся технологией. Малые, специализированные модели могут оказаться не менее, а то и более опасными, чем модели, на которые нацелен SB 1047, - и это может привести к ограничению тех самых инноваций, которые стимулируют прогресс в интересах общественного блага".
Ньюсом заявил, что регулирование рисков, связанных с ИИ, необходимо, но лучшим вариантом будет сосредоточиться на рискованных приложениях, а не на всеобъемлющем подходе, предусмотренном SB 1047.
"SB 1047 не учитывает, развернута ли система Al в средах с высоким уровнем риска, связана ли она с принятием критических решений или использованием конфиденциальных данных. Вместо этого законопроект применяет жесткие стандарты даже к самым базовым функциям - лишь бы их развернула крупная система. Я считаю, что это не лучший подход к защите общества от реальных угроз, которые несет в себе эта технология", - пояснил Ньюсом.
Хотя Ньюсом отказался подписать SB 1047, он указал на другие нормативные акты по ИИ, подписанные им в этом месяце, как на свидетельство того, что он серьезно относится к рискам, связанным с ИИ.
Он подытожил свою приверженность безопасности и развитию ИИ, сказав: "Учитывая ставки - защита от реальных угроз без ненужного срыва обещаний этой технологии по продвижению общественного блага - мы должны сделать это правильно".
Сенатор Скотт Вайнер был по понятным причинам недоволен тем, что Ньюсом отказался подписать законопроект, автором которого он являлся.
Вайнер сказал: "Это вето - поражение для всех, кто верит в надзор за огромными корпорациями, принимающими критические решения, которые влияют на безопасность и благосостояние населения и будущее планеты... Это вето оставляет нас с тревожной реальностью, когда компании, нацеленные на создание чрезвычайно мощной технологии, не имеют обязательных ограничений со стороны американских политиков, особенно учитывая продолжающийся паралич Конгресса в отношении регулирования технологической индустрии любым значимым способом".
В то время как Вайнер сокрушался о провале законопроекта, Ян ЛеКун из Meta и венчурный капиталист Марк Андреесен публично поблагодарили Ньюсома за наложенное вето.
Нам придется подождать, чтобы увидеть, станет ли решение Ньюсома примером дальновидного руководства или поводом для сожаления.
