Согласно указу, который президент Байден подписал в октябре, Национальному институту стандартов и технологий (NIST) поручено изучить способы тестирования и анализа безопасности моделей ИИ. Влияние корпорации RAND на NIST становится предметом пристального внимания.
RAND - влиятельный аналитический центр с глубокими связями с технологическими миллиардерами и игроками на рынке ИИ, поддерживающими движение "эффективного альтруизма". Недавно стало известно, что RAND сыграла важную консультативную роль в формировании исполнительного приказа Байдена о безопасности ИИ.
Комитет Конгресса США по науке, космосу и технологиям выразил свою обеспокоенность в письме как NIST выполняет свой мандат и как исследования таких групп, как RAND, могут повлиять на его работу.
В письме, адресованном NIST, говорится, что комитет "обеспокоен тем, как AISI будет финансировать внешние организации, и прозрачностью этих вознаграждений".
Кто консультирует AISI?
NIST создал Институт безопасности искусственного интеллекта (AISI) и, скорее всего, передаст на аутсорсинг большую часть необходимых исследований в области безопасности ИИ. Кто будет заниматься этими исследованиями? NIST не говорит, но, по сообщениям, институт привлек две группы.
В письме комитета не упоминается RAND по имени, но ссылка на отчет аналитического центра дает понять, что они обеспокоены тем, что RAND может продолжать оказывать влияние на регулирование ИИ.
В письме говорится: "Организации регулярно указывают на значительные спекулятивные преимущества или риски систем искусственного интеллекта, но не предоставляют доказательств своих утверждений, проводят невоспроизводимые исследования, скрывают секретность, используют методы оценки, которые не обладают конструктивной валидностью, или ссылаются на исследования, которые не прошли через надежные процессы проверки, такие как академическая экспертная оценка".
Чтобы проиллюстрировать свою точку зрения, газета ссылается на исследование RAND Corp. под названием "Операционные риски ИИ при крупномасштабных биологических атаках". В этом отчете делается вывод, что ИИ "может помочь в планировании и осуществлении биологической атаки".
Как это повлияет на регулирование ИИ?
Мотивация, стоящая за неприкрытым нагнетанием страха перед ИИ в исследованиях RAND, становится более понятной, если проследить за деньгами. RAND получила $15,5 миллиона грантов от Open Philanthropy, финансовой организации, ориентированной на поддержку эффективный альтруизм причины.
Сторонники эффективного альтруизма - одни из самых громких голосов, призывающих остановить или замедлить развитие ИИ. Если RAND - одна из двух организаций, которым, как сообщается, поручено провести исследования для AISI, то в ближайшем будущем можно ожидать ужесточения регулирования ИИ.
В письме комитета говорится: "При внедрении AISI мы ожидаем, что NIST будет требовать от получателей федерального финансирования исследований в области безопасности ИИ соблюдения тех же строгих принципов научного и методологического качества, которые характерны для всего федерального исследовательского предприятия".
Другими словами, если кто-то вроде RAND говорит, что ИИ представляет собой экзистенциальный риск, это еще не значит, что это так.
Будет ли NIST привлекать сторонников ускорения ИИ, таких как вице-президент и главный специалист по ИИ компании Meta Янн Лекун? В недавнем интервью Wired ЛеКун сказал: "Когда технология прогрессирует, вы не можете остановить плохих парней от доступа к ней. Тогда это будет мой хороший ИИ против вашего плохого ИИ. Способ оставаться впереди - это прогрессировать быстрее. Способ ускорить прогресс - открыть исследования, чтобы в них участвовало большее сообщество".
Работа NIST в значительной степени направлена на проведение точных измерений. То, кого они выберут в качестве консультантов, неизбежно склонит чашу весов в вопросе регулирования ИИ.
