Министр внутренней безопасности США Алехандро Майоркас (Alejandro Mayorkas) объявил, что МНБ создало Совет по безопасности и охране искусственного интеллекта для содействия безопасному и надежному использованию искусственного интеллекта в критически важных областях. US инфраструктура.
Майоркас создал совет в соответствии с распоряжением президента Байдена "Безопасная, надежная и заслуживающая доверия разработка и использование искусственного интеллекта", подписанным в октябре прошлого года.
Совету поручено разработать рекомендации по ответственному использованию технологий искусственного интеллекта участниками критической инфраструктуры, такими как операторы трубопроводов и электросетей, транспортные и интернет-провайдеры.
"Искусственный интеллект - это преобразующая технология, которая может беспрецедентно продвинуть наши национальные интересы. В то же время она несет в себе реальные риски - риски, которые мы можем смягчить, внедряя передовой опыт и предпринимая другие изученные и конкретные действия", - сказал секретарь Майоркас.
Министерство здравоохранения заявляет, что совет поможет ему "быть на шаг впереди развивающихся угроз, исходящих от враждебных государственных субъектов".
В своей "Оценке угроз 2024 года" Министерство здравоохранения предупредило, что такие государства, как Китай, Россия и Иран, могут использовать инструменты, основанные на искусственном интеллекте, в качестве мишеней. US экономическая безопасность и критическая инфраструктура.
В докладе отмечается, что эти технологии "потенциально могут обеспечить более масштабные, быстрые, эффективные и уклончивые кибератаки против целей, включая трубопроводы, железные дороги и другие объекты". US критической инфраструктуры".
Ожидается, что новый совет по безопасности ИИ поможет МНБ опередить эти развивающиеся угрозы.
Кто на борту?
Список людей, входящих в совет директоров из 22 человек, похож на список "кто есть кто" в Big Tech, но отсутствующие имена дают потенциальное представление о том, как US Как правительство относится к ИИ с открытым исходным кодом.
В состав совета директоров входят такие руководители, как Сэм Altman (OpenAI), Сатья Наделла (Microsoft), Сундар Пичаи (Alphabet), и Дарио Амодеи (Anthropic). Все модели, выпущенные этими компаниями, являются проприетарными, или закрытыми, моделями.
Марк Цукерберг и Элон Маск - неожиданное упущение. Оба они представляют компании, которые выступают за то, чтобы модели ИИ были "с открытым исходным кодом".
Майоркас сказал журналистам, что он сознательно решил не включать в совет директоров "компании из социальных сетей". Повлияли ли на его решение их платформы или стратегия ИИ с открытым исходным кодом?
Споры о рисках, связанных с моделями с открытым исходным кодом, продолжаются. Такие компании, как иронично названная OpenAI обвиняют в использовании страха перед ИИ для сохранения гегемонии и закрытия своих моделей.
Meta, xAI и даже французский ИИ-стартап Mistral выпустили свои LLM в качестве моделей с открытым весом.
Отсутствие представителей open-source и присутствие нескольких эффективных альтруистов намекает на продолжение ИИ-дум, когда совет впервые соберется на этой неделе.
Вот полный список членов совета директоров:
- Сэм AltmanГЕНЕРАЛЬНЫЙ ДИРЕКТОР, OpenAI;
- Дарио Амодеи, генеральный директор и соучредитель, Anthropic;
- Эд Бастиан, генеральный директор компании Delta Air Lines;
- Румман Чоудхури, доктор философии, генеральный директор компании Humane Intelligence;
- Александра Рив Гивенс, президент и генеральный директор Центра демократии и технологий
- Брюс Харрелл, мэр Сиэтла, штат Вашингтон; председатель Комитета по технологиям и инновациям Конференции мэров США;
- Дэймон Хьюитт, президент и исполнительный директор Комитета юристов за гражданские права по закону;
- Вики Холлаб, президент и генеральный директор компании "Оксидентал Петролеум";
- Дженсен Хуанг (Jensen Huang), президент и генеральный директор NVIDIA;
- Арвинд Кришна, председатель совета директоров и генеральный директор компании IBM;
- Фей-Фей Ли, доктор философии, содиректор Стэнфордского института искусственного интеллекта, ориентированного на человека;
- Уэс Мур, губернатор штата Мэриленд;
- Сатья Наделла, председатель совета директоров и генеральный директор компании Microsoft;
- Шантану Нарайен, председатель совета директоров и генеральный директор компании Adobe;
- Сундар Пичаи, генеральный директор, Alphabet;
- Арати Прабхакар, доктор философии, помощник президента по науке и технологиям; директор Управления по научно-технической политике Белого дома;
- Чак Роббинс, председатель и генеральный директор компании Cisco; председатель Круглого стола бизнеса;
- Адам Селипски, генеральный директор, Amazon Веб-сервисы;
- Д-р Лиза Су, председатель и генеральный директор компании Advanced Micro Devices (AMD);
- Никол Тернер Ли, доктор философии, старший научный сотрудник и директор Центра технологических инноваций, Институт Брукингса;
- Кэти Уорден, председатель, генеральный директор и президент компании Northrop Grumman; и
- Майя Уайли, президент и генеральный директор Конференции лидеров по гражданским и человеческим правам.
