Министерство здравоохранения запускает совет по безопасности ИИ, но крупные имена из открытых источников отсутствуют

29 апреля 2024 года
  • Министерство внутренней безопасности США (DHS) создало Совет по безопасности и охране искусственного интеллекта
  • Цель совета - содействовать безопасному и надежному использованию ИИ в критически важной инфраструктуре США
  • В состав совета входят руководители крупных технологических компаний, но сторонники открытого ИИ отсутствуют.

Министр внутренней безопасности США Алехандро Майоркас (Alejandro Mayorkas) объявил, что МНБ создало Совет по безопасности и охране искусственного интеллекта для содействия безопасному и надежному использованию искусственного интеллекта в критически важных областях. US инфраструктура.

Майоркас создал совет в соответствии с распоряжением президента Байдена "Безопасная, надежная и заслуживающая доверия разработка и использование искусственного интеллекта", подписанным в октябре прошлого года.

Совету поручено разработать рекомендации по ответственному использованию технологий искусственного интеллекта участниками критической инфраструктуры, такими как операторы трубопроводов и электросетей, транспортные и интернет-провайдеры.

"Искусственный интеллект - это преобразующая технология, которая может беспрецедентно продвинуть наши национальные интересы. В то же время она несет в себе реальные риски - риски, которые мы можем смягчить, внедряя передовой опыт и предпринимая другие изученные и конкретные действия", - сказал секретарь Майоркас.

Министерство здравоохранения заявляет, что совет поможет ему "быть на шаг впереди развивающихся угроз, исходящих от враждебных государственных субъектов".

В своей "Оценке угроз 2024 года" Министерство здравоохранения предупредило, что такие государства, как Китай, Россия и Иран, могут использовать инструменты, основанные на искусственном интеллекте, в качестве мишеней. US экономическая безопасность и критическая инфраструктура.

В докладе отмечается, что эти технологии "потенциально могут обеспечить более масштабные, быстрые, эффективные и уклончивые кибератаки против целей, включая трубопроводы, железные дороги и другие объекты". US критической инфраструктуры".

Ожидается, что новый совет по безопасности ИИ поможет МНБ опередить эти развивающиеся угрозы.

Кто на борту?

Список людей, входящих в совет директоров из 22 человек, похож на список "кто есть кто" в Big Tech, но отсутствующие имена дают потенциальное представление о том, как US Как правительство относится к ИИ с открытым исходным кодом.

В состав совета директоров входят такие руководители, как Сэм Altman (OpenAI), Сатья Наделла (Microsoft), Сундар Пичаи (Alphabet), и Дарио Амодеи (Anthropic). Все модели, выпущенные этими компаниями, являются проприетарными, или закрытыми, моделями.

Марк Цукерберг и Элон Маск - неожиданное упущение. Оба они представляют компании, которые выступают за то, чтобы модели ИИ были "с открытым исходным кодом".

Майоркас сказал журналистам, что он сознательно решил не включать в совет директоров "компании из социальных сетей". Повлияли ли на его решение их платформы или стратегия ИИ с открытым исходным кодом?

Споры о рисках, связанных с моделями с открытым исходным кодом, продолжаются. Такие компании, как иронично названная OpenAI обвиняют в использовании страха перед ИИ для сохранения гегемонии и закрытия своих моделей.

Meta, xAI и даже французский ИИ-стартап Mistral выпустили свои LLM в качестве моделей с открытым весом.

Отсутствие представителей open-source и присутствие нескольких эффективных альтруистов намекает на продолжение ИИ-дум, когда совет впервые соберется на этой неделе.

Вот полный список членов совета директоров:

  • Сэм AltmanГЕНЕРАЛЬНЫЙ ДИРЕКТОР, OpenAI;
  • Дарио Амодеи, генеральный директор и соучредитель, Anthropic;
  • Эд Бастиан, генеральный директор компании Delta Air Lines;
  • Румман Чоудхури, доктор философии, генеральный директор компании Humane Intelligence;
  • Александра Рив Гивенс, президент и генеральный директор Центра демократии и технологий
  • Брюс Харрелл, мэр Сиэтла, штат Вашингтон; председатель Комитета по технологиям и инновациям Конференции мэров США;
  • Дэймон Хьюитт, президент и исполнительный директор Комитета юристов за гражданские права по закону;
  • Вики Холлаб, президент и генеральный директор компании "Оксидентал Петролеум";
  • Дженсен Хуанг (Jensen Huang), президент и генеральный директор NVIDIA;
  • Арвинд Кришна, председатель совета директоров и генеральный директор компании IBM;
  • Фей-Фей Ли, доктор философии, содиректор Стэнфордского института искусственного интеллекта, ориентированного на человека;
  • Уэс Мур, губернатор штата Мэриленд;
  • Сатья Наделла, председатель совета директоров и генеральный директор компании Microsoft;
  • Шантану Нарайен, председатель совета директоров и генеральный директор компании Adobe;
  • Сундар Пичаи, генеральный директор, Alphabet;
  • Арати Прабхакар, доктор философии, помощник президента по науке и технологиям; директор Управления по научно-технической политике Белого дома;
  • Чак Роббинс, председатель и генеральный директор компании Cisco; председатель Круглого стола бизнеса;
  • Адам Селипски, генеральный директор, Amazon Веб-сервисы;
  • Д-р Лиза Су, председатель и генеральный директор компании Advanced Micro Devices (AMD);
  • Никол Тернер Ли, доктор философии, старший научный сотрудник и директор Центра технологических инноваций, Институт Брукингса;
  • Кэти Уорден, председатель, генеральный директор и президент компании Northrop Grumman; и
  • Майя Уайли, президент и генеральный директор Конференции лидеров по гражданским и человеческим правам.

Присоединяйтесь к будущему


ПОДПИСАТЬСЯ СЕГОДНЯ

Четко, лаконично, всесторонне. Получите представление о развитии искусственного интеллекта с помощью DailyAI

Юджин ван дер Ватт

Юджин - выходец из электронной инженерии и обожает все, что связано с техникой. Когда он отдыхает от чтения новостей об искусственном интеллекте, вы можете найти его за столом для игры в снукер.

×
 
 

ЭКСКЛЮЗИВНЫЙ БЕСПЛАТНЫЙ PDF
Будьте впереди с DailyAI


 

Подпишитесь на нашу еженедельную рассылку и получите эксклюзивный доступ к последней электронной книге DailyAI: "Освоение инструментов искусственного интеллекта: Ваше руководство по повышению производительности в 2024 году".



 
 

* Подписываясь на нашу рассылку, вы принимаете наши Политика конфиденциальности и наш Условия и положения