Во второй день саммита по безопасности ИИ премьер-министр Великобритании Риши Сунак попытался донести до общественности, что разработчики ИИ будут разрешать правительству оценивать инструменты до их выхода на рынок.
По словам Сунака, итоги саммита "склонят чашу весов в пользу человечества" и показали, что лидеры индустрии, включая Meta, Google Deep Mind и OpenAI, дали согласие на предварительное тестирование своих ИИ-новинок - то, что они уже заявили в недавнем добровольном соглашении, разработанном США.
Обязательства, принятые в ходе второго дня саммита, включали создание экспертного органа под названием Институт безопасности искусственного интеллекта.
Прямая трансляция: заявление премьер-министра Риши Сунака с саммита по безопасности искусственного интеллекта в Блетчли-парке https://t.co/YLn6O8FO7f
- Премьер-министр Великобритании (@10DowningStreet) 2 ноября 2023 года
Еще один заголовок второго дня - презентация предстоящего отчета "Состояние науки об искусственном интеллекте" под руководством "крестного отца ИИ" Йошио Бенгио.
"Эта идея вдохновлена тем, как была создана Межправительственная группа экспертов по изменению климата для достижения международного научного консенсуса, - говорит Сунак.
Сайт согласованные рамки выступает за всестороннюю оценку безопасности моделей ИИ до и после их запуска в эксплуатацию, уделяя особое внимание совместным испытаниям с участием правительств, особенно в областях, затрагивающих национальную безопасность и благосостояние общества.
Приверженность индустрии этому делу подчеркнул Демис Хассабис, генеральный директор Google DeepMind, который заявил: "ИИ может помочь решить некоторые из самых важных проблем современности - от лечения болезней до преодоления климатического кризиса. Но он также создаст новые проблемы для всего мира, и мы должны обеспечить безопасное создание и развертывание технологии. Чтобы добиться этого, потребуются коллективные усилия правительств, промышленности и гражданского общества по информированию и разработке надежных тестов и оценок безопасности. Я рад, что в Великобритании создан Институт безопасности ИИ, который ускорит прогресс в этой жизненно важной работе".
Китай не участвует в этих многосторонних инициативах. Однако этот пакт пользуется поддержкой ЕС и ведущих стран, таких как США, Великобритания, Япония, Франция и Германия, и поддерживается такими технологическими гигантами, как Google, Amazon, Microsoft и Meta.
Хотя премьер-министр столкнулся с вопросами о добровольном характере соглашений и отсутствии обязательного законодательства, он заявил, что ИИ требует быстрых действий, предположив, что "обязательные требования" для компаний, занимающихся ИИ, могут быть неизбежными.
Вместе со вчерашним Декларация Блетчли-паркаСаммит попытался активизировать действия вокруг ИИ, хотя критики в основном считают его скорее символическим, чем практическим.
Перед тем как выйти в прямой эфир с Сунаком, Маск разместил на сайте X издевательскую карикатуру, на которой изображены представители мировых держав, обсуждающие риски ИИ и одновременно потирающие руки от возможности доминирования.
Он не может не вызывать споров, но вы должны сказать, что это остроумная шутка для саммита, который по своей сути основан на обещаниях. Однако было бы редукционизмом утверждать, что это означает, что он ничего не достигнет, но реальное содержание переговоров остается гипотетическим.
Вздох pic.twitter.com/jDDTkewbDL
- Элон Маск (@elonmusk) 2 ноября 2023 года
Завершая саммит, британское правительство с гордостью опубликовало Блетчлискую декларацию, подписанную 28 правительствами, включая Великобританию, США и ЕС, в которой обещается совместный подход к стандартам безопасности ИИ, напоминающий соглашения о климатическом кризисе.
В целом дипломатические усилия Риши Сунака на саммите по ИИ были признаны достижением, утвердившим Великобританию в качестве первопроходца в обеспечении безопасности и регулирования ИИ на глобальном уровне, что создает предпосылки для проведения следующего саммита во Франции в 2024 году.
После того как я 9 лет добивался проведения международного саммита по безопасности искусственного интеллекта, я был очень рад, что он наконец-то состоялся! @RishiSunak имел больший успех, чем я ожидал, с поразительным единством между 1) США и Китаем, 2) теми, кто сосредоточен на текущем вреде против экзистенциального риска, и 3)... https://t.co/KAQ4HCIPQo
- Макс Тегмарк (@tegmark) 2 ноября 2023 года
Второй день саммита
Второй день саммита завершился дебатами между Сунаком и Маском. Вот некоторые из ключевых событий, начиная с самого позднего (первого) и заканчивая самым ранним (последним).
Смотрите 50-минутную трансляцию здесь.
Обсуждение ИИ с @RishiSunak
pic.twitter.com/f5FHGQzE4r- Элон Маск (@elonmusk) 2 ноября 2023 года
- Маск утверждал, что физический "выключатель" может отключить ИИ в случае катастрофических проблем. "Что, если в один прекрасный день они получат обновление программного обеспечения и вдруг окажутся не такими уж дружелюбными?" сказал Маск в интервью Sunak.
- Когда Сунак спрашивает, почему Маск недавно изменил систему модерации контента в Twitter, Маск утверждает, что все модераторы контента имеют предвзятость. Он спрашивает: "Как нам добиться правды на основе консенсуса?" и говорит, что его цель - добиться "более чистой правды". Маск утверждает, что его новая система модерации просто обеспечивает больший контекст и прозрачность, заявляя: "Все открыто. Вы можете увидеть все данные и понять, была ли какая-либо игра с системой, предложить улучшения... Правда платит".
- Маск предсказывает, что в будущем роботы с искусственным интеллектом могут стать настоящими друзьями человека. Он утверждает, что они будут обладать подробной памятью и знаниями, полученными благодаря обширному чтению, и говорит: "Вы сможете разговаривать с ним каждый день, и у вас действительно будет отличный друг. Это действительно будет реальностью".
- Маск делает смелое предсказание, что ИИ продвинется до такой степени, что для человека "не будет необходимости в работе". Он утверждает: "Вы можете иметь работу, если хотите, для личного удовлетворения, но ИИ сможет делать все". Маск говорит, что это может быть как положительным, так и отрицательным фактором, создающим проблемы для поиска смысла и цели. Но он также утверждает, что это может обеспечить "универсальный высокий доход" и сделать лучших репетиторов. В целом он видит много преимуществ для образования, производительности и автоматизации опасных работ.
- Когда Сунак отмечает, что его критиковали за приглашение Китая, Маск хвалит это решение как "смелое". Маск утверждает, что сотрудничество с Китаем в области безопасности ИИ очень важно, и говорит, что их участие - это очень позитивный знак.
- Маск рассказал Сунаку, что, по его мнению, правительства должны выступать в роли "рефери", чтобы обеспечить общественную безопасность с помощью ИИ и при этом разрешить инновации. Он подтверждает свое мнение о том, что в целом ИИ будет "силой добра". Это противоречит тому, что Маск говорил в прошлом, демонстрируя его переменчивые взгляды на ИИ.
- В преддверии их беседы Маск выразил оптимизм по поводу потенциала искусственного интеллекта, но предупредил, что он может нести в себе риски, использовав аналогию с "проблемой волшебного джинна", когда желания часто сбываются.
- На своей пресс-конференции Сунак защитил шаги, предпринимаемые правительствами для устранения рисков безопасности ИИ, заявив, что они делают "правильные и ответственные вещи", чтобы защитить общественность, даже если риски все еще неясны.
- Согласно новому опросу, только 15% человек уверены в способности правительства Великобритании эффективно регулировать искусственный интеллект. 29% вообще не выражают никакой уверенности.
- Отвечая на вопрос о том, может ли ИИ представлять экзистенциальную угрозу, Сунак говорит, что существует правдоподобная версия, что он может нести риски масштаба ядерной войны или пандемии. По его мнению, лидеры обязаны принимать защитные меры.
- Министр науки Донелан говорит, что больше всего ее беспокоит риск, связанный с ИИ, - это "сценарий Терминатора", когда машины станут неуправляемыми. По ее мнению, вероятность такого сценария невелика, но последствия будут самыми высокими.
Более подробный анализ саммита будет представлен в последующие дни. В целом, создается впечатление символически значимого события, обладающего огромным потенциалом.
Но потенциал не так легко превращается в законодательство и, в конечном счете, в действия. Только время покажет, что будет дальше.
