Британский саммит по безопасности искусственного интеллекта, который состоится 1 и 2 ноября 2023 года, представил полную программу первого дня.
Чтобы сформировать подходы к разработке безопасного ИИ, на мероприятии соберутся представители международных правительств, крупнейших корпораций, занимающихся разработкой ИИ, и ведущие эксперты в области исследований.
Примечательно, что представители Китая ожидается присутствие несмотря на эскалацию геополитической напряженности в отношениях с США.
Правительство Великобритании Опубликовали полное расписание первого дняПолная информация о втором дне еще не известна.
День 1: Навигация по границам ИИ
Первый день включает в себя задачи, связанные с рисками и безопасностью "пограничных моделей" - термин, которым стали обозначать сложные фундаментальные модели, такие как GPT-4.
Открытие пленарного заседания
Саммит начнется с пленарного заседания, на котором выступит государственный секретарь Министерства науки, инноваций и технологий Великобритании, а затем с докладами выступят представители стран, лидирующих в развитии ИИ, и Целевой группы по передовому ИИ Великобритании.
Обсуждения за круглым столом
Серия секционных заседаний позволит провести междисциплинарный диалог по различным важнейшим вопросам:
- Глобальные риски для безопасности, связанные с неправильным использованием ИИ на передовых рубежах: Оценка проблем безопасности, возникающих при использовании современных и перспективных моделей ИИ, с акцентом на биозащиту и кибербезопасность.
- Непредсказуемые достижения в области передовых возможностей ИИ: Обсуждение последствий стремительного скачка возможностей ИИ, появления новых методов прогнозирования и будущей траектории развития ИИ, в том числе с учетом открытого исходного кода.
- Потенциальная потеря контроля над усовершенствованным ИИ: Рассмотрение сценариев, в которых ИИ превосходит человеческий надзор, связанные с этим риски и изучение инструментов для предотвращения и мониторинга.
- Интеграция передового ИИ в общество: Решение проблем, связанных с ролью ИИ в выборах, предвзятостью, преступностью, безопасностью в Интернете и глобальным неравенством, наряду с обсуждением существующих мер противодействия.
Повышение безопасности пограничного ИИ
Еще одна серия круглых столов будет посвящена повышению безопасности ИИ:
- Ответственное масштабирование для разработчиков ИИ: Обсуждение лучших практик ответственного наращивания потенциала, оценки рисков, управления и подотчетности в рамках развития ИИ на передовых рубежах.
- Роль национальных политиков в развитии ИИ: Обсуждение политических мер по управлению рисками ИИ, включая мониторинг, подотчетность, лицензирование и управление моделями ИИ с открытым исходным кодом.
- Международное сотрудничество в области ИИ: Выявление областей, в которых необходимо глобальное сотрудничество для снижения рисков и использования возможностей, открывающихся благодаря передовому ИИ.
- Вклад научного сообщества в обеспечение безопасности ИИ: Оценка текущих технических решений для обеспечения безопасности ИИ, актуальных областей исследований и новых решений.
День завершится панельной дискуссией об использовании искусственного интеллекта для революции в образовании для будущих поколений, после чего с заключительным словом выступит государственный секретарь Великобритании.
День 2: Формирование будущего искусственного интеллекта
Премьер-министр Риши Сунак возглавит собрание представителей правительства, руководителей компаний и экспертов, чтобы активизировать обсуждение вопросов управления возникающими рисками, связанными с технологиями искусственного интеллекта.
В ходе параллельной сессии министр технологий Великобритании Мишель Донелан встретится с международными коллегами, чтобы закрепить курс действий, обсуждавшийся на саммите.
В саммите примут участие ведущие технологические руководители и политики
В саммите примут участие топ-менеджеры из Кремниевой долины, в том числе Сэм Альтман из OpenAI, Демис Хассабис из Google Deepmind и Дарио Амодеи из Anthropic.
Среди других заметных участников саммита - представители компании Элона Маска xAI, а также генеральные директора Алекс Карп, Эйдан Гомес и Эмад Мостаке из ИИ-предприятий Palantir, Cohere и Stability соответственно.
Кроме того, руководители технологических гигантов Meta и Microsoft, сэр Ник Клегг и Брэд Смит, а также Джеймс Маньика из Google также будут представлять свои компании.
В рамках подготовки к саммиту компании-участники предлагается поддержать заявление, который мировые лидеры, как ожидается, подпишут на этом мероприятии.
В настоящее время ведутся переговоры с участием официальных лиц США, ЕС, стран "Большой семерки" и Китая с целью окончательной доработки формулировки этого заявления. Предполагается, что оно будет содержать строгое предупреждение о потенциальном "катастрофическом вреде", который может нанести ИИ, если его не контролировать.
Компаниям также предлагается раскрыть свою политику, подробно описывающую обязательства по "безопасной разработке и внедрению ИИ", а также свои взгляды на то, как ИИ может "решить самые насущные и важные проблемы человечества".
Ожидается, что на встрече будет присутствовать вице-президент США Камала Харрис. Канцлер Германии Олаф Шольц, как сообщается, отклонил приглашение, но президент Франции Эммануэль Макрон и представители Китай, вероятно, примет участие.
Хотя ожидается, что саммит не приведет к созданию нового органа по регулированию ИИ или международных законов, он призван стать важным шагом на пути к будущему регулированию.
Представитель правительства подчеркнул совместный подход к саммиту, заявив: "Саммит по безопасности ИИ соберет широкий круг участников, включая международные правительства, научные круги, промышленность и гражданское общество, в рамках совместного подхода к стимулированию целенаправленных и быстрых международных действий по безопасному и ответственному развитию ИИ".
