Сегодня в Великобритании стартовал саммит по безопасности искусственного интеллекта, на который в исторический Блетчли-парк съехались политики, технологические боссы, исследователи и члены групп по защите гражданских прав.
Британское правительство представило "Декларацию Блетчли", которую поддержали представители 28 стран, включая США и Китай.
Сайт декларация подчеркнула серьезные риски, связанные с наиболее продвинутыми "передовыми" системами ИИ, недвусмысленно заявив: "Существует вероятность нанесения серьезного, даже катастрофического вреда, как преднамеренного, так и непреднамеренного, в результате использования самых значительных возможностей этих моделей ИИ".
В документе также подчеркивается глобальный характер рисков, связанных с ИИ, и необходимость международного сотрудничества в решении этих проблем: "Многие риски, возникающие в связи с ИИ, по своей природе являются международными, и поэтому их лучше всего решать на основе международного сотрудничества. Мы преисполнены решимости работать вместе на инклюзивной основе для обеспечения ориентированного на человека, надежного и ответственного ИИ".
Несмотря на сильную риторику, декларация не определила конкретных политических целей, а назначила дополнительные встречи в Южной Корее через шесть месяцев и во Франции через год для продолжения разговора.
Премьер-министр Великобритании Риши Сунак активно рекламировал саммит как важнейшую возможность для мировых лидеров, компаний, исследователей и групп гражданского общества собраться вместе и заложить основу для международных стандартов безопасности для ИИ.
В своем обращении король Карл сказал по видеосвязи: "Мы являемся свидетелями одного из величайших технологических скачков в истории человечества", и далее: "Существует четкая необходимость обеспечить безопасность и сохранность этой быстро развивающейся технологии".
Смотрите послание короля о надежде на ИИ, с которым он выступил на первом в Великобритании саммите по безопасности ИИ 👇.
Подробнее о саммите: https://t.co/pdSULcNyn1 pic.twitter.com/cB4Bzu0J3n
- Sky News (@SkyNews) 1 ноября 2023 года
От США присутствовали вице-президент Камала Харрис и министр торговли США Джина Раймондо.
Заместитель министра науки и технологий Китая Ву Чжаохуэй выразил готовность Китая сотрудничать с другими странами, призвав их "расширять диалог и общение", а также отметил, что технология "неопределенна, необъяснима и лишена прозрачности".
Раджив Чандрасекхар, министр технологий из Индии, рассказал о глубоких подделках ИИ, "Позволяя инновациям опережать регулирование, мы открываемся для токсичности, дезинформации и использования оружия, которые мы видим сегодня в Интернете, представленном социальными сетями".
Элон Маск, присутствовавший на мероприятии, сказал об искусственном интеллекте: "Надейтесь на лучшее, но готовьтесь к худшему".
Элон Маск на первом в Великобритании саммите по безопасности искусственного интеллекта 🇬🇧pic.twitter.com/j40UNs6Cl2
- Дима Зенюк (@DimaZeniuk) 1 ноября 2023 года
На мероприятии присутствовали руководители компаний Anthropic, DeepMind, IBM, Meta, Microsoft, Nvidia, OpenAI и Tencent, а также члены групп по защите гражданских прав, таких как Algorithmic Justice League.
Наш генеральный директор Дарио Амодей рассказал о принципах, лежащих в основе политики ответственного масштабирования компании Anthropic, на саммите по безопасности ИИ в Великобритании, который состоялся сегодня днем в Блетчли-парке.
Прочитайте его высказывания: https://t.co/WCczCCvWaj
- Anthropic (@AnthropicAI) 1 ноября 2023 года
Хотя саммит был насыщен символикой и на нем присутствовали влиятельные фигуры, критики утверждали, что на нем было больше праздности, чем сути, отмечая отсутствие ключевых политических лидеров, таких как президент Байден, президент Франции Эммануэль Макрон и канцлер Германии Олаф Шольц.
Одновременно с этим государства по всему миру разрабатывают собственные законы и нормативные акты, направленные на борьбу с искусственным интеллектом. Исполнительный приказ Байдена - хотя, по общему признанию, само по себе это не является законодательством.
Основные мероприятия AI Safety Summit
Вот некоторые ключевые события AI Safety Summit - от самых последних (первых) до самых ранних (последних):
- "Некоторые технологические компании предпочитают ставить во главу угла прибыль, а не благополучие своих клиентов", - заявила вице-президент США Камала Харрис, подчеркнув необходимость совместных усилий правительств, гражданского общества и частного сектора для решения проблем, связанных с искусственным интеллектом. Она отметила добровольные обязательства правительства США перед ведущими компаниями, занимающимися разработкой искусственного интеллекта, по содействию безопасному развитию технологии и заявила о готовности администрации предпринять дальнейшие шаги, если это потребуется.
- Харрис особо отметила создание в США Института безопасности ИИ, задачей которого станет создание "строгих стандартов для проверки безопасности моделей ИИ для общественного использования". Харрис также выразила желание, чтобы внутренний план США в области ИИ вдохновил глобальную политику, о чем она также упомянула во время подписания недавнего исполнительного распоряжения США.
- Харрис вновь подчеркнула двойственную природу ИИ, способного принести как "глубокое благо", так и "глубокий вред". Она подчеркнула необходимость принятия срочных глобальных мер по борьбе с экзистенциальными угрозами, которые несет в себе ИИ, и призвала к комплексному подходу для устранения всех связанных с ним опасностей.
- Декларация Блетчли-Парка" о рисках ИИ была согласована 28 странами, что стало важным шагом в глобальном обсуждении безопасности ИИ. В декларации рассматриваются возможности, риски и необходимость международных действий в отношении передового ИИ.
- Республика Корея была объявлена местом проведения второго саммита по безопасности ИИ через полгода, а Франция примет третий саммит через год.
- надлежащие "направляющие" для развития ИИ, подчеркивая роль саммита в определении будущей траектории развития ИИ.
- Мишель Донелан, министр науки Великобритании, заявил о глубокой ответственности за развитие ИИ, отметив, что эта технология может либо расширить возможности человечества, либо создать серьезные угрозы.
- Сэр Ник Клегг, глава отдела по глобальным вопросам компании Meta, призвал к глобальному единству в развитии и регулировании ИИ, подчеркнув важность последовательности в основных юрисдикциях.
- Клегг предупредил об "опасности". он считает, что слишком много рассуждает о будущем ИИ, подчеркивая необходимость решения текущих технологических проблем, особенно в контексте предстоящих выборов.
Второй день мероприятия начнется завтра, 2 ноября 2023 года.
