ЕС достиг соглашения по Закону об искусственном интеллекте, и, скорее всего, он вступит в силу в 2024-2025 годах, как и было запланировано.
Это знаковое решение стало результатом напряженных 37-часовых переговоров с участием Европейского парламента и стран-членов ЕС.
Тьерри Бретон, еврокомиссар, отвечающий в первую очередь за новый пакет законов, назвал соглашение "историческим". Переговоры ведутся со вторника, причем в некоторые дни переговорщики работали по ночам.
Исторический!
ЕС становится первым континентом, установившим четкие правила использования искусственного интеллекта 🇪🇺.
Сайт #AIAct это не просто свод правил - это стартовая площадка для стартапов и исследователей из ЕС, которые возглавят глобальную гонку ИИ.
Лучшее еще впереди! 👍 pic.twitter.com/W9rths31MU
- Тьерри Бретон (@ThierryBreton) 8 декабря 2023 года
Карме Артигас, государственный секретарь Испании по вопросам искусственного интеллекта, сыграла решающую роль в успешном завершении этих переговоров.
Артигас отметил, что текст получил значительную поддержку со стороны ведущих европейских стран, в частности, заявив, что "Франция и Германия поддержали текст". Это примечательно, поскольку Франция и Германия, стремясь поощрять свои растущие отрасли ИИ, ставили под сомнение некоторые из более строгих элементов закона.
Евросоюз намерен возглавить процесс регулирования ИИ. Хотя конкретное содержание и последствия новых законов еще не определены, они, скорее всего, вступят в силу в 2024/2025 годах.
Ключевые соглашения и аспекты Закона ЕС об искусственном интеллекте
Сайт предварительное соглашение по Закону об искусственном интеллекте представляет собой исторический шаг в регулировании ИИ. Он идет по стопам других нормативных актов ЕС в области технологий, таких как GDPR, в результате которых технологические компании на протяжении многих лет подвергались миллиардным штрафам.
Карме Артигас, государственный секретарь Испании по вопросам цифровизации и искусственного интеллекта, сказала о законе: "Это историческое достижение и огромная веха на пути к будущему! Сегодняшнее соглашение эффективно решает глобальную задачу в быстро развивающейся технологической среде в ключевой области для будущего наших обществ и экономик. И в этом стремлении нам удалось соблюсти чрезвычайно тонкий баланс: стимулировать инновации и распространение искусственного интеллекта по всей Европе, полностью соблюдая при этом основные права наших граждан".
Вот основные новые аспекты согласованного законодательства:
- Системы ИИ с высокой степенью воздействия и риска: Соглашение вводит правила в отношении моделей ИИ общего назначения, которые могут представлять "системный" риск. Что именно это означает, остается неясным, но в целом оно разработано с учетом новых поколений моделей уровня GPT-4 и выше.
- Управление и правоприменение: Была создана пересмотренная система управления, включающая некоторые правоприменительные полномочия на уровне ЕС. Это обеспечивает централизованный подход к регулированию ИИ в странах-членах ЕС.
- Запреты и исключения для правоохранительных органов: Соглашение расширяет список запрещенных практик ИИ, но разрешает правоохранительным органам использовать удаленную биометрическую идентификацию в общественных местах при соблюдении строгих условий. Это призвано обеспечить баланс между общественной безопасностью и неприкосновенностью частной жизни и гражданскими свободами.
- Защита прав: Ключевым аспектом соглашения является обязательство разработчиков систем ИИ с высокой степенью риска оценивать воздействие на права людей перед использованием системы ИИ. Ключевое слово здесь - "разработчики", поскольку закон обязывает нести ответственность на всех этапах цепочки создания стоимости ИИ.
Другие согласованные области включают:
- Определения и сфера применения: Определение систем искусственного интеллекта было приведено в соответствие с Определение ОЭСРИсключение составляют системы ИИ, используемые исключительно в военных, оборонных, исследовательских и инновационных целях или отдельными лицами в непрофессиональных целях.
- Классификация систем искусственного интеллекта: Системы искусственного интеллекта будут классифицироваться по степени риска, при этом к системам с высоким уровнем риска будут предъявляться жесткие требования, а к системам с ограниченным риском - более мягкие обязательства по обеспечению прозрачности. Так было задумано с самого начала.
- Модели фундаментов: Соглашение касается базовых моделей - крупных систем искусственного интеллекта, способных выполнять различные задачи, как ChatGPT/Bard/Claude 2. Для этих моделей установлены особые обязательства по прозрачности, а для высокоэффективных базовых моделей - более строгие правила.
- Требования к системам ИИ с высокой степенью риска: Системы искусственного интеллекта с высокой степенью риска будут допущены на рынок ЕС, но должны соответствовать определенным требованиям, включая качество данных и техническую документацию, особенно для малых и средних предприятий.
- Ответственность в цепочках создания стоимости ИИ: Соглашение разъясняет роли и обязанности различных участников цепочки создания стоимости систем искусственного интеллекта, включая поставщиков и пользователей, а также то, как они соотносятся с действующим законодательством ЕС.
- Запрещенные методы искусственного интеллекта: Закон запрещает некоторые неприемлемые методы работы ИИ, такие как когнитивное манипулирование поведением, нецелевое сканирование изображений лиц и распознавание эмоций на рабочих местах и в учебных заведениях.
- Экстренные процедуры для правоохранительных органов: Экстренная процедура позволяет правоохранительным органам в экстренных ситуациях применять средства ИИ, представляющие повышенный риск и не прошедшие оценку соответствия.
- Биометрическая идентификация в режиме реального времени: Использование правоохранительными органами систем удаленной биометрической идентификации в реальном времени в общественных местах разрешено при соблюдении строгих условий для таких конкретных целей, как предотвращение террористических атак или поиск подозреваемых в совершении тяжких преступлений.
Управление, наказания и обеспечение исполнения:
- Управление: Управление по искусственному интеллекту в рамках Комиссии будет осуществлять надзор за передовыми моделями искусственного интеллекта при поддержке научной группы независимых экспертов и Совета по искусственному интеллекту, состоящего из представителей государств-членов.
- Штрафы: Соглашение устанавливает штрафы в размере процента от глобального годового оборота компании за различные нарушения, причем для малых и средних предприятий и стартапов они будут более соразмерными.
- Штрафы: Штрафы за несоблюдение требований установлены в зависимости от тяжести нарушения. Штрафы рассчитываются либо как процент от общего годового оборота компании за предыдущий финансовый год, либо как фиксированная сумма. Принимается наибольшая из двух величин. Штрафы распределяются следующим образом: 35 миллионов евро или 7% от оборота за нарушения, связанные с запрещенными приложениями искусственного интеллекта, 15 миллионов евро или 3% за нарушение обязательств, предусмотренных законом, и 7,5 миллиона евро или 1,5% за предоставление неверной информации.
- Поддержка: Соглашение предусматривает создание "песочниц" для тестирования инновационных систем искусственного интеллекта в реальных условиях и оказывает поддержку небольшим компаниям.
Эта предварительная сделка все еще требует одобрения со стороны Европейского парламента и 27 стран-членов ЕС.
Как законодательство повлияет на "пограничные модели"?
Согласно новым правилам, все разработчики систем ИИ общего назначения, особенно тех, которые имеют широкий спектр потенциальных применений, таких как ChatGPT и Bard, должны поддерживать актуальную информацию о том, как обучаются их модели, предоставлять подробное резюме данных, использованных при обучении, и иметь политику, которая уважает законы об авторском праве и обеспечивает приемлемое использование.
Закон также классифицирует некоторые модели как представляющие "системный риск". Эта оценка в первую очередь основывается на вычислительной мощности, которой обладают эти модели. ЕС установил порог для этой категории на уровне моделей, использующих более 10 триллионов триллионов операций в секунду.
В настоящее время GPT-4 от OpenAI является единственной моделью, которая автоматически соответствует этому порогу. Однако Евросоюз может помечать другие модели под это определение.
К моделям, которые считаются системным риском, будут применяться дополнительные, более строгие правила. К ним относятся:
- Обязательная отчетность о потреблении энергии.
- Проведение испытаний в режиме "красной игры" или состязаний.
- Оценка и смягчение потенциальных системных рисков.
- Обеспечение надежного контроля кибербезопасности.
- Сообщают как информацию, использованную для точной настройки модели, так и подробности об архитектуре своей системы.
Как было воспринято соглашение?
Закон об искусственном интеллекте вызвал множество откликов, комментирующих его инновации, регулирование и влияние на общество.
Фриц-Улли Пипер, специалист по ИТ-праву компании Taylor Wessing, отметил, что, несмотря на окончание срока действия закона, в него еще могут быть внесены изменения.
Он отметил: "Многие моменты еще предстоит проработать в техническом трилоге. Никто не знает, как будет выглядеть окончательная формулировка и можно ли будет действительно продвинуть текущее соглашение в окончательном тексте закона".
Высказанные Пипером соображения свидетельствуют о сложности и неопределенности Закона об искусственном интеллекте и указывают на то, что предстоит еще много работы, чтобы окончательный вариант закона был эффективным и практичным.
Ключевой темой этих встреч стало соотношение рисков и возможностей ИИ, особенно с учетом того, что модели могут иметь "двойную природу", то есть приносить пользу и причинять вред. Александра ван Хуффелен, министр цифровых технологий Нидерландов, отметила: "Работа с ИИ означает справедливое распределение возможностей и рисков".
Закон также, по-видимому, не защитил граждан ЕС от широкомасштабной слежки, что привлекло внимание такие правозащитные группы, как Amnesty International.
Мгер Акопян, советник по адвокации в области искусственного интеллекта, сказал по поводу этого спорного момента: "Не обеспечив полный запрет на распознавание лиц, мы тем самым упускаем огромную возможность остановить и предотвратить колоссальный ущерб правам человека, гражданскому пространству и верховенству закона, которые уже находятся под угрозой по всему ЕС".
После заключения предварительного соглашения Закон об искусственном интеллекте начнет действовать через два года после официального вступления в силу, что позволит правительствам и компаниям по всему ЕС подготовиться к выполнению его положений.
В это время чиновники будут обсуждать технические детали регламента. После завершения технических доработок компромиссный текст будет представлен представителям государств-членов для одобрения.
Последний этап включает в себя юридико-лингвистический пересмотр для обеспечения ясности и юридической точности, после чего последует официальное принятие. Закон об искусственном интеллекте, безусловно, изменит индустрию как в ЕС, так и во всем мире, однако масштабы этого изменения трудно предсказать.
