В среду Европейский союз добился значительного прогресса в реализации Закона об искусственном интеллекте - первого в мире комплексного закона об искусственном интеллекте.
Европейский парламент одобрил проект закона, который предусматривает многоуровневый подход к регулированию ИИ путем разделения видов использования на различные категории риска.
Уровни включают запрещенную категорию "неприемлемого" риска для ИИ, которые ставят под угрозу безопасность людей и права человека, и категорию "высокого риска" для ИИ, которые связаны с критической инфраструктурой, выборами, занятостью и другими областями потенциального вреда.
Далее следуют категории "ограниченный риск" и "минимальный риск".
Голосование в среду подтвердило несколько изменений в предложенном законе и получило 499 голосов "за", 28 "против" и 93 отсутствующих.
СЛУЧАЙ: Парламент ЕС подавляющим большинством голосов принял первый в мире всеобъемлющий закон об искусственном интеллекте.
ЕС устанавливает глобальный стандарт: ИИ должен работать на благо демократии, безопасности и планеты.
Запрет распознавания эмоций и систем рекомендаций социальных сетей, классифицированных как "высокий риск"!https://t.co/BBrxznStdR pic.twitter.com/9fLwEiqKTf
- Алиса St⭕️llmeyer (@StollmeyerEU) 14 июня 2023 года
Каковы были поправки?
Во-первых, ЕС расширил список запрещенных ИИ с "неприемлемым" риском, который теперь включает в себя:
- ИИ для социального скоринга, когда люди ранжируются на основе их социального поведения или личных характеристик.
- Системы удаленной биометрической идентификации в реальном времени в общественных местах.
- Удаленные системы биометрической идентификации, за исключением случаев, когда правоохранительные органы преследуют серьезные преступления, и только с разрешения суда.
- Биометрические системы категоризации, использующие такие чувствительные характеристики, как пол, раса, этническая принадлежность, гражданство, религия и политическая ориентация.
- Системы предиктивного полицейского контроля, основанные на профилировании, местоположении или прошлом преступном поведении.
- Системы распознавания эмоций используются в правоохранительных органах, на границе, на рабочих местах и в учебных заведениях.
- Нецелевой сбор изображений лиц из Интернета или записей камер видеонаблюдения для создания баз данных распознавания лиц.
К приложениям ИИ второго уровня "повышенного риска" теперь относятся системы, способные влиять на выборы, и рекомендательные алгоритмы, используемые крупными платформами социальных сетей.
Что касается генеративных ИИ, таких как ChatGPT, то разработчики обязаны активно оценивать и снижать риски для здоровья, безопасности, основных прав, окружающей среды, демократии и верховенства закона. Кроме того, для работы на рынке ЕС они должны будут зарегистрировать свои модели в базе данных ЕС.
Кроме того, компании, занимающиеся разработкой ИИ, должны усилить меры защиты от создания нелегального контента и предоставлять подробные резюме учебных данных, защищенных авторским правом. Другие изменения в законе включают исключения для малых и средних предприятий и исследовательской деятельности с открытым исходным кодом.
Невыполнение требований может привести к тому, что компании будут вынуждены удалить приложения, а штрафы составят до 7% от их дохода. Представитель ЕС Драгош Тудораш сказал: "Там много острых зубов". Штрафы, наложенные за нарушение GDPR, в том числе штраф в размере 1,2 млрд евро для Meta и 746 млн евро для Amazon, показывают, что ЕС может обеспечить выполнение подобных действий.
Председатель Европейского парламента Роберта Метсола назвала его "законом, который, без сомнения, будет устанавливать мировые стандарты на годы вперед", добавив, что ИИ вступает в "новую эру тщательного контроля".
После голосования официальный представитель ЕС Брандо Бенифеи сказал., "Сегодня все внимание приковано к нам. В то время как крупные технологические компании бьют тревогу по поводу своих собственных творений, Европа пошла дальше и предложила конкретный ответ на риски, которые начинает представлять ИИ. Мы хотим, чтобы положительный потенциал ИИ для творчества и производительности был использован, но мы также будем бороться за защиту наших позиций и противостоять угрозам нашим демократиям и свободам во время переговоров с Советом".
После голосования в среду закон вступает в завершающую стадию, включающую переговоры с Европейским парламентом, Европейской комиссией и Советом Европейского союза.
Ожидается, что закон вступит в силу в 2026 году.
