Закон Европейского союза об искусственном интеллекте (ИИ) официально вступил в силу 1 августа 2024 года - переломный момент для глобального регулирования ИИ.
Этот масштабный закон классифицирует системы искусственного интеллекта по степени риска, устанавливая различные степени надзора в зависимости от категории риска.
Закон полностью запретит некоторые виды ИИ, представляющие "неприемлемый риск", например те, которые предназначены для манипулирования поведением людей.
В то время как Действуйте является законом во всех 27 странах-членах ЕС, однако подавляющее большинство его положений не вступает в силу немедленно.
Напротив, эта дата знаменует собой начало подготовительного этапа как для регулирующих органов, так и для предприятий.
Тем не менее, колесики уже запущены, и закон, несомненно, определит будущее разработки, внедрения и управления технологиями ИИ как в ЕС, так и на международном уровне.
Сроки реализации следующие:
- Февраль 2025 года: Вступают в силу запреты на использование ИИ в условиях "неприемлемого риска". К ним относятся системы социального скоринга, нецелевое сканирование изображений лиц, а также использование технологии распознавания эмоций на рабочих местах и в учебных заведениях.
- Август 2025 года: Вступают в силу требования к моделям ИИ общего назначения. Эта категория, включающая большие языковые модели, такие как GPT, должна будет соответствовать правилам прозрачности, безопасности и снижения рисков.
- Август 2026 года: Регулирование систем ИИ с высоким уровнем риска в таких критически важных секторах, как здравоохранение, образование и занятость, станет обязательным.
Европейская комиссия готовится к введению этих новых правил.
Представитель Комиссии Томас Регнье пояснил, что около 60 существующих сотрудников будут переведены в новый офис AI, а в течение следующего года будут наняты еще 80 внешних сотрудников.
Кроме того, к августу 2025 года каждая страна-член ЕС должна создать национальные компетентные органы для надзора и обеспечения соблюдения закона.
Соблюдение закона не произойдет в одночасье. Хотя любая крупная компания, работающая в сфере искусственного интеллекта, уже давно готовится к принятию закона, по оценкам экспертов, внедрение механизмов контроля и практик может занять шесть месяцев и более.
Ставки для предприятий, попавших под прицел закона, высоки. Компании, нарушившие его, могут быть оштрафованы на сумму до 35 миллионов евро или 7% от их глобальной годовой выручки, в зависимости от того, что больше.
Это выше, чем GPDR, а ЕС не склонен к пустым угрозам, собирая более 4 млрд евро от штрафов по GDPR на сегодняшний день.
Международное воздействие
Будучи первым в мире всеобъемлющим нормативным актом в области ИИ, Закон ЕС об ИИ установит новые стандарты во всем мире.
Такие крупные игроки, как Microsoft, Google, Amazon, Apple и Meta, окажутся в числе тех, на кого новые правила будут распространяться сильнее всего.
Как отметил Чарли Томпсон из Appian рассказал CNBC"Закон об искусственном интеллекте, скорее всего, будет применяться к любой организации, осуществляющей деятельность или оказывающей влияние на ЕС, независимо от места расположения ее штаб-квартиры".
Некоторые американские компании принимают упреждающие меры. Например, компания Meta ограничила доступность своих Модель искусственного интеллекта LLaMa 400B в Европессылаясь на неопределенность в сфере регулирования. OpenAI угрожала ограничить выпуск продуктов в Европе в 2023 году, но быстро отступила.
Чтобы соответствовать требованиям закона, компаниям, занимающимся разработкой искусственного интеллекта, возможно, придется пересмотреть наборы данных для обучения, внедрить более строгий человеческий контроль и предоставить властям ЕС подробную документацию.
Это противоречит тому, как работает индустрия ИИ. Собственные модели ИИ OpenAI, Google и др. тайные и тщательно охраняемые.
Учебные данные представляют исключительную ценность, и их раскрытие, скорее всего, приведет к обнародованию огромного количества материалов, защищенных авторским правом.
Чтобы развитие ИИ шло теми же темпами, что и до сих пор, необходимо ответить на непростые вопросы.
Некоторые предприятия вынуждены действовать раньше других
По оценкам Комиссии ЕС, около 85% компаний, работающих в сфере ИИ, относятся к категории "минимального риска", не требующей особого надзора, однако правила Закона, тем не менее, затрагивают деятельность компаний, относящихся к верхним категориям.
Кадровые ресурсы и занятость - одна из областей, отнесенных Законом к категории "высокого риска".
Крупнейшие поставщики корпоративного программного обеспечения, такие как SAP, Oracle, IBM, Workday и ServiceNow, запустили HR-приложения с поддержкой искусственного интеллекта, которые используют его при отборе и управлении кандидатами.
Джеспер Шлейманн, руководитель отдела искусственного интеллекта SAP в регионе EMEA, рассказал Регистр что компания установила надежные процессы для обеспечения соответствия новым правилам.
Аналогичным образом, компания Workday внедрила программу "Ответственный ИИ" под руководством высшего руководства, чтобы соответствовать требованиям Закона.
Еще одна категория, попавшая под кош, - системы ИИ, используемые в критически важной инфраструктуре и важнейших государственных и частных службах.
Они охватывают широкий спектр приложений, от ИИ, используемого в энергосетях и транспортных системах, до ИИ, применяемого в здравоохранении и финансовых услугах.
Компании, работающие в этих секторах, должны будут продемонстрировать, что их системы ИИ отвечают строгим стандартам безопасности и надежности. Они также должны будут проводить тщательную оценку рисков, внедрять надежные системы мониторинга и обеспечивать объяснимость и прозрачность своих моделей ИИ.
Хотя Закон об искусственном интеллекте полностью запрещает некоторые виды использования биометрической идентификации и слежки, он делает ограниченные уступки в контексте правоохранительных органов и национальной безопасности.
Это оказалось благодатной областью для развития ИИ, и такие компании, как Palantir, создали передовые системы прогнозирования преступлений может противоречить акту.
Великобритания уже активно экспериментирует с Наблюдение с помощью искусственного интеллекта. Хотя Великобритания не входит в ЕС, многие компании, работающие в сфере ИИ, почти наверняка будут вынуждены соблюдать этот закон.
Впереди неопределенность
Реакция на закон была неоднозначной. Многие компании из технологической отрасли ЕС выразили обеспокоенность по поводу его влияния на инновации и конкуренцию.
В июне, более 150 руководителей представители таких крупных компаний, как Renault, Heineken, Airbus и Siemens, объединились в открытом письме, выразив свою озабоченность влиянием регулирования на бизнес.
Жаннетт цу Фюрстенберг, одна из подписантов и партнер-основатель берлинского венчурного фонда La Famiglia VC, заявила, что закон об искусственном интеллекте может иметь "катастрофические последствия для европейской конкурентоспособности".
Компания France Digitale, представляющая интересы технологических стартапов в Европе, раскритиковала правила и определения закона, заявив: "Мы призывали не регулировать технологию как таковую, а регулировать ее использование. Решение, принятое сегодня Европой, равносильно регулированию математики, что не имеет особого смысла".
Однако сторонники закона утверждают, что он также открывает возможности для инноваций в области ответственного развития ИИ. Позиция ЕС ясна: защитите людей от ИИ, и за этим последует более совершенная и этически ориентированная индустрия.
Regnier рассказал Euro News"Повсюду можно услышать, что ЕС занимается исключительно регулированием (...) и что это блокирует инновации. Это неверно".
"Законодательство не направлено на то, чтобы оттолкнуть компании от запуска своих систем - все как раз наоборот. Мы хотим, чтобы они работали в ЕС, но при этом защищали наших граждан и наш бизнес".
Несмотря на скептицизм, есть повод для оптимизма. SУстановление ограничений на распознавание лиц, социальный скоринг и анализ поведения с помощью искусственного интеллекта призвано защитить гражданские свободы граждан ЕС, которые в нормативных актах ЕС уже давно превалируют над технологиями.
На международном уровне закон может помочь укрепить доверие общества к технологиям ИИ, развеять страхи и установить более четкие стандарты разработки и использования ИИ.
Укрепление долгосрочного доверия к искусственному интеллекту жизненно необходимо для того, чтобы отрасль продолжала развиваться, поэтому закон может принести определенную коммерческую выгоду, хотя для его реализации потребуется терпение.
