Британские регулирующие органы заявляют, что компании не могут винить своих ИИ-агентов, когда что-то идет не так.

Четыре британских регулятора заявили компаниям, что оправдание “это сделал ИИ” не сработает. Если агент ИИ нарушает закон о защите прав потребителей, действуя от вашего имени, ответственность несет компания, которая его внедрила, и антимонопольный орган может оштрафовать компанию на сумму до 101 тыс. долл. США от ее глобального оборота.

Предупреждение поступает совместное заявление Из материалов Форума по сотрудничеству в области цифрового регулирования, опубликованных 30 октября. В форуме принимают участие Управление по конкуренции и рынкам (CMA), Управление по финансовому регулированию и надзору (FCA), Управление комиссара по информации (ICO) и медиарегулятор Ofcom.

Речь идёт о персональных ИИ-агентах. Это помощники, которые выполняют за вас задачи, а не просто отвечают на вопросы: бронирование, поиск, отправка электронных писем, управление расходами или совершение покупок. Инструменты, подобные тем, что предлагает OpenAI, могут быть полезны. Дот-агент в ChatGPT Так уже работает.

Что сказали регулирующие органы

Четыре организации заявили, что хотят “четко обозначить, что существующие правовые и нормативные рамки применяются к персональным агентам искусственного интеллекта”. Это касается законодательства о конкуренции, защите прав потребителей и данных, онлайн-безопасности, финансовых услугах, платежах и правилах кибербезопасности.

Ключевой момент — это вопрос вины. “Автономия ИИ-агента не уменьшает ответственности организаций, использующих его, за соблюдение применимого законодательства и соответствующих нормативных актов”, — говорится в заявлении. “В тех случаях, когда мы выявляем действия, которые, как мы обоснованно подозреваем, нарушают закон и создают угрозу для потребителей или бизнеса, мы без колебаний применим свои полномочия”.”

Регуляторы назвали риски, которые они учитывают: мошенничество и аферы, передача персональных данных способами, которые пользователи не ожидают, а также вводящие в заблуждение рекомендации или решения. Они заявили, что работают с правительством над выявлением пробелов в правилах., как резюмировала юридическая фирма Burges Salmon.

Число, стоящее за предупреждением.

Угроза имеет серьезные последствия благодаря закону, вступившему в силу в апреле 2025 года. В соответствии с ним Управление по конкуренции и рынкам (CMA) может самостоятельно решить, было ли нарушено законодательство о защите прав потребителей, без обращения в суд. штрафовать компанию на сумму до 101 0600 долларов от ее глобального оборота. В заявлении не изложены никакие новые правила или штрафы.

Управление по конкуренции и рынкам (CMA) уже опубликовало рекомендации по агентному искусственному интеллекту и потребителям В марте, и обновил эту страницу, добавив ссылку на новое заявление.

Время имеет значение. Крупные американские магазины и банки уже... блокировка внешних агентов по совершению покупок на основе ИИ, ссылаясь на безопасность. Послание Великобритании направлено на другую сторону этой борьбы: компании, которые позволяют агентам действовать от имени клиентов.

Почему это важно

Если ИИ-агент покупает не то, что нужно, разглашает ваши данные или направляет вас к менее выгодному предложению, британские регуляторы заявляют, что ответственность несет компания, стоящая за этим агентом. Это дает британским пользователям более четкий способ подать жалобу, еще до принятия какого-либо специального закона, регулирующего деятельность ИИ-агентов.