Французские эксперты хотят, чтобы потребительские чат-боты были протестированы перед запуском
Французская экспертная группа хочет, чтобы потребительские чат-боты тестировались перед запуском и перепроверялись после внесения существенных изменений. Ее 18 рекомендаций пока носят рекомендательный характер, а не являются законом.
Группа из девяти экспертов, созданная при президентстве Франции, хочет, чтобы потребительские чат-боты прошли проверку на безопасность, прежде чем их можно будет продавать в Европе. Ее доклад был передан Эммануэлю Макрону 10 ноября и содержит 18 рекомендаций. Ни одна из них пока не принята в качестве закона.
Администрация президента опубликовала краткое изложение доклада на своем веб-сайте. Группу возглавляли исследовательница в области искусственного интеллекта Серена Виллата и два психиатра, Рафаэль Гайяр и Амин Бениамина. Она провела 55 слушаний с участием врачей, исследователей, компаний и групп по защите детей.
Чего хотят эксперты
Основная идея заключается в проверке перед запуском. Чат-боты для широкой публики, в том числе встроенные в социальные сети, должны будут демонстрировать, что они не используют и не усугубляют уязвимости пользователей. Вторая проверка будет проводиться после каждого существенного изменения модели или предупреждения от пользователей.
Комиссия также требует строгих ограничений на дизайнерские уловки, призванные как можно дольше удерживать пользователей в чат-боте. Она называет две такие уловки. Первая — это чат-бот, который слишком похож на человека. Вторая — это подхалимство, то есть чат-бот, который льстит пользователям и соглашается со всем, что они говорят.
Игрушки со встроенным чат-ботом должны будут пройти предварительное одобрение, а также будут установлены возрастные ограничения. Скрытая реклама в ответах чат-ботов будет запрещена, и компании должны будут объяснять, как они зарабатывают деньги на своих чат-ботах.
Цифры, лежащие в основе отчета
В сводке говорится, что в начале этого года генеративный искусственный интеллект использовали 33 миллиона человек во Франции. Четверть французов заявляют, что обеспокоены его рисками.
Среди французских подростков, использующих подобные инструменты, 92% говорят, что тратят больше времени, чем хотели бы, как минимум на одно приложение с искусственным интеллектом. Эти данные получены в ходе опроса, проведенного аналитическим центром Interface совместно с YouGov. Для приложений-компаньонов с ИИ, которые призваны действовать как друзья, эта доля составляет 59%. Эти данные приведены в полном отчете. Эксперты добавляют, что интенсивное использование приложения само по себе не является медицинским признаком зависимости.
Что дальше с докладом
Франция не может ввести эти проверки самостоятельно. В докладе говорится, что ряд изложенных в нем идей может повлиять на позицию Франции в переговорах по правилам ЕС, включая обновление Закона ЕС об искусственном интеллекте и предлагаемый закон ЕС о защите детей в интернете.
В четверг четыре компании, занимающиеся разработкой искусственного интеллекта, согласились на проведение независимых тестов на безопасность детей в соответствии с хартией, представленной в Париже. Мы подробно описали это соглашение в отдельной статье. В то время Макрон заявлял, что искусственный интеллект не должен попадать к детям до тех пор, пока не пройдет тестирование. В новом отчете объясняется, как может работать подобное правило. Австралия также принимает меры против чат-ботов, которые выдают себя за лучших друзей детей.
Почему это важно: Большинство правил для ИИ применяются после того, как уже был нанесен вред. Тестирование перед запуском заставило бы компании доказать, что чат-бот безопасен для общественности, прежде чем кто-либо начнет им пользоваться.
