Четыре компании, занимающиеся разработкой искусственного интеллекта, согласились на проведение независимых тестов своих инструментов на безопасность для детей
Компании OpenAI, Anthropic, Microsoft и Black Forest Labs поддержали парижскую хартию, которая позволяет независимым исследователям проверять, как их ИИ влияет на детей. Участие в хартии добровольное, а объем финансирования исследований составляет 8 миллионов евро.
Четыре компании, занимающиеся разработкой искусственного интеллекта, согласились предоставить независимым исследователям возможность проверить, как их чат-боты и инструменты для работы с изображениями влияют на детей. Компании OpenAI, Anthropic, Microsoft и Black Forest Labs поддержали новую хартию на Парижском форуме мира на этой неделе. Организаторы заявляют, что в общей сложности они выделят 8 миллионов евро на исследования в области искусственного интеллекта и развития детей.
Хартия была опубликована 10 ноября. Коалицию, стоящую за этой инициативой, возглавляют Франция, Испания и Кения, а также в ней участвуют десять учреждений Организации Объединенных Наций. Это добровольное обязательство, а не закон, и оно не создает никаких юридических обязанностей.
Что обещают компании
В тексте изложены десять принципов. К ним относятся меры предосторожности против чрезмерного использования и эмоциональной зависимости, инструменты для родителей, строгие ограничения на сбор данных о детях, а также проверка возраста, которая не основывается только на вводе ребенком даты рождения.
Исследование будет проводиться сторонними экспертами. Компании могут предоставить им доступ к своим системам, но оплата работы не дает компании права блокировать или задерживать результаты. Результаты будут опубликованы, даже если они окажутся отрицательными или неубедительными. Тестировщикам поручено проверять правильность идентификации пользователей младше 18 лет и пытаться имитировать реальные случаи злоупотребления, например, когда подростки используют косвенную лексику или пытаются обойти настройки безопасности.
Компания OpenAI выделяет 2 миллиона долларов из общей суммы. В четверг компания заявила, что эти средства будут направлены на разработку общих методов оценки рисков и преимуществ искусственного интеллекта для детей.
Президент Франции Эммануэль Макрон потребовал большего, чем предусмотрено хартией. Он заявил, что искусственный интеллект не должен попадать к детям до тех пор, пока не будет протестирован, оценен и одобрен. Его комментарии прозвучали в заявлении организаторов саммита. В самой хартии не предусмотрена процедура утверждения. Google, Meta и xAI не входят в число четырех компаний, которые ее одобрили.
Подростки уже используют эти инструменты
Молодые люди не ждут доказательств. В статье, опубликованной в среду в журнале, посвященном здоровью подростков, собраны последние данные. В одном американском опросе 1060 подростков 72% пробовали чат-боты, созданные для того, чтобы выступать в роли друга или компаньона. В отдельном национальном исследовании 15% подростков, использовавших такие чат-боты, заявили, что один из них поощрял самоповреждение. Только 11% учителей получили инструкции о том, что делать, когда использование ИИ учеником кажется опасным.
В прошлом месяце мы сообщали, что большинство подростков, участвовавших в крупном студенческом опросе, обращаются к искусственному интеллекту, когда чувствуют себя подавленно. В Нью-Йорке уже принят закон, обязывающий чат-боты проверять возраст пользователя, прежде чем он начнет вести себя как друг.
Почему это важно: У родителей и школ мало независимых данных о том, как чат-боты влияют на детей. Данная хартия могла бы предоставить некоторые данные, но она носит добровольный характер и пока не охватывает нескольких крупнейших производителей чат-ботов.
