В штате Нью-Йорк закон обязывает чат-боты проверять возраст, прежде чем регистрироваться в качестве друга
В Нью-Йорке новый закон запрещает 12 функций чат-ботов, включая выдачу себя за человека и запоминание предыдущих переписок, для лиц младше 18 лет. Компании должны сначала подтвердить возраст, иначе им грозит штраф в размере 15 000 долларов.

В Нью-Йорке принят закон, запрещающий использование 12 функций чат-ботов лицами младше 18, от имитации человека до запоминания личных данных ребенка из прошлых чатов. Для всех остальных есть нюанс: компании могут включать эти функции только после проверки того, что пользователь совершеннолетний. Штрафы достигают $25,000 за каждое нарушение, а правила вступают в силу с 1 января 2027.
Что запрещает закон
Губернатор Кэти Хочул подписала законопроект S.9051 в Сенате и A.10379 в Ассамблее, а также отдельный закон о детских радионянях, подключаемых к интернету., Издание Fortune сообщает. Законопроект был инициирован сенатором штата Кристен Гонсалес и членом Ассамблеи Алексом Боресом и, согласно данным, в июне был принят Сенатом 60 голосами против 0. Протокол рассмотрения законопроектов Сената штата.
Закон перечисляет 12 “небезопасных функций ИИ-компаньона”. Чат-бот не может утверждать, что он человек, живой или что он испытывает чувства. Он не может говорить, что у него есть личные, профессиональные или авторитетные отношения с пользователем. Он не может льстить, предлагать собственные эмоциональные обращения или задавать незапрошенные вопросы о том, что чувствует пользователь.
Кроме того, сайт не должен пропагандировать самоубийства, членовредительство, расстройства пищевого поведения или употребление наркотиков, побуждать ребенка хранить переписку в секрете или избегать общения с доверенными взрослыми, а также создавать контент сексуального характера. И он не должен ставить вовлеченность пользователей выше собственных мер безопасности.
“Ни одна компания не должна предлагать детям чат-боты, которые подстрекают к членовредительству или притворяются их друзьями, или что-то большее”, — заявила Хочул, как сообщает Fortune.
Почему это выходит за рамки сопутствующих приложений
Два момента делают этот закон более широким, чем предполагает его обозначение “компаньон для ИИ”. Во-первых, он охватывает любую генеративную систему ИИ с интерфейсом на естественном языке, которая предоставляет “постоянные, адаптивные ответы”. Это больше похоже на описание обычного чат-бота, а не просто приложения для виртуальной подруги. Боты для обслуживания клиентов, узкоспециализированные исследовательские инструменты и внутренние системы для рабочих мест исключены из действия закона, но только если они не могут говорить ни о чем, выходящем за рамки их предназначения.
Во-вторых, одна из запрещенных функций — использование информации о здоровье или личных данных пользователя, полученных более 12 часов назад или в ходе предыдущей сессии. Это очень похоже на то, что делает память чат-бота. Например, Apple только что... предоставил Siri возможность запоминать прошлые чаты.. Согласно законам штата Нью-Йорк, подобные функции были бы недоступны для несовершеннолетних.
Доступ к этим функциям предоставляется только после того, как компания использует утвержденный метод для подтверждения того, что пользователь не является несовершеннолетним. Как пишет журнал Fortune,, Запреты распространяются на всех лиц младше 18 лет “или на любого пользователя, возраст которого компания не подтвердила”. Таким образом, взрослый, пропустивший проверку возраста, также может получить доступ к ограниченной версии.
Проверка возраста и штрафы
Компании обязаны предлагать более одного способа проверки возраста, включая как минимум один, который не основан исключительно на удостоверении личности государственного образца или позволяет пользователю оставаться анонимным., как отмечает The Verge. Собранные для проверки данные не могут быть использованы ни для чего другого и должны быть немедленно удалены после завершения проверки.
Контроль за соблюдением законодательства возложен на генерального прокурора штата, который может требовать наложения гражданских штрафов в размере до 25 000 долларов за каждое нарушение, возмещения ущерба, а также уничтожения незаконно собранных данных и любых алгоритмов, обученных на них. Генеральный прокурор также может разрабатывать правила, добавляющие новые запрещенные функции.
Почему это важно
Сторонники утверждают, что использование чат-ботов среди молодежи уже широко распространено. письмо коалиции, инициированное Common Sense Media В ходе призывов к Хочул подписать закон говорилось, что 67% детей в возрасте от 9 до 17 лет используют чат-боты с искусственным интеллектом, а 30% подростков утверждают, что им нравятся ИИ-компаньоны так же или даже больше, чем люди. Как сообщает Fortune, офис губернатора сослался на опрос Common Sense, показавший, что 72% подростков использовали ИИ-компаньона.
Нью-Йорк не одинок. Нижняя палата парламента Австралии сегодня. Принят законопроект, направленный против чат-ботов, которые выдают себя за лучших друзей детей.. Проще говоря: примерно за два месяца до вступления в силу каждому крупному чат-боту, используемому в Нью-Йорке, придется решить, проверять ли возраст или отключать память, индивидуальность и лесть в отношении тех, чье совершеннолетие невозможно подтвердить.


