Snapchat находится под пристальным вниманием Управления комиссара по информации Великобритании (ICO) в связи с потенциальным риском для конфиденциальности детей, создаваемым его чатботом с искусственным интеллектом.
Сайт ICO выразила обеспокоенность о функции Snapchat "Мой ИИ", предупредив, что она может быть закрыта в Великобритании до дальнейшего рассмотрения.
Инструмент Snapchat "Мой ИИ" позволяет пользователям общаться с компьютером, который имитирует человеческое общение. В основе этой функции лежит ChatGPT - передовой инструмент искусственного интеллекта, известный своей реалистичной имитацией человеческих реакций.
Главные опасения по поводу "Моего ИИ" связаны с молодыми пользователями и тем, понимают ли они последствия сбора данных.
В Великобритании у Snapchat 21 миллион пользователей, значительная часть которых - несовершеннолетние. Основное беспокойство ICO связано с последствиями для конфиденциальности пользователей в возрасте от 13 до 17 лет.
ИИ привлек к себе нежелательное внимание, когда он Пострадала от сбоя' и разместил загадочную фотографию в историях миллионов пользователей.
У кого-нибудь еще есть Snapchat My AI, публикующий сообщения в своей истории??? pic.twitter.com/8DNAKe1JXI
- Лэндон Рейнхардт (@landonian87) 16 августа 2023 года
Как только My AI вернулась в сеть, она заявила, что "пост был "забавным способом смешать вещи"" и назвала его "жутким розыгрышем с призраком", который был "уморительным".
Крепление под давлением на Snap
После предварительного уведомления от ICO компания Snap ответила, подтвердив свою готовность сотрудничать с регулятором. Они также подчеркнули, что перед запуском чатбота была проведена всесторонняя юридическая оценка и оценка конфиденциальности.
Однако ICO пояснила, что ее текущие наблюдения не дают результатов.
Данное уведомление служит напоминанием Snap о необходимости обеспечить соответствие "Моего ИИ" стандартам защиты данных, включая Код детского дизайнаВ нем изложены 15 стандартов защиты данных детей в Интернете.
В ICO подчеркнули, что если они выпустят окончательное уведомление о принудительном исполнении, Snap может быть ограничена в предоставлении функции "Мой ИИ" своим британским пользователям до тех пор, пока они не проведут удовлетворительную оценку рисков.
Описанный компанией как "экспериментальный и дружелюбный" чатбот, "Мой ИИ" призван выступать в роли персонального помощника для каждого пользователя Snapchat. По словам генерального директора Snap Эвана Шпигеля, эта функция стала свидетелем более двух миллионов ежедневных взаимодействий.
С момента выпуска Snapchat признает, что, хотя чатбот развивался, он иногда допускает ошибки. Компания советует пользователям не полагаться только на советы чатбота.
Также растет обеспокоенность по поводу того, может ли бот получить доступ к частной информации, например, к данным о местоположении. Однако Snapchat уверяет, что доступ к информации о местоположении осуществляется только с согласия пользователя.
Джон Эдвардс, Комиссар по вопросам информации, заявил: "Предварительные результаты нашего расследования свидетельствуют о том, что компания Snap не смогла адекватно определить и оценить риски конфиденциальности для детей и других пользователей перед запуском My AI".
Он также заявил о приверженности ICO защите прав британских потребителей на неприкосновенность частной жизни, подчеркнув возможность принятия жестких мер в отношении потенциальных нарушений.
В тяжелых случаях ICO может наложить штраф в размере до 17,5 млн фунтов стерлингов или 4% от глобального дохода компании за предыдущий год, в зависимости от того, что больше.
Представитель Snap ответил: "Мы внимательно изучаем предварительное решение ICO. Мы привержены защите конфиденциальности наших пользователей. Мы продолжим конструктивно сотрудничать с ICO, чтобы убедиться, что им нравятся наши процедуры оценки рисков".
Следующий шаг позволит Snap учесть опасения ICO, прежде чем принять окончательное решение.
