Известные социальные медиа-платформы - Facebook, Instagram и TikTok - подверглись тщательному изучению за размещение рекламы, которая откровенно сексуализирует аватары искусственного интеллекта.
Компании рекламируют приложения для взрослых через откровенно сексуальные изображения и диалоги в социальных сетях, некоторые из которых предполагают сексуализацию детских фигур.
Согласно Новости NBC35 разработчиков приложений размещают в социальных сетях откровенно сексуальную рекламу.
Примечательной особенностью этих объявлений является тенденция к использованию детских персонажей, таких как Губка Боб Квадратные Штаны и Печенье Монстр, для продвижения контента для взрослых.
Самое тревожное, что в некоторых рекламных объявлениях используются сгенерированные искусственным интеллектом персонажи, напоминающие несовершеннолетних, обычно выполненные в стиле аниме.
Это не первый случай, когда контент, созданный искусственным интеллектом, используется для искажения и манипулирования правилами сообщества и фильтрами контента - недавно один аккаунт TikTok попал под огонь за то, что создание анимации убитых детей и заставить их рассказать о своих судьбах.
Meta и TikTok заявили, что убирают эту рекламу со своих платформ, но воздержались от комментариев по поводу того, как реклама обходит их контент-фильтры.
По всей вероятности, контент-фильтры настроены на откровенный контент, не генерируемый ИИ, и поэтому контент, генерируемый ИИ, легко проскальзывает сквозь сеть.
Тем не менее, Meta заявила, что их "политика запрещает рекламу, содержащую контент для взрослых, чрезмерно наводящий на размышления или сексуально провоцирующий - независимо от того, сгенерирован он искусственным интеллектом или нет".
Кто публикует приложения?
Десятки неизвестных разработчиков приложений наживаются на этой лазейке, размещая рекламу, обещающую "фотографии в стиле NSFW", "девушек в стиле пинап", "цифровых подружек" и "чаты без цензуры".
Многие компании находятся в таких странах, как Беларусь и Китай, а приложения, как правило, можно бесплатно загрузить из магазинов приложений Google и Apple.
Доходы в основном поступают от покупок в приложениях и подписок.
Поражает непоследовательность возрастного рейтинга этих приложений: некоторые из них ограничены для старшей аудитории, а другие считаются подходящими для подростков.
NBC News протестировал три таких чат-бота. Один позволял пользователям создавать свои собственные NSFW-изображения, а другой был полностью основан на кликах и полагался на заранее определенные откровенные сюжеты.
Среди них была печально известная "Реплика", которая недавно была связана с заговор с целью убийства убить королеву Елизавету II.
Общественное мнение о рекламе этих чат-ботов в Интернете было неоднозначным. Комментарии в Instagram, например, варьировались от "очень антиутопично" до "просто грустно", а некоторые отмечали, что сгенерированные ИИ персонажи выглядят неловко, как дети.
Предстоящее регулирование в ЕС и США будет оказывать давление на компании социальных сетей, заставляя их бороться с контентом, создаваемым искусственным интеллектом, но смогут ли их технологии фильтрации обеспечить ожидаемые результаты - это уже другая история.
