В Альмендралехо, небольшом городке на юге Испании, более 20 девочек-подростков недавно обнаружили, что получили на свои мобильные телефоны искусственно сгенерированные изображения себя обнаженных.
Эти тревожно реалистичные, глубоко фальшивые обнаженные тела были созданы на основе фотографий, изначально размещенных на аккаунтах девушек в Instagram.
Теперь перед родителями и экспертами в области права встает вопрос: Является ли создание и распространение этих изображений преступлением в соответствии с существующими законами?
Откровенные изображения были созданы с помощью ClothOff, приложения искусственного интеллекта, и затем распространены в различных группах WhatsApp.
Объекты на фотографиях были полностью одеты, но программное обеспечение ИИ убедительно изменило изображения, чтобы нагота казалась реальной.
Это вызвало растущую озабоченность родителей и юридических органов по поводу того, не могут ли эти фотографии с манипуляциями быть классифицированы как детская порнография.
Мириам Аль-Адиб, мать одной из пострадавших девочек, выразила свое возмущение на своей странице в Instagram, заявив: "Монтажи очень реалистичны, это очень тревожно и вызывает возмущение".
Она продолжила: "Моя дочь сказала мне с большим отвращением: "Мама, посмотри, что они со мной сделали"".
Аль-Адиб также выразил опасения, что измененные изображения могут попасть на сайты для взрослых.
Фатима Гомес, еще одна обеспокоенная родительница, рассказала испанской новостной сети Телевидение Эстремадуры что ее дочь шантажировали через социальные сети. Мальчик требовал у ее дочери деньги, а когда она отказалась, прислал ей глубокую фальшивую обнаженную натуру.
Сайт ФБР предупредило в июне этого года, и несколько женщин уже стали его жертвами.
Национальная полиция Испании провела расследование и установила личности нескольких подростков, предположительно причастных к созданию и распространению этих изображений.
Ситуация также была передана в прокуратуру по делам несовершеннолетних. Мэр Альмендралехо предупредил, что то, что могло начаться как "шутка", может повлечь за собой серьезные юридические последствия.
ClothOff, приложение с искусственным интеллектом, имеет обескураживающий слоган: "Разденьте любого, разденьте девушек бесплатно". Утверждается, что оно берет 10 евро за создание 25 обнаженных изображений.
Самой младшей девочке было всего 11 лет.
Существующие законы обеспечивают слабый охват
Мануэль Кансио, профессор уголовного права в Автономном университете Мадрида, рассказал Euronews что существующие законы могут неадекватно решать эту проблему.
"Поскольку она генерируется с помощью deepfake, реальная частная жизнь человека не затрагивается. Эффект, который она оказывает (на жертву), может быть очень похож на реальную фотографию в обнаженном виде, но закон на шаг позади", - пояснил он.
По сути, тот факт, что изображение является поддельным или "вымышленным", усложняет юридические вопросы.
Эксперты-юристы расходятся во мнениях относительно того, как классифицировать это преступление. Одни утверждают, что оно может подпадать под законы о детской порнографии, что влечет за собой более суровое наказание, в то время как другие предлагают рассматривать это преступление как посягательство на моральную чистоту.
Юридические интерпретации этого дела в разных странах мира различны, и, скорее всего, если бы подобное произошло в других странах, возникли бы аналогичные споры.
Дети становятся жертвами ИИ: недавно Всемирный экономический форум (ВЭФ) обратил внимание на вопиющее отсутствие политики по защите детей от рисков ИИ.
Американские законодатели также поднятые вопросы вокруг взаимодействия искусственного интеллекта с детьми, а журналисты из Великобритании обнаружили, что педофильские группировки были создание тревожного незаконного контента с помощью моделей искусственного интеллекта.
Законодатели подвергаются испытаниям в таких случаях - Это еще раз показывает, что традиционное законотворчество просто слишком громоздко, чтобы адаптироваться к рискам, связанным с ИИ, которые еще несколько лет назад можно было только представить.
