Суд по делам молодежи в Бадахосе (Испания) приговорил 15 школьников к году условно за создание и распространение сгенерированных искусственным интеллектом изображений обнаженных одноклассниц.
Несовершеннолетние в возрасте от 13 до 15 лет были признаны виновными по 20 пунктам обвинения в создании образа жестокого обращения с детьми и 20 пунктам обвинения в посягательстве на моральную целостность.
В рамках приговора обвиняемые должны посещать занятия по гендерному равенству и технологической ответственности.
Суд постановил, что несовершеннолетние использовали приложения искусственного интеллекта для манипулирования оригинальными фотографиями девушек, взятыми из социальных сетей, накладывая их лица на обнаженные женские тела.
Дело Впервые об этом стало известно в сентябре прошлого года в Альмендралехо, небольшом городке на юго-западе Испании, когда родители сообщили, что изображения их дочерей распространяются в WhatsApp. На подделанных фотографиях девочки были реалистично изображены обнаженными, что вызвало огромные переживания и тревогу у жертв, некоторым из которых было всего 11 лет.
"Когда вы это видите, это шок", - говорит мать одной из жертв. "Изображение абсолютно реалистично... Если бы я не знала тело своей дочери, я бы подумала, что это изображение настоящее".
Мать другой жертвы, Мириам Аль-Адиб, выразила свое возмущение в Instagram, сказав: "Монтажи очень реалистичны, это очень тревожно и вызывает возмущение".
Она рассказала, как ее дочь пришла к ней с отвращением и сказала: "Мама, посмотри, что они со мной сделали". Аль-Адиб также выразила опасения, что поддельные обнаженные изображения могут попасть на сайты для взрослых.
Другая мать, Фатима Гомес, рассказала местным СМИ, что ее дочь шантажировал сокурсник из-за поддельных обнаженных фотографий. Мальчик требовал у ее дочери деньги, а когда она отказалась, прислал ей подделанное изображение себя обнаженной.
Полицейское расследование показало, что для создания изображений из фотографий в социальных сетях использовалось приложение под названием "ClothOff AI".
Приложение имеет тревожный слоган "Раздень любого, раздень девушек бесплатно" и, как сообщается, берет 10 евро за создание 25 обнаженных изображений.
Защита несовершеннолетних в возрасте ИИ
Это знаковое дело подчеркивает острую необходимость в обновлении законов и политики для борьбы с растущей угрозой глубоких подделок, генерируемых искусственным интеллектом, особенно тех, которые направлены на несовершеннолетних.
Эксперты говорят, что существующее законодательство не позволяет преследовать эти новые преступления, оставляя жертв беззащитными.
"Помимо данного конкретного судебного разбирательства, эти факты должны заставить нас задуматься о необходимости просвещения людей о равенстве между мужчинами и женщинами", - заявила Ассоциация Мальвалуна, представлявшая интересы пострадавших семей.
Они подчеркнули необходимость всестороннего полового воспитания в школах для борьбы с вредным влиянием порнографии и глубоких подделок.
По мере стремительного развития технологий искусственного интеллекта растет озабоченность тем, что они могут стать объектом злоупотреблений и эксплуатации, причем женщины и дети становятся непропорционально большими жертвами.
Всемирный экономический форум (ВЭФ) и американские законодатели недавно обратили внимание на отсутствие политики, защищающей несовершеннолетних от рисков ИИ.
Американские законодатели также поднятые вопросы вокруг взаимодействия ИИ с детьми, что, очевидно, стало вопиющим слепым пятном в нормативных актах и руководствах. Разработчики ИИ устанавливают возрастные ограничения на свои инструменты, но они сомнительно эффективны.
Сотрудничество между политиками, технологическими компаниями, педагогами и родителями необходимо для решения этих проблем и создания более безопасного цифрового будущего для всех, особенно для детей.
