Сгенерированные искусственным интеллектом поддельные обнаженные тела учеников средней школы Вестфилда в штате Нью-Джерси (США) распространялись среди сверстников, и пока не ясно, что делать с виновными в судебном порядке.
Директор школы Мэри Асфендис описала ситуацию в электронном письме родителям как "очень серьезный инцидент".
Tшкола умалчивает о деталях инцидента, включая количество пострадавших и дисциплинарные меры в отношении виновных, ссылаясь на соображения конфиденциальности.
В прессу попало письмо, отправленное директором школы:
"Я пишу, чтобы поставить вас в известность о ситуации, которая привела к широкому распространению дезинформации и вызвала значительное беспокойство и тревогу среди учеников средней школы Вестфилда. Ранее сегодня студенты довели до нашего сведения, что некоторые из наших учеников использовали искусственный интеллект для создания порнографических изображений из оригинальных фотографий. Было очень много беспокойства по поводу того, кому были созданы изображения и были ли они распространены.
На данный момент мы уверены, что все созданные изображения были удалены и не распространяются. Это очень серьезный инцидент. Мы продолжаем расследование и сообщим об этом отдельным лицам и семьям студентов, как только расследование будет завершено. Это произойдет до выходных. Мы предоставили консультацию всем пострадавшим ученикам и призвали их вернуться в класс, когда они почувствуют себя в состоянии это сделать. Кроме того, наш школьный инспектор и полиция Уэстфилда были поставлены в известность о нашем расследовании. Если кто-то из родителей/опекунов считает, что их ребенок стал жертвой преступного деяния в связи с этим инцидентом, пожалуйста, сообщите об этом в полицию Вестфилда.
Я хотела проинформировать вас об этой ситуации, поскольку, помимо вреда, причиненного учащимся, и срыва учебного дня, очень важно поговорить с вашими детьми об использовании ими технологий и о том, что они публикуют, сохраняют и выкладывают в социальных сетях. Новые технологии позволяют фальсифицировать изображения, и ученики должны знать, какой ущерб и вред эти действия могут нанести другим.
Мы продолжим рассказывать вашим детям о важности ответственного использования технологий и надеемся, что вы будете поддерживать эти идеи дома".
Такая ситуация характерна не только для средней школы Вестфилда. В Испании произошел аналогичный случай в сентябре, а общественные деятели и различные интернет-пользователи также были втянуты в споры о поддельной порнографии.
В Нью-Джерси отсутствует законодательство, предусматривающее наказание за создание и распространение поддельных обнаженных тел, созданных искусственным интеллектом.
Губернатор Фил Мерфи 10 октября создал целевую группу по изучению преимуществ, роста и рисков технологии искусственного интеллекта, но окончательного закона, посвященного этому вопросу, по-прежнему не существует.
В указе президента Байдена о регулировании ИИ предлагаются меры по надзору, установлению гарантий и технологическим инвестициям. Однако он не в состоянии ввести общий федеральный закон против глубокой подделки обнаженных тел, и сроки принятия такого закона не определены.
Брэдли Уолдстрейчер, помощник редактора в Юридическое обозрение Кардозов мае 2021 года подчеркнул сложность федерального законодательства о глубоких подделках, заявив: "Если будет принято федеральное законодательство о глубоких подделках, направленное конкретно против порнографических глубоких подделок, то, чтобы быть конституционным, порнографические глубокие подделки, возможно, должны будут соответствовать категорическому исключению из Первой поправки, будучи отдельной категорией, как детская порнография....[T]Здесь нет четкого решения. По крайней мере, прежде чем принимать серьезное федеральное законодательство, ученые должны провести дополнительные исследования, чтобы узнать, какое влияние порнографические фальшивки оказывают на жертв и пользователей Интернета".
При ближайшем рассмотрении рост числа поддельных обнаженных тел, созданных искусственным интеллектом, показывает ошеломляющие цифры. По данным Вашингтон ПостПо словам Женевьевы О, отраслевого аналитика, с 2018 года на известных сайтах, размещающих порнофотографии, сгенерированные искусственным интеллектом, наблюдается увеличение количества такого контента на 290%.
A UK расследование Би-би-си показал поразительный рост количества глубокой поддельной порнографии, в том числе детской, на таких сайтах, как Patreon.
Только в 2023 году на популярных платформах было размещено 143 000 порнороликов deepfake, собравших более 4,2 миллиарда просмотров - значительный скачок по сравнению с предыдущими годами. По данным Sensity AI, от 90 до 95% этих видео содержат женские образы без принуждения.
ФБР также отметило всплеск числа случаев "секс-вымогательства": в сентябре этого года в США было зарегистрировано 26 800 жертв, что на 149% больше, чем в 2019 году.
Глубокие подделки - одна из самых серьезных и насущных опасностей ИИ, и сдерживать их чрезвычайно сложно.
Подделки, появляющиеся по всему Израильско-палестинский конфликт также подчеркнули возможность того, что подлинные изображения могут быть ошибочно помечены как созданные ИИ, что является примером "дивидендов лжеца", когда реальная информация может быть проигнорирована как подделка.
Это также относится к голосам и видео, созданным искусственным интеллектом, часто нацелены на политических лидеровВ связи с этим растут опасения, что это может повлиять на поведение избирателей.
