Полиция Австралии начала расследование по факту распространения сгенерированных искусственным интеллектом порнографических изображений около 50 школьниц, причем преступником, как предполагается, был мальчик-подросток.
В интервью телеканалу ABC в среду Эмили, мать 16-летней девочки, посещающей школу Bacchus Marsh Grammar, рассказала, что ее дочь испытала физическую боль после просмотра "изуродованных" изображений в Интернете.
"Я забрала свою дочь с ночевки, и она была очень расстроена, ее рвало, потому что изображения были невероятно графичными", - объяснила она ABC Radio Melbourne.
Школа выпустила заявление, в котором заявила о своей заботе о благополучии учеников, отметив, что предлагает консультации и сотрудничает с полицией.
"Благополучие наших учеников и их семей в Bacchus Marsh Grammar является главным приоритетом и активно решается", - сказал глава администрации. школа заявила.
Это происходит в то время, когда австралийское правительство настаивает на ужесточении законодательства в отношении несанкционированных откровенных подделок, увеличивая тюремные сроки до семи лет за создание и распространение CSAM, сгенерированных искусственным интеллектом или иным способом.
Растет количество явных подделок
Эксперты говорят, что онлайн-хищники, часто встречающиеся в темной паутине, все чаще используют инструменты искусственного интеллекта - в частности, генераторы текста в изображение, такие как Stability AI, - для создания новых CSAM.
Удивительно, но создатели CSAM иногда зацикливаются на переживших насилие детях, чьи изображения циркулируют в сети. Группы по обеспечению безопасности детей сообщают о многочисленных обсуждениях в чатах об использовании искусственного интеллекта для создания большего количества контента с изображением конкретных несовершеннолетних "звезд", популярных в этих жестоких сообществах.
ИИ позволяет людям создавать новые откровенные изображения для повторной виктимизации и ретравматизации жертв.
"Мое тело никогда больше не будет моим, и с этим приходится сталкиваться многим пострадавшим", - сказала недавно Лиа Джульетт, активистка и жертва CSAM. рассказал "Гардиан"..
Октябрь 2023 года отчет британского фонда Internet Watch Foundation раскрыл масштабы CSAM, генерируемого искусственным интеллектом. В отчете было обнаружено более 20 000 таких изображений, размещенных на одном форуме темной паутины в течение месяца.
Изображения часто не отличить от подлинных фотографий, на них запечатлены глубоко тревожные сюжеты, например, симуляция изнасилования младенцев и детей младшего возраста.
В прошлом году Отчет Стэнфордского университета выяснилось, что сотни реальных изображений CSAM были включены в базу данных LAION-5B, используемую для обучения популярных инструментов искусственного интеллекта. Как только база данных стала открытой, эксперты утверждают, что создание CSAM, сгенерированных искусственным интеллектом, взорвалось.
Недавние аресты показывают, что эта проблема не является теоретической, и полицейские силы по всему миру принимают меры. Например, в апреле Мужчине из Флориды было предъявлено обвинение за якобы использование искусственного интеллекта для создания откровенных изображений ребенка-соседа.
В прошлом году один человек из Северной Каролины - детский психиатр. был приговорен к 40 годам тюремного заключения за создание детской порнографии, сгенерированной искусственным интеллектом его пациентов.
А всего несколько недель назад Министерство юстиции США объявило о том, что арест 42-летнего Стивена Андерегга в Висконсине за якобы создание более 13 000 изображений детей с насилием, сгенерированных искусственным интеллектом.
Существующие законы недостаточны, говорят законодатели и защитники.
Хотя в большинстве стран уже действуют законы, криминализирующие компьютерные CSAM, законодатели хотят ужесточить правила.
Например, в США, двухпартийный законопроект была введена, чтобы позволить жертвам подавать в суд на создателей откровенных глубоких подделок без согласия.
Тем не менее, остаются некоторые "серые зоны", где трудно точно определить, какие законы нарушает такая деятельность.
Например, в Испании молодой студент был уличен в распространении откровенных изображений члены класса, созданные с помощью искусственного интеллекта. Одни утверждали, что это подпадает под законы о педофилии, что влечет за собой более суровые обвинения, в то время как другие говорили, что по действующему законодательству это не может соответствовать таким критериям.
Аналогичный случай произошел в школа в Нью-ДжерсиВ книге показано, как дети могут наивно использовать эти инструменты искусственного интеллекта и подвергать себя при этом огромному риску.
Технологические компании, создающие генераторы изображений с искусственным интеллектом, запрещают использовать свои инструменты для создания нелегального контента. Однако многие мощные модели искусственного интеллекта имеют открытый исходный код и могут работать в частном порядке в автономном режиме, поэтому полностью закрыть ящик не получится.
Более того, значительная часть преступной деятельности переместилась на платформы для обмена зашифрованными сообщениями, что еще больше затрудняет обнаружение.
Если ИИ открыл ящик Пандоры, то это, несомненно, одна из опасностей, которая скрывается в нем.
