Искусственный интеллект все чаще используется для создания изображений сексуального насилия над детьми, что вызывает опасения относительно угрозы безопасности в Интернете, предупреждает организация Internet Watch Foundation (IWF).
Британская наблюдательная организация выявила около 3 000 изображений, созданных искусственным интеллектом, которые нарушают законы Великобритании.
Сайт IWF сообщил что в модели искусственного интеллекта вводятся изображения реальных жертв насилия, что приводит к созданию нового оскорбительного контента. Кроме того, технология используется для создания изображений несовершеннолетних знаменитостей в сценариях насилия и "обнажения" фотографий одетых детей, найденных в сети.
В мире существует множество случаев глубокого поддельного насилия над детьми, включая недавний случай в котором несколько испанских школьниц стали жертвами сексуальных изображений, сгенерированных искусственным интеллектом. В июне журналисты из BBC обнародовала педофилические изображения искусственного интеллекта распространяемые на таких платформах, как Patreon.
Сьюзи Харгривз, исполнительный директор IWF, заявила, что их "худшие кошмары стали явью", подчеркнув ускорение использования технологий искусственного интеллекта в злонамеренных целях.
Фонд уже обращал внимание на возникающую угрозу летом, а теперь подтвердил значительное увеличение числа случаев использования материалов, созданных ИИ для сексуального насилия над детьми (CSAM).
В ходе расследования, которое длилось месяц, исследование форума, посвященного насилию над детьми в "темной паутине", показало, что 2 978 из 11 108 изображений нарушают законодательство Великобритании. 20% контента был отнесен к наиболее тяжелой форме оскорблений.
Дэн Секстон, директор по технологиям IWF, отметил, что Stable Diffusion, широко доступная модель ИИ с открытым исходным кодом, была основным инструментом, обсуждавшимся на форуме при создании CSAM.
Будучи моделью с открытым исходным кодом, Stable Diffusion не обязательно имеет те же ограждения, что и коммерческие модели генерации изображений, такие как DALL-E 3.
Борьба с эксплуатационным контентом, создаваемым искусственным интеллектом в социальных сетях
Социальные медиа-платформы стали рассадниками откровенно сексуального и эксплуатационного контента, созданного искусственным интеллектом.
Популярные социальные медиаплатформы, такие как Facebook, Instagram и TikTok, находятся под пристальным вниманием за размещение рекламы которые сексуализируют аватары ИИ и продвигать приложения, ориентированные на взрослых.
Реклама носит откровенный характер и включает в себя сексуализацию детских фигур, используя лазейки в системах модерации контента.
Несмотря на усилия Meta и TikTok по очистке рекламы, контент, созданный искусственным интеллектом, часто ускользает от автоматических фильтров. Непоследовательные возрастные рейтинги этих приложений, а также их глобальная доступность еще больше усложняют проблему.
По мере совершенствования алгоритмов искусственного интеллекта создание сверхреалистичных изображений, видео и аудио представляет собой серьезную угрозу для отдельных людей, предприятий и общества в целом.
ФБР предупреждения о секс-вымогательстве с помощью искусственного интеллекта В начале года, особенно с участием несовершеннолетних, было отмечено, что необходимо срочно решать эту проблему. Похоже, что ситуация только ускоряется.
