Центр безопасного Интернета Великобритании (UKSIC) сообщил, что дети используют генераторы изображений искусственного интеллекта для создания непристойных изображений других детей.
Благотворительная организация заявила, что рассмотрела "небольшое количество сообщений", но подчеркнула, что действовать нужно уже сейчас, пока проблема не распространилась.
Дэвид Райт, директор UKSIC, подчеркивает необходимость немедленных действий: "[Нам] нужно, чтобы шаги предпринимались уже сейчас, пока школы не перегружены и проблема не разрослась".
Дети, в частности, скорее всего, не осознают последствий использования ИИ таким образом.
В Великобритании создание, хранение или распространение таких изображений является незаконным, независимо от того, являются ли они реальными или сгенерированными искусственным интеллектом.
Благотворительная организация предупредила о том, что эти изображения могут быть использованы не по назначению или распространены в Интернете, что может привести к непредвиденным последствиям, включая шантаж.
Это не единичный случай - Испанский и Школы США В последнее время обе компании столкнулись с противоречиями в отношении изображений, созданных искусственным интеллектом, и обменялись незаконными изображениями несовершеннолетних.
Более того, ведутся активные споры о том, кто несет ответственность за просвещение детей о вреде таких материалов. Кто несет ответственность - родители, школы или правительство?
Отдельное исследование компании, специализирующейся на образовательных технологиях Технология RM Исследование, в котором приняли участие 1000 школьников, показало, что почти треть из них использует ИИ для неподобающих действий в Интернете.
Таша Гибсон, менеджер по онлайн-безопасности компании RM Technology, говорит: "Студенты регулярно пользуются искусственным интеллектом - это уже обычное дело".На самом деле, их понимание ИИ более продвинуто, чем у большинства преподавателей, что создает пробел в знаниях".
Приложения облегчают создание незаконных изображений
Эти так называемые "склоняющие" приложения впервые появились на платформах социальных сетей в 2019 году и часто использовались в таких сервисах обмена сообщениями, как Telegram, в качестве автоматизированного программного обеспечения с возможностями искусственного интеллекта.
Изначально эти приложения были относительно несложными, но достижения в области генеративного искусственного интеллекта улучшили их способность создавать фотореалистичные поддельные изображения.
Модель, фигурировавшая в испанском деле, привлекла около 50 000 подписчиков. Как правило, пользователи могут создать несколько изображений бесплатно, прежде чем потребуется внести плату.
Во многих случаях использование этих приложений продиктовано любопытством, говорит УКСИК, но это, конечно, не является юридической защитой.
Мужчина из Северной Каролины недавно стал вероятно, первый человек был осужден за сексуальные преступления, связанные с ИИ, и получил 40-летний тюремный срок. Вряд ли он станет последним.
