Согласно новому докладу, воинствующие экстремисты используют инструменты генеративного искусственного интеллекта для создания контента в больших масштабах, обходя при этом ограждения и фильтры.
Интеллектуальная фирма Техника против терроризма Было выявлено около 5000 примеров контента, созданного искусственным интеллектом, включая изображения, связанные с такими группировками, как "Хезболла" и ХАМАС.
Эти изображения часто связаны с такими деликатными темами, как война между Израилем и Хамасом, что свидетельствует о стратегическом использовании ИИ для влияния на повествование.
Были многочисленные примеры сгенерированных ИИ изображений, обвиняющих Израиль и Палестину в злодеяниях и событиях, к которым они не причастны. Глубокие подделки представляют собой двойную угрозу: поддельные изображения могут быть интерпретированы как настоящие, а настоящие - как поддельные.
Адам Хэдли, исполнительный директор организации Tech Against Terrorism, заявил: "Нас больше всего беспокоит то, что если террористы начнут использовать искусственный интеллект для масштабных манипуляций с изображениями, это может уничтожить хэш-шаринг как решение. Это огромный риск".
Обмен хэшами при модерации контента предполагает создание уникальных цифровых отпечатков (хэшей) вредоносного контента, которые затем распространяются по всем платформам. Это позволяет различным службам быстро выявлять и удалять такой контент, повышая эффективность и результативность усилий по модерации контента.
Этот метод может оказаться неэффективным, если ИИ создаст новый, нераспознаваемый контент.
📰 В новостях | Вот как экстремисты используют инструменты генеративного искусственного интеллекта
Наш исполнительный директор Адам Хэдли поделился последними сведениями о #AI и пилотный проект с @Microsoft на @WIRED.
Читайте здесь: https://t.co/AUhrNTZibJ pic.twitter.com/yqY95J3L8i
- Технологии против терроризма (@techvsterrorism) 10 ноября 2023 года
От неонацистских групп, использующих расистские и антисемитские изображения, сгенерированные искусственным интеллектом, до Исламского государства (ИГ), публикующего руководства по безопасному использованию инструментов генеративного ИИ, - масштабы злоупотреблений ИИ постоянно расширяются.
Экстремистские группировки также используют ИИ для создания многоязычной пропаганды и персонализированных вербовочных сообщений.
Проблема выходит за рамки экстремистской пропаганды. Например, фонд Internet Watch Foundation сообщил, что 20 000 изображений, созданных искусственным интеллектом сексуального насилия над детьми на одном темном веб-форуме за один месяц, что подчеркивает более широкие последствия злоупотребления ИИ.
Хэдли заверил, что существуют механизмы, позволяющие остановить эту тенденцию, предложив: "Мы собираемся сотрудничать с Microsoft, чтобы выяснить, есть ли способы использовать наш архив материалов для создания своего рода системы обнаружения генетического ИИ, чтобы противостоять возникающей угрозе, что генетический ИИ будет использоваться для террористического контента в больших масштабах".
Хэдли предполагает, что такой инструмент может быть доступен на нескольких платформах, что позволит платформам пресекать проблемный контент, созданный искусственным интеллектом, без разработки собственных инструментов.
Подробнее о докладе
Интеллектуальные операции Tech Against Terrorism заархивировали более 5000 контентов, созданных искусственным интеллектом и используемых террористами и воинствующими экстремистами (TVE). Они подчеркивают, что это лишь малая часть от общего объема контента, выявляемого ежегодно.
Сайт отчет В основном контент охватывает исламистские и ультраправые идеологии, демонстрируя тревожную тенденцию использования телевизионными каналами генеративного ИИ для пропаганды.
Основные выводы и проблемы
Сети ТВЕ, связанные с "Исламским государством" (ИГ), сторонниками "Аль-Каиды" и неонацистами, экспериментируют с генеративным ИИ.
EПримеры включают:
- Группа технической поддержки ИБ публикует руководство по безопасному использованию генератора контента ИИ.
- Неонацистские каналы обмена сообщениями, распространяющие созданные искусственным интеллектом расистские и антисемитские изображения.
- Ультраправые пропагандисты используют инструменты для создания экстремистских мемов с помощью искусственного интеллекта.
- Пользователи, поддерживающие ИГ, утверждают, что используют ИИ для транскрипции и перевода пропаганды ИГ.
- Связанные с "Аль-Каидой" издания публикуют пропагандистские плакаты, созданные ИИ.
Потенциальные риски использования генеративного ИИ
Согласно отчету:
- Размножение СМИ: Генерирование вариантов изображений или видео в обход обнаружения.
- Автоматизированный многоязычный перевод: Перевод текстовой пропаганды на несколько языков.
- Полностью синтетическая пропаганда: Создание искусственного контента, например речей и изображений.
- Вариант утилизации: Переработка старой пропаганды в "новые" версии.
- Персонализированная пропаганда: Настройка сообщений для целевой вербовки.
- Подрыв модерации: Разработка контента для обхода существующих методов модерации.
Возможности и проблемы:
- Для выявления и снижения рисков необходимы проактивные решения и совместные усилия, такие как "красная группа".
- Мелкие случаи использования ИИ субъектами ТПО свидетельствуют о появлении новой угрозы, требующей технических решений и разработки политики.
Будущие заботы:
- Экстремистские группировки, скорее всего, продолжат изучать инструменты ИИ для расширения пропагандистских стратегий.
- Неофициальные издания воинствующих экстремистов могут использовать инструменты ИИ более агрессивно из-за нехватки ресурсов и оригинальных материалов.
Хотя в настоящее время риск широкого распространения генеративного ИИ на ТПО невелик, возникающие тенденции указывают на растущую угрозу.
Глубокие подделки и другие формы манипуляций с помощью ИИ представляют собой серьезный риск, который технологические компании пытаются контролировать.
