Новый доклад раскрывает, как генеративный искусственный интеллект используется террористами.

Согласно новому докладу, воинствующие экстремисты используют инструменты генеративного искусственного интеллекта для создания контента в больших масштабах, обходя при этом ограждения и фильтры. 

Интеллектуальная фирма Техника против терроризма Было выявлено около 5000 примеров контента, созданного искусственным интеллектом, включая изображения, связанные с такими группировками, как "Хезболла" и ХАМАС. 

Эти изображения часто связаны с такими деликатными темами, как война между Израилем и Хамасом, что свидетельствует о стратегическом использовании ИИ для влияния на повествование.

Были многочисленные примеры сгенерированных ИИ изображений, обвиняющих Израиль и Палестину в злодеяниях и событиях, к которым они не причастны. Глубокие подделки представляют собой двойную угрозу: поддельные изображения могут быть интерпретированы как настоящие, а настоящие - как поддельные. 

Адам Хэдли, исполнительный директор организации Tech Against Terrorism, заявил: "Нас больше всего беспокоит то, что если террористы начнут использовать искусственный интеллект для масштабных манипуляций с изображениями, это может уничтожить хэш-шаринг как решение. Это огромный риск". 

📰 В новостях | Вот как экстремисты используют инструменты генеративного искусственного интеллекта

Наш исполнительный директор Адам Хэдли поделился последними сведениями о #AI и пилотный проект с @Microsoft на @WIRED.

Читайте здесь: https://t.co/AUhrNTZibJ pic.twitter.com/yqY95J3L8i

- Технологии против терроризма (@techvsterrorism) 10 ноября 2023 года

От неонацистских групп, использующих расистские и антисемитские изображения, сгенерированные искусственным интеллектом, до Исламского государства (ИГ), публикующего руководства по безопасному использованию инструментов генеративного ИИ, - масштабы злоупотреблений ИИ постоянно расширяются. 

Экстремистские группировки также используют ИИ для создания многоязычной пропаганды и персонализированных вербовочных сообщений. 

Проблема выходит за рамки экстремистской пропаганды. Например, фонд Internet Watch Foundation сообщил, что 20 000 изображений, созданных искусственным интеллектом сексуального насилия над детьми на одном темном веб-форуме за один месяц, что подчеркивает более широкие последствия злоупотребления ИИ.

Хэдли заверил, что существуют механизмы, позволяющие остановить эту тенденцию, предложив: "Мы собираемся сотрудничать с Microsoft, чтобы выяснить, есть ли способы использовать наш архив материалов для создания своего рода системы обнаружения генетического ИИ, чтобы противостоять возникающей угрозе, что генетический ИИ будет использоваться для террористического контента в больших масштабах".

Хэдли предполагает, что такой инструмент может быть доступен на нескольких платформах, что позволит платформам пресекать проблемный контент, созданный искусственным интеллектом, без разработки собственных инструментов. 

Подробнее о докладе

Интеллектуальные операции Tech Against Terrorism заархивировали более 5000 контентов, созданных искусственным интеллектом и используемых террористами и воинствующими экстремистами (TVE). Они подчеркивают, что это лишь малая часть от общего объема контента, выявляемого ежегодно. 

Сайт отчет В основном контент охватывает исламистские и ультраправые идеологии, демонстрируя тревожную тенденцию использования телевизионными каналами генеративного ИИ для пропаганды. 

Основные выводы и проблемы

Сети ТВЕ, связанные с "Исламским государством" (ИГ), сторонниками "Аль-Каиды" и неонацистами, экспериментируют с генеративным ИИ.

EПримеры включают:

• Группа технической поддержки ИБ публикует руководство по безопасному использованию генератора контента ИИ.
• Неонацистские каналы обмена сообщениями, распространяющие созданные искусственным интеллектом расистские и антисемитские изображения.
• Ультраправые пропагандисты используют инструменты для создания экстремистских мемов с помощью искусственного интеллекта.
• Пользователи, поддерживающие ИГ, утверждают, что используют ИИ для транскрипции и перевода пропаганды ИГ.
• Связанные с "Аль-Каидой" издания публикуют пропагандистские плакаты, созданные ИИ.

Потенциальные риски использования генеративного ИИ

Согласно отчету:

• Размножение СМИ: Генерирование вариантов изображений или видео в обход обнаружения.
• Автоматизированный многоязычный перевод: Перевод текстовой пропаганды на несколько языков.
• Полностью синтетическая пропаганда: Создание искусственного контента, например речей и изображений.
• Вариант утилизации: Переработка старой пропаганды в "новые" версии.
• Персонализированная пропаганда: Настройка сообщений для целевой вербовки.
• Подрыв модерации: Разработка контента для обхода существующих методов модерации.

Возможности и проблемы:

• Для выявления и снижения рисков необходимы проактивные решения и совместные усилия, такие как "красная группа".
• Мелкие случаи использования ИИ субъектами ТПО свидетельствуют о появлении новой угрозы, требующей технических решений и разработки политики.

Будущие заботы:

• Экстремистские группировки, скорее всего, продолжат изучать инструменты ИИ для расширения пропагандистских стратегий.
• Неофициальные издания воинствующих экстремистов могут использовать инструменты ИИ более агрессивно из-за нехватки ресурсов и оригинальных материалов.

Хотя в настоящее время риск широкого распространения генеративного ИИ на ТПО невелик, возникающие тенденции указывают на растущую угрозу. 

Глубокие подделки и другие формы манипуляций с помощью ИИ представляют собой серьезный риск, который технологические компании пытаются контролировать.