Институт стратегического диалога (ИСД) проанализировал кампанию влияния в Интернете, организованную китайской сетью с целью сорвать президентские выборы в США.
Эту операцию, получившую название "Спамокаратель" из-за ее обманной тактики, связывают с Коммунистической партией Китая (КПК).
Кампания использует искусственный интеллект и сеть аккаунтов в социальных сетях для обсуждения и провоцирования тем выборов в США, включая такие вопросы, как наркомания, бездомность и насилие с применением оружия.
Около половины населения Земли участие в выборах в этом годучто привело к широко распространенному беспокойству по поводу возможности глубоких подделок ИИ для усиления дезинформации и изменения поведения избирателей.
В частности, в кампании "Spamouflage" используются сгенерированные искусственным интеллектом и манипулируемые изображения таких политических деятелей, как Джо Байден и Дональд Трамп, чтобы подчеркнуть и использовать политические разногласия.
Сайт Отчет ISD показывает.В ходе онлайн-кампании использовался искусственный интеллект (ИИ) и сеть аккаунтов в социальных сетях, чтобы нанести вред имиджу США как страны, где распространены наркомания, бездомность и насилие с применением огнестрельного оружия".
Элиза Томас из ISD говорит о докладе: "Среди распространяемых нарративов - утверждения об употреблении президентом Байденом наркотиков для улучшения его ораторских способностей и обвинения в коррупции".
Эта операция, предположительно китайского происхождения, действует по меньшей мере с 2017 года.
Новые события произошли в апреле 2023 года, когда Министерство юстиции США предъявило обвинения 40 сотрудникам рабочей группы 912 специальных проектов Министерства общественной безопасности Китая, что указывает на их причастность к кампании "Спамокартина".
В центре внимания "Спамофлажа" теперь находится соревнование между Байденом и Трампом. Изображения, очевидно, сгенерированы искусственным интеллектом, что является распространенной тактикой среди угрожающих субъектов, которые используют эту технологию для создания визуально впечатляющих и высококачественных подделок.
OpenAI и Microsoft недавно работали вместе для противодействия угрозам, использующим свои технологии искусственного интеллекта в пропагандистских и фальшивых целях.
Однако поддельные изображения продолжают ускользать от систем обнаружения контента и попадают на страницы миллионов людей.
Нарративы, формирующие кампанию 'Spamouflage'
ISD, созданная в 2006 году как некоммерческая, беспартийная организация, целью которой является борьба с дезинформацией, выделила несколько ключевых нарративов среди контента:
Разделение выборов: Этот нарратив представляет выборы как катализатор дальнейшего раскола, усугубляющий существующие проблемы Америки. На снимках Байден и Трамп часто изображаются в конфронтации, намекая на то, что используются глубокие политические разногласия.
Негативное внимание к Байдену: Предвыборная кампания, похоже, в непропорционально большой степени направлена на президента Байдена, используя негативные нарративы, включая обвинения в коррупции и употреблении наркотиков. Это может быть стратегическим выбором или просто отражением того, что он является действующим президентом.
Неоднозначная позиция по отношению к Трампу: Интересно, что контент, связанный с Трампом, часто имеет двусмысленный тон, который может быть истолкован как положительный.
Нарративы о национальном распаде: Значительная часть контента сосредоточена на создании мрачной картины США, затрагивая проблемы городского упадка, опиоидного кризиса и насилия с применением оружия, чтобы создать ощущение хаоса.
Под вопросом честность выборов: Хотя это и не главное, но есть материалы, ставящие под сомнение честность выборов.
Политика в области абортов: На некоторых изображениях возникает тема абортов, причем некоторые материалы указывают на неадекватность Байдена в защите прав на аборты, а также на утверждения о том, что Трамп стремится ввести федеральный запрет на аборты.
Спамоуничтожение может иметь международное влияние
Сеть "Spamouflage" действовала в основном в США, но Команда OSINT журнала India Today обнаружил доказательства деятельности кампании в Индии. Невозможно определить, сколько подобных кампаний действует в настоящее время по всему миру.
Meta отреагировала на эту кампанию быстро, удалив тысячи аккаунтов, связанных с этим контентом. Однако компания X подверглась критике за медлительность.
Несмотря на все усилия кампании "Спамофлаж", ее эффективность с точки зрения реального вовлечения пользователей социальных сетей остается сомнительной.
В отчете ISD говорится, что большая часть контента, создаваемого этой сетью, не находит отклика у аудитории, что приводит к минимальному взаимодействию.
IНадо сказать, что большинство постов просто смехотворны. Понятно, почему их сразу же отметают.
Однако, исследования показали что глубокие поддельные изображения оказывают ощутимое влияние на процессы принятия решений человеком, поэтому списывать их со счетов пока рано.
В любом случае, кампания "Спамофлаж" еще раз напоминает нам о роли ИИ в нарастающей волне изощренной дезинформации.
