O Instituto para o Diálogo Estratégico (ISD) analisou uma campanha de influência em linha orquestrada por uma rede chinesa para perturbar as eleições presidenciais nos EUA.
Esta operação, apelidada de "Spamouflage" devido às suas tácticas enganosas, tem sido associada ao Partido Comunista da China (PCC).
A campanha utiliza a inteligência artificial e uma rede de contas nas redes sociais para discutir e provocar temas relacionados com as eleições nos EUA, incluindo questões como a toxicodependência, os sem-abrigo e a violência armada.
Cerca de metade da população mundial é que participam nas eleições deste anoo que levou a uma ansiedade generalizada sobre o potencial das falsificações profundas de IA para amplificar a desinformação e influenciar os comportamentos de voto.
Nomeadamente, a campanha "Spamouflage" utiliza imagens geradas e manipuladas por IA de figuras políticas como Joe Biden e Donald Trump para acentuar e explorar as divisões políticas.
O O relatório da DSI revelaA campanha em linha recorreu à inteligência artificial (IA) e a uma rede de contas nas redes sociais numa aparente tentativa de difamar a imagem dos Estados Unidos como uma nação repleta de toxicodependência, sem-abrigo e violência armada".
Elise Thomas, do ISD, disse que "entre as narrativas propagadas estão alegações que envolvem o uso de drogas pelo Presidente Biden para melhorar o seu desempenho em público e alegações de corrupção".
Esta operação, que se crê ser de origem chinesa, está ativa desde, pelo menos, 2017.
Em abril de 2023, o Departamento de Justiça dos EUA indiciou 40 funcionários do Grupo de Trabalho de Projectos Especiais 912 do Ministério da Segurança Pública chinês, apontando para o seu envolvimento no que é provavelmente a campanha "Spamouflage".
O foco do 'Spamouflage' passou a ser a disputa entre Biden e Trump. As imagens são evidentemente geradas por IA, uma tática comum entre os agentes de ameaças que utilizam a tecnologia para criar falsificações profundas visualmente impactantes e de alta qualidade.
A OpenAI e a Microsoft trabalharam recentemente em conjunto para impedir que os agentes de ameaças utilizem as suas tecnologias de IA para fins de propaganda e de falsificação profunda.
No entanto, as imagens falsas profundas continuam a passar despercebidas pelos sistemas de deteção de conteúdos e a ser vistas por milhões de pessoas.
Narrativas que moldam a campanha "Spamouflage
A ISD, criada em 2006 como uma organização sem fins lucrativos e apartidária com o objetivo de combater a desinformação, identificou várias narrativas-chave entre os conteúdos:
A divisão das eleições: Esta narrativa retrata a eleição como um catalisador para mais divisões, exacerbando os actuais desafios da América. As imagens mostram frequentemente Biden e Trump em confronto, dando a entender que as divisões políticas profundas estão a ser exploradas.
Foco negativo em Biden: A campanha parece visar desproporcionadamente o Presidente Biden com narrativas negativas, incluindo acusações de corrupção e consumo de drogas. Poderá tratar-se de uma escolha estratégica ou apenas de um reflexo do facto de ser o atual Presidente.
Posição ambígua em relação a Trump: Curiosamente, o conteúdo relacionado com Trump tem frequentemente um tom ambíguo que pode ser interpretado como positivo.
Narrativas sobre a decadência nacional: Uma parte significativa do conteúdo centra-se em pintar um quadro sombrio dos EUA, abordando a decadência urbana, a crise dos opiáceos e a violência armada para promover uma sensação de caos.
Questionar a integridade das eleições: Embora não seja o foco principal, há conteúdos que lançam dúvidas sobre a integridade das eleições.
Política do aborto: A questão do aborto surge nalgumas imagens, com alguns conteúdos a sugerir a inadequação de Biden na proteção dos direitos ao aborto, justaposta a afirmações de que Trump pretende uma proibição federal do aborto.
Spamouflage pode ter influência internacional
A rede "Spamouflage" estava principalmente ativa nos EUA, mas Equipa OSINT do India Today descobriu provas das actividades da campanha na Índia. É impossível saber quantas campanhas deste tipo estão atualmente activas em todo o mundo.
A resposta do Meta a esta campanha foi rápida, removendo milhares de contas ligadas ao conteúdo. No entanto, o X foi criticado pela lentidão da sua reação.
Apesar dos grandes esforços da campanha "Spamouflage", a sua eficácia em termos de envolvimento real dos utilizadores das redes sociais continua a ser questionável.
O relatório da DSI sugere que a maior parte dos conteúdos gerados por esta rede não consegue ter eco junto do público, conduzindo a uma interação mínima.
IÉ preciso dizer que a maior parte das mensagens são absolutamente ridículas. Percebe-se porque é que são imediatamente rejeitados.
No entanto, a investigação demonstrou que as imagens falsas profundas têm um impacto tangível nos processos de tomada de decisão humanos, pelo que é demasiado cedo para anular os impactos.
Em todo o caso, a campanha "Spamouflage" recorda-nos mais uma vez o papel da IA numa maré crescente de desinformação sofisticada.
