A IA está a remodelar as campanhas políticas em todo o mundo, apresentando estratégias inovadoras e potencial para a desinformação.
Os políticos de Toronto, Nova Zelândia e Chicago já estão a utilizar a IA nas suas campanhas.
Por exemplo, um candidato a presidente da câmara de Toronto utilizou a IA para gerar imagens distópicas de abrigos para sem-abrigo, enquanto um partido político na Nova Zelândia publicou uma imagem gerada por IA de um assalto fictício a uma joalharia. Em Chicago, surgiu uma controvérsia quando uma conta do Twitter que se fazia passar por uma agência noticiosa utilizou IA para duplicar a voz de um candidato a presidente da câmara, sugerindo que ele aprovava a brutalidade policial.
Muitos estão preocupados com o facto de as falsificações profundas poderem ser utilizadas para difamar políticos e prejudicar a sua reputação. Os mecanismos de proteção existentes, incluindo os serviços que afirmam detetar conteúdos de IA, parecem em grande parte ineficazes.
As próximas eleições presidenciais de 2024 nos EUA já estão a testemunhar o impacto da IA. O Comité Nacional Republicano lançou um vídeo gerado por IA que descreve os piores cenários possíveis após o anúncio da reeleição de Biden. Os democratas também têm estado a experimentar mensagens de angariação de fundos geradas por IA.
Estão a ser envidados esforços para regulamentar a IA, com projectos de lei apresentados no Congresso para exigir declarações de exoneração de responsabilidade em anúncios políticos gerados por IA.
Entretanto, a Associação Americana de Consultores Políticos declarou que a utilização de conteúdos profundamente falsos nas campanhas políticas é uma violação do seu código deontológico.
De qualquer forma, alguns políticos, como o candidato a presidente da câmara de Toronto, Anthony Furey, estão a tirar partido da IA. Furey utilizou a IA para gerar conteúdos que reforçam a sua posição de firmeza contra o crime, apesar da natureza claramente artificial de algumas imagens.
Os especialistas políticos estão preocupados com o facto de a IA poder disseminar a desinformação - que é uma das suas ameaças prementes.
De acordo com Ben Colman, CEO da Reality Defender, o conteúdo de IA não rotulado pode causar "danos irreversíveis" antes de ser abordado. "Explicar a milhões de utilizadores que o conteúdo que já viram e partilharam era falso, muito depois do facto, é muito pouco e muito tarde", afirmou.
A IA realista de falsificações profundas também suscita receios quanto ao fenómeno do "dividendo do mentiroso", em que os políticos podem rejeitar imagens autênticas mas comprometedoras.
Como investigador do Centro de Segurança e Tecnologias Emergentes da Universidade de Georgetown Josh A. Goldstein explicaSe as pessoas não puderem confiar nos seus olhos e ouvidos, podem simplesmente dizer: "Quem sabe?"".
