As falsificações profundas tornaram-se rapidamente uma questão social e política grave e uma possível ameaça à integridade das eleições.
Pouco antes das eleições na Eslováquia, um clipe áudio polémico surgiu nas redes sociais, onde uma voz muito semelhante à do líder do Partido Progressista da Eslováquia, Michal Šimečka, falou de um plano para manipular as eleições.
Devido à proximidade da publicação com a hora da votação, foi difícil avisar as pessoas de que se tratava de uma mensagem falsa.
Pouco tempo depois, surgiu outra controvérsia quando o líder do Partido Trabalhista britânico foi ouvido a proferir palavrões num clip áudio publicado no X, com o respetivo post a afirmar: "Obtive o áudio de Keir Starmer a abusar verbalmente dos seus colaboradores na conferência [do Partido Trabalhista]", publicou a conta X. "Este rufia nojento está prestes a tornar-se o nosso próximo PM".
No mesmo período, uma conta do TikTok foi removida depois de se ter descoberto que era produção de clips falsos do ex-Presidente do Sudão, Omar Al-Bashir, que se encontra detido, o que veio acender as chamas de um país já em guerra civil.
Os clips nos três casos tinham algo em comum: eram falsos e provavelmente criados com IA.
Enquanto os vídeos e as imagens com IA são omnipresentes e colocam os seus próprios problemas, os clips de áudio falsos são mais difíceis de detetar e passam frequentemente despercebidos. As próprias vozes tendem a ser altamente autênticas; como Jack Brewster da NewsGuard salientou, "Obama ainda parece um pouco plástico quando os maus actores usam o seu rosto. Mas o áudio da sua voz é bastante bom - e penso que essa é a grande diferença aqui."
À luz destas preocupações, um grupo de senadores propôs o "No Fakes Act", um projeto de lei que visa penalizar aqueles que produzem ou partilham áudio ou vídeos criados por IA sem o consentimento da pessoa original.
Como Hany Farid, professor de forense digital na Universidade da Califórnia em Berkeley, dizNão se trata de uma situação hipotética. Estamos a falar de violência, estamos a falar de roubo de eleições, estamos a falar de fraude - [isto tem] consequências no mundo real para os indivíduos, para as sociedades e para as democracias".
As aplicações de clonagem de voz evoluíram drasticamente, com plataformas como a Eleven Labs a oferecer ferramentas que permitem a criação de uma voz "deepfaked" por uma taxa mensal nominal de apenas $5.
Hany Farid, sublinhando a responsabilidade dos gigantes das redes sociais, declarou: "Podiam fechar a torneira agora mesmo se quisessem. Mas isso é mau para o negócio".
Poderão as falsificações profundas da IA influenciar realmente as eleições?
As falsificações profundas já demonstraram o seu impacto no mundo real, com uma imagem falsa de uma explosão no Pentágono, no início do ano, que fez com que os mercados caíssem temporariamente, embora por apenas alguns minutos.
Estes falsos clips, vídeos e vídeos ameaçam uma paisagem informativa já de si frágil - uma paisagem onde as suspeitas são frequentemente elevadas e as margens apertadas.
Embora seja excecionalmente difícil avaliar o verdadeiro impacto das falsificações profundas da IA no discurso político e no comportamento de voto, isso reduz a fasquia para a desinformação.
Ben Winters, representante sénior do Electronic Privacy Information Center, afirma: "Os graus de confiança vão diminuir, o trabalho dos jornalistas e de outros que tentam divulgar informações reais vai tornar-se mais difícil".
Além disso, embora implicar falsamente os políticos em cenários que prejudicam a sua reputação seja uma das tácticas mais comuns destas campanhas, estas também podem conduzir ao "dividendo do mentiroso", em que se torna possível refutar alegações verdadeiras como falsas.
O combate às falsificações profundas de IA requer uma combinação de filtros de conteúdo de IA mais avançados nas redes sociais e a educação do público. A qualidade das próprias falsificações profundas, no entanto, só vai melhorar.
