As eleições gerais de 2024 na Índia, o maior exercício democrático do mundo, com mais de 960 milhões de eleitores elegíveis, estão a ser transformadas pela ascensão da inteligência da IA e do conteúdo falso profundo hiper-realista.
Com isto, uma nova geração de agentes políticos com conhecimentos tecnológicos está a utilizar a IA para criar meios de comunicação sintéticos com intenções políticas e comerciais.
Uma das figuras mais proeminentes da emergente "indústria de falsificação profunda" da Índia é Divyendra Singh Jadoun, um autointitulado "falsificador profundo indiano", de 31 anos, que rapidamente se tornou um fornecedor de referência para campanhas políticas.
O que começou por ser uma operação a solo que fazia paródias de Bollywood evoluiu para um verdadeiro estúdio de meios de comunicação sintéticos.
"Desde então, tem-se expandido devido a todo o trabalho que lhe chega", diz o jornalista de Bangalore Saritha Rai diz à Bloomberg.
"A primeira vez que falei com ele, disse-me que tinha um par de trabalhadores, e isso foi há alguns meses. Depois, disse-me que tem mais cinco empregados que os ajudam a fazer estes vídeos."
Utilizando modelos de IA treinados em horas de filmagens autênticas, Jadoun e a sua equipa geram vídeos incrivelmente realistas de políticos como o Primeiro-Ministro Narendra Modi a dirigir-se aos eleitores pelo nome.
"O nível de hiper-personalização que é possível com a IA generativa... Podemos simplesmente treinar o modelo para dizer a mensagem principal e depois alimentá-lo com milhares e milhares de nomes. E ele reproduzirá instantaneamente o mesmo vídeo e sincronizá-lo-á na perfeição com Narendra Modi a chamar cada pessoa pelo nome", explica Rai.
As campanhas eleitorais com IA imitam a intimidade das interacções pessoais a uma escala quase infinita e a um custo acessível.
Rai observa ainda que "grande parte da campanha vai ser hiperpersonalizada para os eleitores... grande parte vai chegar-lhes através dos seus telemóveis. E uma grande parte será material gerado por IA".
As falsificações profundas são frequentes na Índia antes das eleições
Para agravar o problema na Índia, Rai explica como milhões de pessoas são apresentadas à tecnologia pela primeira vez através de smartphones acessíveis.
Uma população digitalmente inexperiente é muito mais suscetível a conteúdos enganadores.
O mesmo se pode dizer das pessoas mais velhas, que, mais uma vez, não estão tão expostas aos disparates dos conteúdos da Internet.
Mas mesmo entre aqueles que se consideram eficazes na identificação de falsificações de IA, estudos revelam que eMesmo quando sabemos que os meios de comunicação são falsos, podem afetar a nossa memória e a tomada de decisões.
Para além das falsificações profundas concebidas para dar uma imagem positiva de figuras públicas, há casos de falsificações políticas profundas maliciosas estão também a tornar-se mais comuns na Índia.
Por exemplo, em novembro, o verificador de factos Muralikrishnan Chinnadurai detectou uma transmissão em direto que pretendia mostrar Duwaraka, a filha há muito falecida de um líder militante tâmil, a fazer um discurso político inflamado.
Chinnadurai identificou falhas, revelando que se tratava de um avatar gerado por IA. "Esta é uma questão emotiva no Estado [Tamil Nadu] e, com as eleições à porta, a desinformação pode espalhar-se rapidamente". disse à BBC.
No mês passado, vídeos falsos de estrelas de Bollywood, Ranveer Singh e Aamir Khan, que pareciam apoiar o partido da oposição, o Congresso, tornaram-se virais, levando os actores a apresentar queixa na polícia.
Em 29 de abril, o próprio Primeiro-Ministro Modi alertou para o facto de estarem a ser utilizadas falsificações profundas para adulterar os discursos dos líderes do partido no poder.
No dia seguinte, dois trabalhadores do partido da oposição foram detidos por terem falsificado um vídeo do Ministro do Interior, Amit Shah. O partido da oposição, Bharatiya Janata Party (BJP), foi objeto de acusações semelhantes por parte dos seus rivais.
Até à data, o governo indiano tem oferecido uma supervisão escassa, externalizando em grande medida a moderação de conteúdos para as plataformas de redes sociais. "A Índia não tem qualquer regulamentação no que respeita à IA", afirma Rai.
Recentemente, o governo começou a exigir aprovação prévia antes de lançar ferramentas de IA "não fiáveis" e alertou contra resultados que poderiam prejudicar as eleições, mas faltam regras abrangentes. O mesmo se pode dizer em grande parte do mundo.
Como bem adverte o antigo comissário eleitoral, SY Qureshi, "os rumores sempre fizeram parte das eleições. [Mas na era das redes sociais, podem espalhar-se como fogo... Podem mesmo incendiar o país".
