Elon Musk partilhou um vídeo no X que imita a voz de Kamala Harris, levantando preocupações sobre o efeito que as falsificações profundas de IA podem ter nas próximas eleições nos EUA.
Musk apoiou publicamente Donald Trump na sua candidatura a um segundo mandato e utilizou a sua plataforma X para partilhar as suas opiniões políticas e sociais com os seus 191 milhões de seguidores.
O vídeo apresenta imagens reais dos anúncios de campanha de Harris, mas a locução utiliza um clone da sua voz gerado por uma inteligência artificial. A imitação da voz é impressionantemente precisa, uma vez que 'Harris' diz: "Eu, Kamala Harris, sou a vossa candidata democrata à presidência porque Joe Biden finalmente expôs a sua senilidade no debate".
Quando o criador do vídeo, um YouTuber conhecido como Mr Reagan, publicou o vídeo no X e no YouTube, revelou que se tratava de uma paródia. Quando Musk o publicou novamente, limitou-se a dizer: "Isto é incrível" e acrescentou um emoji a rir, mas sem revelar que o vídeo tinha sido manipulado e que se destinava a ser uma paródia.
Musk foi criticado por ter partilhado o vídeo manipulado por IA, o que provocou a previsível indignação dos democratas. O governador da Califórnia, Gavin Newsom, afirmou que o seu projeto de lei "Safe and Secure Innovation for Frontier Artificial Intelligence Models", também conhecido como SB 1047, abordará os riscos inerentes aos vídeos manipulados por IA.
As políticas do X afirmam que "Não pode partilhar meios sintéticos, manipulados ou fora de contexto que possam enganar ou confundir as pessoas e causar danos ("meios enganadores")." Os termos afirmam que os memes e a sátira não violam estas políticas "desde que não causem confusão significativa sobre a autenticidade dos meios de comunicação".
Musk sentiu obviamente que o carácter satírico do vídeo era evidente.
Falei com uma autoridade mundial de renome, o Professor Suggon Deeznutz, e ele disse que a paródia é legal na América 🤷♂️ https://t.co/OCBewC3XYD
- Elon Musk (@elonmusk) 29 de julho de 2024
Nem toda a gente concorda que os milhões de pessoas que viram o vídeo compreenderiam que se trata de uma piada manipulada por uma IA.
Rob Weissman, copresidente do grupo de defesa Public Citizen, disse: "Não acho que seja obviamente uma piada. Estou certo de que a maioria das pessoas que olham para ele não assumem que é uma piada. A qualidade não é óptima, mas é suficientemente boa. E precisamente porque se alimenta de temas pré-existentes que circularam em torno dela, a maioria das pessoas vai acreditar que é real".
Na semana passada, a FCC publicou uma proposta de regra que exige a divulgação de conteúdos gerados por IA em anúncios políticos na rádio e na televisão.
Weissman disse: "Os consumidores têm o direito de saber quando as ferramentas de IA estão sendo usadas nos anúncios políticos que veem nas ondas de rádio. Essa é a base de senso comum para as regras propostas desesperadamente necessárias da FCC sobre a transparência da transmissão de IA.
"Estamos a caminhar para eleições que podem ser distorcidas, ou mesmo decididas, por deepfakes políticos. No entanto, esta é uma distopia totalmente evitável, se os reguladores simplesmente exigirem divulgações quando a IA é usada em comunicações políticas, incluindo em anúncios de TV e rádio."
O vídeo do Sr. Reagan era um anúncio político, uma piada, ou um pouco de ambos?
A sátira política existe há séculos, mas os desenhos animados ou uma imitação de um comediante são fáceis de distinguir da realidade. Vídeos como o que Musk partilhou esbatem consideravelmente as linhas.
À medida que as vozes e os vídeos gerados por IA continuam a melhorar, é de esperar que a apetência para o jogo político e para se esconder atrás da defesa "estava só a brincar" aumente.
