O Departamento de Justiça dos EUA (DOJ) citou os riscos de desinformação por IA e deepfakes como razões para não divulgar o áudio da entrevista do advogado especial de Joe Biden sobre o tratamento de documentos confidenciais.
O DOJ concluiu que não havia base para processar Biden, mas a transcrição da entrevista tornou-se combustível bem-vindo para os críticos das faculdades mentais de Biden e da sua capacidade de concorrer a outro mandato.
Ler uma transcrição é uma coisa, ouvir o áudio do Presidente dos EUA a esforçar-se por se lembrar da data em que o seu filho morreu ou a esquecer-se de quem é o Presidente do México é outra completamente diferente.
O DOJ afirma que a sua incapacidade para combater a desinformação sobre a IA é a razão pela qual não vai divulgar o áudio.
A passagem do tempo e os avanços nas tecnologias de áudio, inteligência artificial e "deep fake" só aumentam as preocupações com a manipulação maliciosa de ficheiros áudio. Se a gravação áudio for divulgada aqui, é fácil prever que possa ser alterada indevidamente e que o ficheiro alterado possa passar por uma gravação autêntica e ser amplamente distribuído", afirma o departamento escreveu no seu processo judicial.
O procurador-geral adjunto do DOJ, Bradley Weinsheimer, disse que, se o áudio fosse divulgado, haveria um "risco substancial de que agentes mal-intencionados pudessem alterar a gravação para (por exemplo) inserir palavras que o presidente Biden não disse ou apagar palavras que ele disse".
Clones de voz gerados por IA só precisam de alguns segundos da voz de uma pessoa para gerar um áudio convincente. Um clone da voz de Joe Biden foi utilizado num falsa campanha de chamadas automáticas em janeiro, o que desencorajou os eleitores a votar nas primárias.
O processo reconhece que a criação de um clone da voz de Biden já era possível.
Dizia. "É certo que já existe outra matéria-prima para criar um deepfake da voz do Presidente Biden, mas a divulgação da gravação áudio apresenta riscos únicos: se for do conhecimento público que a gravação áudio foi divulgada, torna-se mais fácil para os agentes maliciosos fazerem passar um ficheiro alterado como sendo a verdadeira gravação."
O Diretor Executivo do Projeto de Supervisão da Fundação Heritage, Mike Howell, acredita que o DOJ está a utilizar os deepfakes de IA como uma desculpa conveniente.
Eles não querem divulgar este áudio de forma alguma... Estão a fazer a abordagem do "lava-loiça" e estão absolutamente assustados por não terem qualquer argumento jurídico válido para se apoiarem", disse Howell.
O senador Mark Warner, presidente democrata do Comité de Inteligência do Senado, reconheceu o risco de manipulação da IA, mas disse que o áudio deveria ser divulgado com "componentes de marca de água" para que a adulteração pudesse ser detectada.
Ironicamente, alguns republicanos especularam publicamente que a transcrição não reflecte corretamente a entrevista.
A desinformação por IA e os deepfakes têm tido um inegável efeito disruptivo impacto na política mundial.
Mas a facilidade de criar imagens, áudio e vídeo falsos também forneceu uma desculpa conveniente para os políticos que se encontram numa situação complicada.
