À medida que as campanhas eleitorais se intensificam nos EUA, o gabinete do procurador-geral do estado de New Hampshire está a investigar um incidente de chamadas automáticas relacionadas com a IA.
Esta chamada gerada por IA fazia-se passar pelo Presidente Joe Biden, com a intenção de dissuadir os eleitores de participarem nas próximas eleições primárias.
O Procurador-Geral John Formella descreveu o incidente como um ato aparentemente ilegal destinado a perturbar e a suprimir a afluência às urnas. Ele enfatizou: "Os eleitores devem ignorar totalmente o conteúdo desta mensagem".
A chamada, distribuída a vários eleitores no domingo, utilizou a IA para reproduzir fielmente a voz do Presidente Biden, incorporando mesmo a sua frase habitualmente utilizada, "Que monte de tretas".
A mensagem aconselhava erradamente os ouvintes a "guardar o seu voto para as eleições de novembro", afirmando falsamente que votar nas primárias aumentaria as hipóteses de vitória de Donald Trump.
Esta afirmação é incorrecta, uma vez que a participação nas primárias não afecta a capacidade de votar nas eleições gerais.
Curiosamente, o Presidente Biden não está a fazer campanha em New Hampshire e não consta das eleições primárias. No entanto, está a decorrer no estado uma campanha a seu favor.
A origem destas chamadas é desconhecida, mas foram falsamente apresentadas como sendo provenientes do número de telemóvel pessoal de Kathy Sullivan.
Sullivan, uma antiga presidente estadual do Partido Democrata envolvida com o super-PAC pró-Biden Granite for America, classificou o incidente como "interferência eleitoral total" e uma clara tentativa de assediá-la e a outros eleitores. Ela comunicada"Esta chamada remete para o meu número de telemóvel pessoal sem a minha autorização".
Julie Chavez Rodriguez, directora de campanha de Biden, respondeu energicamente, afirmando que a campanha está a considerar acções adicionais imediatas.
Condenou a disseminação de desinformação com o objetivo de suprimir a votação, afirmando que "a disseminação de desinformação para suprimir a votação e deliberadamente prejudicar eleições livres e justas não será aceite".
Este incidente realça uma preocupação crescente com a utilização de tecnologia de IA generativa para desinformação eleitoral. Hany Farid, um especialista em forense digital da Universidade da Califórnia, Berkeley, confirmou a gravação como uma falsificação de IA de baixa qualidade. Ele expressou preocupação com o uso de IA como arma nas eleições, especialmente se uma tecnologia mais eficaz for implantada.
Em resposta, Katie Dolan, porta-voz do deputado Dean Phillips, que está a concorrer contra Biden nas primárias democratas, negou qualquer envolvimento e sublinhou que tais esforços para desencorajar os eleitores são vergonhosos e profundamente perturbadores.
A campanha de Trump, também implicada devido à natureza da mensagem, declarou não estar envolvida, mas recusou-se a fazer mais comentários.
Isto acontece depois de o candidato ao Congresso da Pensilvânia A utilização de chamadas automáticas com IA por Shamaine Daniels. Daniels utilizou um robocaller com IA chamado Ashley, desenvolvido pela Civox em colaboração com a Conversation Labs, para chegar eficazmente a um grande número de potenciais apoiantes.
Ashley permite conversas bidireccionais para que os eleitores possam fazer perguntas sobre a campanha e as políticas de Daniels.
Ilya Mouzykantskii, o cofundador da Civox, indicou que Ashley é "significativamente menos dispendiosa do que os bancários pagos por humanos".
A utilização da IA nas campanhas eleitorais é claramente arriscada, e tem havido vários exemplos de quando as falsificações profundas podem ter manipulado o comportamento das pessoas.
