A Midjourney, pioneira na geração de imagens por IA, está a ponderar a proibição total de imagens de Joe Biden e Donald Trump geradas por IA, no período que antecede as eleições de 2024 nos EUA.
O objetivo é evitar que a plataforma se torne um veículo de desinformação antes das eleições deste ano.
O diretor executivo da Midjourney, David Holz, expressou abertamente a sua posição sobre o conteúdo político na sua plataforma, afirmando: "Não sei até que ponto me preocupo com o discurso político no próximo ano para a nossa plataforma".
Holz também partilhou com humor os seus sentimentos contraditórios sobre a produção de imagens de Donald Trump: "Sei que é divertido fazer fotografias de Trump - eu faço fotografias de Trump. Trump é esteticamente muito interessante. No entanto, se calhar é melhor não o fazer, é melhor afastar-me um pouco durante estas eleições. Veremos".
A discussão em torno das imagens geradas por IA, especialmente em contextos políticos, intensificou-se, sobretudo devido a uma recente controvérsia em torno de imagens explícitas de Taylor Swift geradas por IA.
Taylor Swift foi alvo de uma série de imagens falsas que circularam nas redes sociais, acumulando milhões de impressões.
A IA continua a influenciar o discurso político e aumentam as preocupações quanto ao seu potencial para perturbar de forma tangível os processos democráticos.
Já vimos inúmeros exemplos de deep fakes com temática políticaA IA é frequentemente utilizada para provocar polémica ou espalhar desinformação. Num incidente recente, um avatar de IA do antigo Primeiro-Ministro do Paquistão declarar uma vitória eleitoral antes da contagem final.
Sam Altman, CEO da OpenAI, discutiu a posição de sua empresa sobre deep fakes no início deste ano, afirmando: "O que mais me preocupa é que, com novos recursos com IA ... haverá melhores deepfakes do que em 2020."
A OpenAI já começou adicionar metadados especiais a imagens criada com o DALL-E 3 para ajudar as plataformas e os utilizadores a identificar conteúdos de IA.
A Meta também melhorou o seu jogo em identificar conteúdos gerados por IA nas suas plataformas.
Atualmente, não existe um método único que seja infalível.
