Em 2023, assistiu-se a um dilúvio de imagens falsas profundas criadas com geradores de imagens de IA, desde uma imagem falsa de uma explosão no Pentágono a imagens de abuso de crianças.
A tecnologia de falsificação profunda também gera cópias robustas da voz de praticamente qualquer pessoa, desde Johnny Cash a cantar Barbie Girl para discursos falsos do ex-presidente do Sudão Omar al-Bashir.
Por isso, talvez não seja surpreendente que as falsificações profundas tenham penetrado na paisagem digital, já de si muito carregada, que rodeia o atual conflito entre Israel e o Hamas.
De um modo geral, os analistas acreditam que a desinformação gerada pela IA tem sido limitada - existe suficiente conteúdo visceral real a circular nas redes sociais. No entanto, a mera perspetiva de falsificações geradas por IA levou as pessoas a questionar a legitimidade de imagens, vídeos e clips de áudio autênticos.
A isto chama-se "dividendo do mentiroso". O conteúdo real pode agora ser potencialmente descartado como gerado por IA, tornando-o assim falsamente falso aos olhos dos espectadores.
As redes sociais criam a arena perfeita para que a suspeita e a paranoia em torno dos conteúdos digitais se espalhem como um incêndio - a oportunidade de rotular algo que parece real como falso, e vice-versa, é algo que muitos utilizarão para reforçar as suas opiniões.
Como Bill Marcellino, da RAND Corporation, sublinha este dilema: "O que acontece quando literalmente tudo o que vemos que é digital pode ser sintético?"
Do mesmo modo, Hany Farid, especialista em forense digital e desinformação por IA, comentou o conflito entre Israel e o Hamas: "Mesmo segundo os padrões de nevoeiro de guerra a que estamos habituados, este conflito é particularmente confuso... O espetro das falsificações profundas é agora muito, muito mais significativo - não são precisas dezenas de milhares, são precisas apenas algumas, e depois envenena-se o poço e tudo se torna suspeito.
O que é notável é a rapidez com que a tecnologia de falsificação profunda evoluiu. Em 2022, a identificação de inconsistências em imagens geradas por IA era simples e intuitiva, enquanto agora, muitas vezes, requer uma análise especializada.
À medida que as discussões sobre Gaza, com grande carga emocional, continuam, especialmente nas plataformas das redes sociais, a erosão da confiança torna-se mais evidente.
Os conteúdos falsos suscitam controvérsia e, consequentemente, exposição
O problema dos conteúdos duvidosamente falsos é que atraem o debate e, por sua vez, impressões, gostos e comentários
Por exemplo, um post no X, que atraiu 1,8 milhões de visualizações, retratava falsamente os adeptos do Atlético de Madrid exibindo uma enorme bandeira palestiniana. Os utilizadores apontaram as figuras distorcidas na imagem, indicando a geração de IA.
Outra publicação de uma conta ligada ao Hamas na plataforma X, tal como noticiado pelo New York Times, retratava incorretamente um acampamento de tendas para israelitas deslocados, com um desenho incorreto da bandeira. Esta publicação foi posteriormente removida.
A maior atenção e escrutínio foram dirigidos a imagens sem sinais aparentes de manipulação por IA. Os exemplos incluem um vídeo de um diretor de um hospital de Gaza a dar uma conferência de imprensa, que alguns classificaram como "gerado por IA", apesar de várias fontes terem captado o evento de diferentes ângulos.
Numa tentativa de separar a verdade dos conteúdos gerados por IA, alguns utilizadores das redes sociais recorreram a ferramentas de deteção. Estas ferramentas afirmam identificar a manipulação digital, mas revelaram-se inconsistentes e pouco fiáveis.
Nos primeiros dias do conflito, o Primeiro-Ministro Netanyahu partilhou uma série de imagens na plataforma X, alegando que estas mostravam "fotografias horríveis de bebés assassinados e queimados" pelo Hamas.
Quando o comentador conservador Ben Shapiro chamou a atenção para uma das imagens na plataforma X, enfrentou acusações generalizadas de estar a divulgar conteúdos gerados por IA. Não vamos incorporar o Tweet diretamente devido à natureza horrível da imagem, mas pode ver o debate sobre o post de Shapiro aqui.
Um post, que acumulou mais de 21 milhões de visualizações antes de ser retirado do ar, afirmava ter provas de que a imagem do bebé era falsa, apresentando uma captura de ecrã da AI or Not, uma ferramenta de deteção, que rotulava a imagem como "gerada por IA".
Mais tarde, a empresa reviu esta avaliação na plataforma X, explicando que o resultado era "inconclusivo" devido à compressão da imagem e a alterações que obscureciam os detalhes de identificação. A empresa também anunciou que tinha aperfeiçoado a sua ferramenta de deteção em resposta.
Estamos a acompanhar o debate no Twitter, como fazemos sempre com casos controversos de grande visibilidade. Confirmámos com o nosso sistema que o resultado é inconclusivo devido ao facto de a fotografia ter sido comprimida e alterada para esbater a etiqueta com o nome. https://t.co/uZihVMD7Cq
- IA ou Não (@Ai_ou_Not) 13 de outubro de 2023
Anatoly Kvitnitsky, Diretor Executivo da IA ou nãoO Presidente da Comissão Europeia, Sr. H. K., reflectiu sobre as implicações éticas da sua tecnologia: "Chegámos à conclusão de que estamos a tentar fazer o bem, vamos manter o serviço ativo e fazer o nosso melhor para garantir que somos fornecedores da verdade. Mas pensámos nisso - estaremos a causar mais confusão, mais caos?"
Tudo isto se traduz numa situação incrivelmente densa e confusa que amplifica emoções já ultrapassadas.
A IA tanto dá como retira ao debate público e à verdade. Como é que as pessoas se adaptam à sua presença nas redes sociais e poderão as empresas tecnológicas recuperar o controlo?
