Quando pensávamos que estávamos habituados a detetar notícias falsas, agora temos de lidar com imagens falsas que surgem nas redes sociais.
Houve uma explosão no Pentágono na segunda-feira, 22 de maio - ou pelo menos é o que poderia acreditar se visse esta fotografia a circular no Twitter.
Só quando os observadores fizeram zoom no edifício e nas grades é que se aperceberam que se tratava, de facto, de uma imagem gerada por IA. Se olharmos com atenção, podemos ver que se misturam umas com as outras - mas está longe de ser óbvio.
Confiante de que esta imagem que alega mostrar uma "explosão perto do pentágono" é gerada por IA.
Reparem na fachada do edifício e na forma como a vedação se funde com as barreiras da multidão. Também não há outras imagens, vídeos ou pessoas que tenham postado como testemunhas em primeira mão. pic.twitter.com/t1YKQabuNL
- Nick Waters (@N_Waters89) 22 de maio de 2023
Os bombeiros de Arlington denunciaram rapidamente as imagens como falsas, mas isso não aconteceu antes de a história ser recolhido pelo Russia Today - que prontamente o apagou - e os meios de comunicação social indianos News18 MP, First India News, Times Now Navbharat e Zee News.
Surpreendentemente, a reação foi suficientemente substancial para causar a Mercado acionista dos EUA cairá 0,3% entre as 10:06 e as 10:10 ET.
O autor original não foi identificado, nem a ferramenta utilizada para gerar a imagem, embora seja provável que tenha sido DALL-E, Difusão estável, ou Meio da viagem.
As falsificações profundas estão a aumentar
As falsificações profundas não são novidade, mas esta não foi tão benigna como o Papa a usar um casaco Balenciaga.
Este último fiasco de deep fake também realça o perigo do "Twitter Blue", uma vez que várias contas que partilharam a história tinham uma marca de verificação azul, incluindo uma que se fazia passar por Bloomberg. O Twitter Blue tem sido criticado por dar credibilidade a contas que se fazem passar por celebridades, empresas e até agências governamentais.
Algumas ferramentas de IA conseguem detetar imagens falsas, incluindo a futura ferramenta da Google "Sobre esta imagem".
No entanto, a qualidade das imagens produzidas pela IA só irá melhorar, pelo que cabe ainda aos humanos julgar o que é real e o que não é - pelo menos por enquanto.
