Precis när man trodde att man börjat vänja sig vid att upptäcka falska nyheter måste vi nu hantera falska bilder som dyker upp på sociala medier.
Det inträffade en explosion i Pentagon måndagen den 22 maj - eller det är i alla fall vad du kanske trodde om du såg det här fotot som cirkulerade på Twitter.
Det var inte förrän observatörerna zoomade in på byggnaden och räckena som de insåg att detta faktiskt var en AI-genererad bild. Om du tittar noga kan du se att de smälter in i varandra - men det är långt ifrån uppenbart.
Säker på att den här bilden som påstås visa en "explosion nära Pentagon" är AI-genererad.
Kolla in byggnadens fasad och hur staketet smälter in i folkmassans barriärer. Det finns inte heller några andra bilder, videor eller personer som publicerar som förstahandsvittnen. pic.twitter.com/t1YKQabuNL
- Nick Waters (@N_Waters89) 22 maj 2023
Brandkåren i Arlington fördömde snabbt bilderna som falska, men det var inte förrän historien var plockades upp av Russia Today - som omedelbart raderade det - och indiska medier News18 MP, First India News, Times Now Navbharat och Zee News.
Chockerande nog var reaktionen tillräckligt kraftig för att orsaka Den amerikanska aktiemarknaden faller med 0,3% mellan kl. 10.06 och 10.10 ET.
Den ursprungliga postern har inte identifierats, inte heller det verktyg som användes för att generera bilden, men det var troligen DALL-E, Stabil diffusion, eller Midjourney.
Djupa förfalskningar på uppgång
Djupa förfalskningar är inget nytt, men den här var inte lika godartad som påven som bar en Balenciaga-pufferjacka.
Detta senaste djupa falska fiasko belyser också faran med "Twitter Blue", eftersom flera konton som delade historien hade en blå bock, inklusive ett som utgav sig för att vara Bloomberg. Twitter Blue har kritiserats för att ge trovärdighet till konton som utger sig för att vara kändisar, företag och till och med myndigheter.
Vissa AI-verktyg kan upptäcka falska bilder, inklusive Googles kommande "Om denna bild" verktyg.
Kvaliteten på AI-bilder kommer dock bara att förbättras, så det är fortfarande upp till människor att bedöma vad som är verkligt och vad som inte är det - åtminstone än så länge.
