Lige som man troede, at man var ved at vænne sig til at spotte falske nyheder, skal vi nu til at forholde os til falske billeder, der dukker op på de sociale medier.
Der var en eksplosion i Pentagon mandag den 22. maj - eller det er i hvert fald, hvad du ville have troet, hvis du havde set dette billede cirkulere på Twitter.
Det var først, da observatørerne zoomede ind på bygningen og rækværket, at de opdagede, at det faktisk var et AI-genereret billede. Hvis man kigger godt efter, kan man se, at de glider ind i hinanden - men det er langt fra tydeligt.
Overbevist om, at dette billede, der hævder at vise en "eksplosion nær Pentagon", er AI-genereret.
Se bygningens facade og den måde, hvorpå hegnet smelter sammen med menneskemængden. Der er heller ingen andre billeder, videoer eller folk, der poster som førstehåndsvidner. pic.twitter.com/t1YKQabuNL
- Nick Waters (@N_Waters89) 22. maj 2023
Arlingtons brandvæsen fordømte hurtigt billederne som falske, men det var ikke, før historien var... opsamlet af Russia Today - som straks slettede den - og de indiske medier News18 MP, First India News, Times Now Navbharat og Zee News.
Chokerende nok var reaktionen betydelig nok til at forårsage Det amerikanske aktiemarked falder med 0,3% mellem kl. 10.06 og 10.10 ET.
Den oprindelige plakat er ikke blevet identificeret, og heller ikke det værktøj, der blev brugt til at generere billedet, selvom det sandsynligvis var DALL-E, Stabil diffusioneller Midt på rejsen.
Dybe forfalskninger på fremmarch
Dybe forfalskninger er ikke noget nyt, men denne var ikke så godartet som paven iført en Balenciaga-pufferjakke.
Denne seneste deep fake-fiasko fremhæver også faren ved "Twitter Blue", da flere konti, der delte historien, havde et blåt flueben, herunder en, der udgav sig for at være Bloomberg. Twitter Blue er blevet kritiseret for at give troværdighed til konti, der udgiver sig for at være berømtheder, virksomheder og endda regeringsorganer.
Nogle AI-værktøjer kan opdage falske billeder, herunder Googles kommende "Om dette billede" værktøj.
Kvaliteten af AI-billedoutput vil dog kun blive bedre, så det er stadig op til mennesker at bedømme, hvad der er ægte, og hvad der ikke er - i hvert fald indtil videre.
