Alors que vous pensiez être habitué à repérer les fausses nouvelles, nous devons maintenant faire face à de fausses images qui apparaissent sur les médias sociaux.
Une explosion s'est produite au Pentagone le lundi 22 mai. C'est du moins ce que vous auriez pu croire en voyant cette photo circuler sur Twitter.
Ce n'est qu'en zoomant sur le bâtiment et les garde-corps que les observateurs ont réalisé qu'il s'agissait en fait d'une image générée par l'IA. En regardant attentivement, on peut voir qu'elles se fondent l'une dans l'autre, mais c'est loin d'être évident.
Il est certain que cette image prétendant montrer une "explosion près du pentagone" est générée par l'IA.
Regardez la façade du bâtiment et la façon dont la clôture se fond dans les barrières de la foule. Il n'y a pas non plus d'autres images, de vidéos ou de personnes témoignant de première main. pic.twitter.com/t1YKQabuNL
- Nick Waters (@N_Waters89) 22 mai 2023
Le service d'incendie d'Arlington a rapidement dénoncé les images comme étant fausses, mais l'histoire n'a pas tardé à se répandre. repris par Russia Today - qui l'a rapidement supprimée - et les médias indiens News18 MP, First India News, Times Now Navbharat et Zee News.
De manière choquante, la réaction a été suffisamment importante pour provoquer l'apparition de la maladie de la vache folle. Le marché boursier américain devrait chuter de 0,3% entre 10h06 et 10h10 ET.
L'affiche originale n'a pas été identifiée, pas plus que l'outil utilisé pour générer l'image, bien qu'il soit probable qu'il s'agisse d'un outil d'analyse de l'image. DALL-E, Diffusion stableou Voyage à mi-parcours.
Les "deep fakes" se multiplient
Les contrefaçons profondes n'ont rien de nouveau, mais celle-ci n'était pas aussi anodine que le pape portant un blouson Balenciaga.
Ce nouveau fiasco met également en lumière le danger de "Twitter Blue", car plusieurs comptes qui ont partagé l'histoire portaient une coche bleue, dont un qui se faisait passer pour Bloomberg. Twitter Blue a été critiqué pour la crédibilité qu'il confère aux comptes usurpant l'identité de célébrités, d'entreprises et même d'agences gouvernementales.
Certains outils d'intelligence artificielle peuvent détecter les images truquées, notamment l'outil "À propos de cette imageL'outil ".
Toutefois, la qualité des images produites par l'IA ne cessera de s'améliorer, de sorte qu'il incombe toujours aux humains de juger ce qui est réel et ce qui ne l'est pas - pour l'instant, du moins.