Le conflit entre Israël et Gaza est devenu la toile de fond de l'évolution de l'utilisation de l'IA dans la création de contrefaçons profondes, ce qui est devenu un problème pour Israël, Gaza et les observateurs extérieurs.
Parmi les diverses images de Gaza, certaines sont particulièrement choquantes. Les "nourrissons abandonnés et ensanglantés", comme ils ont été décrits, ont acquis une certaine notoriété en ligne.
L'image d'un bébé incinéré a été partagée par des influenceurs, tels que Ben Shapiro, et a atteint des millions de personnes avant même d'être diffusée. controversé pour avoir été générés par l'IA.
Nombre de ces images truquées présentent des signes subtils mais révélateurs de manipulation numérique, comme "des doigts qui se recourbent bizarrement ou des yeux qui brillent d'une lumière non naturelle". "Cependant, la détection de ces signes sur le moment est exceptionnellement délicate.
De plus, la qualité des images varie. Certaines sont des photos réutilisées de différents conflits, tandis que d'autres sont entièrement générées par l'IA. Avec le temps, elles ne pourront que devenir réalistes.
Comme le décrit Jean-Claude Goldenstein, PDG de CREOpoint, "la situation va empirer - beaucoup plus - avant de s'améliorer". Son entreprise a compilé une base de données des "deep fakes" les plus virales du conflit, illustrant le rôle croissant de l'IA dans la fabrication de réalités dans les conflits.
L'objectif premier des deep fakes est de provoquer le choc et la détresse, c'est pourquoi ils ciblent souvent les enfants afin d'intensifier les réactions émotionnelles.
Comme le souligne Imran Ahmed, directeur général du Centre pour la lutte contre la haine numérique, expliqueLa désinformation est conçue pour que vous vous y engagiez.
Les contrefaçons profondes ne cessent d'augmenter
Les "deep fakes" sont un effet omniprésent, ou un effet secondaire, du développement de l'IA. Non seulement les "deep fakes" risquent d'être perçus comme authentiques, mais ils risquent aussi de faire passer des contenus réels pour des faux.
En outre, ce phénomène ne se limite certainement pas au conflit de Gaza. Des contenus similaires générés par l'IA ont fait surface lors de l'invasion de l'Ukraine par la Russie en 2022, notamment une vidéo modifiée du président ukrainien Zelenskyy.
Parmi les autres exemples, on peut citer les fausses images d'hommes politiques, telles que Trump embrasse Fauci. Et le problème ne s'arrête pas aux images - les fausses voix ont impliqué des politiciens dans des conversations à laquelle ils n'ont pas participé ou qui n'a pas eu lieu du tout.
Les entreprises technologiques du monde entier réagissent en développant des filtres d'IA capables de détecter les deepfakes, d'authentifier les images et d'analyser les textes pour y déceler des informations erronées. Google, YouTube et Meta se sont récemment engagés à étiqueter les contenus générés par l'IA, mais il est difficile d'y parvenir techniquement.
Nous avons également assisté à un déluge de services de vérification des faits destinés à mettre en évidence les contenus douteux, mais leurs processus sont faillibles et lents. Et quelles sont les implications d'un vérificateur de faits "réputé" qui qualifie incorrectement quelque chose de vrai ou de faux ?
À l'approche d'élections cruciales, notamment l'élection présidentielle américaine de 2024, les deep fakes suscitent une intense paranoïa. Leur impact n'a pas encore atteint un plafond.
