L'IA est exploitée pour créer des images d'abus sexuels sur des enfants à un rythme alarmant, ce qui fait craindre une menace écrasante pour la sécurité sur l'internet, avertit l'Internet Watch Foundation (IWF). 

L'organisme de surveillance britannique a identifié près de 3 000 images générées par l'IA qui enfreignent la législation du Royaume-Uni.

Les L'IWF a rapporté que des modèles d'intelligence artificielle sont alimentés par des images de victimes d'abus réels, générant ainsi de nouveaux contenus abusifs. En outre, la technologie est utilisée pour produire des images de célébrités mineures dans des scénarios abusifs et pour "nudifier" des photos d'enfants habillés trouvées en ligne.

Il existe de nombreux cas internationaux de faux abus d'enfants, y compris un cas récent où plusieurs écolières espagnoles ont été ciblées par des images sexualisées générées par l'IA. En juin, des journalistes de la La BBC a dévoilé des images pédophiles d'IA circulant sur des plateformes comme Patreon.

Susie Hargreaves, directrice générale de l'IWF, a déclaré que leurs "pires cauchemars sont devenus réalité", soulignant l'accélération de la technologie de l'IA à des fins malveillantes.

La fondation a déjà mis en évidence cette menace émergente au cours de l'été et confirme aujourd'hui une augmentation significative de l'incidence du matériel pédopornographique généré par l'IA (CSAM).

Dans le cadre de cette enquête d'un mois, des recherches menées sur un forum du dark web consacré à la maltraitance des enfants ont révélé que 2 978 images sur 11 108 étaient contraires à la législation britannique. 20% de ces contenus ont été classés dans la catégorie des contenus abusifs les plus graves.

Dan Sexton, directeur de la technologie de l'IWF, a souligné que Stable Diffusion, un modèle d'IA à code source ouvert largement disponible, était le principal outil discuté sur le forum pour la création de CSAM.

En tant que modèle open-source, Stable Diffusion n'est pas nécessairement accompagné des mêmes garde-fous que les modèles commerciaux de génération d'images tels que DALL-E 3.

Lutter contre l'exploitation des contenus générés par l'IA sur les médias sociaux

Les plateformes de médias sociaux sont devenues des foyers de contenus sexuellement explicites et exploitants générés par l'IA. 

Les plateformes de médias sociaux populaires telles que Facebook, Instagram et TikTok font l'objet d'un examen minutieux pour avoir hébergé des publicités qui sexualisent les avatars de l'IA et promouvoir des applications axées sur les adultes. 

Les publicités sont explicites et impliquent la sexualisation de figures enfantines, exploitant les failles des systèmes de modération du contenu. 

Malgré les efforts de Meta et TikTok pour éliminer ces publicités, le contenu généré par l'IA échappe souvent aux filtres automatisés. Le manque d'homogénéité de la classification par âge de ces applications, ainsi que leur disponibilité à l'échelle mondiale, compliquent encore le problème.

Les algorithmes d'IA devenant de plus en plus sophistiqués, la création d'images, de vidéos et de sons ultra-réalistes constitue une menace importante pour les individus, les entreprises et la société dans son ensemble. 

L'enquête du FBI avertissements concernant la sextorsion par l'IA au début de l'année, impliquant notamment des mineurs, ont mis en évidence l'urgence de traiter ce problème. Le phénomène semble s'accélérer.