Une étude publiée par l'université Anglia Ruskin au Royaume-Uni a révélé une demande croissante de CSAM générés par l'IA sur les forums du dark web.
Les chercheurs Dr. Deanna Davy et Professor. Sam Lundrigan ont analysé les conversations de ces forums au cours de l'année écoulée et ont découvert une tendance inquiétante : les utilisateurs apprennent et partagent activement des techniques pour créer ce type de matériel à l'aide d'outils d'intelligence artificielle.
Nous avons constaté que de nombreux délinquants se procurent des images d'enfants afin de les manipuler, et que le désir d'images "hardcore" progressant à partir d'images "softcore" est régulièrement évoqué", explique le Dr Davy. dans un article de blog.
Cela dissipe l'idée fausse selon laquelle les images générées par l'IA ne font pas de victimes, car les images d'enfants réels sont souvent utilisées comme matériel source pour ces manipulations de l'IA.
L'étude a également révélé que les membres du forum qualifiaient d'"artistes" les personnes qui créent des CSAM générés par l'IA, certains exprimant l'espoir que la technologie évolue pour rendre le processus encore plus facile qu'il ne l'est aujourd'hui.
Ces comportements criminels sont devenus normaux au sein de ces communautés en ligne.
Le professeur Lundrigan a ajouté : "Les conversations que nous avons analysées montrent qu'en raison de la prolifération des conseils et des orientations sur la manière d'utiliser l'IA de cette manière, ce type de matériel pédopornographique prend de l'ampleur et les infractions augmentent. Ce phénomène s'ajoute à la menace mondiale croissante que représente la maltraitance des enfants en ligne sous toutes ses formes, et doit être considéré comme un élément essentiel de notre réponse à ce type de criminalité."
Un homme arrêté pour production illicite d'images d'IA
Dans un affaire connexe rapportée par la BBC le même jour, la police du Grand Manchester (GMP) a récemment annoncé ce qu'elle décrit comme une "affaire historique" impliquant l'utilisation de l'IA pour créer des images indécentes d'enfants.
Hugh Nelson, un homme de 27 ans originaire de Bolton, a admis avoir commis 11 délits, dont la distribution et la fabrication d'images indécentes, et doit être condamné le 25 septembre.
L'agent-détective Carly Baines, du GMP, a qualifié l'affaire de "particulièrement unique et profondément horrifiante", notant que M. Nelson avait transformé des "photographies quotidiennes normales" de vrais enfants en images indécentes grâce à la technologie de l'intelligence artificielle. "
L'affaire Nelson illustre une fois de plus les défis auxquels sont confrontées les autorités chargées de l'application de la loi pour lutter contre cette nouvelle forme de criminalité numérique.
Le GMP a décrit cette affaire comme un "véritable test de législation", car l'utilisation de l'IA de cette manière n'est pas spécifiquement abordée dans la législation britannique actuelle. Le procureur Baines a exprimé l'espoir que cette affaire "joue un rôle dans l'élaboration de la législation future".
Les problèmes liés aux images illicites générées par l'IA sont de plus en plus nombreux
Ces développements interviennent à la suite de plusieurs autres affaires très médiatisées impliquant des CSAM générés par l'IA.
Par exemple, en avril, un homme de Floride a été inculpé pour avoir prétendument utilisé l'IA pour générer des images explicites d'un enfant voisin. L'année dernière, un Un pédopsychiatre a été condamné a été condamné à 40 ans de prison pour avoir créé du matériel abusif généré par l'IA à partir de ses enfants patients.
Plus récemment, le ministère américain de la justice a annoncé l'arrestation de Steven Anderegg, 42 ans dans le Wisconsin pour avoir prétendument créé plus de 13 000 images d'enfants abusives générées par l'IA.
La résolution de ces problèmes est une priorité absolue pour l'industrie de l'IA, et diverses stratégies ont été proposées, notamment :
- Mettre à jour la législation afin de traiter spécifiquement les CSAM générés par l'IA.
- Renforcer la collaboration entre les entreprises technologiques, les forces de l'ordre et les organisations de protection de l'enfance.
- Développer des outils de détection de l'IA plus sophistiqués afin d'identifier et de supprimer les CSAM générés par l'IA.
- Sensibiliser davantage le public aux dommages causés par toutes les formes de CSAM, y compris les contenus générés par l'IA.
- Offrir un meilleur soutien et de meilleures ressources aux victimes d'abus, y compris à celles qui sont affectées par la manipulation de leurs images par l'IA.
- Mettre en œuvre des processus de contrôle plus stricts pour les ensembles de données d'entraînement à l'IA afin d'empêcher l'inclusion de CSAM.
Ces mesures se sont révélées inefficaces jusqu'à présent.
Pour catalyser une amélioration définitive, il faudra se pencher à la fois sur la manière dont les images abusives générées par l'IA peuvent passer sous le radar technique tout en occupant une zone grise dans la législation, et sur la manière dont elles peuvent être manipulées.
