Le UK Safer Internet Centre (UKSIC) a signalé que des enfants utilisent des générateurs d'images IA pour créer des images indécentes d'autres enfants.
L'organisation caritative a déclaré avoir examiné un "petit nombre de rapports", mais a souligné qu'il fallait agir maintenant avant que le problème ne s'étende.
David Wright, directeur de l'UKSIC, insiste sur la nécessité d'une action immédiate : "Il faut que des mesures soient prises dès maintenant, avant que les écoles ne soient débordées et que le problème ne s'aggrave.
Les enfants, en particulier, ne réalisent probablement pas les implications de l'utilisation de l'IA de cette manière.
Au Royaume-Uni, la création, la possession ou la distribution de telles images est illégale, qu'elles soient réelles ou générées par l'IA.
L'organisation caritative a mis en garde contre le risque que ces images soient utilisées à mauvais escient ou circulent en ligne, ce qui pourrait avoir des conséquences inattendues, notamment le chantage.
Il ne s'agit pas d'un cas isolé - Espagnol et Écoles américaines ont toutes deux connu récemment des controverses sur l'imagerie générée par l'IA, avec l'échange d'images illicites de mineurs.
En outre, la question de savoir qui est responsable de l'éducation des enfants aux effets néfastes de ce type de matériel fait l'objet d'un débat considérable. Cette responsabilité incombe-t-elle aux parents, aux écoles ou aux gouvernements ?
Recherche séparée par une société de technologie éducative Technologie RM portant sur 1 000 élèves a montré que près d'un tiers d'entre eux utilisent l'IA pour des activités en ligne inappropriées.
Tasha Gibson, responsable de la sécurité en ligne chez RM Technology, a déclaré : "L'utilisation régulière de l'IA par les étudiants est désormais monnaie courante".En fait, leur compréhension de l'IA est plus avancée que celle de la plupart des enseignants, ce qui crée un déficit de connaissances".
Des applications facilitent la création d'images illicites
Ces apps dites de "lissage" sont apparues pour la première fois sur les plateformes de médias sociaux en 2019, souvent utilisées sur des services de messagerie comme Telegram en tant que logiciels automatisés dotés de capacités d'IA.
Au départ, ces applications étaient relativement peu sophistiquées, mais les progrès de l'IA générative ont amélioré leur capacité à créer de fausses images photoréalistes.
Le modèle impliqué dans l'affaire espagnole a attiré près de 50 000 abonnés. En règle générale, les utilisateurs peuvent créer un certain nombre d'images gratuitement avant de devoir payer une redevance.
Dans de nombreux cas, l'utilisation de ces applications est motivée par la curiosité, explique l'UKSIC, mais cela ne constitue certainement pas une défense juridique.
Un homme de Caroline du Nord est récemment devenu probablement le premier individu a été condamné à une peine de 40 ans de prison pour des crimes sexuels liés à l'IA. Il ne sera sans doute pas le dernier.
