UK Safer Internet Centre (UKSIC) har rapporterat att barn använder AI-bildgeneratorer för att skapa oanständiga bilder av andra barn.
Välgörenhetsorganisationen säger sig ha granskat ett "litet antal rapporter" men understryker att det krävs åtgärder nu innan problemet sprider sig.
David Wright, chef för UKSIC, understryker behovet av omedelbara åtgärder: "[Vi] måste se att åtgärder vidtas nu, innan skolorna blir överväldigade och problemet växer."
Särskilt barn inser sannolikt inte konsekvenserna av att använda AI på det här sättet.
I Storbritannien är det olagligt att skapa, inneha eller distribuera sådana bilder, oavsett om de är verkliga eller AI-genererade.
Välgörenhetsorganisationen varnade för risken att dessa bilder missbrukas eller sprids på nätet, vilket kan leda till oavsiktliga konsekvenser, inklusive utpressning.
Detta är inte ett isolerat fall - Spanska och Skolor i USA har båda haft sina egna kontroverser kring AI-genererade bilder på senare tid, där olagliga bilder på minderåriga har utbytts.
Dessutom finns det en betydande debatt om vem som är ansvarig för att utbilda barn om skadorna av sådant material. Är det föräldrar, skolor eller regeringar som har den skyldigheten?
Separat forskning av företag inom utbildningsteknik RM-teknik som omfattade 1.000 elever visade att nästan en tredjedel använder AI för olämpliga aktiviteter på nätet.
Tasha Gibson, chef för onlinesäkerhet på RM Technology, sa: "Studenter som använder AI regelbundet är nu vanligt," "Faktum är att deras förståelse för AI är mer avancerad än de flesta lärares - vilket skapar en kunskapsklyfta."
Appar gör det enkelt att skapa olagliga bilder
Dessa så kallade "declothing"-appar dök först upp på sociala medieplattformar 2019, och används ofta på meddelandetjänster som Telegram som automatiserad programvara med AI-funktioner.
Till en början var dessa appar relativt okomplicerade, men framsteg inom generativ AI har förbättrat deras förmåga att skapa fotorealistiska fejkbilder.
Modellen som var inblandad i det spanska fallet hade nästan 50.000 prenumeranter. Vanligtvis kan användare skapa ett antal bilder gratis innan de måste betala en avgift.
I många fall drivs användningen av dessa appar av nyfikenhet, säger UKSIC, men det utgör absolut inte ett rättsligt försvar.
En man i North Carolina blev nyligen förmodligen den första individen att dömas för AI-relaterade sexualbrott och fick ett 40-årigt fängelsestraff. Han lär knappast bli den siste.
