UK Safer Internet Centre (UKSIC) har rapportert at barn bruker AI-bildegeneratorer til å lage uanstendige bilder av andre barn.
Organisasjonen sa at den har gjennomgått et "lite antall rapporter", men understreket at det er nødvendig å handle nå før problemet sprer seg.
David Wright, direktør for UKSIC, understreker behovet for umiddelbar handling: "[Vi] må se at det blir tatt grep nå, før skolene blir overveldet og problemet vokser."
Spesielt barn er sannsynligvis ikke klar over konsekvensene av å bruke AI på denne måten.
I Storbritannia er det ulovlig å lage, besitte eller distribuere slike bilder, uavhengig av om de er ekte eller AI-genererte.
Organisasjonen advarte mot at disse bildene kan misbrukes eller spres på nettet, noe som kan føre til utilsiktede konsekvenser, inkludert utpressing.
Dette er ikke et enkeltstående tilfelle - Spansk og Amerikanske skoler har begge opplevd sine egne AI-genererte bildekontroverser i det siste, der ulovlige bilder av mindreårige har blitt utvekslet.
Dessuten er det en betydelig debatt om hvem som har ansvaret for å opplyse barn om skadevirkningene av slikt materiale. Er det foreldrene, skolen eller myndighetene som har denne plikten?
Separat forskning utført av et utdanningsteknologiselskap RM Teknologi med 1000 elever viste at nesten en tredjedel bruker AI til upassende aktiviteter på nettet.
Tasha Gibson, sikkerhetssjef for nettsikkerhet hos RM Technology, sier: "Det er nå vanlig at studenter bruker AI regelmessig", "Faktisk er deres forståelse av AI mer avansert enn de fleste læreres - noe som skaper et kunnskapsgap."
Apper gjør det enkelt å lage ulovlige bilder
Disse såkalte "declothing"-appene dukket først opp på sosiale medieplattformer i 2019, ofte brukt på meldingstjenester som Telegram som automatisert programvare med AI-funksjoner.
Til å begynne med var disse appene relativt enkle, men fremskritt innen generativ kunstig intelligens har gjort dem bedre i stand til å skape fotorealistiske falske bilder.
Modellen som var involvert i den spanske saken, hadde nesten 50 000 abonnenter. Vanligvis kan brukerne lage et antall bilder gratis før de må betale en avgift.
I mange tilfeller er bruken av disse appene drevet av nysgjerrighet, sier UKSIC, men det utgjør absolutt ikke et juridisk forsvar.
En mann fra North Carolina ble nylig sannsynligvis den første personen til å bli dømt for AI-relaterte seksualforbrytelser, og fikk 40 års fengsel. Han blir neppe den siste.
