Het UK Safer Internet Centre (UKSIC) heeft gemeld dat kinderen AI-beeldengeneratoren gebruiken om onfatsoenlijke afbeeldingen van andere kinderen te maken.
De liefdadigheidsinstelling zei dat ze een "klein aantal meldingen" heeft bekeken, maar benadrukte dat er nu actie moet worden ondernomen voordat het probleem zich verspreidt.
David Wright, de directeur van UKSIC, benadrukt de noodzaak van onmiddellijke actie: "[We] moeten zien dat er nu stappen worden ondernomen, voordat scholen overweldigd raken en het probleem groter wordt."
Vooral kinderen beseffen waarschijnlijk niet wat het betekent om AI op deze manier te gebruiken.
In het Verenigd Koninkrijk is het maken, bezitten of verspreiden van dergelijke afbeeldingen illegaal, ongeacht of ze echt of door AI gegenereerd zijn.
De liefdadigheidsinstelling waarschuwde voor de mogelijkheid dat deze beelden worden misbruikt of online worden verspreid, wat kan leiden tot onbedoelde gevolgen, waaronder chantage.
Dit is geen op zichzelf staand geval - Spaans en Amerikaanse scholen hebben beide onlangs hun eigen controverses over AI-gegenereerd beeldmateriaal meegemaakt, waarbij illegale beelden van minderjarigen werden uitgewisseld.
Bovendien is er veel discussie over wie verantwoordelijk is voor het onderwijzen van kinderen over de schadelijkheid van dergelijk materiaal. Is dat de taak van de ouders, de school of de overheid?
Apart onderzoek door onderwijstechnologiebedrijf RM Technologie onder 1.000 leerlingen toonde aan dat bijna een derde AI gebruikt voor ongepaste online activiteiten.
Tasha Gibson, manager online veiligheid bij RM Technology, zegt: "Studenten die regelmatig AI gebruiken, zijn nu aan de orde van de dag.Hun kennis van AI is zelfs geavanceerder dan die van de meeste docenten, waardoor er een kenniskloof ontstaat."
Apps maken het makkelijk om illegaal beeldmateriaal te maken
Deze zogenaamde "declothing" apps verschenen voor het eerst op sociale mediaplatforms in 2019, vaak gebruikt op berichtendiensten zoals Telegram als geautomatiseerde software met AI-capaciteiten.
Aanvankelijk waren deze apps relatief ongenuanceerd, maar door vooruitgang in generatieve AI zijn ze nu beter in staat om fotorealistische nepafbeeldingen te maken.
Het model in de Spaanse zaak had bijna 50.000 abonnees. Normaal gesproken kunnen gebruikers een aantal afbeeldingen gratis maken voordat ze moeten betalen.
In veel gevallen wordt het gebruik van deze apps gedreven door nieuwsgierigheid, zegt UKSIC, maar dat is zeker geen wettelijke verdediging.
Een man uit North Carolina werd onlangs waarschijnlijk het eerste individu werd veroordeeld voor AI-gerelateerde seksuele misdrijven en kreeg een gevangenisstraf van 40 jaar. Hij zal waarschijnlijk niet de laatste zijn.
