En ungdomsdomstol i Badajoz, Spanien, har dömt 15 skolbarn till ett års villkorlig dom för att ha skapat och spridit AI-genererade nakenbilder av sina kvinnliga klasskamrater.
De minderåriga, som var mellan 13 och 15 år gamla, befanns skyldiga till 20 fall av bildskapande genom barnmisshandel och 20 fall av brott mot den moraliska integriteten.
Som en del av straffet måste de åtalade delta i kurser om jämställdhet och teknikansvar.
Domstolen konstaterade att de minderåriga använde AI-applikationer för att manipulera originalfoton av flickor från sociala medier och lägga deras ansikten på nakna kvinnokroppar.
Fallet uppdagades först i september förra året i Almendralejo, en liten stad i sydvästra Spanien, när föräldrar rapporterade att bilder på deras döttrar cirkulerade på WhatsApp. De manipulerade bilderna föreställde flickorna nakna på ett realistiskt sätt och orsakade enorm oro och ångest bland offren, som i vissa fall var så unga som 11 år.
"Det är en chock när man ser den", säger mamman till ett av offren. "Bilden är helt realistisk ... Om jag inte kände till min dotters kropp skulle jag ha trott att den bilden var verklig."
Mamman till ett annat offer, Miriam Al Adib, uttryckte sin upprördhet på Instagram och skrev: "Montagen är superrealistiska, det är mycket störande och en verklig upprördhet."
Hon berättade att hennes dotter kom till henne och blev äcklad och sa: "Mamma, titta vad de har gjort med mig." Al Adib uttryckte också farhågor om att de falska nakenbilderna skulle kunna hamna på webbplatser för vuxna.
En annan mamma, Fátima Gómez, berättade för lokala medier att hennes dotter blev utpressad av en studiekamrat på grund av de falska nakenbilderna. En pojke krävde pengar av hennes dotter, och när hon vägrade skickade han en manipulerad nakenbild av sig själv till henne.
Polisens undersökningar visade att en applikation med namnet "ClothOff AI" användes för att generera bilderna från foton i sociala medier.
Appen har den störande sloganen "Undress anybody, undress girls for free" och tar enligt uppgift 10 euro för att generera 25 nakenbilder.
Skydd för minderåriga i AI-åldern
Det banbrytande fallet belyser det akuta behovet av uppdaterade lagar och policyer för att hantera det växande hotet från AI-genererade djupa förfalskningar, särskilt de som riktar sig mot minderåriga.
Experter säger att den befintliga lagstiftningen är otillräcklig för att åtala dessa nya brott, vilket gör offren sårbara.
"Utöver den här specifika rättegången bör dessa fakta få oss att reflektera över behovet av att utbilda människor om jämställdhet mellan män och kvinnor", säger Malvaluna Association, som representerade de drabbade familjerna.
De betonade behovet av omfattande sexualundervisning i skolorna för att bekämpa de skadliga effekterna av pornografi och deep fakes.
I takt med att AI-tekniken utvecklas snabbt ökar oron för att den kan leda till övergrepp och exploatering, där kvinnor och barn är en oproportionerligt stor målgrupp.
Världsekonomiskt forum (WEF) och amerikanska lagstiftare har nyligen uppmärksammat bristen på policyer som skyddar minderåriga från AI-risker.
Amerikanska lagstiftare också uppkomna frågor kring AI:s interaktion med barn, som uppenbarligen har blivit en uppenbar blind fläck i regleringar och riktlinjer. AI-utvecklare sätter åldersgränser på sina verktyg, men dessa är tveksamt effektiva.
Samarbete mellan beslutsfattare, teknikföretag, lärare och föräldrar är avgörande för att ta itu med dessa utmaningar och skapa en säkrare digital framtid för alla, särskilt barn.
