En ungdomsdomstol i Badajoz i Spania har dømt 15 skoleelever til ett års betinget fengsel for å ha laget og spredt AI-genererte nakenbilder av sine kvinnelige klassekamerater.
De mindreårige, som var mellom 13 og 15 år gamle, ble funnet skyldige i 20 tilfeller av barnemishandling og 20 tilfeller av krenkelse av den moralske integriteten.
Som en del av straffen må de tiltalte delta på kurs i likestilling og teknologiansvar.
Retten uttalte at de mindreårige brukte AI-applikasjoner til å manipulere originale bilder av jenter fra sosiale medier og legge ansiktene deres oppå nakne kvinnekropper.
Saken Den første saken dukket opp i september i fjor i Almendralejo, en liten by sørvest i Spania, da foreldre meldte fra om at bilder av døtrene deres ble spredt på WhatsApp. De manipulerte bildene viste jentene nakne på en realistisk måte, noe som skapte enorm uro og angst blant ofrene, noen av dem så unge som 11 år.
"Det er et sjokk når man ser det", sier moren til et av ofrene. "Bildet er helt realistisk ... Hvis jeg ikke hadde kjent kroppen til datteren min, ville jeg ha trodd at bildet var ekte."
Moren til et annet offer, Miriam Al Adib, uttrykte sin harme på Instagram og skrev: "Montasjene er superrealistiske, det er veldig urovekkende og en virkelig skandale."
Hun fortalte hvordan datteren kom til henne og sa: "Mamma, se hva de har gjort med meg." Al Adib uttrykte også bekymring for at de falske nakenbildene kunne ende opp på nettsteder for voksne.
En annen mor, Fátima Gómez, fortalte til lokale medier at datteren ble utpresset av en medstudent på grunn av de falske nakenbildene. En gutt krevde penger av datteren, og da hun nektet, sendte han henne et manipulert nakenbilde av seg selv.
Politiets etterforskning avslørte at et program ved navn "ClothOff AI" ble brukt til å generere bildene fra bilder i sosiale medier.
Appen har det urovekkende slagordet "Kle av hvem som helst, kle av jenter gratis", og tar angivelig 10 euro for å generere 25 nakenbilder.
Beskyttelse av mindreårige i AI-alderen
Den banebrytende saken understreker det presserende behovet for oppdaterte lover og retningslinjer for å håndtere den økende trusselen fra AI-genererte "deep fakes", særlig rettet mot mindreårige.
Eksperter sier at det eksisterende lovverket er utilstrekkelig for å straffeforfølge disse nye lovbruddene, noe som gjør ofrene sårbare.
"Utover denne rettssaken bør disse faktaene få oss til å reflektere over behovet for å opplyse folk om likestilling mellom menn og kvinner", sier Malvaluna-foreningen, som representerte de berørte familiene.
De understreket behovet for omfattende seksualundervisning i skolen for å bekjempe skadevirkningene av pornografi og deep fakes.
AI-teknologien utvikler seg raskt, og det er økende bekymring for at den kan føre til misbruk og utnyttelse, og at kvinner og barn i uforholdsmessig stor grad blir utsatt for dette.
Verdens økonomiske forum (WEF) og amerikanske lovgivere har nylig rettet oppmerksomheten mot mangelen på retningslinjer som beskytter mindreårige mot AI-risiko.
Amerikanske lovgivere har også reiste spørsmål Det er tydelig at dette har blitt en åpenbar blind flekk i regelverk og retningslinjer. AI-utviklere setter aldersgrenser på verktøyene sine, men disse er tvilsomt effektive.
Samarbeid mellom beslutningstakere, teknologiselskaper, lærere og foreldre er avgjørende for å løse disse utfordringene og skape en tryggere digital fremtid for alle, spesielt barn.
