I Almendralejo, en liten by i Sør-Spania, oppdaget mer enn 20 tenåringsjenter nylig at de hadde mottatt kunstig genererte nakenbilder av seg selv på mobiltelefonene sine.
Disse urovekkende realistiske, falske nakenbildene er manipulert fra fotografier som opprinnelig ble lagt ut på jentenes Instagram-kontoer.
Nå står foreldre og juridiske eksperter overfor spørsmålet: Er det straffbart å lage og distribuere slike bilder i henhold til eksisterende lovverk?
De eksplisitte bildene ble generert ved hjelp av ClothOff, en AI-applikasjon, og deretter spredt i ulike WhatsApp-grupper.
Personene på bildene var fullt påkledd, men AI-programvaren endret bildene på en overbevisende måte for å få nakenheten til å se ekte ut.
Dette har ført til økende bekymring blant foreldre og juridiske myndigheter om hvorvidt disse manipulerte bildene kan kategoriseres som barnepornografi.
Miriam Al Adib, moren til en av de berørte jentene, uttrykte sin forferdelse på sin Instagram-konto: "Montasjene er superrealistiske, det er veldig urovekkende og en virkelig skandale."
Hun fortsatte: "Datteren min sa til meg med stor avsky: 'Mamma, se hva de har gjort med meg'."
Al Adib uttrykte også bekymring for at de endrede bildene kunne finne veien til nettsteder for voksne.
Fátima Gómez, en annen bekymret forelder, sa til det spanske nyhetsnettverket Extremadura TV Hun fortalte at datteren hennes hadde blitt utpresset på sosiale medier. En gutt krevde penger av datteren, og da hun nektet, sendte han henne et falskt nakenbilde.
Den FBI advarte av AI-generert "sextortion" i juni i år, og flere kvinner har allerede blitt ofre.
Det spanske politiet har etterforsket saken og funnet frem til flere ungdommer som skal ha vært involvert i å lage og distribuere disse bildene.
Situasjonen er også blitt oversendt til påtalemyndigheten for ungdomsstraff. Ordføreren i Almendralejo advarte om at det som kan ha startet som en "spøk", kan få alvorlige juridiske konsekvenser.
ClothOff, den aktuelle AI-applikasjonen, har et urovekkende slagord: "Kle av hvem som helst, kle av jenter gratis". Den tar angivelig 10 euro for å generere 25 nakenbilder.
Den yngste jenta som var involvert, var bare 11 år gammel.
Eksisterende lover gir dårlig dekning
Manuel Cancio, professor i strafferett ved det autonome universitetet i Madrid, fortalte Euronews at eksisterende lover kanskje ikke er tilstrekkelige for å løse problemet.
"Siden det er generert av deepfake, påvirkes ikke personvernet til den aktuelle personen. Effekten det har (på offeret) kan være svært lik et ekte nakenbilde, men loven ligger et skritt bak", forklarer han.
Det faktum at bildet er falskt eller "oppdiktet", kompliserer i hovedsak de juridiske aspektene.
Juridiske eksperter er uenige om hvordan forbrytelsen skal kategoriseres. Noen hevder at det kan falle inn under barnepornografilovgivningen, noe som fører til strengere straffer, mens andre mener at forbrytelsen kan betraktes som en krenkelse av den moralske integriteten.
Den juridiske tolkningen av saken vil variere over hele verden, og det ville sannsynligvis blitt en lignende debatt hvis dette hadde skjedd i andre land.
Barn blir stadig mer involvert i AI-relaterte skader, og World Economic Forum (WEF) har nylig rettet oppmerksomheten mot en skrikende mangel på retningslinjer for å beskytte barn mot AI-risiko.
Amerikanske lovgivere har også reiste spørsmål rundt AIs interaksjon med barn, og journalister i Storbritannia har funnet ut at pedofiliringer har vært generere forstyrrende ulovlig innhold ved hjelp av AI-modeller.
Lovgiverne blir satt på prøve av slike saker - viser dette igjen hvordan tradisjonell lovgivning rett og slett er for tungvint til å tilpasse seg KI-relaterte risikoer som man knapt kunne forestille seg for noen år siden.
