I Almendralejo, en lille by i det sydlige Spanien, opdagede mere end 20 teenagepiger for nylig, at de havde modtaget kunstigt genererede nøgenbilleder af sig selv på deres mobiltelefoner.
Disse foruroligende realistiske dybe falske nøgenbilleder blev manipuleret fra fotografier, der oprindeligt blev lagt ud på pigernes Instagram-konti.
Nu står forældre og juridiske eksperter over for spørgsmålet: Udgør skabelsen og distributionen af disse billeder en forbrydelse i henhold til eksisterende love?
De eksplicitte billeder blev genereret ved hjælp af ClothOff, en AI-applikation, og efterfølgende spredt i forskellige WhatsApp-grupper.
Personerne på billederne var fuldt påklædte, men AI-softwaren ændrede på overbevisende vis billederne, så nøgenheden så ægte ud.
Det har ført til stigende bekymring blandt forældre og juridiske myndigheder om, hvorvidt disse manipulerede fotos kan kategoriseres som børnepornografi.
Miriam Al Adib, mor til en af de berørte piger, udtrykte sin forfærdelse på sin Instagram-konto og sagde: "Montagerne er superrealistiske, det er meget foruroligende og en virkelig skandale."
Hun fortsatte: "Min datter sagde til mig med stor afsky: 'Mor, se, hvad de har gjort ved mig'."
Al Adib udtrykte også bekymring for, at de ændrede billeder måske endda kunne finde vej til voksenhjemmesider.
Fátima Gómez, en anden bekymret forælder, fortalte det spanske nyhedsnetværk Extremadura TV at hendes datter var blevet afpresset på de sociale medier. En dreng krævede penge af hendes datter, og da hun nægtede, sendte han hende et dybt falsk nøgenbillede.
Den FBI advarede af AI-genereret "sextortion" i juni i år, og flere kvinder er allerede blevet ofre.
Det spanske politi har efterforsket sagen og fundet frem til flere unge, som angiveligt er involveret i at skabe og distribuere disse billeder.
Situationen er også blevet henvist til ungdomsanklagemyndigheden. Borgmesteren i Almendralejo advarede om, at det, der måske startede som en "joke", kan få alvorlige juridiske konsekvenser.
ClothOff, den pågældende AI-applikation, har et foruroligende slogan: "Klæd alle af, klæd piger af gratis." Den opkræver angiveligt 10 euro for at generere 25 nøgenbilleder.
Den yngste af de involverede piger var kun 11 år gammel.
Eksisterende love giver dårlig dækning
Manuel Cancio, professor i strafferet ved det autonome universitet i Madrid, fortalte Euronews at de eksisterende love måske ikke er tilstrækkelige til at løse problemet.
"Da det er genereret af deepfake, påvirkes den pågældende persons faktiske privatliv ikke. Den effekt, det har (på offeret), kan være meget lig et ægte nøgenbillede, men loven er et skridt bagud," forklarede han.
Det faktum, at billedet er falsk eller 'fiktionaliseret', komplicerer i bund og grund de juridiske forhold.
Juridiske eksperter er uenige om, hvordan forbrydelsen skal kategoriseres. Nogle mener, at den kan falde ind under lovgivningen om børnepornografi, hvilket fører til strengere straffe, mens andre mener, at forbrydelsen kan betragtes som en krænkelse af den moralske integritet.
De juridiske fortolkninger af sagen vil være forskellige verden over, og der ville sandsynligvis være en lignende debat, hvis dette var sket i andre lande.
Børn bliver inddraget i AI-relaterede skader, og World Economic Forum (WEF) har for nylig gjort opmærksom på en En åbenlys mangel på politik til at beskytte børn mod AI-risici.
Amerikanske lovgivere også rejste spørgsmål omkring AI's interaktion med børn, og journalister i Storbritannien fandt ud af, at pædofiliringe har været generere forstyrrende ulovligt indhold ved hjælp af AI-modeller.
Lovgivere bliver testet af sådanne sager - Dette afslører igen, hvordan traditionel lovgivning simpelthen er for besværlig til at tilpasse sig AI-relaterede risici, som man knap nok kunne have forestillet sig for et par år siden.
