Juridisk oklarhet kring djupa falska nakenbilder som skickats till spanska tonåringar

20 september 2023

Djup falsk AI

I Almendralejo, en liten stad i södra Spanien, upptäckte mer än 20 tonårsflickor nyligen att de hade fått artificiellt genererade nakenbilder av sig själva på sina mobiltelefoner. 

Dessa oroande realistiska djupa falska nakenbilder manipulerades från fotografier som ursprungligen publicerades på flickornas Instagram-konton. 

Nu ställs föräldrar och juridiska experter inför frågan: Utgör skapandet och spridningen av dessa bilder ett brott enligt gällande lagar?

De explicita bilderna skapades med hjälp av ClothOff, en AI-applikation, och spreds därefter i olika WhatsApp-grupper. 

Personerna på bilderna var fullt påklädda, men AI-programvaran ändrade bilderna på ett övertygande sätt så att nakenheten såg verklig ut. 

Detta har lett till en växande oro bland föräldrar och rättsliga myndigheter om huruvida dessa manipulerade bilder kan kategoriseras som barnpornografi.

Miriam Al Adib, mamma till en av de drabbade flickorna, uttryckte sin bestörtning på sitt Instagramkonto och skrev: "Montagen är superrealistiska, det är mycket störande och en verklig skandal."

Hon fortsatte: "Min dotter sa till mig med stor avsky: 'Mamma, titta vad de har gjort med mig'." 

Al Adib uttryckte också oro för att de ändrade bilderna till och med skulle kunna hamna på webbplatser för vuxna.

Fátima Gómez, en annan bekymrad förälder, berättade för det spanska nyhetsnätverket Extremadura TV att hennes dotter hade blivit utpressad via sociala medier. En pojke krävde pengar av dottern, och när hon vägrade skickade han en djup fejkad nakenbild till henne.

Den FBI varnade av AI-genererad "sextortion" i juni i år, och flera kvinnor har redan fallit offer.

Den spanska nationella polisen har utrett fallet och pekat ut flera ungdomar som påstås ha varit inblandade i att skapa och distribuera dessa bilder. 

Situationen har också hänskjutits till åklagarmyndigheten för ungdomsärenden. Borgmästaren i Almendralejo varnade för att vad som kan ha börjat som ett "skämt" kan få allvarliga rättsliga konsekvenser.

ClothOff, AI-applikationen i fråga, har en oroande slogan: "Klä av vem som helst, klä av tjejer gratis." Enligt uppgift tar den 10 euro för att generera 25 nakenbilder.

Den yngsta flickan som var inblandad var bara 11 år gammal.

Befintliga lagar ger dålig täckning 

Manuel Cancio, professor i straffrätt vid det autonoma universitetet i Madrid, berättade för Euronews att befintliga lagar kanske inte hanterar frågan på ett adekvat sätt. 

"Eftersom den genereras av deepfake påverkas inte den berörda personens faktiska integritet. Den effekt den har (på offret) kan vara mycket lik en riktig nakenbild, men lagen ligger ett steg efter", förklarade han.

Det faktum att bilden är falsk eller "fiktionaliserad" komplicerar i princip de juridiska aspekterna.

Juridiska experter är oeniga om hur brottet ska kategoriseras. Vissa hävdar att det kan falla under barnpornografilagstiftningen, vilket leder till strängare straff, medan andra menar att brottet kan betraktas som ett brott mot den moraliska integriteten. 

De juridiska tolkningarna av fallet skulle skilja sig åt över hela världen, och det skulle sannolikt bli en liknande debatt om detta hade hänt i andra länder.

Barn drabbas av AI-relaterade skador, och World Economic Forum (WEF) uppmärksammade nyligen en skriande brist på policy för att skydda barn från AI-risker.

Amerikanska lagstiftare också uppkomna frågor kring AI:s interaktion med barn, och journalister i Storbritannien har upptäckt att pedofilringar har varit generera störande olagligt innehåll med hjälp av AI-modeller. 

Lagstiftare testas av sådana fall - visar detta återigen hur traditionell lagstiftning helt enkelt är för tungrodd för att kunna anpassas till AI-relaterade risker som man knappt kunde föreställa sig för några år sedan.

Bli en del av framtiden


PRENUMERERA IDAG

Tydlig, kortfattad och heltäckande. Få grepp om AI-utvecklingen med DagligaAI

Sam Jeans

Sam är en vetenskaps- och teknikskribent som har arbetat i olika AI-startups. När han inte skriver läser han medicinska tidskrifter eller gräver igenom lådor med vinylskivor.

×

GRATIS PDF EXKLUSIV
Ligg steget före med DailyAI

Registrera dig för vårt veckovisa nyhetsbrev och få exklusiv tillgång till DailyAI:s senaste e-bok: "Mastering AI Tools: Din 2024-guide till förbättrad produktivitet".

*Genom att prenumerera på vårt nyhetsbrev accepterar du vår Integritetspolicy och våra Villkor och anvisningar