Een jeugdrechtbank in het Spaanse Badajoz heeft 15 scholieren veroordeeld tot een jaar voorwaardelijk voor het maken en verspreiden van door AI gegenereerde naaktfoto's van hun vrouwelijke klasgenoten.
De minderjarigen, tussen 13 en 15 jaar oud, werden schuldig bevonden aan 20 aanklachten wegens het maken van afbeeldingen van kindermisbruik en 20 aanklachten wegens misdrijven tegen de morele integriteit.
Als onderdeel van hun straf moeten de verdachten lessen volgen over gendergelijkheid en technologische verantwoordelijkheid.
De rechtbank verklaarde dat de minderjarigen AI-toepassingen gebruikten om originele foto's van meisjes van sociale media te manipuleren, waarbij hun gezichten op naakte vrouwenlichamen werden geplaatst.
De zaak kwam voor het eerst aan het licht in september vorig jaar in Almendralejo, een klein stadje in het zuidwesten van Spanje, toen ouders meldden dat de foto's van hun dochters werden verspreid op WhatsApp. De gemanipuleerde foto's toonden de meisjes op realistische wijze naakt en veroorzaakten enorm leed en angst onder de slachtoffers, sommigen nog maar 11 jaar oud.
"Het is een schok als je het ziet," zei de moeder van een slachtoffer. "Het beeld is volledig realistisch ... Als ik het lichaam van mijn dochter niet zou kennen, zou ik gedacht hebben dat dat beeld echt was."
De moeder van een ander slachtoffer, Miriam Al Adib, uitte haar verontwaardiging op Instagram door te zeggen: "De montages zijn super realistisch, het is erg verontrustend en een echte schande."
Ze vertelde hoe haar dochter vol afschuw naar haar toe kwam en zei: "Mam, kijk wat ze met me gedaan hebben." Al Adib maakte zich ook zorgen dat de naaktfoto's op websites voor volwassenen terecht zouden kunnen komen.
Een andere moeder, Fátima Gómez, vertelde aan lokale media dat haar dochter door een medestudent werd gechanteerd met de valse naaktfoto's. Een jongen eiste geld van haar dochter en toen ze weigerde, stuurde hij haar een gemanipuleerde naaktfoto van zichzelf.
Uit politieonderzoek bleek dat een applicatie met de naam "ClothOff AI" werd gebruikt om de afbeeldingen te genereren uit foto's van sociale media.
De app heeft de verontrustende slogan "Undress anybody, undress girls for free" en rekent naar verluidt €10 voor het genereren van 25 naaktfoto's.
Bescherming van minderjarigen in het AI-tijdperk
De baanbrekende zaak benadrukt de dringende behoefte aan bijgewerkte wetten en beleid om de groeiende dreiging van door AI gegenereerde diepe vervalsingen aan te pakken, met name vervalsingen die gericht zijn op minderjarigen.
Deskundigen zeggen dat de bestaande wetgeving ontoereikend is om deze nieuwe overtredingen te vervolgen, waardoor slachtoffers kwetsbaar blijven.
"Afgezien van deze specifieke rechtszaak, moeten deze feiten ons doen nadenken over de noodzaak om mensen te onderwijzen over gelijkheid tussen mannen en vrouwen," zei de Malvaluna Association, die de getroffen families vertegenwoordigde.
Ze benadrukten de noodzaak van uitgebreide seksuele voorlichting op scholen om de schadelijke effecten van pornografie en diepe vervalsingen tegen te gaan.
Nu AI-technologie zich snel ontwikkelt, groeit de bezorgdheid over de mogelijkheid van misbruik en uitbuiting, waarbij vrouwen en kinderen onevenredig vaak het doelwit zijn.
Het Wereld Economisch Forum (WEF) en Amerikaanse wetgevers hebben onlangs de aandacht gevestigd op het gebrek aan beleid om minderjarigen te beschermen tegen AI-risico's.
Amerikaanse wetgevers ook aangehaalde problemen rondom de interactie van AI met kinderen, wat duidelijk een blinde vlek is geworden in regelgeving en richtlijnen. AI-ontwikkelaars zetten leeftijdsgrenzen op hun tools, maar deze zijn twijfelachtig effectief.
Samenwerking tussen beleidsmakers, techbedrijven, opvoeders en ouders is essentieel om deze uitdagingen aan te gaan en een veiligere digitale toekomst voor iedereen te creëren, vooral voor kinderen.
