AI-gegenereerde nagemaakte naaktfoto's van leerlingen van de Westfield High School in New Jersey, VS, werden verspreid onder leeftijdsgenoten en er is geen duidelijke route om juridische stappen te ondernemen tegen de daders.
Directeur Mary Asfendis beschreef de situatie in een e-mail aan ouders als een "zeer ernstig incident".
Te school zwijgt over de details van het incident, inclusief het aantal betrokken personen of eventuele disciplinaire maatregelen tegen de daders, en beroept zich daarbij op vertrouwelijkheid.
De e-mail die door het schoolhoofd werd gestuurd, lekte uit naar de pers en zei:
"Ik schrijf u om u bewust te maken van een situatie die heeft geleid tot wijdverspreide verkeerde informatie en tot grote bezorgdheid en ongerustheid onder de studenten van Westfield High School. Eerder vandaag brachten studenten onder onze aandacht dat een aantal van onze studenten Kunstmatige Intelligentie hadden gebruikt om pornografische afbeeldingen te maken van originele foto's. Er was veel bezorgdheid over wie er foto's van hen had laten maken en of ze werden gedeeld.
Op dit moment denken we dat alle gemaakte afbeeldingen zijn verwijderd en niet worden verspreid. Dit is een zeer ernstig incident. We gaan door met het onderzoek en zullen individuen en families van betrokken studenten informeren zodra het onderzoek is afgerond. Dit zal voor het weekend gebeuren. We hebben counseling beschikbaar gesteld voor alle getroffen leerlingen en hen aangemoedigd om terug te keren naar de klas wanneer ze zich daartoe in staat voelden. Daarnaast zijn onze School Resource Officer en de Westfield PD op de hoogte gesteld van ons onderzoek. Als een ouder/voogd denkt dat zijn of haar kind slachtoffer is van een strafbaar feit in verband met dit incident, meld dit dan bij de politie van Westfield.
Ik wilde u bewust maken van de situatie, want naast het feit dat het de betrokken leerlingen schaadt en de schooldag verstoort, is het van cruciaal belang om met uw kinderen te praten over hun gebruik van technologie en wat ze op sociale media plaatsen, opslaan en delen. Nieuwe technologieën hebben het mogelijk gemaakt om beelden te vervalsen en leerlingen moeten weten welke impact en schade deze acties kunnen veroorzaken bij anderen.
We zullen uw kinderen blijven voorlichten over het belang van verantwoord gebruik van technologie en hopen dat u deze boodschappen thuis kracht bijzet."
Deze situatie is niet uniek voor Westfield High School. Spanje maakte een soortgelijke gebeurtenis mee in september, en publieke figuren en verschillende online beïnvloeders zijn ook verstrikt geraakt in controverses over deepfake pornografie.
In New Jersey is er geen wetgeving die het maken en verspreiden van door AI gecreëerde nepnaaktfoto's strafbaar stelt.
Gouverneur Phil Murphy onthulde op 10 oktober een AI taskforce om de voordelen, groei en risico's van de technologie te onderzoeken, maar een definitieve wet over dit onderwerp is er nog niet.
In de executive order van president Biden over AI-regulering worden maatregelen voorgesteld voor toezicht, het instellen van waarborgen en technologische investeringen. Het gaat echter niet ver genoeg om een algemene federale wet in te stellen tegen deep fake nudes en er is geen tijdlijn voor dergelijke wetgeving.
Bradley Waldstreicher, redacteur bij Cardozo Rechtswetenschaponderstreepte in mei 2021 de complexiteit van federale deepfake-wetgeving door te stellen: "Als er federale deepfake-wetgeving wordt aangenomen die specifiek gericht is op pornografische deepfakes, dan moeten pornografische deepfakes, om grondwettelijk te zijn, misschien passen in de categorische uitzondering van het Eerste Amendement van een aparte categorie zijn zoals kinderpornografie....[T]er is geen duidelijke oplossing. Op zijn minst moeten onderzoekers, voordat er substantiële federale wetgeving wordt aangenomen, meer studies uitvoeren om meer te weten te komen over de impact die pornografische deepfakes hebben op slachtoffers en internetgebruikers."
Een nadere blik op de opkomst van door AI gegenereerde nepnaaktfoto's onthult duizelingwekkende cijfers. Volgens de Washington PostVolgens Genevieve Oh, een industrieanalist, is er sinds 2018 een 290% toename van dergelijke inhoud op prominente websites die AI-gegenereerde pornofoto's hosten.
EEN VK onderzoek door de BBC onthulde de verbazingwekkende opkomst van diepe neppornografie, inclusief die van kinderen, op sites zoals Patreon.
Alleen al in 2023 werden er 143.000 deepfake pornovideo's geplaatst op populaire platforms, die meer dan 4,2 miljard views genereerden - een aanzienlijke sprong ten opzichte van de voorgaande jaren. Sensity AI meldt dat 90 tot 95% van deze video's niet-consensueel vrouwelijk beeldmateriaal bevatten.
De FBI wees ook op een toename van het aantal gevallen van "sextortion": tot september van dit jaar werden 26.800 Amerikaanse slachtoffers gemeld, een stijging van 149% ten opzichte van 2019.
Diepe vervalsingen zijn een van de meest dreigende en urgente risico's van AI en ze zijn bijzonder lastig in te dammen.
Fakes die overal opduiken Israël-Palestijns conflict benadrukte ook het potentieel van authentieke afbeeldingen om ten onrechte te worden bestempeld als AI-gegenereerd, een voorbeeld van een "leugenaarsdividend" waarbij echte informatie kan worden genegeerd als nep.
Dit geldt ook voor AI-gegenereerde stemmen en video's, vaak gericht op politieke leidersDe angst neemt toe dat dit het stemgedrag kan beïnvloeden.
