AI-genererede falske nøgenbilleder af elever fra Westfield High School i New Jersey, USA, blev distribueret blandt jævnaldrende, og der er ingen klar vej til retsforfølgelse af gerningsmændene.
Rektor Mary Asfendis beskrev situationen i en e-mail til forældrene som en "meget alvorlig hændelse".
TSkolen er tavs om detaljerne i hændelsen, herunder antallet af berørte personer eller eventuelle disciplinære foranstaltninger mod gerningsmændene, med henvisning til fortrolighedshensyn.
Den e-mail, som rektor sendte, blev lækket til pressen og sagde:
"Jeg skriver til dig for at gøre dig opmærksom på en situation, der resulterede i udbredt misinformation og skabte stor bekymring blandt eleverne på Westfield High School. Tidligere i dag gjorde elever os opmærksomme på, at nogle af vores elever havde brugt kunstig intelligens til at skabe pornografiske billeder ud fra originale fotos. Der var stor bekymring for, hvem der havde fået lavet billeder af dem, og om de var blevet delt.
På nuværende tidspunkt tror vi, at alle billeder er blevet slettet og ikke cirkulerer. Dette er en meget alvorlig hændelse. Vi fortsætter med at efterforske sagen og vil informere de involverede elever og deres familier, når efterforskningen er afsluttet. Det vil ske inden weekenden. Vi stillede rådgivning til rådighed for alle berørte elever og opfordrede dem til at vende tilbage til undervisningen, når de følte sig i stand til det. Derudover er vores School Resource Officer og Westfield PD blevet gjort opmærksomme på vores efterforskning. Hvis en forælder/værge mener, at deres barn er offer for en kriminel handling i forbindelse med denne hændelse, bedes de anmelde sagen til Westfield Police.
Jeg vil gerne gøre jer opmærksomme på situationen, for ud over at det skader de involverede elever og forstyrrer skoledagen, er det meget vigtigt at tale med jeres børn om deres brug af teknologi, og hvad de lægger ud, gemmer og deler på de sociale medier. Nye teknologier har gjort det muligt at forfalske billeder, og eleverne skal vide, hvilke konsekvenser og skader disse handlinger kan påføre andre.
Vi vil fortsætte med at uddanne jeres børn i vigtigheden af ansvarlig brug af teknologi og håber, at I forstærker disse budskaber derhjemme."
Denne situation er ikke unik for Westfield High School. Spanien oplevede en lignende begivenhed i september, og offentlige personer og forskellige online-influencere har også været indblandet i kontroverser om deepfake-pornografi.
I New Jersey er der ingen lovgivning, der straffer skabelsen og distributionen af AI-skabte falske nøgenbilleder.
Guvernør Phil Murphy præsenterede den 10. oktober en AI-taskforce, der skal undersøge teknologiens fordele, vækst og risici, men der findes stadig ikke en endelig lov om emnet.
Præsident Bidens bekendtgørelse om regulering af kunstig intelligens foreslår foranstaltninger til overvågning, etablering af sikkerhedsforanstaltninger og teknologiske investeringer. Det er dog ikke nok til at indføre en generel føderal lov mod dybe, falske nøgenbilleder, og der er ingen tidslinje for en sådan lovgivning.
Bradley Waldstreicher, assisterende redaktør på Cardozo Law Reviewunderstregede kompleksiteten i den føderale lovgivning om deepfakes i maj 2021 og sagde: "Hvis der vedtages føderal deepfake-lovgivning, der specifikt er rettet mod pornografiske deepfakes, skal pornografiske deepfakes muligvis passe ind i den kategoriske undtagelse i det første ændringsforslag for at være en separat kategori som børnepornografi....[D]er er ingen klar løsning. I det mindste er forskerne nødt til at gennemføre flere undersøgelser for at finde ud af, hvilken indvirkning pornografiske deepfakes har på ofre og internetbrugere, før der vedtages omfattende føderal lovgivning."
Et nærmere kig på stigningen i AI-genererede falske nøgenbilleder afslører svimlende tal. Ifølge Washington PostIfølge Genevieve Oh, en brancheanalytiker, har der været en stigning på 290% i sådant indhold siden 2018 på fremtrædende hjemmesider, der er vært for AI-genererede pornobilleder.
A STORBRITANNIEN undersøgelse foretaget af BBC afslørede den forbløffende stigning i dybt falsk pornografi, herunder børneporno, på sider som Patreon.
Alene i 2023 blev der lagt 143.000 deepfake-pornovideoer ud på populære platforme, som genererede over 4,2 milliarder visninger - et markant spring i forhold til de foregående år. Sensity AI rapporterer, at 90 til 95% af disse videoer indeholder kvindelige billeder uden samtykke.
FBI fremhævede også en stigning i sager om "sextortion", hvor 26.800 amerikanske ofre blev rapporteret frem til september i år, hvilket er en stigning på 149% fra 2019.
Deep fakes er en af AI's mest overhængende og presserende risici, og de er usædvanligt vanskelige at dæmme op for.
Forfalskninger dukker op i hele Israel-Palæstina-konflikten fremhæver også muligheden for, at autentiske billeder fejlagtigt kan stemples som AI-genererede, et eksempel på "løgnerens udbytte", hvor ægte information kan ignoreres som falsk.
Det gælder også AI-genererede stemmer og videoer, ofte rettet mod politiske ledereog der er frygt for, at det kan påvirke stemmeadfærden.
