AI-genererte falske nakenbilder av elever fra Westfield High School i New Jersey, USA, ble distribuert blant jevnaldrende, og det finnes ingen klare rettslige skritt å ta mot gjerningsmennene.
Rektor Mary Asfendis beskrev situasjonen i en e-post til foreldrene som en "svært alvorlig hendelse".
TSkolen er taus om detaljene rundt hendelsen, inkludert antall berørte personer eller eventuelle disiplinærtiltak mot gjerningsmennene, med henvisning til konfidensialitetshensyn.
E-posten som ble sendt av rektor ble lekket til pressen, og der sto det
"Jeg skriver til deg for å gjøre deg oppmerksom på en situasjon som har resultert i utbredt feilinformasjon og skapt stor bekymring og uro blant elevene på Westfield High School. Tidligere i dag ble vi gjort oppmerksom på at noen av elevene våre hadde brukt kunstig intelligens til å lage pornografiske bilder av originalbilder. Det oppsto stor bekymring for hvem som hadde fått laget bilder av seg selv, og om de ble delt.
På dette tidspunktet tror vi at alle bilder som er laget, er slettet og ikke er i omløp. Dette er en svært alvorlig hendelse. Vi fortsetter etterforskningen og vil informere enkeltpersoner og familier til de involverte elevene når etterforskningen er ferdig. Dette vil skje før helgen. Vi har tilbudt rådgivning til alle berørte elever og oppfordret dem til å gå tilbake til undervisningen når de følte seg i stand til det. I tillegg har vår School Resource Officer og Westfield PD blitt gjort oppmerksom på etterforskningen vår. Hvis foreldre/foresatte tror at deres barn er utsatt for en kriminell handling i forbindelse med denne hendelsen, ber vi om at de melder fra til Westfield Police.
Jeg ville gjøre dere oppmerksomme på situasjonen, for i tillegg til å skade de involverte elevene og forstyrre skoledagen, er det svært viktig å snakke med barna deres om deres bruk av teknologi og hva de legger ut, lagrer og deler på sosiale medier. Ny teknologi har gjort det mulig å forfalske bilder, og elevene må vite hvilken innvirkning og skade disse handlingene kan ha på andre.
Vi vil fortsette å informere barna om viktigheten av ansvarlig bruk av teknologi, og vi håper at dere forsterker disse budskapene hjemme."
Denne situasjonen er ikke unik for Westfield High School. Spania opplevde en lignende hendelse i september, og offentlige personer og ulike påvirkere på nettet har også vært innblandet i kontroverser om deepfake-pornografi.
I New Jersey finnes det ingen lovgivning som straffer opprettelse og distribusjon av falske nakenbilder skapt av kunstig intelligens.
Guvernør Phil Murphy presenterte 10. oktober en arbeidsgruppe for kunstig intelligens som skal se nærmere på teknologiens fordeler, vekst og risiko, men det finnes fortsatt ingen endelig lov på området.
President Bidens presidentordre om regulering av kunstig intelligens foreslår tiltak for tilsyn, etablering av sikkerhetstiltak og teknologiske investeringer. Det er imidlertid ikke nok til å innføre en generell føderal lov mot falske nakenbilder, og det finnes ingen tidslinje for en slik lovgivning.
Bradley Waldstreicher, assisterende redaktør i Cardozo Law Review, understreket kompleksiteten i føderal lovgivning om deepfakes i mai 2021, og uttalte "Hvis det vedtas føderal deepfake-lovgivning som spesifikt retter seg mot pornografiske deepfakes, kan det hende at pornografiske deepfakes, for å være konstitusjonelle, må passe inn i det kategoriske unntaket i det første grunnlovstillegget om å være en egen kategori som barnepornografi.... ....[D]et finnes ingen klar løsning. I det minste må forskerne gjennomføre flere studier for å finne ut mer om hvilken innvirkning pornografiske deepfakes har på ofrene og internettbrukerne, før det vedtas en omfattende føderal lovgivning."
En nærmere titt på økningen av AI-genererte falske nakenbilder avslører svimlende tall. I følge Washington PostIfølge Genevieve Oh, en bransjeanalytiker, har det vært en 290% økning i slikt innhold siden 2018 på fremtredende nettsteder som er vert for AI-genererte pornobilder.
A STORBRITANNIA etterforskning av BBC avslørte den forbløffende økningen av falsk pornografi, inkludert barnepornografi, på nettsteder som Patreon.
Bare i 2023 ble det lagt ut 143 000 deepfake-pornovideoer på populære plattformer, noe som genererte over 4,2 milliarder visninger - et betydelig hopp fra de foregående årene. Sensity AI rapporterer at 90 til 95% av disse videoene inneholder bilder av kvinner uten samtykke.
FBI fremhevet også en kraftig økning i "sextortion"-saker, med 26 800 rapporterte ofre i USA til og med september i år, en økning på 149% fra 2019.
Deep fakes er en av AIs mest overhengende og presserende risikoer, og de er svært vanskelige å begrense.
Forfalskninger dukker opp i hele Israel-Palestina-konflikten fremhevet også potensialet for at autentiske bilder feilaktig kan bli stemplet som AI-genererte, et eksempel på "løgnerens utbytte", der ekte informasjon kan bli sett bort fra som falsk.
Dette gjelder også AI-genererte stemmer og videoer, ofte rettet mot politiske ledereog frykten for at dette kan påvirke stemmegivningen øker.
