Forskning publisert av Anglia Ruskin University i Storbritannia har avdekket en økende etterspørsel etter AI-genererte CSAM på mørke nettfora.
Forskerne Dr. Deanna Davy og professor. Sam Lundrigan har analysert samtaler fra disse forumene det siste året, og oppdaget et urovekkende mønster der brukere aktivt lærer og deler teknikker for å lage slikt materiale ved hjelp av AI-verktøy.
Vi fant ut at mange av overgriperne skaffer seg bilder av barn for å manipulere dem, og at ønsket om "hardcore"-bilder som eskalerer fra "softcore" jevnlig blir diskutert, forklarer Dr. Davy. i et blogginnlegg.
Dette avkrefter misforståelsen om at AI-genererte bilder er "offerløse", ettersom bilder av ekte barn ofte brukes som kildemateriale for disse AI-manipulasjonene.
Studien viste også at forummedlemmene omtalte dem som lager AI-generert CSAM, som "kunstnere", og noen uttrykte håp om at teknologien ville utvikle seg til å gjøre prosessen enda enklere enn den er i dag.
Slik kriminell atferd har blitt normalisert i disse nettsamfunnene.
Professor Lundrigan legger til: "Samtalene vi har analysert, viser at spredningen av råd og veiledning om hvordan man bruker AI på denne måten, fører til at denne typen overgrepsmateriale eskalerer og at lovbruddene øker. Dette bidrar til den økende globale trusselen fra alle former for barnemishandling på nettet, og må ses på som et viktig område å ta tak i når vi skal bekjempe denne typen kriminalitet."
Mann pågrepet for ulovlig produksjon av AI-bilder
I en relatert sak som BBC rapporterte om samme dag, kunngjorde Greater Manchester Police (GMP) nylig det de beskriver som en "skjellsettende sak" som involverer bruk av kunstig intelligens til å lage uanstendige bilder av barn.
Hugh Nelson, en 27 år gammel mann fra Bolton, har innrømmet 11 lovbrudd, inkludert distribusjon og produksjon av uanstendige bilder, og skal få sin dom 25. september.
Kriminalbetjent Carly Baines fra GMP beskrev saken som "spesielt unik og dypt forferdelig", og bemerket at Nelson hadde forvandlet "normale hverdagsfotografier" av ekte barn til uanstendige bilder ved hjelp av AI-teknologi. "
Saken mot Nelson illustrerer nok en gang de utfordringene politiet står overfor når det gjelder å håndtere denne nye formen for digital kriminalitet.
GMP beskrev saken som en "virkelig test av lovgivningen", ettersom bruk av kunstig intelligens på denne måten ikke er spesifikt omtalt i gjeldende britisk lov. DC Baines uttrykte håp om at denne saken ville "spille en rolle i å påvirke hvordan fremtidig lovgivning vil se ut".
Problemene rundt ulovlige AI-genererte bilder blir stadig større
Denne utviklingen kommer i kjølvannet av flere andre høyprofilerte saker som involverer AI-generert CSAM.
I april ble for eksempel en mann fra Florida siktet for angivelig å ha brukt kunstig intelligens til å generere eksplisitte bilder av en barnlig nabo. I fjor ble en mann i Nord-Carolina barnepsykiater ble dømt til 40 års fengsel for å ha skapt AI-genererte overgrepsmateriale fra sine barnepasienter.
Nylig kunngjorde det amerikanske justisdepartementet arrestasjonen av 42 år gamle Steven Anderegg i Wisconsin for angivelig å ha skapt mer enn 13 000 AI-genererte overgrepsbilder av barn.
Å løse disse problemene er en enorm prioritet for AI-industrien, og ulike strategier har blitt lagt frem, for eksempel:
- Oppdatering av lovgivningen for å spesifikt adressere AI-generert CSAM.
- Forbedre samarbeidet mellom teknologiselskaper, politimyndigheter og barnevernsorganisasjoner.
- Utvikle mer sofistikerte verktøy for å identifisere og fjerne AI-generert CSAM.
- Øke bevisstheten om skadevirkningene av alle former for CSAM, inkludert AI-generert innhold.
- Bedre støtte og ressurser til ofre for overgrep, inkludert de som er rammet av AI-manipulasjon av bildene deres.
- Implementere strengere kontrollprosesser for AI-treningsdatasett for å forhindre at CSAM inkluderes.
Disse tiltakene har hittil vist seg å være virkningsløse.
For å få til en endelig forbedring må vi ta tak i både hvordan misbruk av AI-genererte bilder kan fly under den tekniske radaren og samtidig befinne seg i en gråsone i lovgivningen, og hvordan de kan manipuleres.
