Forskning offentliggjort af Anglia Ruskin University i Storbritannien har afsløret en stigende efterspørgsel efter AI-genereret CSAM på mørke webfora.
Forskerne Dr. Deanna Davy og professor. Sam Lundrigan analyserede samtaler fra disse fora i løbet af det sidste år og opdagede et bekymrende mønster, hvor brugere aktivt lærer og deler teknikker til at skabe sådant materiale ved hjælp af AI-værktøjer.
"Vi fandt ud af, at mange af gerningsmændene køber billeder af børn for at manipulere dem, og at ønsket om 'hardcore' billeder, der eskalerer fra 'softcore', regelmæssigt diskuteres," forklarer Dr. Davy. i et blogindlæg.
Det fjerner misforståelsen om, at AI-genererede billeder er "offerløse", da rigtige børnebilleder ofte bruges som kildemateriale til disse AI-manipulationer.
Undersøgelsen viste også, at forummedlemmerne omtalte dem, der skaber AI-genereret CSAM, som "kunstnere", og nogle udtrykte håb om, at teknologien ville udvikle sig til at gøre processen endnu lettere, end den er nu.
En sådan kriminel adfærd er blevet normaliseret i disse onlinefællesskaber.
Prof. Lundrigan tilføjer: "De samtaler, vi har analyseret, viser, at gennem udbredelsen af råd og vejledning om, hvordan man bruger AI på denne måde, eskalerer denne type børnemisbrugsmateriale, og antallet af lovovertrædelser stiger. Dette bidrager til den voksende globale trussel fra alle former for onlinemisbrug af børn og skal ses som et kritisk område, der skal adresseres i vores reaktion på denne type kriminalitet."
Mand anholdt for ulovlig produktion af AI-billeder
I en relateret sag som BBC rapporterede samme dag, annoncerede Greater Manchester Police (GMP) for nylig, hvad de beskriver som en "skelsættende sag", der involverer brugen af AI til at skabe uanstændige billeder af børn.
Hugh Nelson, en 27-årig mand fra Bolton, indrømmede 11 lovovertrædelser, herunder distribution og fremstilling af uanstændige billeder, og skal dømmes den 25. september.
Kriminalassistent Carly Baines fra GMP beskrev sagen som "særlig unik og dybt forfærdelig" og bemærkede, at Nelson havde forvandlet "normale hverdagsbilleder" af rigtige børn til uanstændige billeder ved hjælp af AI-teknologi. "
Sagen mod Nelson illustrerer endnu en gang de udfordringer, som politiet står over for, når de skal håndtere denne nye form for digital kriminalitet.
GMP beskrev det som en "reel test af lovgivningen", da brugen af AI på denne måde ikke er specifikt behandlet i den nuværende britiske lovgivning. DC Baines udtrykte håb om, at denne sag ville "spille en rolle i forhold til at påvirke, hvordan fremtidig lovgivning ser ud."
Problemerne omkring ulovlige AI-genererede billeder vokser
Denne udvikling kommer i kølvandet på flere andre højprofilerede sager, der involverer AI-genereret CSAM.
I april blev en mand fra Florida f.eks. sigtet for angiveligt at have brugt AI til at generere eksplicitte billeder af en barnlig nabo. Sidste år blev en mand fra North Carolina Børnepsykiater blev dømt til 40 års fængsel for at skabe AI-genereret krænkende materiale fra sine børnepatienter.
For nylig annoncerede det amerikanske justitsministerium anholdelsen af 42-årige Steven Anderegg i Wisconsin for angiveligt at have skabt mere end 13.000 AI-genererede krænkende billeder af børn.
At løse disse problemer er en enorm prioritet for AI-industrien, og der er blevet fremsat forskellige strategier, f.eks:
- Opdatering af lovgivningen, så den specifikt omhandler AI-genereret CSAM.
- Forbedring af samarbejdet mellem teknologivirksomheder, retshåndhævende myndigheder og børnebeskyttelsesorganisationer.
- Udvikling af mere sofistikerede AI-detektionsværktøjer til at identificere og fjerne AI-genereret CSAM.
- Øge den offentlige bevidsthed om den skade, der forårsages af alle former for CSAM, herunder AI-genereret indhold.
- At give bedre støtte og ressourcer til ofre for misbrug, herunder dem, der er berørt af AI-manipulation af deres billeder.
- Implementering af strengere kontrolprocesser for AI-træningsdatasæt for at forhindre inkludering af CSAM.
Disse foranstaltninger har indtil videre vist sig at være ineffektive.
For at katalysere en endelig forbedring skal der tages fat på både den måde, hvorpå misbrug af AI-genererede billeder kan flyve under den tekniske radar, mens de befinder sig i en gråzone i lovgivningen, og den måde, hvorpå de kan manipuleres.
