Onderzoek gepubliceerd door de Anglia Ruskin University in het Verenigd Koninkrijk heeft een groeiende vraag naar door AI gegenereerde CSAM op dark web fora aan het licht gebracht.
Onderzoekers Dr. Deanna Davy en Professor. Sam Lundrigan analyseerden gesprekken van deze forums in het afgelopen jaar en ontdekten een verontrustend patroon van gebruikers die actief technieken leren en delen om dergelijk materiaal te maken met behulp van AI-tools.
"We ontdekten dat veel van de daders beelden van kinderen zoeken om ze te manipuleren en dat het verlangen naar 'hardcore' beeldmateriaal dat escaleert van 'softcore' regelmatig ter sprake komt", legt Dr. Davy uit. in een blogbericht.
Dit weerlegt de misvatting dat AI-gegenereerde beelden "slachtofferloos" zijn, omdat echte kinderbeelden vaak worden gebruikt als bronmateriaal voor deze AI-manipulaties.
Uit het onderzoek bleek ook dat forumleden degenen die AI-gegenereerde CSAM maken "kunstenaars" noemden, waarbij sommigen de hoop uitspraken dat de technologie zou evolueren om het proces nog eenvoudiger te maken dan het nu al is.
Dergelijk crimineel gedrag is normaal geworden binnen deze online gemeenschappen.
Prof. Lundrigan voegde hieraan toe: "De gesprekken die we hebben geanalyseerd laten zien dat door de toename van advies en begeleiding over hoe AI op deze manier kan worden gebruikt, dit type kinderpornomateriaal escaleert en het aantal misdrijven toeneemt. Dit draagt bij aan de groeiende wereldwijde dreiging van online kindermisbruik in alle vormen, en moet worden gezien als een kritiek gebied om aan te pakken in onze reactie op dit type misdaad."
Man gearresteerd voor illegale productie van AI-beelden
In een gerelateerde zaak De Greater Manchester Police (GMP), waarover de BBC op dezelfde dag berichtte, kondigde onlangs een "mijlpaalzaak" aan over het gebruik van AI om onfatsoenlijke afbeeldingen van kinderen te maken.
Hugh Nelson, een 27-jarige man uit Bolton, gaf 11 overtredingen toe, waaronder het verspreiden en maken van onfatsoenlijke afbeeldingen, en wordt op 25 september veroordeeld.
Rechercheur Carly Baines van GMP beschreef de zaak als "bijzonder uniek en zeer gruwelijk" en merkte op dat Nelson "normale alledaagse foto's" van echte kinderen had omgezet in onfatsoenlijk beeldmateriaal met behulp van AI-technologie. "
De zaak tegen Nelson illustreert eens te meer de uitdagingen waar de rechtshandhaving voor staat bij het aanpakken van deze nieuwe vorm van digitale misdaad.
GMP beschreef het als een "echte test voor wetgeving", aangezien het gebruik van AI op deze manier niet specifiek wordt behandeld in de huidige Britse wetgeving. DC Baines sprak de hoop uit dat deze zaak "een rol zou spelen bij het beïnvloeden van hoe toekomstige wetgeving eruit ziet".
Problemen rond illegale AI-gegenereerde beelden nemen toe
Deze ontwikkelingen komen in het kielzog van verschillende andere geruchtmakende zaken over door AI gegenereerde CSAM.
In april werd bijvoorbeeld een man in Florida aangeklaagd omdat hij AI zou hebben gebruikt om expliciete beelden van een buurkind te genereren. Vorig jaar werd in North Carolina kinderpsychiater werd veroordeeld tot 40 jaar gevangenisstraf voor het maken van AI-gegenereerd misbruikmateriaal van zijn kinderpatiënten.
Onlangs kondigde het Amerikaanse ministerie van Justitie de arrestatie aan van 42-jarige Steven Anderegg in Wisconsin voor het naar verluidt maken van meer dan 13.000 door AI gegenereerde misbruikbeelden van kinderen.
Het oplossen van deze problemen is een enorme prioriteit voor de AI-industrie en er zijn verschillende strategieën voorgesteld, zoals:
- Wetgeving bijwerken om specifiek aandacht te besteden aan door AI gegenereerde CSAM.
- Betere samenwerking tussen technische bedrijven, wetshandhavingsinstanties en kinderbeschermingsorganisaties.
- Ontwikkelen van geavanceerdere AI-detectietools om door AI gegenereerde CSAM te identificeren en verwijderen.
- Het publiek bewuster maken van de schade die wordt veroorzaakt door alle vormen van CSAM, inclusief AI-gegenereerde inhoud.
- Betere ondersteuning en hulpmiddelen bieden aan slachtoffers van misbruik, inclusief degenen die zijn getroffen door de AI-manipulatie van hun beelden.
- Strengere doorlichtingsprocessen implementeren voor AI-trainingsdatasets om te voorkomen dat CSAM wordt opgenomen.
Deze maatregelen zijn tot nu toe niet effectief gebleken.
Om definitieve verbetering te katalyseren, moet zowel de manier waarop onrechtmatige AI-gegenereerde beelden onder de technische radar kunnen blijven terwijl ze een grijs gebied in de wetgeving innemen, als de manier waarop ze kunnen worden gemanipuleerd, worden aangepakt.
