AI-industrien har en problematisk historie med utnyttelse av arbeidskraft, og arbeidere i Venezuela, Kenya og andre deler av verden med store markeder for datamerking og AI-opplæring har gitt uttrykk for dette.
Store AI-modeller som ChatGPT og GPT-familien av modeller krever enorme mengder data, inkludert tekstdata som er moderert og merket av mennesker.
Målet er å merke tekst for å instruere modeller om ulike typer innhold, særlig skadelig eller ulovlig innhold. Dette bidrar til å konstruere filtre og beskyttelsestiltak.
I tidligere tilfeller i Kenya har ansatte i datatjenesteselskapet Sama, som jobbet med et prosjekt for OpenAI, blitt eksponert for innhold som inneholdt temaer med urovekkende seksuelle overgrep.
Flere arbeidere hevdet at de hadde fått psykiske problemer som følge av dette, og til slutt som kulminerte i en underskriftskampanje og et søksmål.
Det samme har blitt observert i bransjen for innholdsmoderering, der ansatte er ansvarlige for å analysere potensielt ulovlig innhold på sosiale medier.
Ifølge en ny rapport fra WIREDDette arbeidet omfatter særlig unge mennesker, ofte fra fattige kår, som tiltrekkes av nettbaserte plattformer som lover fleksibilitet og høyere lønninger enn lokale standarder. Dette skjer på bekostning av eksponering for skadelig innhold.
Hassan, et pseudonym for en 18-åring fra Pakistan, er en av dem som ble en lavtlønnet arbeidstaker i den globale AI-leverandørkjeden, der han merket data for å trene opp algoritmer for noen av verdens største AI-selskaper.
Gigarbeidere på crowdsourcing-plattformer som Toloka og Amazon Mechanical Turk påtar seg ofte disse oppgavene. Hassan startet sin karriere på Toloka. Han brukte opplysninger fra en slektning for å omgå aldersbegrensninger, noe som er vanlig blant mindreårige som søker slikt arbeid.
WIREDs undersøkelse avslørte flere tilfeller av mindreårige arbeidere i Pakistan og Kenya som ble med på plattformer som Toloka og Appen under falske påskudd.
Den mørke siden ved datamerking
Selv om arbeidet med datamerking kan virke harmløst, innebærer det noen ganger å gå gjennom forstyrrende innhold.
Hassan delte skjermopptak av oppgaver der han ble eksponert for eksplisitt språkbruk og seksuelt anmassende bilder. Han forteller at han ble eksponert for svært urovekkende innhold, inkludert seksualiserte bilder av mindreårige og beskrivelser av voldelige handlinger, noe som fortsatt påvirker hans psykiske helse.
Det å tjene mer enn den nasjonale minstelønnen er en sterk motivasjonsfaktor for disse ungdommene.
For mange begynner gigjobbing som et middel til å nå et mål, for eksempel å finansiere en reise eller forsørge familien. Men noen ganger må arbeiderne utholde lange arbeidsdager for dårlig betaling, og risikerer å få kontoen sin sperret eller utestengt for mindre avvik i arbeidet.
For Hassan er dette arbeidet fortsatt hans eneste inntektskilde, til tross for at han er i gang med en bachelorutdanning. Han bemerker at lønnen har gått betydelig ned i takt med at flere arbeidstakere har sluttet seg til disse plattformene, noe som har fått ham til å kalle situasjonen "digitalt slaveri".
Situasjonen her gjenspeiler nøyaktig situasjonen i andre rapporter fra Venezuela og Kenya. I Venezuela var hele familier, inkludert barn på 13 år, involvert i arbeidet med å merke data.
Kombinert med den sentraliserte bruken av kunstig intelligens i hovedsakelig mer velstående samfunn, har dette ført til kritikk av teknologi som "kolonial" i sin uhyggelig like mekanikk som kolonitidens arbeidssystematikk - en form for "digitalt slaveri".
Dette understreker behovet for strengere aldersverifiseringsprosesser på disse plattformene, og reiser spørsmål om den etiske anskaffelsen av arbeidskraft i teknologibransjen.
Det har vært lignende tilfeller i andre bransjer, for eksempel at personer under 18 år omgår alderskontroll for å ta arbeid for leveringsplattformer som Deliveroo.
Etter hvert som kunstig intelligens utvikler seg, blir det stadig viktigere å sikre at den grunnleggende arbeidspraksisen er i samsvar med etiske standarder.
