De AI-industrie heeft een problematische geschiedenis van arbeidsuitbuiting, met arbeiders die zich hebben uitgesproken in Venezuela, Kenia en andere delen van de wereld met grote markten voor gegevenslabeling en AI-training.
Grote AI-modellen zoals ChatGPT en de GPT-modellen vereisen enorme hoeveelheden gegevens, waaronder tekstgegevens die door mensen zijn gemodereerd en gelabeld.
Het doel is om tekst te labelen om modellen te instrueren over verschillende soorten inhoud, met name schadelijke of illegale inhoud. Dit helpt bij het ontwikkelen van filters en vangrails.
In eerdere gevallen in Kenia werden werknemers van datadienstenbedrijf Sama bij een project voor OpenAI blootgesteld aan inhoud die thema's bevatte van verontrustend seksueel misbruik.
Verscheidene werknemers beweerden dat ze als gevolg hiervan geestelijke gezondheidsproblemen hadden gekregen. uitmondend in een petitie en rechtszaak.
Hetzelfde is waargenomen in de contentmoderatie-industrie, waar werknemers verantwoordelijk zijn voor het analyseren van mogelijk ongeoorloofde content op sociale mediaplatforms.
Volgens een nieuw rapport van WIREDDit werk strekt zich uit tot vooral jonge mensen, vaak uit verarmde milieus, die worden aangetrokken door online platforms die werkflexibiliteit en hogere lonen dan de lokale normen beloven. Dit gaat ten koste van blootstelling aan schadelijke inhoud.
Hassan, een pseudoniem voor een 18-jarige Pakistaanse, is zo iemand die een laagbetaalde arbeider werd in de wereldwijde toeleveringsketen van AI, die gegevens labelt om algoritmes te trainen voor enkele van 's werelds grootste AI-bedrijven.
Gig workers op crowdsourcingplatforms zoals Toloka en Amazon Mechanical Turk voeren deze taken vaak uit. Hassan begon zijn online carrière op Toloka. Hij gebruikte gegevens van een familielid om de leeftijdsbeperkingen te omzeilen, een gebruikelijke praktijk onder minderjarigen die dergelijk werk zoeken.
Het onderzoek van WIRED onthulde meerdere gevallen van minderjarige werknemers in Pakistan en Kenia die zich onder valse voorwendselen aansloten bij platforms als Toloka en Appen.
De donkere kant van gegevenslabeling
Hoewel het labelen van gegevens onschuldig lijkt, moet er soms verontrustende inhoud worden doorzocht.
Hassan deelde schermopnames van taken waarbij hij werd blootgesteld aan expliciet taalgebruik en seksueel suggestieve beelden. Hij herinnert zich dat hij te maken had met zeer verontrustende inhoud, waaronder geseksualiseerde beelden van minderjarigen en beschrijvingen van gewelddadige handelingen, die zijn geestelijke gezondheid blijven beïnvloeden.
De aantrekkingskracht van meer verdienen dan het nationale minimumloon is een sterke motivator voor deze jongeren.
Voor velen begint gigwork als een middel om een doel te bereiken, zoals het financieren van een reis of het onderhouden van hun gezin. Werknemers maken soms echter lange dagen voor een karig loon en lopen het risico dat hun account wordt opgeschort of dat ze een verbod krijgen voor kleine afwijkingen in hun werk.
Voor Hassan blijft dit werk zijn enige bron van inkomsten, ondanks het feit dat hij een bacheloropleiding volgt. Hij merkt op dat het loon aanzienlijk is gedaald naarmate meer werknemers zich bij deze platforms hebben aangesloten, waardoor hij de situatie als "digitale slavernij" bestempelt.
De situatie hier weerspiegelt precies die van andere rapporten uit Venezuela en Kenia. In Venezuela waren hele families, inclusief kinderen van 13 jaar, betrokken bij het labelen van gegevens.
In combinatie met het gecentraliseerde gebruik van AI in overwegend meer welvarende samenlevingen, heeft dit geleid tot kritiek op de technologie als "koloniaal" in zijn griezelig gelijkaardige mechanica als de arbeidssystematiek uit het koloniale tijdperk - een vorm van "digitale slavernij".
Dit onderstreept de noodzaak van strengere leeftijdscontroleprocessen op deze platforms en roept vragen op over de ethische herkomst van arbeid in de techindustrie.
In andere sectoren hebben zich soortgelijke voorvallen voorgedaan, zoals het omzeilen van leeftijdscontroles door jongeren onder de 18 jaar. werk oppakken voor bezorgplatforms zoals Deliveroo.
Naarmate AI zich verder ontwikkelt, wordt het steeds belangrijker om ervoor te zorgen dat de fundamentele arbeidspraktijken voldoen aan ethische normen.
