L'industrie de l'IA a des antécédents problématiques en matière d'exploitation de la main-d'œuvre. Des travailleurs se sont exprimés au Venezuela, au Kenya et dans d'autres régions du monde où il existe d'importants marchés d'étiquetage des données et de formation à l'IA.
Les grands modèles d'IA comme ChatGPT et la famille de modèles GPT nécessitent de grandes quantités de données, y compris des données textuelles modérées et étiquetées par des humains.
L'objectif est d'étiqueter le texte pour indiquer aux modèles les différents types de contenu, en particulier les contenus nuisibles ou illégaux. Cela permet d'élaborer des filtres et des garde-fous.
Dans des cas précédents, au Kenya, des employés de la société de services de données Sama, qui travaillaient sur un projet pour OpenAI, ont été exposés à des contenus contenant des thèmes d'abus sexuels troublants.
Plusieurs travailleurs ont affirmé qu'ils avaient souffert de problèmes de santé mentale à la suite de ces événements. aboutissant à une pétition et à une action en justice.
Une situation similaire a été observée dans le secteur de la modération de contenu, où les travailleurs sont chargés d'analyser les contenus potentiellement illicites sur les plateformes de médias sociaux.
Selon un nouveau rapport de WIREDCe travail s'étend à des individus particulièrement jeunes, souvent issus de milieux défavorisés, qui sont attirés par les plateformes en ligne promettant une flexibilité du travail et des salaires plus élevés que les normes locales. Cela se fait au prix d'une exposition à des contenus préjudiciables.
Hassan, pseudonyme d'un jeune Pakistanais de 18 ans, est l'un de ces individus qui est devenu un travailleur mal payé dans la chaîne d'approvisionnement mondiale de l'IA, étiquetant des données pour former des algorithmes pour certaines des plus grandes entreprises d'IA au monde.
Ces tâches sont souvent effectuées par des travailleurs indépendants sur des plateformes de crowdsourcing telles que Toloka et Amazon Mechanical Turk. Hassan a commencé sa carrière en ligne sur Toloka. Il a utilisé les coordonnées d'un parent pour contourner les restrictions d'âge, une pratique courante chez les mineurs à la recherche d'un tel travail.
L'enquête de WIRED a révélé de nombreux cas de travailleurs mineurs au Pakistan et au Kenya qui ont rejoint des plateformes telles que Toloka et Appen sous de faux prétextes.
Le côté obscur de l'étiquetage des données
Si le travail d'étiquetage des données peut sembler inoffensif, il implique parfois de passer au crible des contenus dérangeants.
Hassan a partagé des enregistrements d'écran de tâches où il était exposé à un langage explicite et à des images sexuellement suggestives. Il se souvient avoir été confronté à des contenus profondément troublants, notamment des images sexualisées de mineurs et des descriptions d'actes violents, qui continuent d'affecter sa santé mentale.
L'attrait d'un salaire supérieur au salaire minimum national est une forte motivation pour ces jeunes.
Pour beaucoup, le travail rémunéré est d'abord un moyen d'atteindre un but, comme financer un voyage ou subvenir aux besoins de leur famille. Cependant, les travailleurs endurent parfois de longues heures pour un maigre salaire, risquant de voir leur compte suspendu ou interdit pour des écarts mineurs dans leur travail.
Pour Hassan, ce travail reste sa seule source de revenus, bien qu'il soit inscrit à un programme de licence. Il note que la rémunération a considérablement diminué à mesure que de plus en plus de travailleurs rejoignaient ces plateformes, ce qui l'a amené à qualifier la situation d'"esclavage numérique".
La situation ici reflète précisément celle d'autres rapports du Venezuela et du Kenya. Au Venezuela, des familles entières, y compris des enfants de 13 ans, ont été impliquées dans les tâches d'étiquetage des données.
Combinée à l'utilisation centralisée de l'IA dans les sociétés les plus riches, cette situation a suscité des critiques à l'égard de l'IA. la technologie comme "coloniale" dans sa mécanique étrangement similaire à la systématique du travail de l'époque coloniale - une forme de "servitude numérique".
Cela souligne la nécessité de mettre en place des processus de vérification de l'âge plus stricts sur ces plateformes et soulève des questions sur l'éthique de l'approvisionnement en main-d'œuvre dans l'industrie technologique.
Des cas similaires ont été observés dans d'autres secteurs, par exemple des personnes de moins de 18 ans contournant la vérification de l'âge pour se rendre à l'aéroport. travailler pour des plates-formes de livraison telles que Deliveroo.
À mesure que l'IA progresse, il devient de plus en plus crucial de veiller à ce que ses pratiques fondamentales en matière de travail respectent les normes éthiques.
