{"id":2501,"date":"2023-07-14T09:43:36","date_gmt":"2023-07-14T09:43:36","guid":{"rendered":"https:\/\/dailyai.com\/?p=2501"},"modified":"2024-03-28T00:47:11","modified_gmt":"2024-03-28T00:47:11","slug":"ai-in-recruitment-are-the-risks-worth-the-rewards-of-speed-and-efficiency","status":"publish","type":"post","link":"https:\/\/dailyai.com\/fr\/2023\/07\/ai-in-recruitment-are-the-risks-worth-the-rewards-of-speed-and-efficiency\/","title":{"rendered":"L'IA dans le recrutement : les risques valent-ils les b\u00e9n\u00e9fices de la rapidit\u00e9 et de l'efficacit\u00e9 ?"},"content":{"rendered":"

Alors que l'IA continue de s'int\u00e9grer dans les processus de recrutement, il est clair que la promesse d'efficacit\u00e9 de la technologie s'accompagne de ses propres risques.\u00a0<\/strong><\/p>\n

Selon le 2022 donn\u00e9es<\/a>Quelque 55% des entreprises utilisent d\u00e9j\u00e0 des outils d'IA pour le recrutement.<\/span><\/p>\n

Si l'IA a acc\u00e9l\u00e9r\u00e9 les pratiques de recrutement traditionnelles, \u00e9liminant au passage les piles de CV, elle a \u00e9galement soulev\u00e9 des questions cruciales sur l'\u00e9quit\u00e9, les pr\u00e9jug\u00e9s et la nature m\u00eame de la prise de d\u00e9cision humaine.\u00a0<\/span><\/p>\n

Apr\u00e8s tout, les IA sont form\u00e9es \u00e0 partir de donn\u00e9es humaines, et sont donc susceptibles d'h\u00e9riter de tous les biais et pr\u00e9jug\u00e9s qu'elles promettent d'\u00e9radiquer.\u00a0<\/span><\/p>\n

Est-ce quelque chose que nous pouvons changer ? Qu'avons-nous appris de l'IA de recrutement jusqu'\u00e0 pr\u00e9sent ?<\/p>\n

Meta accus\u00e9 de pratiques publicitaires discriminatoires par des groupes de d\u00e9fense des droits de l'homme<\/span><\/h2>\n

Les donn\u00e9es montrent que certains <\/span>79% de demandeurs d'emploi<\/span><\/a> utilisent les m\u00e9dias sociaux pour chercher un emploi, et il est prouv\u00e9 que c'est l\u00e0 que la discrimination commence.\u00a0<\/span><\/p>\n

Meta est actuellement confront\u00e9 \u00e0 de multiples all\u00e9gations<\/a> d'organisations europ\u00e9ennes de d\u00e9fense des droits de l'homme affirmant que l'algorithme de ciblage des annonces d'emploi de Facebook est biais\u00e9.\u00a0<\/span><\/p>\n

En juin, l'ONG <\/span>Global Witness<\/span><\/a> a \u00e9tudi\u00e9 plusieurs annonces d'emploi auto cibl\u00e9es sur Facebook et a constat\u00e9 que beaucoup d'entre elles perp\u00e9tuaient des pr\u00e9jug\u00e9s sexistes.<\/span><\/p>\n

Par exemple, les hommes sont beaucoup plus susceptibles de voir des publicit\u00e9s li\u00e9es \u00e0 l'ing\u00e9nierie, tandis que les femmes sont beaucoup plus susceptibles de voir des publicit\u00e9s li\u00e9es \u00e0 l'enseignement.\u00a0<\/span><\/p>\n

Parmi les annonces diffus\u00e9es en France, 93% des utilisateurs ayant vu une annonce d'emploi d'\u00e9ducateur pr\u00e9scolaire et 86% des utilisateurs ayant vu une annonce d'emploi de psychologue \u00e9taient des femmes. \u00c0 l'inverse, seules 25% des femmes ont vu une annonce d'emploi de pilote et 6% une annonce d'emploi de m\u00e9canicien.\u00a0<\/span><\/p>\n

Aux Pays-Bas, 85% des utilisateurs \u00e0 qui une annonce d'emploi d'enseignant a \u00e9t\u00e9 pr\u00e9sent\u00e9e et 96% de ceux \u00e0 qui une annonce d'emploi de r\u00e9ceptionniste a \u00e9t\u00e9 pr\u00e9sent\u00e9e \u00e9taient des femmes. Des r\u00e9sultats similaires ont \u00e9t\u00e9 observ\u00e9s dans de nombreux autres pays, dont le Royaume-Uni, l'Inde et l'Afrique du Sud.\u00a0<\/span><\/p>\n

\"Parti
Le ciblage publicitaire de Facebook \u00e9tait fortement biais\u00e9 dans tous les pays test\u00e9s, refl\u00e9tant les st\u00e9r\u00e9otypes de genre. Source : Global Witness via CNN<\/a>.<\/figcaption><\/figure>\n

Dans un <\/span>interview avec CNN<\/span><\/a>Naomi Hirst, de Global Witness, a d\u00e9clar\u00e9 : \"Nous craignons que Facebook n'exacerbe les pr\u00e9jug\u00e9s que nous vivons dans la soci\u00e9t\u00e9 et ne compromette les possibilit\u00e9s de progr\u00e8s et d'\u00e9quit\u00e9 sur le lieu de travail\".<\/span><\/p>\n

En collaboration avec le Bureau Clara Wichmann et la Fondation des Femmes, Global Witness a d\u00e9pos\u00e9 des plaintes contre Meta aupr\u00e8s des autorit\u00e9s charg\u00e9es des droits de l'homme et de la protection des donn\u00e9es en France et aux Pays-Bas.\u00a0<\/span><\/p>\n

Les groupes demandent instamment une enqu\u00eate pour d\u00e9terminer si les pratiques de Meta sont contraires aux droits de l'homme ou aux lois sur la protection des donn\u00e9es. Si les all\u00e9gations se confirment, Meta pourrait se voir infliger des amendes et des sanctions.\u00a0<\/span><\/p>\n

En r\u00e9ponse, un porte-parole de Meta a d\u00e9clar\u00e9 : \"Le syst\u00e8me prend en compte diff\u00e9rents types d'informations pour essayer de proposer aux gens des publicit\u00e9s qui les int\u00e9ressent le plus\".\u00a0<\/span><\/p>\n

Ce n'est pas la premi\u00e8re fois que Meta r\u00e9pond \u00e0 de telles critiques - l'entreprise a d\u00fb faire face \u00e0 des probl\u00e8mes de s\u00e9curit\u00e9. plusieurs proc\u00e8s en 2019<\/a> et s'est engag\u00e9e \u00e0 modifier son syst\u00e8me de diffusion d'annonces afin d'\u00e9viter les pr\u00e9jug\u00e9s fond\u00e9s sur des caract\u00e9ristiques prot\u00e9g\u00e9es telles que le sexe et la race.<\/span><\/p>\n

Pat de Br\u00fan, d'Amnesty International, s'est montr\u00e9e cinglante \u00e0 l'\u00e9gard des conclusions de Global Witness. \"Les recherches montrent syst\u00e9matiquement que les algorithmes de Facebook produisent des r\u00e9sultats profond\u00e9ment in\u00e9gaux et renforcent souvent la marginalisation et la discrimination\", a-t-elle d\u00e9clar\u00e9 \u00e0 CNN.<\/span><\/p>\n

Amazon se d\u00e9barrasse d'un outil secret de recrutement par IA qui montrait des pr\u00e9jug\u00e9s \u00e0 l'\u00e9gard des femmes<\/span><\/h2>\n

Amazon a d\u00e9velopp\u00e9 un outil de recrutement par IA entre 2014 et 2017 avant de se rendre compte que l'outil \u00e9tait biais\u00e9 lors de la s\u00e9lection des emplois de d\u00e9veloppeurs de logiciels et d'autres postes techniques. En 2018, Amazon a compl\u00e8tement abandonn\u00e9 l'outil.\u00a0<\/span><\/p>\n

Le syst\u00e8me d'IA p\u00e9nalise les CV contenant les mots \"femmes\" et \"f\u00e9minin\" et d\u00e9valorise les comp\u00e9tences des femmes dipl\u00f4m\u00e9es.<\/span><\/p>\n

Le syst\u00e8me a \u00e9chou\u00e9 m\u00eame apr\u00e8s qu'Amazon a tent\u00e9 de modifier les algorithmes pour les rendre neutres du point de vue du genre.<\/span><\/p>\n

Il s'est av\u00e9r\u00e9 par la suite qu'Amazon avait form\u00e9 l'outil \u00e0 partir de CV soumis \u00e0 l'entreprise sur une p\u00e9riode de dix ans, dont la plupart provenaient d'hommes.\u00a0<\/span><\/p>\n

Comme de nombreux syst\u00e8mes d'IA, l'outil d'Amazon a \u00e9t\u00e9 influenc\u00e9 par les donn\u00e9es sur lesquelles il a \u00e9t\u00e9 form\u00e9, ce qui a entra\u00een\u00e9 des biais involontaires. Ce biais favorise les candidats masculins et privil\u00e9gie les CV qui utilisent un langage que l'on retrouve plus souvent dans les CV des ing\u00e9nieurs masculins.\u00a0<\/span><\/p>\n

En outre, en raison de probl\u00e8mes li\u00e9s aux donn\u00e9es sous-jacentes, le syst\u00e8me recommandait souvent des candidats non qualifi\u00e9s pour divers emplois.\u00a0<\/span><\/p>\n

Les <\/span>Forum \u00e9conomique mondial<\/span><\/a> a d\u00e9clar\u00e9 \u00e0 propos du syst\u00e8me de recrutement d'Amazon : \"Par exemple, comme dans le cas d'Amazon, de forts d\u00e9s\u00e9quilibres entre les sexes pourraient \u00eatre li\u00e9s au type d'\u00e9tude entreprise. Ces biais dans les donn\u00e9es de formation peuvent \u00e9galement \u00eatre dus \u00e0 la mauvaise qualit\u00e9 des donn\u00e9es ou \u00e0 des ensembles de donn\u00e9es tr\u00e8s restreints et non diversifi\u00e9s, ce qui peut \u00eatre le cas pour les entreprises qui n'op\u00e8rent pas \u00e0 l'\u00e9chelle mondiale et qui recherchent des candidats sp\u00e9cialis\u00e9s.\"<\/span><\/p>\n

Amazon a r\u00e9ussi \u00e0 r\u00e9affecter une \"version \u00e9dulcor\u00e9e\" du moteur de recrutement \u00e0 des t\u00e2ches rudimentaires, telles que l'\u00e9limination des profils de candidats en double dans les bases de donn\u00e9es.\u00a0<\/span><\/p>\n

Elle a mis en place une nouvelle \u00e9quipe charg\u00e9e d'effectuer une nouvelle tentative de s\u00e9lection automatis\u00e9e des candidats \u00e0 l'emploi, en se concentrant cette fois sur la promotion de la diversit\u00e9.<\/span><\/p>\n

Google lutte contre ses propres probl\u00e8mes de discrimination et de partialit\u00e9<\/span><\/h2>\n

En d\u00e9cembre 2020, le Dr Timnit Gebru, \u00e9minent sp\u00e9cialiste de l'\u00e9thique de l'IA chez Google, a annonc\u00e9 que le syst\u00e8me de gestion de l'information de l'entreprise \u00e9tait en train de se transformer en un syst\u00e8me de gestion de la qualit\u00e9. <\/span>l'entreprise l'a licenci\u00e9e<\/span><\/a>.\u00a0<\/span><\/p>\n

Le licenciement est intervenu apr\u00e8s que M. Gebru a fait part de ses pr\u00e9occupations concernant l'approche de Google en mati\u00e8re d'embauche des minorit\u00e9s et les pr\u00e9jug\u00e9s inh\u00e9rents aux syst\u00e8mes d'intelligence artificielle.<\/span><\/p>\n

Avant de quitter l'entreprise, M. Gebru s'appr\u00eatait \u00e0 publier un article mettant en \u00e9vidence la partialit\u00e9 des mod\u00e8les d'IA de Google.\u00a0<\/span><\/p>\n

Apr\u00e8s avoir soumis cet article \u00e0 une conf\u00e9rence universitaire, le Dr Gebru a r\u00e9v\u00e9l\u00e9 qu'un responsable de Google lui avait demand\u00e9 de r\u00e9tracter l'article ou de supprimer son nom et celui des autres chercheurs de Google. Apr\u00e8s avoir refus\u00e9 d'obtemp\u00e9rer, Google a accept\u00e9 une proposition de d\u00e9mission conditionnelle, ce qui a eu pour effet de mettre fin imm\u00e9diatement au poste de Mme Gebru.<\/span><\/p>\n