{"id":2501,"date":"2023-07-14T09:43:36","date_gmt":"2023-07-14T09:43:36","guid":{"rendered":"https:\/\/dailyai.com\/?p=2501"},"modified":"2024-03-28T00:47:11","modified_gmt":"2024-03-28T00:47:11","slug":"ai-in-recruitment-are-the-risks-worth-the-rewards-of-speed-and-efficiency","status":"publish","type":"post","link":"https:\/\/dailyai.com\/nl\/2023\/07\/ai-in-recruitment-are-the-risks-worth-the-rewards-of-speed-and-efficiency\/","title":{"rendered":"AI in werving en selectie: zijn de risico's de beloningen van snelheid en effici\u00ebntie waard?"},"content":{"rendered":"

Nu AI zich steeds verder nestelt in wervingsprocessen, is het duidelijk dat de belofte van effici\u00ebntie gepaard gaat met eigen risico's.\u00a0<\/strong><\/p>\n

Volgens 2022 gegevens<\/a>Zo'n 55% van de bedrijven gebruikt al AI-tools voor werving.<\/span><\/p>\n

Hoewel AI traditionele wervingsmethoden heeft versneld, waardoor stapels cv's en cv's overbodig zijn geworden, heeft het ook kritische vragen opgeroepen over eerlijkheid, vooroordelen en de aard van menselijke besluitvorming.\u00a0<\/span><\/p>\n

AI's zijn immers getraind op menselijke gegevens, dus ze erven waarschijnlijk alle vooroordelen en vooroordelen die ze beloven uit te bannen.\u00a0<\/span><\/p>\n

Is dit iets wat we kunnen veranderen? Wat hebben we tot nu toe geleerd van wervings-AI?<\/p>\n

Meta beschuldigd van discriminerende advertentiepraktijken door mensenrechtengroeperingen<\/span><\/h2>\n

Uit gegevens blijkt dat sommige <\/span>79% van werkzoekenden<\/span><\/a> gebruiken sociale media om werk te zoeken en het is bewezen dat dit de plaats is waar discriminatie begint.\u00a0<\/span><\/p>\n

Meta is momenteel geconfronteerd met meerdere beschuldigingen<\/a> van Europese mensenrechtenorganisaties die beweren dat het algoritme van Facebook voor het targeten van vacatures bevooroordeeld is.\u00a0<\/span><\/p>\n

In juni heeft de NGO <\/span>Wereldwijde getuigenis<\/span><\/a> onderzocht verschillende automatisch gerichte Facebook-vacatureadvertenties en ontdekte dat veel advertenties gendervooroordelen in stand hielden.<\/span><\/p>\n

Mannen kregen bijvoorbeeld significant vaker advertenties te zien die te maken hadden met techniek, terwijl vrouwen aanzienlijk vaker advertenties te zien kregen die te maken hadden met lesgeven.\u00a0<\/span><\/p>\n

Van de advertenties die in Frankrijk werden getoond, waren 93% van de gebruikers die een vacature voor kleuterleidster te zien kregen en 86% van degenen die een vacature voor psycholoog te zien kregen, vrouwen. Daarentegen werd slechts 25% van de vrouwen een vacature voor piloot getoond en slechts 6% van de vrouwen een vacature voor monteur.\u00a0<\/span><\/p>\n

In Nederland waren 85% van de gebruikers die een vacature voor leerkracht te zien kregen en 96% van de gebruikers die een vacature voor receptionist te zien kregen, vrouwen. Vergelijkbare resultaten werden waargenomen in veel andere landen, waaronder het Verenigd Koninkrijk, India en Zuid-Afrika.\u00a0<\/span><\/p>\n

\"Facebook
De advertentietargeting van Facebook was in alle geteste landen sterk bevooroordeeld en weerspiegelt genderstereotypen. Bron: Global Witness via CNN<\/a>.<\/figcaption><\/figure>\n

In een <\/span>interview met CNN<\/span><\/a>Naomi Hirst van Global Witness zei: \"Onze zorg is dat Facebook de vooroordelen in onze samenleving verergert en de kansen op vooruitgang en gelijkheid op de werkvloer in gevaar brengt.\"<\/span><\/p>\n

Samen met Bureau Clara Wichmann en Fondation des Femmes heeft Global Witness klachten tegen Meta ingediend bij mensenrechten- en gegevensbeschermingsautoriteiten in Frankrijk en Nederland.\u00a0<\/span><\/p>\n

De groepen dringen aan op een onderzoek naar de vraag of de praktijken van Meta in strijd zijn met de mensenrechten of de wetten voor gegevensbescherming. Als de beschuldigingen standhouden, kan Meta boetes en sancties opgelegd krijgen.\u00a0<\/span><\/p>\n

In een reactie verklaarde een woordvoerder van Meta: \"Het systeem houdt rekening met verschillende soorten informatie om mensen advertenties aan te bieden waarin ze het meest ge\u00efnteresseerd zijn.\"\u00a0<\/span><\/p>\n

Dit is niet de eerste keer dat Meta dergelijke kritiek wegwuift - het bedrijf kreeg te maken met meerdere rechtszaken in 2019<\/a> en heeft toegezegd zijn advertentie-aanbod te veranderen om vooroordelen op basis van beschermde kenmerken zoals geslacht en ras te voorkomen.<\/span><\/p>\n

Pat de Br\u00fan van Amnesty International was vernietigend over de bevindingen van Global Witness. \"Onderzoek toont consequent aan hoe de algoritmes van Facebook zeer ongelijke resultaten opleveren en vaak marginalisatie en discriminatie versterken,\" vertelde ze CNN.<\/span><\/p>\n

Amazon schrapt geheime AI-wervingstool die vooroordelen tegen vrouwen vertoonde<\/span><\/h2>\n

Amazon ontwikkelde tussen 2014 en 2017 een AI-wervingstool voordat het zich realiseerde dat de tool bevooroordeeld was bij het selecteren van banen voor softwareontwikkelaars en andere technische functies. In 2018 liet Amazon de tool volledig vallen.\u00a0<\/span><\/p>\n

Het AI-systeem bestrafte cv's met het woord \"vrouwen\" en \"vrouwen\" en verlaagde de vaardigheden van vrouwelijke afgestudeerden.<\/span><\/p>\n

Het systeem faalde zelfs nadat Amazon had geprobeerd de algoritmes te bewerken om ze genderneutraal te maken.<\/span><\/p>\n

Later bleek dat Amazon de tool had getraind op cv's die over een periode van 10 jaar bij het bedrijf waren ingediend en waarvan de meeste afkomstig waren van mannen.\u00a0<\/span><\/p>\n

Zoals veel AI-systemen werd de tool van Amazon be\u00efnvloed door de gegevens waarop het was getraind, wat leidde tot onbedoelde vooroordelen. Deze vooringenomenheid bevoordeelde mannelijke kandidaten en gaf de voorkeur aan cv's waarin taal werd gebruikt die vaker voorkomt in cv's van mannelijke ingenieurs.\u00a0<\/span><\/p>\n

Bovendien raadde het systeem door problemen met de onderliggende gegevens vaak ongekwalificeerde kandidaten aan voor verschillende functies.\u00a0<\/span><\/p>\n

De <\/span>Wereld Economisch Forum<\/span><\/a> over het recruitmentsysteem van Amazon: \"Sterke genderongelijkheid zou bijvoorbeeld - zoals in het geval van Amazon - kunnen correleren met het type onderzoek dat is uitgevoerd. Deze vertekeningen in de trainingsgegevens kunnen ook het gevolg zijn van slechte gegevenskwaliteit of zeer kleine, niet-diverse gegevenssets, wat het geval kan zijn voor bedrijven die niet wereldwijd opereren en op zoek zijn naar nichekandidaten.\"<\/span><\/p>\n

Amazon slaagde erin om een \"afgezwakte versie\" van de wervingsmotor te hergebruiken voor rudimentaire taken, zoals het verwijderen van dubbele kandidaatprofielen uit databases.\u00a0<\/span><\/p>\n

Ze stelden een nieuw team samen om geautomatiseerde werkgelegenheidsonderzoeken nog een kans te geven, dit keer gericht op het bevorderen van diversiteit.<\/span><\/p>\n

Google vecht tegen zijn eigen problemen met discriminatie en vooroordelen<\/span><\/h2>\n

In december 2020 kondigde dr. Timnit Gebru, een vooraanstaand AI-ethicus bij Google, aan dat de <\/span>bedrijf had haar ontslagen<\/span><\/a>.\u00a0<\/span><\/p>\n

De opzegging kwam er nadat Dr. Gebru zijn bezorgdheid had geuit over Google's benadering van het aannemen van minderheden en inherente vooroordelen in AI-systemen.<\/span><\/p>\n

Voordat hij het bedrijf verliet, zou Dr. Gebru een artikel publiceren over de vooroordelen in de AI-modellen van Google.\u00a0<\/span><\/p>\n

Na het indienen van dit artikel op een academische conferentie onthulde Dr. Gebru dat een manager van Google haar vroeg het artikel in te trekken of de namen van haarzelf en de andere Google-onderzoekers te verwijderen. Toen ze weigerde hieraan gehoor te geven, accepteerde Google een voorwaardelijk voorgesteld ontslag, waardoor Dr. Gebru's positie met onmiddellijke ingang werd be\u00ebindigd.<\/span><\/p>\n