{"id":2501,"date":"2023-07-14T09:43:36","date_gmt":"2023-07-14T09:43:36","guid":{"rendered":"https:\/\/dailyai.com\/?p=2501"},"modified":"2024-03-28T00:47:11","modified_gmt":"2024-03-28T00:47:11","slug":"ai-in-recruitment-are-the-risks-worth-the-rewards-of-speed-and-efficiency","status":"publish","type":"post","link":"https:\/\/dailyai.com\/sv\/2023\/07\/ai-in-recruitment-are-the-risks-worth-the-rewards-of-speed-and-efficiency\/","title":{"rendered":"AI i rekrytering: \u00e4r riskerna v\u00e4rda vinsterna i form av snabbhet och effektivitet?"},"content":{"rendered":"

N\u00e4r AI forts\u00e4tter att integreras i rekryteringsprocesser \u00e4r det tydligt att teknikens l\u00f6fte om effektivitet kommer med sina egna risker.\u00a0<\/strong><\/p>\n

Enligt uppgift fr\u00e5n 2022 data<\/a>anv\u00e4nder cirka 55% av f\u00f6retagen redan AI-verktyg f\u00f6r rekrytering.<\/span><\/p>\n

AI har p\u00e5skyndat traditionella anst\u00e4llningsf\u00f6rfaranden och eliminerat h\u00f6gar av CV:n och meritf\u00f6rteckningar i processen, men det har ocks\u00e5 v\u00e4ckt kritiska fr\u00e5gor om r\u00e4ttvisa, partiskhet och det m\u00e4nskliga beslutsfattandets natur.\u00a0<\/span><\/p>\n

AI \u00e4r ju trots allt utbildade p\u00e5 m\u00e4nsklig data, s\u00e5 de kommer sannolikt att \u00e4rva alla de f\u00f6rdomar och f\u00f6rutfattade meningar som de lovar att utrota.\u00a0<\/span><\/p>\n

\u00c4r det h\u00e4r n\u00e5got vi kan \u00e4ndra p\u00e5? Vad har vi l\u00e4rt oss av AI-rekrytering hittills?<\/p>\n

Meta anklagas f\u00f6r diskriminerande annonsrutiner av m\u00e4nniskor\u00e4ttsgrupper<\/span><\/h2>\n

Uppgifter visar att vissa <\/span>79% av arbetss\u00f6kande<\/span><\/a> anv\u00e4nder sociala medier f\u00f6r att s\u00f6ka jobb, och det finns bevis f\u00f6r att det \u00e4r h\u00e4r diskrimineringen b\u00f6rjar.\u00a0<\/span><\/p>\n

Meta \u00e4r f\u00f6r n\u00e4rvarande st\u00e5r inf\u00f6r flera anklagelser<\/a> fr\u00e5n europeiska m\u00e4nniskor\u00e4ttsorganisationer som h\u00e4vdar att Facebooks algoritm f\u00f6r att rikta in jobbannonser \u00e4r partisk.\u00a0<\/span><\/p>\n

I juni meddelade den icke-statliga organisationen <\/span>Global Witness<\/span><\/a> unders\u00f6kte flera automatiskt riktade Facebook-jobbannonser och fann att m\u00e5nga vidmakth\u00f6ll k\u00f6nsf\u00f6rdomar.<\/span><\/p>\n

Till exempel var det betydligt mer sannolikt att m\u00e4n fick se annonser som handlade om ingenj\u00f6rsyrken, medan det var betydligt mer sannolikt att kvinnor fick se annonser som handlade om undervisning.\u00a0<\/span><\/p>\n

Av de annonser som visades i Frankrike var 93% av de anv\u00e4ndare som s\u00e5g en jobbannons f\u00f6r f\u00f6rskoll\u00e4rare och 86% av de som s\u00e5g en jobbannons f\u00f6r psykologer kvinnor. Omv\u00e4nt var det endast 25% av kvinnorna som fick se en jobbannons f\u00f6r en pilot och endast 6% som fick se en jobbannons f\u00f6r en mekaniker.\u00a0<\/span><\/p>\n

I Nederl\u00e4nderna var 85% av de anv\u00e4ndare som fick se en platsannons f\u00f6r l\u00e4rare och 96% av de som fick se en platsannons f\u00f6r receptionister kvinnor. Liknande resultat observerades i m\u00e5nga andra l\u00e4nder, bland annat Storbritannien, Indien och Sydafrika.\u00a0<\/span><\/p>\n

\"Facebook
Facebooks annonsinriktning var kraftigt partisk i alla l\u00e4nder som testades, vilket \u00e5terspeglade k\u00f6nsstereotyper. K\u00e4lla: Facebook: Global Witness via CNN<\/a>.<\/figcaption><\/figure>\n

I en <\/span>intervju med CNN<\/span><\/a>Naomi Hirst fr\u00e5n Global Witness sa: \"V\u00e5r oro \u00e4r att Facebook f\u00f6rv\u00e4rrar de f\u00f6rdomar som vi lever med i samh\u00e4llet och faktiskt f\u00f6rst\u00f6r m\u00f6jligheterna till framsteg och r\u00e4ttvisa p\u00e5 arbetsplatsen.\"<\/span><\/p>\n

Tillsammans med Bureau Clara Wichmann och Fondation des Femmes har Global Witness l\u00e4mnat in klagom\u00e5l mot Meta till m\u00e4nniskor\u00e4tts- och dataskyddsmyndigheter i Frankrike och Nederl\u00e4nderna.\u00a0<\/span><\/p>\n

Grupperna uppmanar till en unders\u00f6kning av om Metas praxis bryter mot m\u00e4nskliga r\u00e4ttigheter eller dataskyddslagar. Om anklagelserna h\u00e5ller, kan Meta m\u00f6ta b\u00f6ter och sanktioner.\u00a0<\/span><\/p>\n

Som svar uppgav en Meta-talesman: \"Systemet tar h\u00e4nsyn till olika typer av information f\u00f6r att f\u00f6rs\u00f6ka visa m\u00e4nniskor annonser som de kommer att vara mest intresserade av.\"\u00a0<\/span><\/p>\n

Det h\u00e4r \u00e4r inte f\u00f6rsta g\u00e5ngen Meta har slagit bort s\u00e5dan kritik - f\u00f6retaget m\u00f6tte flera st\u00e4mningar under 2019<\/a> och \u00e5tagit sig att \u00e4ndra sitt annonssystem f\u00f6r att undvika f\u00f6rdomar baserade p\u00e5 skyddade egenskaper som k\u00f6n och ras.<\/span><\/p>\n

Pat de Br\u00fan, fr\u00e5n Amnesty International, var kritisk till Global Witness resultat. \"Forskning visar konsekvent hur Facebooks algoritmer ger djupt oj\u00e4mlika resultat och ofta f\u00f6rst\u00e4rker marginalisering och diskriminering\", sa hon till CNN.<\/span><\/p>\n

Amazon skrotar hemligt AI-rekryteringsverktyg som visade f\u00f6rdomar mot kvinnor<\/span><\/h2>\n

Amazon utvecklade ett AI-rekryteringsverktyg mellan 2014 och 2017 innan man ins\u00e5g att verktyget var partiskt vid urvalet av mjukvaruutvecklare och andra tekniska tj\u00e4nster. \u00c5r 2018 hade Amazon tagit bort verktyget helt.\u00a0<\/span><\/p>\n

AI-systemet straffade CV:n som inneh\u00f6ll orden \"kvinnor\" och \"kvinnors\" och nedgraderade kompetensen hos kvinnliga akademiker.<\/span><\/p>\n

Systemet misslyckades \u00e4ven efter att Amazon f\u00f6rs\u00f6kt redigera algoritmerna f\u00f6r att g\u00f6ra dem k\u00f6nsneutrala.<\/span><\/p>\n

Det visade sig senare att Amazon tr\u00e4nat verktyget p\u00e5 CV:n som skickats in till f\u00f6retaget under en 10-\u00e5rsperiod, varav de flesta kom fr\u00e5n m\u00e4n.\u00a0<\/span><\/p>\n

Som m\u00e5nga AI-system p\u00e5verkades Amazons verktyg av de data som det tr\u00e4nades p\u00e5, vilket ledde till oavsiktlig partiskhet. Denna bias gynnade manliga kandidater och f\u00f6redrog CV:n som anv\u00e4nde spr\u00e5k som var vanligare i manliga ingenj\u00f6rers CV:n.\u00a0<\/span><\/p>\n

P\u00e5 grund av problem med den underliggande datan rekommenderade systemet dessutom ofta okvalificerade kandidater f\u00f6r olika jobb.\u00a0<\/span><\/p>\n

Den <\/span>V\u00e4rldsekonomiskt forum<\/span><\/a> s\u00e4ger om Amazons rekryteringssystem: \"Till exempel - som i Amazons fall - kan starka k\u00f6nsobalanser korrelera med den typ av studie som genomf\u00f6rts. Dessa snedvridningar i utbildningsdata kan ocks\u00e5 uppst\u00e5 p\u00e5 grund av d\u00e5lig datakvalitet eller mycket sm\u00e5, icke diversifierade datam\u00e4ngder, vilket kan vara fallet f\u00f6r f\u00f6retag som inte verkar globalt och s\u00f6ker efter nischade kandidater.\"<\/span><\/p>\n

Amazon lyckades \u00e5teranv\u00e4nda en \"urvattnad version\" av rekryteringsmotorn f\u00f6r rudiment\u00e4ra uppgifter, som att eliminera dubbla kandidatprofiler fr\u00e5n databaser.\u00a0<\/span><\/p>\n

De inr\u00e4ttade ett nytt team f\u00f6r att g\u00f6ra ett nytt f\u00f6rs\u00f6k med automatiserad anst\u00e4llningskontroll, den h\u00e4r g\u00e5ngen med fokus p\u00e5 att fr\u00e4mja m\u00e5ngfald.<\/span><\/p>\n

Google k\u00e4mpar mot sina egna problem med diskriminering och f\u00f6rdomar<\/span><\/h2>\n

I december 2020 meddelade Dr. Timnit Gebru, en ledande AI-etiker p\u00e5 Google, att den <\/span>f\u00f6retaget hade avskedat henne<\/span><\/a>.\u00a0<\/span><\/p>\n

Upps\u00e4gningen kom efter att Dr. Gebru uttryckt oro \u00f6ver Googles inst\u00e4llning till rekrytering av minoriteter och inbyggda f\u00f6rdomar i AI-system.<\/span><\/p>\n

Innan Gebru l\u00e4mnade f\u00f6retaget skulle han publicera en artikel som belyste partiskhet i Googles AI-modeller.\u00a0<\/span><\/p>\n

Efter att ha skickat in artikeln till en akademisk konferens avsl\u00f6jade Gebru att en chef p\u00e5 Google hade bett henne att dra tillbaka artikeln eller ta bort sitt eget och de andra Googleforskarnas namn. N\u00e4r Gebru v\u00e4grade att f\u00f6lja uppmaningen accepterade Google en villkorligt f\u00f6reslagen upps\u00e4gning, vilket i praktiken innebar att Gebru omedelbart sades upp fr\u00e5n sin tj\u00e4nst.<\/span><\/p>\n