{"id":2501,"date":"2023-07-14T09:43:36","date_gmt":"2023-07-14T09:43:36","guid":{"rendered":"https:\/\/dailyai.com\/?p=2501"},"modified":"2024-03-28T00:47:11","modified_gmt":"2024-03-28T00:47:11","slug":"ai-in-recruitment-are-the-risks-worth-the-rewards-of-speed-and-efficiency","status":"publish","type":"post","link":"https:\/\/dailyai.com\/da\/2023\/07\/ai-in-recruitment-are-the-risks-worth-the-rewards-of-speed-and-efficiency\/","title":{"rendered":"AI i rekruttering: Er risikoen v\u00e6rd at tage i betragtning, n\u00e5r det g\u00e6lder hastighed og effektivitet?"},"content":{"rendered":"

I takt med at AI bliver mere og mere integreret i rekrutteringsprocesserne, er det klart, at teknologiens l\u00f8fte om effektivitet har sine egne risici.\u00a0<\/strong><\/p>\n

If\u00f8lge 2022-data<\/a>I dag bruger ca. 55% af virksomhederne allerede AI-v\u00e6rkt\u00f8jer til rekruttering.<\/span><\/p>\n

Mens AI har fremskyndet den traditionelle ans\u00e6ttelsespraksis og elimineret bunker af CV'er i processen, har den ogs\u00e5 rejst kritiske sp\u00f8rgsm\u00e5l om retf\u00e6rdighed, partiskhed og selve den menneskelige beslutningstagnings natur.\u00a0<\/span><\/p>\n

N\u00e5r alt kommer til alt, er AI'er tr\u00e6net p\u00e5 menneskelige data, s\u00e5 de kan arve alle de fordomme, de lover at udrydde.\u00a0<\/span><\/p>\n

Er det noget, vi kan \u00e6ndre p\u00e5? Hvad har vi l\u00e6rt af AI-rekruttering indtil videre?<\/p>\n

Meta beskyldes for diskriminerende annoncepraksis af menneskerettighedsgrupper<\/span><\/h2>\n

Data viser, at nogle <\/span>79% af jobs\u00f8gende<\/span><\/a> bruger sociale medier til at s\u00f8ge job, og beviserne viser, at det er her, diskriminationen begynder.\u00a0<\/span><\/p>\n

Meta er i \u00f8jeblikket udsat for flere beskyldninger<\/a> fra europ\u00e6iske menneskerettighedsorganisationer, der h\u00e6vder, at Facebooks algoritme til m\u00e5lretning af jobannoncer er partisk.\u00a0<\/span><\/p>\n

I juni blev NGO'en <\/span>Global Witness<\/span><\/a> unders\u00f8gte flere automatisk m\u00e5lrettede Facebook-jobannoncer og fandt ud af, at mange opretholdt k\u00f8nsfordomme.<\/span><\/p>\n

For eksempel var der betydeligt st\u00f8rre sandsynlighed for, at m\u00e6nd fik vist annoncer relateret til ingeni\u00f8rarbejde, mens kvinder var betydeligt mere tilb\u00f8jelige til at f\u00e5 vist annoncer relateret til undervisning.\u00a0<\/span><\/p>\n

Af de annoncer, der blev vist i Frankrig, var 93% af de brugere, der fik vist en jobannonce for en b\u00f8rnehavep\u00e6dagog, og 86% af dem, der fik vist en jobannonce for en psykolog, kvinder. Omvendt fik kun 25% af kvinderne vist en jobannonce for en pilot, og kun 6% fik vist en jobannonce for en mekaniker.\u00a0<\/span><\/p>\n

I Holland var 85% af de brugere, der fik vist en jobannonce for en l\u00e6rer, og 96% af dem, der fik vist en jobannonce for en receptionist, kvinder. Lignende resultater blev observeret i mange andre lande, herunder Storbritannien, Indien og Sydafrika.\u00a0<\/span><\/p>\n

\"Facebooks
Facebooks annoncem\u00e5lretning var st\u00e6rkt forudindtaget i alle testede lande og afspejlede k\u00f8nsstereotyper. Kilde: Global Witness via CNN<\/a>.<\/figcaption><\/figure>\n

I en <\/span>Interview med CNN<\/span><\/a>Naomi Hirst fra Global Witness sagde: \"Vores bekymring er, at Facebook forv\u00e6rrer de fordomme, vi lever med i samfundet, og faktisk \u00f8del\u00e6gger mulighederne for fremskridt og lighed p\u00e5 arbejdspladsen.\"<\/span><\/p>\n

Sammen med Bureau Clara Wichmann og Fondation des Femmes har Global Witness klaget over Meta til menneskerettigheds- og databeskyttelsesmyndigheder i Frankrig og Holland.\u00a0<\/span><\/p>\n

Grupperne opfordrer til en unders\u00f8gelse af, om Metas praksis overtr\u00e6der menneskerettighederne eller databeskyttelseslovene. Hvis anklagerne holder, kan Meta blive p\u00e5lagt b\u00f8der og sanktioner.\u00a0<\/span><\/p>\n

Som svar sagde en talsmand for Meta: \"Systemet tager h\u00f8jde for forskellige former for information for at fors\u00f8ge at vise folk de annoncer, de vil v\u00e6re mest interesserede i.\"\u00a0<\/span><\/p>\n

Det er ikke f\u00f8rste gang, Meta har afvist s\u00e5dan en kritik - virksomheden stod over for Flere retssager i 2019<\/a> og forpligtet sig til at \u00e6ndre sit annoncesystem for at undg\u00e5 bias baseret p\u00e5 beskyttede karakteristika som k\u00f8n og race.<\/span><\/p>\n

Pat de Br\u00fan fra Amnesty International var skarp i sin kritik af Global Witness' resultater. \"Forskning viser konsekvent, hvordan Facebooks algoritmer leverer dybt ulige resultater og ofte forst\u00e6rker marginalisering og diskrimination,\" sagde hun til CNN.<\/span><\/p>\n

Amazon skrotter hemmeligt AI-rekrutteringsv\u00e6rkt\u00f8j, der viste bias mod kvinder<\/span><\/h2>\n

Amazon udviklede et AI-rekrutteringsv\u00e6rkt\u00f8j mellem 2014 og 2017, f\u00f8r det gik op for dem, at v\u00e6rkt\u00f8jet var partisk i udv\u00e6lgelsen af softwareudviklerjobs og andre tekniske stillinger. I 2018 havde Amazon helt droppet v\u00e6rkt\u00f8jet.\u00a0<\/span><\/p>\n

AI-systemet straffede CV'er, der indeholdt ordet \"kvinder\" og \"kvinders\", og nedgraderede kvindelige kandidaters f\u00e6rdigheder.<\/span><\/p>\n

Systemet fejlede, selv efter at Amazon fors\u00f8gte at redigere algoritmerne for at g\u00f8re dem k\u00f8nsneutrale.<\/span><\/p>\n

Det viste sig senere, at Amazon havde tr\u00e6net v\u00e6rkt\u00f8jet p\u00e5 CV'er, der var blevet indsendt til virksomheden over en 10-\u00e5rig periode, hvoraf de fleste kom fra m\u00e6nd.\u00a0<\/span><\/p>\n

Som mange andre AI-systemer blev Amazons v\u00e6rkt\u00f8j p\u00e5virket af de data, det blev tr\u00e6net p\u00e5, hvilket f\u00f8rte til utilsigtet bias. Denne bias favoriserede mandlige kandidater og foretrak CV'er, der brugte et sprog, der var mere almindeligt i mandlige ingeni\u00f8rers CV'er.\u00a0<\/span><\/p>\n

P\u00e5 grund af problemer med de underliggende data anbefalede systemet desuden ofte ukvalificerede kandidater til forskellige job.\u00a0<\/span><\/p>\n

Den <\/span>Verdens \u00f8konomiske forum<\/span><\/a> sagde om Amazons rekrutteringssystem: \"For eksempel - som i Amazons tilf\u00e6lde - kan st\u00e6rke k\u00f8nsforskelle h\u00e6nge sammen med den type unders\u00f8gelse, der er foretaget. Disse sk\u00e6vheder i tr\u00e6ningsdata kan ogs\u00e5 opst\u00e5 p\u00e5 grund af d\u00e5rlig datakvalitet eller meget sm\u00e5, ikke-diverse datas\u00e6t, hvilket kan v\u00e6re tilf\u00e6ldet for virksomheder, der ikke opererer globalt og s\u00f8ger efter nichekandidater.\"<\/span><\/p>\n

Det lykkedes Amazon at genbruge en \"udvandet version\" af rekrutteringsmotoren til rudiment\u00e6re opgaver, s\u00e5som at fjerne duplikerede kandidatprofiler fra databaser.\u00a0<\/span><\/p>\n

De oprettede et nyt team, som skulle g\u00f8re endnu et fors\u00f8g med automatiseret screening af ans\u00e6ttelser, denne gang med fokus p\u00e5 at fremme mangfoldighed.<\/span><\/p>\n

Google k\u00e6mper med sine egne problemer med diskrimination og bias<\/span><\/h2>\n

I december 2020 meddelte Dr. Timnit Gebru, en f\u00f8rende AI-etiker hos Google, at den <\/span>Virksomheden havde fyret hende<\/span><\/a>.\u00a0<\/span><\/p>\n

Opsigelsen kom, efter at Dr. Gebru udtrykte bekymring over Googles tilgang til ans\u00e6ttelse af minoriteter og iboende bias i AI-systemer.<\/span><\/p>\n

F\u00f8r han forlod virksomheden, var Dr. Gebru klar til at udgive en artikel, der fremh\u00e6vede bias i Googles AI-modeller.\u00a0<\/span><\/p>\n

Efter at have indsendt artiklen til en akademisk konference afsl\u00f8rede Gebru, at en Google-manager bad hende om at tr\u00e6kke artiklen tilbage eller fjerne navnene p\u00e5 hende selv og de andre Google-forskere. Da hun n\u00e6gtede at efterkomme dette, accepterede Google en betinget fratr\u00e6delse og opsagde dermed Dr. Gebru's stilling med det samme.<\/span><\/p>\n