{"id":2501,"date":"2023-07-14T09:43:36","date_gmt":"2023-07-14T09:43:36","guid":{"rendered":"https:\/\/dailyai.com\/?p=2501"},"modified":"2024-03-28T00:47:11","modified_gmt":"2024-03-28T00:47:11","slug":"ai-in-recruitment-are-the-risks-worth-the-rewards-of-speed-and-efficiency","status":"publish","type":"post","link":"https:\/\/dailyai.com\/nb\/2023\/07\/ai-in-recruitment-are-the-risks-worth-the-rewards-of-speed-and-efficiency\/","title":{"rendered":"AI i rekruttering: Er risikoen verdt fordelene med hastighet og effektivitet?"},"content":{"rendered":"

Etter hvert som kunstig intelligens fortsetter \u00e5 gj\u00f8re sitt inntog i rekrutteringsprosessene, er det klart at teknologiens l\u00f8fte om effektivitet kommer med sine egne risikoer.\u00a0<\/strong><\/p>\n

If\u00f8lge 2022-data<\/a>bruker allerede 55% av selskapene AI-verkt\u00f8y til rekruttering.<\/span><\/p>\n

Selv om kunstig intelligens har fremskyndet tradisjonell ansettelsespraksis og eliminert hauger av CV-er og CV-er i prosessen, har den ogs\u00e5 reist kritiske sp\u00f8rsm\u00e5l om rettferdighet, forutinntatthet og selve naturen til menneskelig beslutningstaking.\u00a0<\/span><\/p>\n

AI-er er tross alt oppl\u00e6rt p\u00e5 menneskelige data, s\u00e5 de kan arve alle de skjevhetene og fordommene de lover \u00e5 utslette.\u00a0<\/span><\/p>\n

Er dette noe vi kan endre p\u00e5? Hva har vi l\u00e6rt av AI-rekruttering s\u00e5 langt?<\/p>\n

Meta anklages for diskriminerende annonsepraksis av menneskerettighetsgrupper<\/span><\/h2>\n

Data viser at noen <\/span>79% av arbeidss\u00f8kere<\/span><\/a> bruker sosiale medier til \u00e5 s\u00f8ke jobb, og mye tyder p\u00e5 at det er her diskrimineringen begynner.\u00a0<\/span><\/p>\n

Meta er for tiden st\u00e5r overfor flere anklager<\/a> fra europeiske menneskerettighetsorganisasjoner som hevder at Facebooks algoritme for m\u00e5lretting av stillingsannonser er partisk.\u00a0<\/span><\/p>\n

I juni ble den frivillige organisasjonen <\/span>Global Witness<\/span><\/a> unders\u00f8kte flere automatisk m\u00e5lrettede stillingsannonser p\u00e5 Facebook og fant ut at mange av dem opprettholdt kj\u00f8nnsskjevheter.<\/span><\/p>\n

For eksempel var det betydelig st\u00f8rre sannsynlighet for at menn ble vist annonser relatert til ingeni\u00f8rfag, mens det var betydelig st\u00f8rre sannsynlighet for at kvinner ble vist annonser relatert til undervisning.\u00a0<\/span><\/p>\n

Av annonsene som ble vist i Frankrike, var 93% av brukerne som fikk se en stillingsannonse for f\u00f8rskolel\u00e6rere, og 86% av dem som fikk se en stillingsannonse for psykologer, kvinner. Motsatt var det bare 25% av kvinnene som fikk se en pilotannonse, og bare 6% som fikk se en mekanikerannonse.\u00a0<\/span><\/p>\n

I Nederland var 85% av brukerne som ble vist en stillingsannonse for l\u00e6rere, og 96% av dem som ble vist en stillingsannonse for resepsjonister, kvinner. Lignende resultater ble observert i mange andre land, blant annet Storbritannia, India og S\u00f8r-Afrika.\u00a0<\/span><\/p>\n

\"Facebooks
Facebooks annonsem\u00e5lretting var sv\u00e6rt skjev i alle de testede landene, noe som gjenspeiler kj\u00f8nnsstereotypier. Kilde: Facebook: Global Witness via CNN<\/a>.<\/figcaption><\/figure>\n

I en <\/span>intervju med CNN<\/span><\/a>\"V\u00e5r bekymring er at Facebook forsterker fordommene i samfunnet og faktisk \u00f8delegger mulighetene for fremgang og likeverd p\u00e5 arbeidsplassen\", sier Naomi Hirst fra Global Witness.<\/span><\/p>\n

Sammen med Bureau Clara Wichmann og Fondation des Femmes har Global Witness klaget Meta inn for menneskerettighets- og personvernmyndigheter i Frankrike og Nederland.\u00a0<\/span><\/p>\n

Gruppene oppfordrer til en etterforskning av hvorvidt Metas praksis bryter med menneskerettighetene eller personvernlovene. Hvis anklagene holder, kan Meta bli ilagt b\u00f8ter og sanksjoner.\u00a0<\/span><\/p>\n

En talsperson for Meta svarte: \"Systemet tar hensyn til ulike typer informasjon for \u00e5 pr\u00f8ve \u00e5 vise folk annonser de vil v\u00e6re mest interessert i.\"\u00a0<\/span><\/p>\n

Dette er ikke f\u00f8rste gang Meta har sl\u00e5tt bort slik kritikk - selskapet m\u00f8tte flere s\u00f8ksm\u00e5l i 2019<\/a> og forpliktet seg til \u00e5 endre annonseleveringssystemet for \u00e5 unng\u00e5 skjevheter basert p\u00e5 beskyttede egenskaper som kj\u00f8nn og rase.<\/span><\/p>\n

Pat de Br\u00fan fra Amnesty International var kritisk til Global Witness' funn. \"Forskning viser konsekvent hvordan Facebooks algoritmer gir sv\u00e6rt ulike resultater og ofte forsterker marginalisering og diskriminering\", sier hun til CNN.<\/span><\/p>\n

Amazon skroter hemmelig AI-rekrutteringsverkt\u00f8y som viste skjevhet mot kvinner<\/span><\/h2>\n

Amazon utviklet et AI-rekrutteringsverkt\u00f8y mellom 2014 og 2017, f\u00f8r de inns\u00e5 at verkt\u00f8yet var partisk i utvelgelsen av programvareutviklerjobber og andre tekniske stillinger. I 2018 hadde Amazon droppet verkt\u00f8yet helt.\u00a0<\/span><\/p>\n

AI-systemet straffet CV-er som inneholdt ordet \"kvinner\" og \"kvinners\", og nedgraderte ferdighetene til kvinnelige nyutdannede.<\/span><\/p>\n

Systemet mislyktes selv etter at Amazon fors\u00f8kte \u00e5 redigere algoritmene for \u00e5 gj\u00f8re dem kj\u00f8nnsn\u00f8ytrale.<\/span><\/p>\n

Det viste seg senere at Amazon hadde trent verkt\u00f8yet p\u00e5 CV-er som ble sendt inn til selskapet over en ti\u00e5rsperiode, og de fleste av disse kom fra menn.\u00a0<\/span><\/p>\n

I likhet med mange andre AI-systemer ble Amazons verkt\u00f8y p\u00e5virket av dataene det ble trent p\u00e5, noe som f\u00f8rte til utilsiktede skjevheter. Denne skjevheten favoriserte mannlige kandidater og foretrakk CV-er som brukte et spr\u00e5k som var mer vanlig \u00e5 finne i mannlige ingeni\u00f8rers CV-er.\u00a0<\/span><\/p>\n

P\u00e5 grunn av problemer med de underliggende dataene anbefalte systemet dessuten ofte ukvalifiserte kandidater til ulike jobber.\u00a0<\/span><\/p>\n

Den <\/span>Verdens \u00f8konomiske forum<\/span><\/a> om Amazons rekrutteringssystem: \"For eksempel - som i Amazons tilfelle - kan sterk kj\u00f8nnsubalanse ha sammenheng med hvilken type studie som er gjennomf\u00f8rt. Disse skjevhetene i treningsdataene kan ogs\u00e5 oppst\u00e5 p\u00e5 grunn av d\u00e5rlig datakvalitet eller sv\u00e6rt sm\u00e5, ikke-mangfoldige datasett, noe som kan v\u00e6re tilfelle for selskaper som ikke opererer globalt og s\u00f8ker etter nisjekandidater.\"<\/span><\/p>\n

Amazon klarte \u00e5 gjenbruke en \"utvannet versjon\" av rekrutteringsmotoren til rudiment\u00e6re oppgaver, som \u00e5 eliminere dupliserte kandidatprofiler fra databaser.\u00a0<\/span><\/p>\n

De opprettet et nytt team for \u00e5 gj\u00f8re et nytt fors\u00f8k med automatisert screening, denne gangen med fokus p\u00e5 \u00e5 fremme mangfold.<\/span><\/p>\n

Google kjemper mot sine egne problemer med diskriminering og fordommer<\/span><\/h2>\n

I desember 2020 kunngjorde Dr. Timnit Gebru, en ledende AI-etiker hos Google, at den <\/span>selskapet hadde gitt henne sparken<\/span><\/a>.\u00a0<\/span><\/p>\n

Oppsigelsen kom etter at Dr. Gebru uttrykte bekymring for Googles tiln\u00e6rming til ansettelse av minoriteter og iboende skjevheter i AI-systemer.<\/span><\/p>\n

F\u00f8r han forlot selskapet, skulle Gebru publisere en artikkel som belyste skjevheter i Googles AI-modeller.\u00a0<\/span><\/p>\n

Etter \u00e5 ha sendt inn artikkelen til en akademisk konferanse, avsl\u00f8rte Gebru at en Google-leder ba henne om \u00e5 trekke tilbake artikkelen eller fjerne navnene p\u00e5 seg selv og de andre Google-forskerne. Da hun nektet \u00e5 etterkomme dette, aksepterte Google et betinget forslag om avskjed, noe som i praksis innebar at Gebru sa opp stillingen sin umiddelbart.<\/span><\/p>\n