New York City er den første byen i verden som har vedtatt en lov som regulerer bruken av automatiserte verktøy for ansettelsesbeslutninger (AEDT). Forskere fra Cornell University har funnet ut at vanskeligheter med å tolke og håndheve loven fører til at få bedrifter holder seg til reglene.
AEDT-er bruker maskinlæring, statistisk modellering, dataanalyse eller kunstig intelligens for å hjelpe arbeidsgivere og bemanningsbyråer med å avgjøre hvilke søkere som skal ansettes, samtidig som de erstatter skjønnsmessige beslutninger.
Disse verktøyene bruker kunstig intelligens til å behandle hauger av CV-er, analysere følelser eller psykologiske faktorer fra et intervju og en rekke andre faktorer for til slutt å si: "Ansett denne fyren".
Med de iboende skjevhetene i AI-modeller kan AEDTs manifestere skjevheter i utvelgelsen av jobbkandidatene de anbefaler, derav innføringen av Lokal lov 144 (LL144).
Loven, som ble vedtatt 1. januar 2023 med ikrafttredelse i juli i fjor, har som mål å bekjempe den potensielle skaden bruken av AEDT-er kan medføre for marginaliserte arbeidssøkere.
Loven sier at arbeidsgivere i New York City kan bruke AEDT, men de må få verktøyene sine revidert for skjevheter, offentliggjøre revisjonene og informere jobbsøkere om at de bruker verktøyet i ansettelsesprosessen.
Hvordan går det med loven?
Forskere fra Cornell University fant at uklarheten i definisjonen av hva AEDT er og hvordan de brukes, kan være årsaken til den svært lave etterlevelsen.
Forskerne sendte ut 155 studenter som potensielle jobbsøkere, og fant bare 18 partiskhetsrevisjoner og 11 åpenhetsmeldinger fra nesten 400 arbeidsgivere som de analyserte.
Er det slik at arbeidsgivere ikke gjennomfører revisjoner eller publiserer åpenhetsmeldinger fordi de ikke oppfyller lovens terskelverdier? Kanskje, men med den rapporterte utbredte bruken av AEDT-er er det lite sannsynlig.
Lucas Wright, doktorgradsstipendiat og medforfatter av studien, sier: "Vi fant ut at fordi loven gir arbeidsgivere frihet til å avgjøre om loven gjelder for deres bruk av automatiserte verktøy for ansettelsesbeslutninger (AEDT), kan vi bare si noe om hvorvidt loven overholdes, ikke om den ikke overholdes."
Selv om tanken bak loven var god, sa Wright: "Selv om loven har skapt et marked for uavhengige algoritmerevisorer og ført til en viss åpenhet, har den faktisk skapt insentiver for arbeidsgivere til å unngå revisjon."
AI-verktøy kommer i økende grad til å bli brukt til å ta ansettelsesbeslutninger, og med mindre strenge regler er kodet inn i dem, vil AEDT-ene fortsette å videreføre skjevheter som lå i opplæringsdataene deres.
LL144 er en god begynnelse, men den sier ikke hva som skal skje hvis en AEDT ikke består en partiskhetsrevisjon. Det står også at hvem som helst kan være revisor, så lenge de ikke jobber for arbeidsgiveren eller utgiveren av AEDT.
Overtredelser av LL144 medfører bøter på mellom $500 og $1500. Loven baserer seg på selvregulering og gir ikke Department of Consumer and Worker Protection (DCWP) proaktive etterforsknings- eller oppdagelsesbeføyelser.
Det er derfor ikke overraskende at etterlevelsen er lav. Hvis lovgiverne ønsker å beskytte arbeidssøkere mot en potensielt feilslått AI som bestemmer fremtiden deres, bør de kanskje se på LL144 på nytt.
