Det er kanskje fristende \u00e5 se for seg kunstig intelligens som en empirisk teknologi, understreket av objektiviteten i matematikk, kode og beregninger.\u00a0<\/span><\/p>\n Vi har imidlertid innsett at beslutningene som tas av AI-systemer, er sv\u00e6rt subjektive basert p\u00e5 dataene de blir eksponert for - og det er mennesker som bestemmer hvordan disse dataene skal velges ut og settes sammen.\u00a0<\/span><\/p>\n Her ligger det en utfordring, ettersom AI-treningsdata ofte inneholder fordommer og diskriminering som menneskeheten kjemper mot.<\/span><\/p>\n Selv tilsynelatende subtile former for ubevisste skjevheter kan forsterkes av modelltreningsprosessen, og til slutt avsl\u00f8re seg i form av blant annet feilaktige ansiktsmatcher i politisammenheng, kredittnekt, feildiagnostisering av sykdommer og svekkede sikkerhetsmekanismer for selvkj\u00f8rende kj\u00f8ret\u00f8y.\u00a0<\/span><\/p>\n Menneskehetens fors\u00f8k p\u00e5 \u00e5 forhindre diskriminering i hele samfunnet er fortsatt et p\u00e5g\u00e5ende arbeid, men kunstig intelligens er en viktig drivkraft i beslutningsprosessen akkurat n\u00e5.<\/span><\/p>\n Kan vi jobbe raskt nok til \u00e5 synkronisere AI med moderne verdier og forhindre forutinntatte livsendrende beslutninger og atferd?\u00a0<\/span><\/p>\n I l\u00f8pet av det siste ti\u00e5ret har AI-systemer vist seg \u00e5 speile samfunnets fordommer. <\/span><\/p>\n Disse systemene er ikke forutinntatte i seg selv - i stedet absorberer de skjevhetene til skaperne og dataene de er trent p\u00e5.\u00a0<\/span><\/p>\n AI-systemer, i likhet med mennesker, l\u00e6rer gjennom eksponering. Menneskehjernen er et tilsynelatende endel\u00f8st register av informasjon - et bibliotek med nesten ubegrensede hyller der vi lagrer erfaringer, kunnskap og minner.\u00a0<\/span><\/p>\n Nevrovitenskapelig <\/span>studier<\/span><\/a> viser at hjernen egentlig ikke har noen \"maksimal kapasitet\", og at den fortsetter \u00e5 sortere og lagre informasjon langt opp i h\u00f8y alder.\u00a0<\/span><\/p>\n Selv om den langt fra er perfekt, hjelper hjernens progressive, iterative l\u00e6ringsprosess oss med \u00e5 tilpasse oss nye kulturelle og samfunnsmessige verdier, fra \u00e5 gi kvinner stemmerett og akseptere ulike identiteter til \u00e5 gj\u00f8re slutt p\u00e5 slaveri og andre former for bevisste fordommer. <\/span><\/p>\n W<\/span>i lever n\u00e5 i en tid der AI-verkt\u00f8y brukes til \u00e5 ta kritiske beslutninger i stedet for menneskelig d\u00f8mmekraft.\u00a0<\/span><\/p>\n Mange maskinl\u00e6ringsmodeller (ML) l\u00e6rer av treningsdata som danner grunnlaget for beslutningstakingen, og kan ikke ta inn ny informasjon like effektivt som den menneskelige hjernen. Derfor klarer de ofte ikke \u00e5 ta de oppdaterte, \u00f8yeblikksaktuelle beslutningene vi har blitt avhengige av dem for.\u00a0<\/span><\/p>\n AI-modeller brukes for eksempel til \u00e5 identifisere ansiktstreff i forbindelse med rettsh\u00e5ndhevelse, <\/span>analysere CV-er for jobbs\u00f8knader<\/span><\/a>og ta helsekritiske beslutninger i kliniske situasjoner.<\/span><\/p>\n Etter hvert som samfunnet fortsetter \u00e5 integrere AI i hverdagen v\u00e5r, m\u00e5 vi s\u00f8rge for at den er lik og n\u00f8yaktig for alle. <\/span><\/p>\n Dette er ikke tilfelle for \u00f8yeblikket.\u00a0\u00a0<\/span><\/p>\n Det finnes mange eksempler p\u00e5 KI-relaterte fordommer og diskriminering i den virkelige verden.\u00a0<\/span><\/p>\n I noen tilfeller kan AI-skjevheter f\u00e5 livsendrende konsekvenser, mens de i andre tilfeller holder seg i bakgrunnen og p\u00e5virker beslutninger p\u00e5 en subtil m\u00e5te.\u00a0<\/span><\/p>\n Et MIT-treningsdatasett fra 2008 kalt <\/span>Sm\u00e5 bilder<\/span><\/a> inneholdt omtrent 80 000 000 bilder fordelt p\u00e5 rundt 75 000 kategorier.\u00a0<\/span><\/p>\n Det ble opprinnelig utviklet for \u00e5 l\u00e6re AI-systemer \u00e5 gjenkjenne personer og objekter i bilder, og ble et popul\u00e6rt referansedatasett for ulike bruksomr\u00e5der innen datasyn (CV).\u00a0<\/span><\/p>\n A 2020 analyse av The Register<\/a> fant at mange <\/span>Tiny Images inneholdt obsk\u00f8ne, rasistiske og sexistiske merkelapper.\u00a0<\/span><\/p>\n Antonio Torralba fra MIT sa at laboratoriet ikke var klar over disse st\u00f8tende merkelappene, og sa til The Register: \"Det er klart at vi burde ha screenet dem manuelt.\" MIT ga senere ut en uttalelse om at de hadde fjernet datasettet fra tjenesten.<\/span><\/p>\n Dette er ikke den eneste gangen et tidligere referansedatasett har vist seg \u00e5 v\u00e6re fullt av problemer. Labeled Faces in the Wild (LFW), et datasett med kjendisansikter som brukes mye i ansiktsgjenkjenningsoppgaver, best\u00e5r av 77,5% menn og 83,5% personer med hvit hudfarge.\u00a0<\/span><\/p>\n Mange av disse veterandatasettene har funnet veien inn i moderne AI-modeller, men stammer fra en tid med AI-utvikling der fokuset var \u00e5 bygge systemer som <\/span>bare jobbe <\/span><\/i>snarere enn de som er egnet for bruk i virkelige scenarier.\u00a0<\/span><\/p>\n N\u00e5r et AI-system er oppl\u00e6rt p\u00e5 et slikt datasett, har det ikke n\u00f8dvendigvis samme privilegium som menneskehjernen n\u00e5r det gjelder \u00e5 rekalibrere seg til dagens verdier. <\/span><\/p>\n Selv om modeller kan oppdateres iterativt, er det en langsom og ufullkommen prosess som ikke kan matche tempoet i den menneskelige utviklingen.\u00a0<\/span><\/p>\n I 2019 ble <\/span>Amerikanske myndigheter fant<\/span><\/a> at de beste ansiktsgjenkjenningssystemene feilidentifiserer svarte mennesker 5 til 10 ganger mer enn hvite mennesker.\u00a0<\/span><\/p>\n Dette er ikke bare en statistisk anomali - det har alvorlige konsekvenser i den virkelige verden, alt fra at Google Foto identifiserer svarte mennesker som gorillaer til at selvkj\u00f8rende biler ikke gjenkjenner m\u00f8rkhudede personer og kj\u00f8rer inn i dem.\u00a0<\/span><\/p>\n I tillegg var det en rekke urettmessige arrestasjoner og fengslinger som involverte falske ansiktstrekk, kanskje mest utbredt <\/span>Nijeer Parks'<\/span><\/a> som feilaktig ble anklaget for butikktyveri og trafikklovbrudd, til tross for at han befant seg 50 kilometer unna hendelsen. Parks tilbrakte deretter 10 dager i fengsel og m\u00e5tte ut med tusenvis av kroner i advokatutgifter.\u00a0<\/span><\/p>\n\u00c5 avdekke skjevheter i AI<\/span><\/h2>\n
Casestudier i AI-skjevhet<\/span><\/h2>\n
1. MITs skjevhet i datasettet<\/span><\/h3>\n
![\"Liten](\"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/07\/statement-1024x281.png\")
2: Bildegjenkjenning: skjevheter mot personer med m\u00f8rkere hudfarge<\/span><\/h3>\n
![\"Nijeer](\"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/07\/facialmatchparks-1024x576.jpg\")