Det \u00e4r kanske frestande att f\u00f6rest\u00e4lla sig AI som en empirisk teknik, understruken av objektiviteten i matematik, kod och ber\u00e4kningar.\u00a0<\/span><\/p>\n Vi har dock insett att de beslut som fattas av AI-system \u00e4r mycket subjektiva och baseras p\u00e5 de data som de exponeras f\u00f6r - och det \u00e4r m\u00e4nniskor som best\u00e4mmer hur dessa data ska v\u00e4ljas ut och sammanst\u00e4llas.\u00a0<\/span><\/p>\n D\u00e4ri ligger en utmaning, eftersom AI-tr\u00e4ningsdata ofta f\u00f6rkroppsligar de f\u00f6rdomar och den diskriminering som m\u00e4nskligheten k\u00e4mpar mot.<\/span><\/p>\n \u00c4ven till synes subtila former av omedvetna f\u00f6rdomar kan f\u00f6rstoras av modelltr\u00e4ningsprocessen och s\u00e5 sm\u00e5ningom visa sig i form av bland annat felaktiga ansiktsmatchningar i brottsbek\u00e4mpande sammanhang, nekad kredit, feldiagnostisering av sjukdomar och f\u00f6rs\u00e4mrade s\u00e4kerhetsmekanismer f\u00f6r sj\u00e4lvk\u00f6rande fordon.\u00a0<\/span><\/p>\n M\u00e4nsklighetens f\u00f6rs\u00f6k att f\u00f6rhindra diskriminering i samh\u00e4llet \u00e4r fortfarande ett p\u00e5g\u00e5ende arbete, men AI driver p\u00e5 kritiskt beslutsfattande just nu.<\/span><\/p>\n Kan vi arbeta tillr\u00e4ckligt snabbt f\u00f6r att synkronisera AI med moderna v\u00e4rderingar och f\u00f6rhindra partiska livsf\u00f6r\u00e4ndrande beslut och beteenden?\u00a0<\/span><\/p>\n Under det senaste decenniet har AI-system visat sig kunna spegla samh\u00e4llets f\u00f6rdomar. <\/span><\/p>\n Dessa system \u00e4r inte partiska i sig sj\u00e4lva - i st\u00e4llet absorberar de de f\u00f6rdomar som deras skapare har och de data som de tr\u00e4nas p\u00e5.\u00a0<\/span><\/p>\n AI-system, precis som m\u00e4nniskor, l\u00e4r sig genom exponering. Den m\u00e4nskliga hj\u00e4rnan \u00e4r ett till synes o\u00e4ndligt index av information - ett bibliotek med n\u00e4stan obegr\u00e4nsat antal hyllor d\u00e4r vi lagrar erfarenheter, kunskap och minnen.\u00a0<\/span><\/p>\n Neurovetenskaplig <\/span>studier<\/span><\/a> visar att hj\u00e4rnan egentligen inte har n\u00e5gon \"maxkapacitet\" utan forts\u00e4tter att sortera och lagra information l\u00e5ngt upp i \u00e5ldrarna.\u00a0<\/span><\/p>\n \u00c4ven om hj\u00e4rnans progressiva, iterativa inl\u00e4rningsprocess \u00e4r l\u00e5ngt ifr\u00e5n perfekt hj\u00e4lper den oss att anpassa oss till nya kulturella och samh\u00e4lleliga v\u00e4rderingar, fr\u00e5n att l\u00e5ta kvinnor r\u00f6sta och acceptera olika identiteter till att avskaffa slaveriet och andra former av medvetna f\u00f6rdomar. <\/span><\/p>\n W<\/span>i lever nu i en tid d\u00e4r AI-verktyg anv\u00e4nds f\u00f6r kritiskt beslutsfattande i st\u00e4llet f\u00f6r m\u00e4nskliga bed\u00f6mningar.\u00a0<\/span><\/p>\n M\u00e5nga modeller f\u00f6r maskininl\u00e4rning (ML) l\u00e4r sig fr\u00e5n tr\u00e4ningsdata som ligger till grund f\u00f6r deras beslutsfattande och kan inte ta in ny information lika effektivt som den m\u00e4nskliga hj\u00e4rnan. D\u00e4rf\u00f6r misslyckas de ofta med att producera de uppdaterade, minutaktuella beslut som vi har kommit att vara beroende av dem f\u00f6r.\u00a0<\/span><\/p>\n AI-modeller anv\u00e4nds t.ex. f\u00f6r att identifiera ansiktsmatchningar i brottsbek\u00e4mpande syfte, <\/span>analysera CV:n f\u00f6r jobbans\u00f6kningar<\/span><\/a>och fatta h\u00e4lsokritiska beslut i kliniska milj\u00f6er.<\/span><\/p>\n N\u00e4r samh\u00e4llet forts\u00e4tter att integrera AI i v\u00e5ra vardagsliv m\u00e5ste vi se till att det \u00e4r lika och korrekt f\u00f6r alla. <\/span><\/p>\n F\u00f6r n\u00e4rvarande \u00e4r detta inte fallet.\u00a0\u00a0<\/span><\/p>\n Det finns m\u00e5nga exempel p\u00e5 AI-relaterade f\u00f6rdomar och diskriminering i verkligheten.\u00a0<\/span><\/p>\n I vissa fall \u00e4r effekterna av AI-bias livsf\u00f6r\u00e4ndrande, medan de i andra fall dr\u00f6jer sig kvar i bakgrunden och p\u00e5verkar beslut p\u00e5 ett subtilt s\u00e4tt.\u00a0<\/span><\/p>\n Ett tr\u00e4ningsdataset fr\u00e5n MIT som byggdes 2008 och kallas <\/span>Sm\u00e5 bilder<\/span><\/a> inneh\u00f6ll cirka 80.000.000.000 bilder i cirka 75.000 kategorier.\u00a0<\/span><\/p>\n Det var ursprungligen t\u00e4nkt att l\u00e4ra AI-system att k\u00e4nna igen m\u00e4nniskor och objekt i bilder och blev ett popul\u00e4rt benchmarkingdataset f\u00f6r olika applikationer inom datorseende (CV).\u00a0<\/span><\/p>\n A 2020 analys av The Register<\/a> konstaterade att m\u00e5nga <\/span>Tiny Images inneh\u00f6ll obscena, rasistiska och sexistiska etiketter.\u00a0<\/span><\/p>\n Antonio Torralba fr\u00e5n MIT sa att laboratoriet inte var medvetet om dessa st\u00f6tande etiketter och sa till The Register: \"Det \u00e4r uppenbart att vi borde ha manuellt screenat dem.\" MIT sl\u00e4ppte senare ett uttalande f\u00f6r att s\u00e4ga att de hade tagit bort datasetet fr\u00e5n tj\u00e4nsten.<\/span><\/p>\n Detta \u00e4r inte den enda g\u00e5ngen en tidigare referensdataupps\u00e4ttning har visat sig vara full av problem. LFW (Labeled Faces in the Wild), ett dataset med k\u00e4ndisansikten som anv\u00e4nds flitigt i ansiktsigenk\u00e4nningsuppgifter, best\u00e5r av 77,5% m\u00e4n och 83,5% vithyade individer.\u00a0<\/span><\/p>\n M\u00e5nga av dessa gamla dataset har hittat sin v\u00e4g in i moderna AI-modeller men h\u00e4rstammar fr\u00e5n en era av AI-utveckling d\u00e4r fokus l\u00e5g p\u00e5 att bygga system som <\/span>bara arbeta <\/span><\/i>snarare \u00e4n s\u00e5dana som \u00e4r l\u00e4mpliga f\u00f6r anv\u00e4ndning i verkliga scenarier.\u00a0<\/span><\/p>\n N\u00e4r ett AI-system v\u00e4l har tr\u00e4nats p\u00e5 ett s\u00e5dant dataset har det inte n\u00f6dv\u00e4ndigtvis samma privilegium som den m\u00e4nskliga hj\u00e4rnan n\u00e4r det g\u00e4ller att kalibrera om till samtida v\u00e4rderingar. <\/span><\/p>\n \u00c4ven om modeller kan uppdateras iterativt \u00e4r det en l\u00e5ngsam och ofullkomlig process som inte kan matcha tempot i den m\u00e4nskliga utvecklingen.\u00a0<\/span><\/p>\n Under 2019 kommer <\/span>Amerikanska regeringen hittade<\/span><\/a> att de b\u00e4sta ansiktsigenk\u00e4nningssystemen felidentifierar svarta m\u00e4nniskor 5-10 g\u00e5nger mer \u00e4n vita m\u00e4nniskor.\u00a0<\/span><\/p>\n Detta \u00e4r inte bara en statistisk anomali - det har allvarliga konsekvenser i verkligheten, allt fr\u00e5n att Google Foto identifierar svarta m\u00e4nniskor som gorillor till att sj\u00e4lvk\u00f6rande bilar inte k\u00e4nner igen m\u00f6rkhyade personer och k\u00f6r p\u00e5 dem.\u00a0<\/span><\/p>\n Dessutom f\u00f6rekom det en m\u00e4ngd felaktiga arresteringar och f\u00e4ngelsestraff med falska ansiktsmatchningar, kanske mest produktiva <\/span>Nijeer Parks<\/span><\/a> som felaktigt anklagades f\u00f6r snatteri och trafikbrott, trots att han befann sig 30 mil fr\u00e5n h\u00e4ndelsen. Parks tillbringade d\u00e4refter 10 dagar i f\u00e4ngelse och fick betala tusentals kronor i advokatkostnader.\u00a0<\/span><\/p>\nAvsl\u00f6ja partiskhet i AI<\/span><\/h2>\n
Fallstudier av AI-bias<\/span><\/h2>\n
1. MIT:s f\u00f6rdomar om dataset<\/span><\/h3>\n
![\"Liten](\"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/07\/statement-1024x281.png\")
2: Bildigenk\u00e4nning: f\u00f6rdomar mot m\u00f6rkhyade personer<\/span><\/h3>\n
![\"Nijeer](\"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/07\/facialmatchparks-1024x576.jpg\")