Det er m\u00e5ske fristende at forestille sig AI som en empirisk teknologi, der understreges af matematikkens, kodens og beregningernes objektivitet.\u00a0<\/span><\/p>\n Men vi har indset, at de beslutninger, som AI-systemerne tr\u00e6ffer, er meget subjektive baseret p\u00e5 de data, de uds\u00e6ttes for - og det er mennesker, der beslutter, hvordan disse data skal udv\u00e6lges og samles.\u00a0<\/span><\/p>\n Heri ligger en udfordring, da AI-tr\u00e6ningsdata ofte er udtryk for de fordomme og den diskrimination, som menneskeheden k\u00e6mper mod.<\/span><\/p>\n Selv tilsyneladende subtile former for ubevidst bias kan forst\u00e6rkes af modeltr\u00e6ningsprocessen og i sidste ende afsl\u00f8re sig i form af forkerte ansigtsmatch i retsh\u00e5ndh\u00e6velsessammenh\u00e6nge, afslag p\u00e5 kredit, fejldiagnosticering af sygdomme og forringede sikkerhedsmekanismer for selvk\u00f8rende k\u00f8ret\u00f8jer, blandt andre ting.\u00a0<\/span><\/p>\n Menneskehedens fors\u00f8g p\u00e5 at forhindre diskrimination p\u00e5 tv\u00e6rs af samfundet er stadig et igangv\u00e6rende arbejde, men AI driver kritisk beslutningstagning lige nu.<\/span><\/p>\n Kan vi arbejde hurtigt nok til at synkronisere AI med moderne v\u00e6rdier og forhindre forudindtagede livs\u00e6ndrende beslutninger og adf\u00e6rd?\u00a0<\/span><\/p>\n I det sidste \u00e5rti har AI-systemer vist sig at afspejle samfundets fordomme. <\/span><\/p>\n Disse systemer er ikke i sig selv forudindtagede - i stedet absorberer de deres skaberes forudindtagethed og de data, de er tr\u00e6net p\u00e5.\u00a0<\/span><\/p>\n AI-systemer l\u00e6rer ligesom mennesker ved at blive eksponeret. Den menneskelige hjerne er et tilsyneladende endel\u00f8st informationsregister - et bibliotek med n\u00e6sten ubegr\u00e6nsede hylder, hvor vi opbevarer oplevelser, viden og minder.\u00a0<\/span><\/p>\n Neurovidenskabelig <\/span>studier<\/span><\/a> viser, at hjernen ikke har nogen \"maksimal kapacitet\" og forts\u00e6tter med at sortere og lagre information langt op i alderen.\u00a0<\/span><\/p>\n Selv om den langt fra er perfekt, hj\u00e6lper hjernens progressive, iterative l\u00e6ringsproces os med at tilpasse os nye kulturelle og samfundsm\u00e6ssige v\u00e6rdier, fra at give kvinder stemmeret og acceptere forskellige identiteter til at g\u00f8re en ende p\u00e5 slaveri og andre former for bevidste fordomme. <\/span><\/p>\n W<\/span>e lever nu i en tid, hvor AI-v\u00e6rkt\u00f8jer bruges til kritisk beslutningstagning i stedet for menneskelig d\u00f8mmekraft.\u00a0<\/span><\/p>\n Mange maskinl\u00e6ringsmodeller (ML) l\u00e6rer af tr\u00e6ningsdata, der danner grundlag for deres beslutningstagning, og kan ikke inddrage nye oplysninger lige s\u00e5 effektivt som den menneskelige hjerne. Derfor er de ofte ikke i stand til at producere de opdaterede beslutninger, som vi er kommet til at stole p\u00e5.\u00a0<\/span><\/p>\n For eksempel bruges AI-modeller til at identificere ansigtsmatch til retsh\u00e5ndh\u00e6velsesform\u00e5l, <\/span>analysere CV'er til jobans\u00f8gninger<\/span><\/a>og tr\u00e6ffe sundhedskritiske beslutninger i kliniske sammenh\u00e6nge.<\/span><\/p>\n N\u00e5r samfundet forts\u00e6tter med at integrere AI i vores hverdag, skal vi sikre, at det er lige og pr\u00e6cist for alle. <\/span><\/p>\n Det er ikke tilf\u00e6ldet i \u00f8jeblikket.\u00a0\u00a0<\/span><\/p>\n Der er mange eksempler fra den virkelige verden p\u00e5 AI-relateret bias, fordomme og diskrimination.\u00a0<\/span><\/p>\n I nogle tilf\u00e6lde er konsekvenserne af AI-bias livsforandrende, mens de i andre tilf\u00e6lde bliver h\u00e6ngende i baggrunden og p\u00e5virker beslutninger p\u00e5 en subtil m\u00e5de.\u00a0<\/span><\/p>\n Et MIT-tr\u00e6ningsdatas\u00e6t bygget i 2008 kaldet <\/span>Sm\u00e5 billeder<\/span><\/a> indeholdt ca. 80.000.000 billeder fordelt p\u00e5 ca. 75.000 kategorier.\u00a0<\/span><\/p>\n Det blev oprindeligt udt\u00e6nkt til at l\u00e6re AI-systemer at genkende mennesker og objekter i billeder og blev et popul\u00e6rt benchmarking-datas\u00e6t til forskellige anvendelser inden for computersyn (CV).\u00a0<\/span><\/p>\n A 2020 analyse af The Register<\/a> fandt ud af, at mange <\/span>Tiny Images indeholdt uanst\u00e6ndige, racistiske og sexistiske etiketter.\u00a0<\/span><\/p>\n Antonio Torralba fra MIT sagde, at laboratoriet ikke kendte til disse st\u00f8dende etiketter, og sagde til The Register: \"Det er klart, at vi burde have screenet dem manuelt.\" MIT udsendte senere en erkl\u00e6ring om, at de havde fjernet datas\u00e6ttet fra tjenesten.<\/span><\/p>\n Det er ikke den eneste gang, et tidligere benchmark-datas\u00e6t har vist sig at v\u00e6re fyldt med problemer. Labeled Faces in the Wild (LFW), et datas\u00e6t med ber\u00f8mthedsansigter, der bruges flittigt i ansigtsgenkendelsesopgaver, best\u00e5r af 77,5% m\u00e6nd og 83,5% hvidhudede personer.\u00a0<\/span><\/p>\n Mange af disse veterandatas\u00e6t har fundet vej til moderne AI-modeller, men stammer fra en \u00e6ra med AI-udvikling, hvor fokus var p\u00e5 at bygge systemer, der <\/span>bare arbejde <\/span><\/i>snarere end dem, der er egnede til implementering i virkelige scenarier.\u00a0<\/span><\/p>\n N\u00e5r et AI-system er tr\u00e6net p\u00e5 et s\u00e5dant datas\u00e6t, har det ikke n\u00f8dvendigvis det samme privilegium som den menneskelige hjerne til at omkalibrere til nutidige v\u00e6rdier. <\/span><\/p>\n Modeller kan opdateres iterativt, men det er en langsom og ufuldkommen proces, der ikke kan matche tempoet i den menneskelige udvikling.\u00a0<\/span><\/p>\n I 2019 vil <\/span>Den amerikanske regering fandt<\/span><\/a> at de bedste ansigtsgenkendelsessystemer fejlidentificerer sorte mennesker 5 til 10 gange mere end hvide mennesker.\u00a0<\/span><\/p>\n Det er ikke bare en statistisk anomali - det har alvorlige konsekvenser i den virkelige verden, lige fra Google Fotos, der identificerer sorte mennesker som gorillaer, til selvk\u00f8rende biler, der ikke genkender m\u00f8rkhudede personer og k\u00f8rer ind i dem.\u00a0<\/span><\/p>\n Derudover var der en b\u00f8lge af uretm\u00e6ssige anholdelser og f\u00e6ngslinger, der involverede falske ansigtsmatch, m\u00e5ske mest produktivt <\/span>Nijeer Parks'<\/span><\/a> som fejlagtigt blev anklaget for butikstyveri og f\u00e6rdselsforseelser, selv om han befandt sig 50 km v\u00e6k fra h\u00e6ndelsen. Parks tilbragte efterf\u00f8lgende 10 dage i f\u00e6ngsel og m\u00e5tte punge ud med tusindvis af kroner i sagsomkostninger.\u00a0<\/span><\/p>\nAfd\u00e6kning af bias i AI<\/span><\/h2>\n
Casestudier i AI-bias<\/span><\/h2>\n
1. MIT's sk\u00e6vhed i datas\u00e6ttet<\/span><\/h3>\n
![\"Lille](\"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/07\/statement-1024x281.png\")
2: Billedgenkendelse: bias mod m\u00f8rkhudede personer<\/span><\/h3>\n
![\"Nijeer](\"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/07\/facialmatchparks-1024x576.jpg\")