Ny forskning fra Bank of England hævder, at finansielle systemer kan blive truet af forudindtaget AI-beslutningstagning.
Ny forskning fra Bank of England tyder på, at algoritmer kan afspejle iboende skævheder i datasæt og manifestere uretfærdig behandling af forbrugere eller fagfolk.
Kathleen Blake, der er analytiker i Bank of England, udtrykte bekymring over denne tendens. Hun kommenterede, at AI-drevet diskrimination og forudindtagethed kan bringe finansielle systemer i fare ved at underminere tilliden.
Desuden påpegede hun, at virksomheder, der anvender sådan "partisk eller unfair AI", kan udsætte sig selv for betydelige juridiske og omdømmemæssige risici, hvilket kan føre til kontrol fra myndighedernes side.
Ministeriet for videnskab, innovation og teknologi tilføjede: "Vi står ved en skillevej i menneskehedens historie, og at vende den anden vej ville være en monumental forpasset mulighed for menneskeheden."
Blake uddybede sin pointe og henviste til visse bemærkelsesværdige AI-relaterede hændelser, der gav anledning til forudindtagethed. For eksempel kom en algoritme, som Apple og Goldman Sachs havde udviklet til evaluering af kreditkortansøgninger, under beskydning, fordi den angiveligt tilbød kvinder lavere kreditgrænser end deres mandlige kolleger.
Denne uoverensstemmelse vakte opmærksomhed hos New York State Department of Financial Services i 2021.
Deres konklusioner var, at selvom handlingen ikke var forsætlig, så "viste den mangler i kundeservice og gennemsigtighed".
Blake kom også ind på Amazons rekrutteringsalgoritmeog fremhævede dens iboende bias. Hun beskrev: "Kvindelige ansøgere fik en negativ score, fordi algoritmen var trænet på CV'er indsendt til virksomheden over en 10-årig periode og afspejlede den mandlige dominans i branchen."
Det førte til, at Amazon stoppede med at bruge værktøjet i 2018 efter at have indset, at det uretfærdigt straffer kandidater, der bruger udtryk som "kaptajn for en kvindelig skakklub".
Amazons forudindtagede rekrutteringsrobot er en del af et helt ensemble af fordomsfulde og forudindtagede AI-modeller, der har tendens til at svigter minoritetsgrupper og kvinder.
Hvis AI integreres i den finansielle infrastruktur uden grundig kontrol, kan det føre til vedvarende problemer med fordomme og diskrimination.
