Una nuova ricerca della Banca d'Inghilterra sostiene che i sistemi finanziari potrebbero essere minacciati da un processo decisionale distorto da parte dell'intelligenza artificiale.
Una ricerca emergente della Banca d'Inghilterra suggerisce che gli algoritmi possono rispecchiare i pregiudizi insiti nelle serie di dati e manifestare un trattamento iniquo dei consumatori o dei professionisti.
Kathleen Blake, analista della Banca d'Inghilterra, ha espresso le sue preoccupazioni riguardo a questa tendenza. Ha commentato che Discriminazione e pregiudizi alimentati dall'intelligenza artificiale potrebbe mettere a rischio i sistemi finanziari minando la fiducia.
Inoltre, ha sottolineato che le aziende che impiegano questa "IA distorta o sleale" possono esporsi a rischi legali e reputazionali significativi, con conseguenti controlli da parte degli enti normativi.
Inoltre, il Dipartimento per la Scienza, l'Innovazione e la Tecnologia ha osservato: "Siamo a un bivio nella storia dell'umanità, e voltare pagina sarebbe una monumentale opportunità mancata per l'umanità".
Elaborando il suo punto di vista, la signora Blake ha fatto riferimento ad alcuni episodi di rilievo legati all'IA che hanno scatenato pregiudizi. Ad esempio, un algoritmo sviluppato da Apple e Goldman Sachs per la valutazione delle richieste di carte di credito è stato messo sotto accusa perché avrebbe offerto alle donne limiti di credito ridotti rispetto alle loro controparti maschili.
Questa discrepanza ha attirato l'attenzione del Dipartimento dei servizi finanziari dello Stato di New York nel 2021.
Secondo le loro conclusioni, l'atto non è stato intenzionale, ma "ha mostrato carenze nel servizio clienti e nella trasparenza".
Blake ha anche parlato di L'algoritmo di reclutamento di Amazonevidenziando i suoi pregiudizi intrinseci. Ha descritto: "I candidati di sesso femminile hanno ricevuto un punteggio negativo perché l'algoritmo è stato addestrato sui curriculum inviati all'azienda in un periodo di 10 anni e riflette la dominanza maschile del settore".
Ciò ha portato Amazon a interrompere lo strumento nel 2018 dopo essersi resa conto della sua ingiusta penalizzazione dei candidati che utilizzavano termini come "capitano di un club di scacchi femminile".
Il bot di reclutamento distorto di Amazon fa parte di un insieme di modelli di IA prevenuti e distorti che tendono a bocciare i gruppi di minoranza e donne.
L'integrazione dell'IA nell'infrastruttura finanziaria senza un controllo rigoroso potrebbe perpetuare i problemi di pregiudizio e discriminazione.
