Per la prima volta, il Financial Stability Oversight Council (FSOC), un organismo che vigila sulla stabilità del sistema finanziario statunitense, ha segnalato l'IA come un importante fattore di rischio economico.
In una recente riunione del Consiglio, il Segretario del Tesoro Janet Yellen, che presiede l'FSOC, ha affrontato il problema dell'IA. Il FSOC rapporto annuale elenca l'IA tra i 14 rischi potenziali per i mercati finanziari.
Ha dichiarato: "Sostenere l'innovazione responsabile in questo settore può consentire al sistema finanziario di trarre benefici come una maggiore efficienza, ma ci sono anche principi e regole esistenti per la gestione del rischio che dovrebbero essere applicati".
La Yellen vede l'IA come una "minaccia emergente" per la stabilità finanziaria, ma ritiene che "le normative esistenti potrebbero essere utilizzate per contenere i potenziali rischi di mercato della tecnologia".
Rischi citati includono il problema della "scatola nera" dell'IA, che si riferisce alla mancanza di chiarezza nel modo in cui i modelli di IA prendono le decisioni. Non possiamo "vedere" all'interno di algoritmi di IA chiusi: solo gli input e gli output sono visibili agli osservatori esterni, comprese le istituzioni finanziarie, a meno che non sviluppino i propri sistemi di IA o stringano accordi con le aziende per garantire la trasparenza.
Ciò influisce sull'affidabilità e sull'equità dei processi guidati dall'IA nelle decisioni finanziarie critiche. Se non è possibile vedere i meccanismi interni del processo decisionale dell'IA, la diagnosi di risultati errati diventa quasi impossibile.
Altri rischi citati dall'FSOC sono L'impatto dell'IA sui posti di lavoroNumerosi studi e indagini prevedono un certo livello di spostamento.
Le autorità di regolamentazione e i leader del settore si trovano ad affrontare la duplice sfida di garantire che i sistemi di IA nella finanza siano trasparenti, equi ed etici, affrontando al contempo gli impatti dell'adozione dell'IA sulla forza lavoro.
Gary Gensler, presidente della Securities and Exchange Commission e membro dell'FSOC, ha espresso le sue preoccupazioni alla Financial Times: "Senza un rapido intervento delle autorità di regolamentazione per domare i rischi dell'IA, era 'quasi inevitabile' che la tecnologia avrebbe scatenato una crisi finanziaria entro un decennio".
Un funzionario ha approfondito il ruolo dell'IA, affermando: "L'uso dell'IA nei servizi finanziari è aumentato negli ultimi anni, grazie ad algoritmi più avanzati, all'aumento dei volumi di dati, al miglioramento della capacità di archiviazione e di elaborazione dei dati e alla riduzione dei costi, tra le tante dimensioni".
Il funzionario ha riconosciuto il potenziale dell'IA per "aumentare l'efficienza e l'innovazione", ma ha anche messo in guardia dai "certi rischi" che essa introduce.
