Il presidente della Securities and Exchange Commission (SEC) statunitense, Gary Gensler, afferma che la regolamentazione dell'IA è essenziale per prevenire una crisi finanziaria.
In un'intervista al Financial Times Gensler ha affermato che se lo status quo rimane, è "quasi inevitabile" che si verifichi una crisi finanziaria causata dall'IA.
La SEC esercita la supervisione sulle istituzioni finanziarie come le banche e le società di negoziazione di titoli. Quando fallisce nel suo ruolo, le conseguenze possono essere disastrose, come nel caso della crisi economica del 2008.
La causa di quella crisi è al centro delle preoccupazioni di Gensler sull'uso dell'IA da parte delle istituzioni finanziarie. Nel periodo che ha preceduto la crisi del 2008, tutti i grandi operatori vendevano mutui subprime basandosi sull'idea comune che i prezzi delle case sarebbero continuati a salire.
Quando tutti commettono lo stesso errore, il crollo è inevitabile. Gensler teme che l'eccessivo affidamento a pochi strumenti di IA identici possa portare a una situazione simile.
Ha dichiarato: "È un problema di stabilità finanziaria difficile da affrontare perché la maggior parte della nostra regolamentazione riguarda singoli istituti, singole banche, singoli fondi del mercato monetario, singoli broker; è proprio nella natura di ciò che facciamo. E qui si tratta di una questione orizzontale, in cui molti istituti potrebbero fare affidamento sullo stesso modello di base o sullo stesso aggregatore di dati".
Se un certo numero di grandi istituzioni decide di utilizzare un modello come il GPT-4 per analizzare il mercato e dare suggerimenti, un'allucinazione dell'IA potrebbe portare a un comportamento catastrofico della mandria.
La SEC non è completamente contraria all'uso dell'IA, come ha spiegato Gensler in un discorso tenuto a luglio al National Press Club. Ha affermato che la SEC intende utilizzare l'IA per individuare frodi e riciclaggio di denaro.
A luglio la SEC ha proposto una norma che impedisce alle istituzioni finanziarie di utilizzare l'IA per privilegiare i propri interessi rispetto a quelli dei clienti.
Gensler afferma che questa norma, pur rispondendo ad alcune preoccupazioni, non affronta il potenziale sistemico di una crisi finanziaria creata dall'IA.
Con l'integrazione dell'IA nelle nostre istituzioni finanziarie, nella sanità e nei servizi civili, le conseguenze di un "guasto" diventano molto più gravi.
