Gary Gensler, leder av det amerikanske finanstilsynet (SEC), sier at regulering av kunstig intelligens er avgjørende for å forhindre en finanskrise.
I et intervju med Financial Times Gensler sa at hvis status quo opprettholdes, er det "nesten uunngåelig" at vi vil se en finanskrise forårsaket av AI.
SEC fører tilsyn med finansinstitusjoner som banker og verdipapirforetak. Når det svikter i sin rolle, kan det få alvorlige konsekvenser, slik det fikk under den økonomiske krisen i 2008.
Den grunnleggende årsaken til krisen er kjernen i Genslers bekymring over finansinstitusjonenes bruk av kunstig intelligens. I forkant av krisen i 2008 solgte alle de store aktørene subprimelån basert på den allmenne oppfatningen om at boligprisene ville fortsette å stige.
Når alle gjør de samme feilene, er et krasj uunngåelig. Gensler frykter at en overdreven tillit til noen få identiske AI-verktøy kan føre til en lignende situasjon.
Han sa: "Det er et vanskelig spørsmål om finansiell stabilitet å ta opp, fordi det meste av reguleringen vår handler om enkeltinstitusjoner, enkeltbanker, enkeltpengemarkedsfond, enkeltmeglere; det ligger i sakens natur. Og dette handler om en horisontal [sak der] mange institusjoner kan være avhengige av den samme underliggende basismodellen eller underliggende dataaggregatoren."
Hvis en rekke store institusjoner bestemmer seg for å bruke en modell som GPT-4 til å analysere markedet og komme med forslag, kan en AI-hallusinasjon føre til katastrofal flokkatferd.
SEC er ikke helt imot bruk av kunstig intelligens, slik Gensler forklarte i en tale til National Press Club i juli. Han sa at SEC hadde til hensikt å bruke kunstig intelligens til å oppdage svindel og hvitvasking av penger.
I juli foreslo SEC en regel som ville forby finansinstitusjoner å bruke kunstig intelligens til å prioritere sine egne interesser fremfor kundenes.
Gensler sier at selv om denne regelen tar opp noen bekymringer, adresserer den ikke det systemiske potensialet for en AI-skapt finanskrise.
Etter hvert som AI blir mer integrert i finansinstitusjoner, helsevesenet og offentlige tjenester, blir konsekvensene av en "feil" mye mer alvorlige.
