Formanden for det amerikanske finanstilsyn (SEC), Gary Gensler, siger, at regulering af AI er afgørende for at forhindre en finanskrise.
I et interview med Financial Times Gensler sagde, at hvis status quo forbliver, er det "næsten uundgåeligt", at vi vil se en finanskrise forårsaget af AI.
SEC fører tilsyn med finansielle institutioner som banker og værdipapirhandelsfirmaer. Når det svigter sin rolle, kan det få alvorlige konsekvenser, som det var tilfældet under den økonomiske krise i 2008.
Den grundlæggende årsag til den krise er kernen i Genslers bekymring over de finansielle institutioners brug af AI. I tiden op til krisen i 2008 solgte alle de store aktører subprime-lån baseret på den almindelige opfattelse, at boligpriserne ville blive ved med at stige.
Når alle begår den samme fejl, er et nedbrud uundgåeligt. Gensler frygter, at en overdreven afhængighed af nogle få identiske AI-værktøjer kan føre til en lignende situation.
Han sagde: "Det er et svært spørgsmål om finansiel stabilitet at tage op, fordi det meste af vores regulering handler om individuelle institutioner, individuelle banker, individuelle pengemarkedsfonde, individuelle mæglere; det ligger i sagens natur, hvad vi gør. Og dette handler om en horisontal [sag, hvor] mange institutioner måske er afhængige af den samme underliggende basismodel eller underliggende dataaggregator."
Hvis en række store institutioner alle beslutter sig for at bruge en model som GPT-4 til at analysere markedet og komme med forslag, kan en AI-hallucination føre til katastrofal flokadfærd.
SEC er ikke helt imod brugen af AI, som Gensler forklarede i en tale til National Press Club i juli. Han sagde, at SEC havde til hensigt at bruge AI til at opdage svindel og hvidvaskning af penge.
I juli foreslog SEC en regel, der ville forbyde finansielle institutioner at bruge AI til at prioritere deres egne interesser frem for deres kunders.
Gensler siger, at selv om denne regel imødekommer nogle bekymringer, adresserer den ikke det systemiske potentiale for en AI-skabt finanskrise.
Efterhånden som AI bliver mere integreret i vores finansielle institutioner, sundhedsvæsen og offentlige tjenester, bliver konsekvenserne af en "fejl" meget mere alvorlige.
