For første gang har Financial Stability Oversight Council (FSOC), et organ som overvåker stabiliteten i det amerikanske finanssystemet, pekt på kunstig intelligens som en betydelig økonomisk risikofaktor.
I et møte i rådet nylig tok finansminister Janet Yellen, som leder FSOC, opp bekymringen knyttet til AI. FSOCs årsrapport lister opp AI blant 14 potensielle risikoer for finansmarkedene.
Hun uttalte: "Ved å støtte ansvarlig innovasjon på dette området kan finanssystemet høste fordeler som økt effektivitet, men det finnes også eksisterende prinsipper og regler for risikostyring som bør anvendes."
Yellen ser AI som en "ny trussel" mot den finansielle stabiliteten, men mener at "eksisterende reguleringer kan brukes til å dempe teknologiens potensielle markedsrisikoer".
Oppgitte risikoer Blant de mest alvorlige problemene er AIs "black box"-problem, som refererer til mangelen på klarhet i hvordan AI-modeller tar beslutninger. Vi kan ikke "se" inn i lukkede AI-algoritmer - kun input og output er synlige for eksterne observatører, inkludert finansinstitusjoner, med mindre de utvikler sine egne AI-systemer eller inngår avtaler med selskaper for å sikre åpenhet.
Dette påvirker påliteligheten og rettferdigheten til AI-drevne prosesser i kritiske økonomiske beslutninger. Hvis du ikke kan se den indre mekanikken i AI-beslutningsprosessen, blir det nesten umulig å diagnostisere feilaktige resultater.
Andre risikoer som FSOC nevner, er blant annet AIs innvirkning på arbeidsplasserog mange studier og undersøkelser forutser en viss grad av fortrengning.
Tilsynsmyndigheter og bransjeledere står overfor den doble utfordringen med å sikre at AI-systemer i finanssektoren er transparente, rettferdige og etiske, samtidig som de må ta hensyn til konsekvensene AI-bruken har for arbeidsstyrken.
Gary Gensler, leder av Securities and Exchange Commission og medlem av FSOC, uttrykte sin bekymring overfor Financial Times: "Uten rask inngripen fra myndighetene for å temme risikoen ved AI, var det "nesten uunngåelig" at teknologien ville utløse en finanskrise i løpet av et tiår."
En tjenestemann utdypet AIs rolle og sa: "Bruken av AI i finansielle tjenester har økt de siste årene, takket være mer avanserte algoritmer, økte datamengder, forbedret datalagring og prosessorkraft og kostnadsreduksjoner, blant mange av disse dimensjonene."
Tjenestemannen anerkjente AIs potensial for "økt effektivitet og innovasjon", men advarte også mot de "visse risikoene" det medfører.
