För första gången har Financial Stability Oversight Council (FSOC), ett organ som övervakar stabiliteten i USA:s finansiella system, flaggat för AI som en betydande ekonomisk riskfaktor.
Vid ett rådsmöte nyligen tog finansminister Janet Yellen, ordförande i FSOC, upp frågan om AI. FSOC:s årsredovisning listar AI bland 14 potentiella risker för finansmarknaderna.
Hon konstaterade: "Genom att stödja ansvarsfull innovation på detta område kan det finansiella systemet dra nytta av fördelar som ökad effektivitet, men det finns också befintliga principer och regler för riskhantering som bör tillämpas."
Yellen ser AI som ett "framväxande hot" mot den finansiella stabiliteten men anser att "befintliga regelverk kan användas för att begränsa teknikens potentiella marknadsrisker".
Angivna risker bland annat AI:s "svarta lådan"-problem, som avser bristen på tydlighet i hur AI-modeller fattar beslut. Vi kan inte "se" in i slutna AI-algoritmer - endast in- och utdata är synliga för externa observatörer, inklusive finansinstitut, såvida de inte utvecklar egna AI-system eller sluter avtal med företag för att säkerställa transparens.
Detta påverkar tillförlitligheten och rättvisan i AI-drivna processer i kritiska finansiella beslut. Om du inte kan se den inre mekaniken i AI-beslutsfattandet blir det nästan omöjligt att diagnostisera felaktiga resultat.
Andra risker som FSOC nämner är bland annat AI:s påverkan på jobbenoch många studier och undersökningar förutspår en viss grad av förskjutning.
Tillsynsmyndigheter och branschledare står inför den dubbla utmaningen att säkerställa att AI-system inom finanssektorn är transparenta, rättvisa och etiska, samtidigt som de måste hantera effekterna av AI-användning på arbetskraften.
Gary Gensler, ordförande för Securities and Exchange Commission och medlem av FSOC, uttryckte sin oro för Financial Times: "Utan ett snabbt ingripande från tillsynsmyndigheter för att tämja riskerna med AI var det "nästan oundvikligt" att tekniken skulle utlösa en finanskris inom ett decennium."
"Användningen av AI inom finansiella tjänster har ökat under de senaste åren, tack vare mer avancerade algoritmer, ökade datavolymer, förbättringar av datalagring och processorkraft samt kostnadsminskningar bland många av dessa dimensioner."
Tjänstemannen erkände AI:s potential för att "öka effektiviteten och innovationen" men varnade också för de "vissa risker" som AI medför.
