For første gang har Financial Stability Oversight Council (FSOC), et organ, der overvåger stabiliteten i det amerikanske finanssystem, markeret AI som en væsentlig økonomisk risikofaktor.
På et nyligt rådsmøde adresserede finansminister Janet Yellen, der er formand for FSOC, den bekymring, som AI giver anledning til. FSOC's årsberetning lister AI blandt 14 potentielle risici for finansmarkederne.
Hun sagde: "Støtte til ansvarlig innovation på dette område kan gøre det muligt for det finansielle system at høste fordele som øget effektivitet, men der er også eksisterende principper og regler for risikostyring, som bør anvendes."
Yellen ser AI som en "ny trussel" mod den finansielle stabilitet, men mener, at "eksisterende regler kan bruges til at begrænse teknologiens potentielle markedsrisici."
De nævnte risici omfatter AI's "black box"-problem, som henviser til den manglende klarhed i, hvordan AI-modeller træffer beslutninger. Vi kan ikke "se" ind i lukkede AI-algoritmer - kun input og output er synlige for eksterne observatører, herunder finansielle institutioner, medmindre de udvikler deres egne AI-systemer eller indgår aftaler med virksomheder for at sikre gennemsigtighed.
Det påvirker pålideligheden og retfærdigheden af AI-drevne processer i kritiske økonomiske beslutninger. Hvis du ikke kan se den indre mekanik i AI-beslutningstagningen, bliver det næsten umuligt at diagnosticere fejlagtige resultater.
Andre risici, som FSOC nævner, er AI's indvirkning på jobsog mange studier og undersøgelser forudsiger en vis grad af fortrængning.
Tilsynsmyndigheder og industriledere står over for den dobbelte udfordring at sikre, at AI-systemer i finansverdenen er gennemsigtige, retfærdige og etiske, samtidig med at de skal håndtere konsekvenserne af AI-anvendelse på arbejdsstyrken.
Gary Gensler, formand for Securities and Exchange Commission og medlem af FSOC, udtrykte sin bekymring over for Financial Times: "Uden hurtig indgriben fra myndighedernes side for at tæmme risikoen ved kunstig intelligens var det "næsten uundgåeligt", at teknologien ville udløse en finanskrise inden for et årti."
En embedsmand uddybede AI's rolle og sagde: "AI's brug i finansielle tjenester er steget i de senere år takket være mere avancerede algoritmer, øgede datamængder, forbedringer af datalagring og processorkraft og omkostningsreduktioner blandt mange af disse dimensioner."
Embedsmanden anerkendte AI's potentiale for at "øge effektivitet og innovation", men advarede også om de "visse risici", det medfører.
