Gary Gensler, ordförande för den amerikanska finansinspektionen SEC, säger att reglering av AI är avgörande för att förhindra en finansiell kris.
I en intervju med tidningen Financial Times Gensler sade att om status quo kvarstår är det "nästan oundvikligt" att vi kommer att få se en finansiell kris orsakad av AI.
SEC utövar tillsyn över finansiella institutioner som banker och värdepappershandelsföretag. När SEC misslyckas med sin uppgift kan det få allvarliga konsekvenser, som under den ekonomiska krisen 2008.
Den grundläggande orsaken till den krisen är kärnan i Genslers oro över finansinstitutens användning av AI. I upptakten till 2008 års kris sålde alla de stora aktörerna subprimelån baserade på den allmänt spridda uppfattningen att bostadspriserna skulle fortsätta att stiga.
När alla gör samma misstag är en krasch oundviklig. Gensler befarar att en övertro på ett fåtal identiska AI-verktyg kan leda till en liknande situation.
Han sa: "Det är en svår fråga om finansiell stabilitet att ta itu med eftersom de flesta av våra regleringar handlar om enskilda institutioner, enskilda banker, enskilda penningmarknadsfonder, enskilda mäklare; det ligger bara i naturen av vad vi gör. Och det här handlar om en horisontell [fråga där] många institutioner kan förlita sig på samma underliggande basmodell eller underliggande dataaggregat."
Om ett antal stora institutioner alla beslutar att använda en modell som GPT-4 för att analysera marknaden och komma med förslag kan en AI-hallucination leda till ett katastrofalt flockbeteende.
SEC är inte helt emot användningen av AI, vilket Gensler förklarade i ett anförande inför National Press Club i juli. Han sa att SEC hade för avsikt att använda AI för att upptäcka bedrägerier och penningtvätt.
I juli föreslog SEC en regel som skulle förbjuda finansinstitut att använda AI för att prioritera sina egna intressen framför sina kunders.
Gensler säger att även om denna regel tar itu med vissa problem, tar den inte itu med den systemiska potentialen för en AI-skapad finansiell kris.
I takt med att AI blir alltmer integrerat i våra finansinstitut, vår sjukvård och samhällsservice blir konsekvenserna av ett "fel" mycket allvarligare.
