Gary Gensler, voorzitter van de Amerikaanse Securities and Exchange Commission (SEC), zegt dat regulering van AI essentieel is om een financiële crisis te voorkomen.
In een interview met de Financiële Times Gensler zei dat als de status quo blijft, het "bijna onvermijdelijk" is dat we een financiële crisis zullen zien die wordt veroorzaakt door AI.
De SEC houdt toezicht op financiële instellingen zoals banken en effectenhandelshuizen. Wanneer ze faalt in haar rol, kunnen de gevolgen ernstig zijn, zoals tijdens de economische crisis van 2008.
De oorzaak van die crisis is de kern van Genslers zorgen over het gebruik van AI door financiële instellingen. In de aanloop naar de crisis van 2008 verkochten alle grote spelers subprime hypotheken op basis van het algemeen heersende idee dat de huizenprijzen zouden blijven stijgen.
Als iedereen dezelfde fout maakt, is een crash onvermijdelijk. Gensler vreest dat te veel vertrouwen op een paar identieke AI-tools tot een soortgelijke situatie kan leiden.
Hij zei: "Het is een moeilijke kwestie van financiële stabiliteit om aan te pakken omdat het grootste deel van onze regulering gaat over individuele instellingen, individuele banken, individuele geldmarktfondsen, individuele makelaars; het ligt gewoon in de aard van wat we doen. En dit gaat over een horizontale [kwestie waarbij] veel instellingen kunnen vertrouwen op hetzelfde onderliggende basismodel of onderliggende gegevensaggregator."
Als een aantal grote instellingen allemaal besluiten om een model als GPT-4 te gebruiken om de markt te analyseren en suggesties te doen, dan kan een AI-hallucinatie leiden tot catastrofaal kuddegedrag.
De SEC is niet helemaal tegen het gebruik van AI, zoals Gensler uitlegde in een toespraak voor de National Press Club in juli. Hij zei dat de SEC van plan was om AI te gebruiken om fraude en witwaspraktijken op te sporen.
In juli stelde de SEC een regel voor die financiële instellingen zou verbieden AI te gebruiken om hun eigen belangen voorrang te geven boven die van hun klanten.
Gensler zegt dat deze regel weliswaar een aantal zorgen wegneemt, maar niet het systemische potentieel voor een door AI veroorzaakte financiële crisis.
Nu AI steeds meer geïntegreerd raakt in onze financiële instellingen, gezondheidszorg en overheidsdiensten, worden de gevolgen van een 'storing' een stuk ernstiger.
