Voor het eerst heeft de Financial Stability Oversight Council (FSOC), een orgaan dat toezicht houdt op de stabiliteit van het Amerikaanse financiële systeem, AI aangemerkt als een belangrijke economische risicofactor.
Tijdens een recente bijeenkomst van de raad ging minister van Financiën Janet Yellen, die de FSOC voorzit, in op de bezorgdheid van AI. De FSOC's jaarverslag noemt AI een van de 14 potentiële risico's voor financiële markten.
Ze verklaarde: "Door verantwoorde innovatie op dit gebied te ondersteunen, kan het financiële systeem de vruchten plukken van bijvoorbeeld een grotere efficiëntie, maar er zijn ook bestaande principes en regels voor risicobeheer die moeten worden toegepast."
Yellen ziet AI als een "opkomende bedreiging" voor de financiële stabiliteit, maar is van mening dat "bestaande regelgeving kan worden gebruikt om de potentiële marktrisico's van de technologie te beperken".
Genoemde risico's Dit probleem verwijst naar het gebrek aan duidelijkheid in de manier waarop AI-modellen beslissingen nemen. We kunnen niet in gesloten AI-algoritmen 'kijken' - alleen inputs en outputs zijn zichtbaar voor externe waarnemers, waaronder financiële instellingen, tenzij ze hun eigen AI-systemen ontwikkelen of deals sluiten met bedrijven om transparantie te garanderen.
Dit heeft invloed op de betrouwbaarheid en eerlijkheid van AI-gestuurde processen bij kritieke financiële beslissingen. Als je de innerlijke mechanismen van AI-besluitvorming niet kunt zien, wordt het bijna onmogelijk om foutieve uitkomsten te diagnosticeren.
Andere risico's die de FSOC noemt zijn De impact van AI op banenTalrijke studies en onderzoeken voorspellen een zekere mate van verplaatsing.
Toezichthouders en leiders in de sector staan voor de dubbele uitdaging om ervoor te zorgen dat AI-systemen in de financiële sector transparant, eerlijk en ethisch zijn en tegelijkertijd de gevolgen van de invoering van AI voor het personeelsbestand aan te pakken.
Gary Gensler, voorzitter van de Securities and Exchange Commission en lid van de FSOC, uitte zijn bezorgdheid aan de Financiële Times: "Zonder snel ingrijpen door toezichthouders om de risico's van AI te temmen, was het 'bijna onvermijdelijk' dat de technologie binnen tien jaar een financiële crisis zou veroorzaken."
Een ambtenaar ging dieper in op de rol van AI: "Het gebruik van AI in financiële diensten is de afgelopen jaren toegenomen, onder andere dankzij geavanceerdere algoritmen, grotere hoeveelheden gegevens, verbeteringen op het gebied van gegevensopslag en verwerkingskracht en kostenverlagingen."
De ambtenaar erkende het potentieel van AI voor "het verhogen van efficiëntie en innovatie", maar waarschuwde ook voor de "bepaalde risico's" die het introduceert.
