Zum ersten Mal hat der Financial Stability Oversight Council (FSOC), ein Gremium, das die Stabilität des US-Finanzsystems überwacht, KI als bedeutenden wirtschaftlichen Risikofaktor eingestuft.
In einer kürzlich abgehaltenen Ratssitzung ging Finanzministerin Janet Yellen, die den Vorsitz des FSOC innehat, auf die von AI aufgeworfenen Bedenken ein. Die Stellungnahme des FSOC Jahresbericht listet KI unter 14 potenziellen Risiken für die Finanzmärkte auf.
Sie erklärte: "Die Unterstützung verantwortungsvoller Innovationen in diesem Bereich kann dem Finanzsystem Vorteile wie eine höhere Effizienz bringen, aber es gibt auch bestehende Grundsätze und Regeln für das Risikomanagement, die angewandt werden sollten."
Yellen sieht in der KI eine "aufkommende Bedrohung" für die Finanzstabilität, ist aber der Meinung, dass "bestehende Vorschriften genutzt werden könnten, um die potenziellen Marktrisiken der Technologie einzudämmen".
Angegebene Risiken Dazu gehört auch das "Blackbox"-Problem der KI, das sich auf die Unklarheit darüber bezieht, wie KI-Modelle Entscheidungen treffen. Wir können nicht in geschlossene KI-Algorithmen "hineinsehen" - nur Inputs und Outputs sind für externe Beobachter, einschließlich Finanzinstitute, sichtbar, es sei denn, sie entwickeln ihre eigenen KI-Systeme oder schließen Verträge mit Unternehmen ab, um Transparenz zu gewährleisten.
Dies wirkt sich auf die Zuverlässigkeit und Fairness von KI-gesteuerten Prozessen bei wichtigen Finanzentscheidungen aus. Wenn man die innere Mechanik der KI-Entscheidungsfindung nicht sehen kann, ist es nahezu unmöglich, fehlerhafte Ergebnisse zu diagnostizieren.
Weitere vom FSOC angeführte Risiken sind Die Auswirkungen der KI auf die BeschäftigungZahlreiche Studien und Erhebungen prognostizieren ein gewisses Maß an Verdrängung.
Regulierungsbehörden und Branchenführer stehen vor der doppelten Herausforderung, sicherzustellen, dass KI-Systeme im Finanzwesen transparent, fair und ethisch vertretbar sind, und sich gleichzeitig mit den Auswirkungen der KI-Einführung auf die Belegschaft auseinanderzusetzen.
Gary Gensler, Vorsitzender der Wertpapier- und Börsenaufsichtsbehörde und Mitglied des FSOC, äußerte seine Bedenken gegenüber der Financial Times: "Ohne ein schnelles Eingreifen der Regulierungsbehörden, um die Risiken der KI einzudämmen, sei es 'fast unvermeidlich', dass die Technologie innerhalb eines Jahrzehnts eine Finanzkrise auslösen würde."
Ein Beamter erläuterte die Rolle der KI mit den Worten: "Der Einsatz von KI bei Finanzdienstleistungen hat in den letzten Jahren zugenommen, unter anderem dank fortschrittlicherer Algorithmen, größerer Datenmengen, verbesserter Datenspeicherung und Verarbeitungsleistung sowie Kostensenkungen."
Der Beamte erkannte das Potenzial der KI zur "Steigerung von Effizienz und Innovation" an, warnte aber auch vor den "gewissen Risiken", die sie mit sich bringt.
