Por primera vez, el Consejo de Supervisión de la Estabilidad Financiera (FSOC), organismo que supervisa la estabilidad del sistema financiero estadounidense, ha señalado la IA como un importante factor de riesgo económico.
En una reciente reunión del Consejo, la Secretaria del Tesoro Janet Yellen, que preside el FSOC, abordó la preocupación que plantea la IA. El FSOC informe anual incluye la IA entre los 14 riesgos potenciales para los mercados financieros.
Afirmó: "Apoyar la innovación responsable en este ámbito puede permitir al sistema financiero cosechar beneficios como el aumento de la eficiencia, pero también hay principios y normas vigentes para la gestión de riesgos que deben aplicarse".
Yellen considera que la IA es una "amenaza emergente" para la estabilidad financiera, pero cree que "las regulaciones existentes podrían utilizarse para frenar los riesgos potenciales de mercado de la tecnología."
Riesgos citados incluyen el problema de la "caja negra" de la IA, que se refiere a la falta de claridad en la forma en que los modelos de IA toman decisiones. No podemos "ver" el interior de los algoritmos cerrados de IA: solo las entradas y salidas son visibles para los observadores externos, incluidas las entidades financieras, a menos que desarrollen sus propios sistemas de IA o lleguen a acuerdos con empresas para garantizar la transparencia.
Esto afecta a la fiabilidad e imparcialidad de los procesos impulsados por la IA en las decisiones financieras críticas. Si no se puede ver la mecánica interna de la toma de decisiones mediante IA, diagnosticar resultados erróneos resulta prácticamente imposible.
Otros riesgos citados por el FSOC son Impacto de la IA en el empleoNumerosos estudios y encuestas predicen un cierto nivel de desplazamiento.
Los reguladores y los líderes del sector se enfrentan al doble reto de garantizar que los sistemas de IA en las finanzas sean transparentes, justos y éticos, al tiempo que abordan las repercusiones de la adopción de la IA en la mano de obra.
Gary Gensler, Presidente de la Comisión de Valores y Bolsa y miembro del FSOC, expresó su preocupación a la Financial Times: "Sin una rápida intervención de los reguladores para domar los riesgos de la IA, era 'casi inevitable' que la tecnología desencadenara una crisis financiera en una década".
Un funcionario se explayó sobre el papel de la IA, afirmando: "El uso de la IA en los servicios financieros ha aumentado en los últimos años, gracias a algoritmos más avanzados, mayores volúmenes de datos, mejoras en el almacenamiento de datos y la capacidad de procesamiento y reducción de costes entre muchas de estas dimensiones."
El funcionario reconoció el potencial de la IA para "aumentar la eficiencia y la innovación", pero también advirtió de los "ciertos riesgos" que introduce.
