El Presidente de la Comisión del Mercado de Valores de Estados Unidos (SEC), Gary Gensler, afirma que la regulación de la IA es esencial para evitar una crisis financiera.
En una entrevista concedida al Financial Times Gensler afirmó que, si se mantiene el statu quo, es "casi inevitable" que veamos una crisis financiera causada por la IA.
La SEC ejerce la supervisión de instituciones financieras como bancos y sociedades de valores. Cuando incumple su función, las consecuencias pueden ser nefastas, como ocurrió durante la crisis económica de 2008.
La raíz de esa crisis está en el centro de las preocupaciones de Gensler sobre el uso de la IA por parte de las instituciones financieras. En el periodo previo a la crisis de 2008, todas las grandes entidades vendían hipotecas de alto riesgo basándose en la idea generalizada de que los precios de la vivienda seguirían subiendo.
Cuando todo el mundo comete el mismo error, el colapso es inevitable. Gensler teme que la dependencia excesiva de unas pocas herramientas idénticas de IA pueda conducir a una situación similar.
Es una cuestión de estabilidad financiera difícil de abordar, porque la mayor parte de nuestra regulación se refiere a instituciones individuales, bancos individuales, fondos del mercado monetario individuales, corredores individuales; es la naturaleza de lo que hacemos. Y aquí se trata de un [asunto] horizontal por el que muchas instituciones pueden estar confiando en el mismo modelo de base subyacente o en el mismo agregador de datos subyacente".
Si varias grandes instituciones deciden utilizar un modelo como el GPT-4 para analizar el mercado y hacer sugerencias, una alucinación de IA podría provocar un comportamiento gregario catastrófico.
La SEC no está totalmente en contra del uso de la IA, como explicó Gensler en un discurso pronunciado en julio ante el Club Nacional de Prensa. Dijo que la SEC pretendía utilizar la IA para detectar el fraude y el blanqueo de dinero.
En julio, la SEC propuso una norma que prohibiría a las instituciones financieras utilizar la IA para priorizar sus propios intereses sobre los de sus clientes.
Gensler afirma que, aunque esta norma aborda algunas preocupaciones, no aborda el potencial sistémico de una crisis financiera creada por la IA.
A medida que la IA se integra más en nuestras instituciones financieras, sanitarias y servicios civiles, las consecuencias de un "fallo" se vuelven mucho más graves.
