Pour la première fois, le Conseil de surveillance de la stabilité financière (FSOC), un organisme chargé de superviser la stabilité du système financier américain, a identifié l'IA comme un facteur de risque économique important.
Lors d'une récente réunion du conseil, la secrétaire au Trésor Janet Yellen, qui préside le FSOC, a abordé la question de l'IA. Le conseil du FSOC rapport annuel cite l'IA parmi les 14 risques potentiels pour les marchés financiers.
Elle a déclaré : "Soutenir l'innovation responsable dans ce domaine peut permettre au système financier de bénéficier d'avantages tels qu'une efficacité accrue, mais il existe également des principes et des règles de gestion des risques qui devraient être appliqués.
Mme Yellen considère l'IA comme une "menace émergente" pour la stabilité financière, mais estime que "les réglementations existantes pourraient être utilisées pour limiter les risques potentiels de la technologie pour le marché".
Risques cités Le problème de la "boîte noire" de l'IA, qui fait référence au manque de clarté dans la manière dont les modèles d'IA prennent des décisions, fait partie de ces problèmes. Nous ne pouvons pas "voir" à l'intérieur des algorithmes d'IA fermés - seules les entrées et les sorties sont visibles pour les observateurs externes, y compris les institutions financières, à moins qu'elles ne développent leurs propres systèmes d'IA ou ne concluent des accords avec des entreprises pour garantir la transparence.
Cela a un impact sur la fiabilité et l'équité des processus pilotés par l'IA dans les décisions financières critiques. Si vous ne pouvez pas voir les mécanismes internes de la prise de décision de l'IA, il devient pratiquement impossible de diagnostiquer les résultats erronés.
Parmi les autres risques cités par le FSOC, on peut citer L'impact de l'IA sur l'emploiDe nombreuses études et enquêtes prévoient un certain niveau de déplacement.
Les régulateurs et les dirigeants du secteur sont confrontés à un double défi : garantir la transparence, l'équité et l'éthique des systèmes d'IA dans la finance, tout en tenant compte de l'impact de l'adoption de l'IA sur la main-d'œuvre.
Gary Gensler, président de la Securities and Exchange Commission et membre du FSOC, a fait part de ses inquiétudes à la Commission européenne. Financial Times: "Sans une intervention rapide des régulateurs pour maîtriser les risques de l'IA, il était 'presque inévitable' que la technologie déclenche une crise financière dans les dix ans à venir."
Un fonctionnaire a expliqué le rôle de l'IA en déclarant : "L'utilisation de l'IA dans les services financiers a augmenté ces dernières années, grâce à des algorithmes plus avancés, à l'augmentation des volumes de données, à l'amélioration du stockage des données et de la puissance de traitement, ainsi qu'à la réduction des coûts, entre autres."
Le fonctionnaire a reconnu le potentiel de l'IA pour "accroître l'efficacité et l'innovation", mais il a également mis en garde contre les "certains risques" qu'elle introduit.
