Gary Gensler, président de la Securities and Exchange Commission (SEC) des États-Unis, estime qu'il est essentiel de réglementer l'IA pour éviter une crise financière.
Lors d'une interview avec le Financial Times M. Gensler a déclaré que si le statu quo est maintenu, il est "presque inévitable" que nous assistions à une crise financière causée par l'IA.
La SEC exerce un contrôle sur les institutions financières telles que les banques et les sociétés de négoce de valeurs mobilières. Lorsqu'elle ne remplit pas son rôle, les conséquences peuvent être désastreuses, comme ce fut le cas lors de la crise économique de 2008.
La cause profonde de cette crise est au cœur des préoccupations de M. Gensler concernant l'utilisation de l'IA par les institutions financières. Au cours de la période qui a précédé la crise de 2008, tous les grands acteurs ont vendu des prêts hypothécaires à risque en se fondant sur l'idée communément admise que les prix de l'immobilier ne cesseraient d'augmenter.
Lorsque tout le monde commet la même erreur, le crash est inévitable. M. Gensler craint qu'une dépendance excessive à l'égard de quelques outils d'IA identiques ne conduise à une situation similaire.
Il a déclaré : "C'est une question de stabilité financière difficile à traiter parce que la plupart de nos réglementations concernent des institutions individuelles, des banques individuelles, des fonds du marché monétaire individuels, des courtiers individuels ; c'est tout simplement dans la nature de ce que nous faisons. Or, il s'agit ici d'une question horizontale, dans laquelle de nombreuses institutions peuvent s'appuyer sur le même modèle de base ou agrégateur de données sous-jacent.
Si un certain nombre de grandes institutions décident d'utiliser un modèle comme le GPT-4 pour analyser le marché et faire des suggestions, une hallucination de l'IA pourrait conduire à un comportement grégaire catastrophique.
La SEC n'est pas totalement opposée à l'utilisation de l'IA, comme l'a expliqué M. Gensler lors d'un discours devant le National Press Club en juillet. Il a déclaré que la SEC avait l'intention d'utiliser l'IA pour détecter la fraude et le blanchiment d'argent.
En juillet, la SEC a proposé une règle qui interdirait aux institutions financières d'utiliser l'IA pour faire passer leurs propres intérêts avant ceux de leurs clients.
Selon M. Gensler, si cette règle répond à certaines préoccupations, elle n'aborde pas le risque systémique d'une crise financière provoquée par l'IA.
À mesure que l'IA s'intègre dans nos institutions financières, nos soins de santé et nos services publics, les conséquences d'un "pépin" deviennent beaucoup plus graves.
