Pela primeira vez, o Conselho de Supervisão da Estabilidade Financeira (FSOC), um organismo que supervisiona a estabilidade do sistema financeiro dos EUA, assinalou a IA como um fator de risco económico significativo.
Numa reunião recente do Conselho, a Secretária do Tesouro, Janet Yellen, que preside ao FSOC, abordou a preocupação suscitada pela IA. O Conselho de Administração do FSOC relatório anual enumera a IA entre 14 riscos potenciais para os mercados financeiros.
Apoiar a inovação responsável neste domínio pode permitir ao sistema financeiro colher benefícios como o aumento da eficiência, mas há também princípios e regras existentes para a gestão do risco que devem ser aplicados", afirmou.
Yellen vê a IA como uma "ameaça emergente" para a estabilidade financeira, mas acredita que "os regulamentos existentes podem ser utilizados para reduzir os potenciais riscos de mercado da tecnologia".
Riscos citados incluem o problema da "caixa negra" da IA, que se refere à falta de clareza na forma como os modelos de IA tomam decisões. Não podemos "ver" o interior dos algoritmos fechados de IA - apenas os inputs e outputs são visíveis para observadores externos, incluindo as instituições financeiras, a menos que estas desenvolvam os seus próprios sistemas de IA ou estabeleçam acordos com empresas para garantir a transparência.
Isto afecta a fiabilidade e a justiça dos processos orientados para a IA em decisões financeiras críticas. Se não conseguirmos ver a mecânica interna da tomada de decisões da IA, o diagnóstico de resultados erróneos torna-se quase impossível.
Outros riscos citados pelo FSOC incluem O impacto da IA no empregoA Comissão Europeia tem vindo a desenvolver uma série de estudos e inquéritos que prevêem um certo nível de deslocação.
Os reguladores e os líderes da indústria enfrentam o duplo desafio de garantir que os sistemas de IA nas finanças sejam transparentes, justos e éticos, ao mesmo tempo que abordam os impactos da adoção da IA na força de trabalho.
Gary Gensler, presidente da Securities and Exchange Commission e membro do FSOC, manifestou as suas preocupações ao Financial Times: Sem uma intervenção rápida dos reguladores para domar os riscos da IA, era "quase inevitável" que a tecnologia desencadeasse uma crise financeira dentro de uma década".
A utilização da IA nos serviços financeiros tem vindo a aumentar nos últimos anos, graças a algoritmos mais avançados, ao aumento do volume de dados, às melhorias no armazenamento de dados e na capacidade de processamento e à redução de custos, entre muitas outras dimensões", explicou um responsável.
O funcionário reconheceu o potencial da IA para "aumentar a eficiência e a inovação", mas também alertou para os "certos riscos" que esta introduz.
