Впервые Совет по надзору за финансовой стабильностью (FSOC), орган, следящий за стабильностью финансовой системы США, отметил ИИ как существенный фактор экономического риска.
На недавнем заседании совета министр финансов Джанет Йеллен, возглавляющая FSOC, обратилась к проблеме, вызванной искусственным интеллектом. Совет FSOC годовой отчёт ИИ входит в число 14 потенциальных рисков для финансовых рынков.
Она заявила: "Поддержка ответственных инноваций в этой области может позволить финансовой системе получить такие преимущества, как повышение эффективности, но при этом необходимо применять существующие принципы и правила управления рисками".
Йеллен считает ИИ "новой угрозой" для финансовой стабильности, но полагает, что "существующие правила могут быть использованы для сдерживания потенциальных рыночных рисков технологии".
Указанные риски К ним относится проблема "черного ящика" ИИ, которая заключается в отсутствии ясности в том, как модели ИИ принимают решения. Мы не можем "заглянуть" внутрь закрытых алгоритмов ИИ - внешним наблюдателям, в том числе финансовым учреждениям, видны только входные и выходные данные, если только они не разрабатывают собственные системы ИИ или не заключают сделки с компаниями, обеспечивающими прозрачность.
Это влияет на надежность и справедливость процессов, управляемых ИИ, при принятии важных финансовых решений. Если вы не можете увидеть внутреннюю механику принятия решений ИИ, то диагностика ошибочных результатов становится практически невозможной.
FSOC также указал на следующие риски Влияние искусственного интеллекта на рабочие местаВ многочисленных исследованиях и опросах предсказывается определенный уровень перемещения.
Перед регуляторами и лидерами отрасли стоит двойная задача - обеспечить прозрачность, справедливость и этичность систем ИИ в финансовой сфере и одновременно решить проблему влияния внедрения ИИ на рабочую силу.
Гэри Генслер, председатель Комиссии по ценным бумагам и биржам и член FSOC, выразил свою обеспокоенность в Financial Times: "Без оперативного вмешательства регулирующих органов, чтобы укротить риски ИИ, "почти неизбежно", что технология вызовет финансовый кризис в течение десятилетия".
Один из чиновников подробнее остановился на роли ИИ, заявив: "В последние годы использование ИИ в финансовых услугах расширяется благодаря более совершенным алгоритмам, увеличению объемов данных, улучшению качества хранения и обработки данных, а также снижению затрат на многие из этих измерений".
Чиновник признал потенциал ИИ для "повышения эффективности и инноваций", но при этом предупредил об "определенных рисках", которые он несет.
