Председатель Комиссии по ценным бумагам и биржам США (SEC) Гэри Генслер считает, что регулирование искусственного интеллекта необходимо для предотвращения финансового кризиса.
В интервью журналу Financial Times По словам Генслера, если статус-кво сохранится, то "почти неизбежно" наступит финансовый кризис, вызванный искусственным интеллектом.
SEC осуществляет надзор за финансовыми учреждениями, такими как банки и фирмы, торгующие ценными бумагами. Когда она не справляется со своей ролью, последствия могут быть плачевными, как это было во время экономического кризиса 2008 года.
Первопричина этого кризиса лежит в основе опасений Генслера по поводу использования ИИ финансовыми учреждениями. В преддверии кризиса 2008 года все крупные игроки продавали субстандартные ипотечные кредиты, основываясь на распространенной идее, что цены на жилье будут продолжать расти.
Когда все совершают одну и ту же ошибку, крах неизбежен. Генслер опасается, что чрезмерная зависимость от нескольких одинаковых инструментов ИИ может привести к подобной ситуации.
Он сказал: "Это сложный вопрос финансовой стабильности, потому что большая часть нашего регулирования касается отдельных учреждений, отдельных банков, отдельных фондов денежного рынка, отдельных брокеров; это просто в природе того, что мы делаем. А здесь речь идет о горизонтальном [вопросе, при котором] многие учреждения могут полагаться на одну и ту же базовую модель или агрегатор данных".
Если несколько крупных организаций решат использовать такую модель, как GPT-4, для анализа рынка и выработки предложений, то галлюцинация искусственного интеллекта может привести к катастрофическому поведению стада.
SEC не совсем против использования искусственного интеллекта, как объяснил Генслер, выступая в июле в Национальном пресс-клубе. Он сказал, что SEC намерена использовать ИИ для выявления мошенничества и отмывания денег.
В июле Комиссия по ценным бумагам и биржам США предложила правило, запрещающее финансовым учреждениям использовать искусственный интеллект для определения приоритета собственных интересов над интересами клиентов.
По словам Генслера, хотя это правило и решает некоторые проблемы, оно не устраняет системный потенциал финансового кризиса, вызванного искусственным интеллектом.
По мере того как ИИ все больше интегрируется в наши финансовые учреждения, здравоохранение и гражданские службы, последствия "сбоя" становятся гораздо серьезнее.
