Новое исследование Банка Англии утверждает, что финансовые системы могут оказаться под угрозой из-за необъективного принятия решений искусственным интеллектом.
Новые исследования Банка Англии показывают, что алгоритмы могут отражать предвзятость, присущую наборам данных, и проявлять несправедливое отношение к потребителям или специалистам.
Кэтлин Блейк, аналитик Банка Англии, высказала свои опасения по поводу этой тенденции. Она отметила, что Дискриминация и предвзятость, вызванные искусственным интеллектом может поставить под угрозу финансовые системы, подорвав доверие.
Кроме того, она отметила, что компании, использующие такой "предвзятый или несправедливый ИИ", могут подвергнуть себя значительным юридическим и репутационным рискам, что приведет к проверке со стороны регулирующих органов.
Кроме того, Департамент науки, инноваций и технологий отметил: "Мы находимся на перепутье в истории человечества, и повернуть в другую сторону было бы колоссальным упущением для человечества".
Развивая свою мысль, г-жа Блейк рассказала о некоторых известных инцидентах, связанных с ИИ и провоцирующих предвзятость. Например, алгоритм, разработанный Apple и Goldman Sachs для оценки заявок на кредитные карты, попал под огонь из-за того, что, как сообщается, предлагал женщинам меньшие кредитные лимиты по сравнению с их коллегами-мужчинами.
Это несоответствие привлекло внимание Департамента финансовых услуг штата Нью-Йорк в 2021 году.
В их выводах говорится, что хотя этот поступок не был преднамеренным, он "свидетельствует о недостатках в обслуживании клиентов и прозрачности".
Блейк также затронул тему Алгоритм найма персонала AmazonВ ней подчеркивается присущая алгоритму предвзятость. Она рассказала: "Соискатели-женщины получали отрицательные оценки, потому что алгоритм был составлен на основе резюме, поданных в компанию за 10-летний период, и отражал доминирование мужчин в отрасли".
Это привело к тому, что в 2018 году Amazon прекратила использование этого инструмента, осознав, что несправедливо наказывает кандидатов, использующих такие термины, как "капитан женского шахматного клуба".
Предвзятый бот Amazon для подбора персонала - часть целого ансамбля предвзятых и необъективных моделей ИИ, которые, как правило, не справляются с группами меньшинств и женщины.
Внедрение ИИ в финансовую инфраструктуру без тщательной проверки может привести к сохранению проблем предвзятости и дискриминации.
