Нью-Йорк стал первым в мире городом, где был принят закон, регулирующий использование автоматизированных инструментов принятия решений о приеме на работу (AEDT). Исследователи из Корнельского университета обнаружили, что трудности с интерпретацией и применением закона приводят к тому, что лишь немногие компании придерживаются правил.
AEDT используют машинное обучение, статистическое моделирование, аналитику данных или искусственный интеллект, чтобы помочь работодателям и агентствам по трудоустройству решить, какого кандидата нанять, заменяя дискреционное принятие решений.
Эти инструменты используют искусственный интеллект для обработки кип резюме, анализа настроения или психологических факторов на собеседовании и множества других факторов, чтобы в итоге сказать: "Возьмите этого человека на работу".
В связи с тем, что моделям искусственного интеллекта свойственна необъективность, AEDT могут проявлять предвзятость при выборе кандидатов на работу, которых они рекомендуют, поэтому введение Местный закон 144 (LL144).
Закон, который вступил в силу 1 января 2023 года, а его исполнение началось в июле прошлого года, направлен на борьбу с потенциальным вредом, который может нанести использование AEDT маргинализированным лицам, ищущим работу.
Закон гласит, что работодатели в Нью-Йорке могут использовать AEDT, но они должны проводить аудит своих инструментов на предмет предвзятости, публиковать результаты аудита и информировать соискателей о том, что они используют этот инструмент в процессе приема на работу.
Как обстоят дела с законом?
Исследователи из Корнельского университета обнаружили что неясность в определении того, что такое АЭДТ и как они используются, может быть причиной очень низкого уровня соблюдения требований.
Исследователи разослали 155 студентов в качестве потенциальных соискателей работы и обнаружили только 18 проверок на предвзятость и 11 уведомлений о прозрачности от почти 400 работодателей, которые они проанализировали.
Может быть, работодатели не проводят аудиты и не публикуют уведомления о прозрачности, потому что не соответствуют порогу, установленному законом? Возможно, но с учетом широкого распространения AEDT это маловероятно.
Лукас Райт, кандидат наук, соавтор исследования, сказал: "Мы обнаружили, что, поскольку закон предоставляет работодателям свободу действий в определении того, распространяется ли закон на использование ими автоматизированных инструментов принятия решений о приеме на работу (AEDT), мы можем утверждать только о соблюдении закона, но не о его несоблюдении".
Хотя идея закона была хорошей, Райт сказал: "Хотя закон создал рынок независимых аудиторов алгоритмов и привел к некоторой прозрачности, на самом деле он создал стимулы для работодателей избегать аудита".
Инструменты искусственного интеллекта будут все чаще использоваться для принятия решений о найме, и если не ввести в них строгие правила, AEDT продолжат увековечивать предвзятость, заложенную в их учебных данных.
LL144 - это хорошее начало, но в нем не сказано, что должно произойти, если AEDT не пройдет проверку на предвзятость. В нем также говорится, что аудитором может быть любой человек, если он не работает на работодателя или издателя AEDT.
Нарушителям LL144 грозят штрафы в размере от $500 до $1 500. Закон полагается на саморегулирование и не дает Департаменту защиты прав потребителей и работников (DCWP) полномочий по проведению активных расследований или выявлению нарушений.
Поэтому низкий уровень соответствия неудивителен. Если законодатели хотят оградить соискателей от потенциально глючного ИИ, решающего их будущее, им, возможно, стоит пересмотреть закон LL144.
