La ciudad de Nueva York se ha convertido en la primera del mundo en promulgar una ley que regula el uso de herramientas automatizadas de decisión laboral (AEDT). Investigadores de la Universidad de Cornell descubrieron que las dificultades de interpretación y aplicación de la ley hacen que pocas empresas se atengan a las normas.
Los AEDT utilizan el aprendizaje automático, los modelos estadísticos, el análisis de datos o la inteligencia artificial para ayudar a las empresas y agencias de empleo a decidir qué candidato contratar, sustituyendo la toma de decisiones discrecional.
Estas herramientas utilizan la IA para procesar pilas de currículos, analizar el sentimiento o los factores psicológicos de una entrevista, y un sinfín de otros factores para finalmente decir: "Contrata a este tipo".
Con los sesgos inherentes a los modelos de IA, los AEDT pueden manifestar sesgos en la selección de los candidatos a un puesto de trabajo que recomiendan, de ahí la introducción de Ley local 144 (LL144).
La ley, que entró en vigor el 1 de enero de 2023 y cuya aplicación comenzó el pasado mes de julio, pretende combatir los posibles perjuicios que el uso de los AEDT podría acarrear a los demandantes de empleo marginados.
La ley establece que las empresas de la ciudad de Nueva York pueden utilizar AEDT, pero tienen que someter sus herramientas a auditorías para detectar sesgos, publicar las auditorías e informar a los solicitantes de empleo de que están utilizando la herramienta en su proceso de contratación.
¿Cómo va la ley?
Investigadores de la Universidad de Cornell descubrieron que la vaguedad en la definición de lo que son los AEDT y cómo se utilizan puede estar detrás de un cumplimiento muy bajo.
Los investigadores enviaron a 155 estudiantes universitarios para que actuaran como posibles solicitantes de empleo y sólo encontraron 18 auditorías de parcialidad y 11 avisos de transparencia de los casi 400 empleadores que analizaron.
¿Los empresarios no se someten a auditorías o no publican avisos de transparencia porque no alcanzan el umbral definido por la ley? Tal vez, pero con el uso generalizado de los AEDT, es poco probable.
Lucas Wright, doctorando coautor del estudio, afirma: "Hemos descubierto que, dado que la ley otorga discrecionalidad a los empleadores para determinar si la ley se aplica a su uso de herramientas automatizadas de decisión laboral (AEDT), sólo podemos hacer afirmaciones sobre el cumplimiento de la ley, no sobre su incumplimiento".
Aunque la idea que subyace a la ley es buena, Wright afirma: "Aunque la ley ha creado un mercado de auditores independientes de algoritmos y ha dado lugar a cierta transparencia, en realidad ha creado incentivos para que los empresarios eviten las auditorías."
Las herramientas de IA se van a utilizar cada vez más para tomar decisiones de contratación y, a menos que se codifiquen en ellas normas estrictas, las AEDT seguirán perpetuando los sesgos que había en sus datos de entrenamiento.
La LL144 es un buen comienzo, pero no dice qué debe ocurrir si un AEDT no supera una auditoría de sesgo. También dice que cualquiera puede ser auditor siempre que no trabaje para el empleador o el editor del AEDT.
Los infractores de la LL144 se enfrentan a multas de entre $500 y $1.500. La ley se basa en la autorregulación y no otorga al Departamento de Protección de Consumidores y Trabajadores (DCWP) poderes proactivos de investigación o descubrimiento.
Por eso no sorprende el bajo nivel de cumplimiento. Si los legisladores quieren proteger a los solicitantes de empleo de una IA potencialmente defectuosa que decida su futuro, puede que tengan que revisar la LL144.
