{"id":2501,"date":"2023-07-14T09:43:36","date_gmt":"2023-07-14T09:43:36","guid":{"rendered":"https:\/\/dailyai.com\/?p=2501"},"modified":"2024-03-28T00:47:11","modified_gmt":"2024-03-28T00:47:11","slug":"ai-in-recruitment-are-the-risks-worth-the-rewards-of-speed-and-efficiency","status":"publish","type":"post","link":"https:\/\/dailyai.com\/es\/2023\/07\/ai-in-recruitment-are-the-risks-worth-the-rewards-of-speed-and-efficiency\/","title":{"rendered":"IA en la contrataci\u00f3n: \u00bfmerecen la pena los riesgos por la rapidez y la eficacia?"},"content":{"rendered":"

A medida que la IA sigue incorpor\u00e1ndose a los procesos de contrataci\u00f3n, est\u00e1 claro que la promesa de eficiencia de la tecnolog\u00eda conlleva sus propios riesgos.\u00a0<\/strong><\/p>\n

Seg\u00fan Datos de 2022<\/a>En la actualidad, alrededor del 55% de las empresas ya utilizan herramientas de IA para la contrataci\u00f3n.<\/span><\/p>\n

Aunque la IA ha acelerado las pr\u00e1cticas tradicionales de contrataci\u00f3n, eliminando pilas de CV y curr\u00edculos en el proceso, tambi\u00e9n ha planteado cuestiones cr\u00edticas sobre la equidad, la parcialidad y la propia naturaleza de la toma de decisiones humana.\u00a0<\/span><\/p>\n

Al fin y al cabo, las IA se entrenan con datos humanos, por lo que son susceptibles de heredar todos los sesgos y prejuicios que prometen erradicar.\u00a0<\/span><\/p>\n

\u00bfEs algo que podamos cambiar? \u00bfQu\u00e9 hemos aprendido hasta ahora de la IA de contrataci\u00f3n?<\/p>\n

Grupos de derechos humanos acusan a Meta de pr\u00e1cticas publicitarias discriminatorias<\/span><\/h2>\n

Los datos muestran que algunos <\/span>79% de solicitantes de empleo<\/span><\/a> utilizan las redes sociales para buscar empleo, y est\u00e1 demostrado que es ah\u00ed donde empieza la discriminaci\u00f3n.\u00a0<\/span><\/p>\n

Meta es actualmente se enfrenta a m\u00faltiples acusaciones<\/a> de organizaciones europeas de derechos humanos que afirman que el algoritmo de segmentaci\u00f3n de anuncios de empleo de Facebook es sesgado.\u00a0<\/span><\/p>\n

En junio, la ONG <\/span>Testigo Mundial<\/span><\/a> investig\u00f3 varios anuncios de empleo autodirigidos en Facebook y descubri\u00f3 que muchos perpetuaban prejuicios sexistas.<\/span><\/p>\n

Por ejemplo, los hombres ten\u00edan muchas m\u00e1s probabilidades de que se les mostraran anuncios relacionados con la ingenier\u00eda, mientras que las mujeres ten\u00edan muchas m\u00e1s probabilidades de que se les mostraran anuncios relacionados con la ense\u00f1anza.\u00a0<\/span><\/p>\n

De los anuncios mostrados en Francia, 93% de los usuarios que vieron un anuncio de trabajo de profesor de preescolar y 86% de los que vieron un anuncio de trabajo de psic\u00f3logo eran mujeres. Por el contrario, s\u00f3lo 25% de las mujeres vieron un anuncio de trabajo de piloto y apenas 6% vieron un anuncio de trabajo de mec\u00e1nico.\u00a0<\/span><\/p>\n

En los Pa\u00edses Bajos, 85% de los usuarios a los que se mostr\u00f3 un anuncio de trabajo de profesor y 96% de los que se mostr\u00f3 un anuncio de trabajo de recepcionista eran mujeres. Se observaron resultados similares en muchos otros pa\u00edses, como Reino Unido, India y Sud\u00e1frica.\u00a0<\/span><\/p>\n

\"Facebook
La segmentaci\u00f3n publicitaria de Facebook estaba muy sesgada en todos los pa\u00edses analizados, reflejando estereotipos de g\u00e9nero. Fuente: Global Witness v\u00eda CNN<\/a>.<\/figcaption><\/figure>\n

En un <\/span>entrevista con CNN<\/span><\/a>En palabras de Naomi Hirst, de Global Witness: \"Nuestra preocupaci\u00f3n es que Facebook est\u00e1 exacerbando los prejuicios que vivimos en la sociedad y, de hecho, estropeando las oportunidades de progreso y equidad en el lugar de trabajo\".<\/span><\/p>\n

Junto con Bureau Clara Wichmann y la Fondation des Femmes, Global Witness ha presentado denuncias contra Meta ante las autoridades de derechos humanos y protecci\u00f3n de datos de Francia y los Pa\u00edses Bajos.\u00a0<\/span><\/p>\n

Los grupos piden que se investigue si las pr\u00e1cticas de Meta vulneran los derechos humanos o la legislaci\u00f3n sobre protecci\u00f3n de datos. Si las acusaciones se confirman, Meta podr\u00eda enfrentarse a multas y sanciones.\u00a0<\/span><\/p>\n

En respuesta, un portavoz de Meta declar\u00f3: \"El sistema tiene en cuenta distintos tipos de informaci\u00f3n para intentar ofrecer a la gente anuncios que le interesen m\u00e1s.\"\u00a0<\/span><\/p>\n

No es la primera vez que Meta rechaza este tipo de cr\u00edticas. m\u00faltiples demandas en 2019<\/a> y se comprometi\u00f3 a cambiar su sistema de difusi\u00f3n de anuncios para evitar los prejuicios basados en caracter\u00edsticas protegidas como el sexo y la raza.<\/span><\/p>\n

Pat de Br\u00fan, de Amnist\u00eda Internacional, fue mordaz con las conclusiones de Global Witness. \"La investigaci\u00f3n muestra sistem\u00e1ticamente c\u00f3mo los algoritmos de Facebook producen resultados profundamente desiguales y a menudo refuerzan la marginaci\u00f3n y la discriminaci\u00f3n\", dijo a CNN.<\/span><\/p>\n

Amazon desecha una herramienta secreta de reclutamiento por IA que mostraba prejuicios contra las mujeres<\/span><\/h2>\n

Amazon desarroll\u00f3 una herramienta de contrataci\u00f3n de IA entre 2014 y 2017 antes de darse cuenta de que la herramienta estaba sesgada al seleccionar trabajos de desarrollador de software y otros puestos t\u00e9cnicos. En 2018, Amazon abandon\u00f3 la herramienta por completo.\u00a0<\/span><\/p>\n

El sistema de IA penalizaba los curr\u00edculos que conten\u00edan la palabra \"mujer\" y \"femenino\" y rebajaba las cualificaciones de las licenciadas.<\/span><\/p>\n

El sistema fall\u00f3 incluso despu\u00e9s de que Amazon intentara editar los algoritmos para que no tuvieran en cuenta el g\u00e9nero.<\/span><\/p>\n

M\u00e1s tarde se supo que Amazon hab\u00eda entrenado la herramienta a partir de curr\u00edculos enviados a la empresa durante un periodo de 10 a\u00f1os, la mayor\u00eda de los cuales proced\u00edan de hombres.\u00a0<\/span><\/p>\n

Como muchos sistemas de IA, la herramienta de Amazon se vio influida por los datos con los que se entren\u00f3, lo que provoc\u00f3 un sesgo involuntario. Este sesgo favorec\u00eda a los candidatos masculinos y prefer\u00eda los curr\u00edculos que utilizaban un lenguaje m\u00e1s habitual en los curr\u00edculos de los ingenieros hombres.\u00a0<\/span><\/p>\n

Adem\u00e1s, debido a problemas con los datos subyacentes, el sistema recomendaba a menudo candidatos no cualificados para diversos puestos.\u00a0<\/span><\/p>\n

En <\/span>Foro Econ\u00f3mico Mundial<\/span><\/a> dice sobre el sistema de contrataci\u00f3n de Amazon: \"Por ejemplo, como en el caso de Amazon, los fuertes desequilibrios de g\u00e9nero podr\u00edan correlacionarse con el tipo de estudio realizado. Estos sesgos de los datos de formaci\u00f3n tambi\u00e9n podr\u00edan surgir debido a la mala calidad de los datos o a conjuntos de datos muy peque\u00f1os y no diversos, lo que puede ser el caso de las empresas que no operan a nivel mundial y buscan candidatos de nicho.\"<\/span><\/p>\n

Amazon consigui\u00f3 reutilizar una \"versi\u00f3n diluida\" del motor de contrataci\u00f3n para tareas rudimentarias, como eliminar perfiles de candidatos duplicados de las bases de datos.\u00a0<\/span><\/p>\n

Crearon un nuevo equipo para hacer otro intento de selecci\u00f3n automatizada de personal, esta vez centrado en promover la diversidad.<\/span><\/p>\n

Google lucha contra sus propios problemas de discriminaci\u00f3n y parcialidad<\/span><\/h2>\n

En diciembre de 2020, el Dr. Timnit Gebru, destacado especialista en \u00e9tica de la IA en Google, anunci\u00f3 que la <\/span>empresa la hab\u00eda despedido<\/span><\/a>.\u00a0<\/span><\/p>\n

El cese se produjo despu\u00e9s de que el Dr. Gebru expresara su preocupaci\u00f3n por el enfoque de Google respecto a la contrataci\u00f3n de minor\u00edas y el sesgo inherente a los sistemas de IA.<\/span><\/p>\n

Antes de abandonar la empresa, el Dr. Gebru iba a publicar un art\u00edculo en el que pon\u00eda de manifiesto la parcialidad de los modelos de IA de Google.\u00a0<\/span><\/p>\n

Tras presentar este art\u00edculo en una conferencia acad\u00e9mica, la Dra. Gebru revel\u00f3 que un directivo de Google le pidi\u00f3 que se retractara del art\u00edculo o que retirara su nombre y el de los dem\u00e1s investigadores de Google. Al negarse, Google acept\u00f3 una propuesta de dimisi\u00f3n condicional, con lo que la Dra. Gebru qued\u00f3 cesada de inmediato.<\/span><\/p>\n