{"id":2501,"date":"2023-07-14T09:43:36","date_gmt":"2023-07-14T09:43:36","guid":{"rendered":"https:\/\/dailyai.com\/?p=2501"},"modified":"2024-03-28T00:47:11","modified_gmt":"2024-03-28T00:47:11","slug":"ai-in-recruitment-are-the-risks-worth-the-rewards-of-speed-and-efficiency","status":"publish","type":"post","link":"https:\/\/dailyai.com\/pt\/2023\/07\/ai-in-recruitment-are-the-risks-worth-the-rewards-of-speed-and-efficiency\/","title":{"rendered":"IA no recrutamento: os riscos valem os benef\u00edcios da rapidez e da efici\u00eancia?"},"content":{"rendered":"

\u00c0 medida que a IA continua a ser incorporada nos processos de recrutamento, \u00e9 evidente que a promessa de efici\u00eancia da tecnologia tem os seus pr\u00f3prios riscos.\u00a0<\/strong><\/p>\n

De acordo com Dados de 2022<\/a>Cerca de 55% das empresas j\u00e1 utilizam ferramentas de IA para o recrutamento.<\/span><\/p>\n

Embora a IA tenha acelerado as pr\u00e1ticas tradicionais de contrata\u00e7\u00e3o, eliminando pilhas de CVs e curr\u00edculos no processo, tamb\u00e9m levantou quest\u00f5es cr\u00edticas sobre justi\u00e7a, preconceitos e a pr\u00f3pria natureza da tomada de decis\u00f5es humanas.\u00a0<\/span><\/p>\n

Afinal, as IA s\u00e3o treinadas com dados humanos, pelo que s\u00e3o suscept\u00edveis de herdar todos os preconceitos que prometem erradicar.\u00a0<\/span><\/p>\n

\u00c9 algo que podemos mudar? O que \u00e9 que aprendemos at\u00e9 agora com a IA de recrutamento?<\/p>\n

Meta acusada de pr\u00e1ticas publicit\u00e1rias discriminat\u00f3rias por grupos de defesa dos direitos humanos<\/span><\/h2>\n

Os dados mostram que alguns <\/span>79% de candidatos a emprego<\/span><\/a> utilizam as redes sociais para procurar emprego, e h\u00e1 provas de que \u00e9 aqui que come\u00e7a a discrimina\u00e7\u00e3o.\u00a0<\/span><\/p>\n

Meta \u00e9 atualmente confrontado com m\u00faltiplas alega\u00e7\u00f5es<\/a> de organiza\u00e7\u00f5es europeias de direitos humanos que afirmam que o algoritmo de sele\u00e7\u00e3o de an\u00fancios de emprego do Facebook \u00e9 tendencioso.\u00a0<\/span><\/p>\n

Em junho, a ONG <\/span>Testemunha global<\/span><\/a> pesquisou v\u00e1rios an\u00fancios de emprego do Facebook com segmenta\u00e7\u00e3o autom\u00e1tica e descobriu que muitos perpetuavam preconceitos de g\u00e9nero.<\/span><\/p>\n

Por exemplo, os homens tinham uma probabilidade significativamente maior de ver an\u00fancios relacionados com a engenharia, enquanto as mulheres tinham uma probabilidade substancialmente maior de ver an\u00fancios relacionados com o ensino.\u00a0<\/span><\/p>\n

Dos an\u00fancios apresentados em Fran\u00e7a, 931 PT3T dos utilizadores que viram um an\u00fancio de emprego de educador de inf\u00e2ncia e 861 PT3T dos que viram um an\u00fancio de emprego de psic\u00f3logo eram mulheres. Por outro lado, apenas 25% das mulheres viram um an\u00fancio de emprego de piloto e apenas 6% viram um an\u00fancio de emprego de mec\u00e2nico.\u00a0<\/span><\/p>\n

Nos Pa\u00edses Baixos, 85% dos utilizadores a quem foi apresentado um an\u00fancio de emprego de professor e 96% dos que foram apresentados a um an\u00fancio de emprego de rececionista eram mulheres. Foram observados resultados semelhantes em muitos outros pa\u00edses, incluindo o Reino Unido, a \u00cdndia e a \u00c1frica do Sul.\u00a0<\/span><\/p>\n

\"Vi\u00e9s
A segmenta\u00e7\u00e3o de an\u00fancios do Facebook foi fortemente enviesada em todos os pa\u00edses testados, reflectindo estere\u00f3tipos de g\u00e9nero. Fonte: Global Witness via CNN<\/a>.<\/figcaption><\/figure>\n

Num <\/span>entrevista \u00e0 CNN<\/span><\/a>Naomi Hirst, da Global Witness, afirmou: \"A nossa preocupa\u00e7\u00e3o \u00e9 que o Facebook esteja a exacerbar os preconceitos que vivemos na sociedade e a destruir as oportunidades de progresso e equidade no local de trabalho\".<\/span><\/p>\n

Juntamente com o Bureau Clara Wichmann e a Fondation des Femmes, a Global Witness apresentou queixas contra a Meta \u00e0s autoridades de direitos humanos e de prote\u00e7\u00e3o de dados em Fran\u00e7a e nos Pa\u00edses Baixos.\u00a0<\/span><\/p>\n

Os grupos pedem que se investigue se as pr\u00e1ticas da Meta violam os direitos humanos ou as leis de prote\u00e7\u00e3o de dados. Se as alega\u00e7\u00f5es se confirmarem, a Meta poder\u00e1 ser objeto de coimas e san\u00e7\u00f5es.\u00a0<\/span><\/p>\n

Em resposta, um porta-voz da Meta declarou: \"O sistema tem em conta diferentes tipos de informa\u00e7\u00e3o para tentar apresentar \u00e0s pessoas an\u00fancios que lhes interessam mais\".\u00a0<\/span><\/p>\n

Esta n\u00e3o \u00e9 a primeira vez que a Meta rejeita este tipo de cr\u00edticas - a empresa enfrentou v\u00e1rios processos judiciais em 2019<\/a> e comprometeu-se a alterar o seu sistema de distribui\u00e7\u00e3o de an\u00fancios para evitar preconceitos com base em caracter\u00edsticas protegidas como o g\u00e9nero e a ra\u00e7a.<\/span><\/p>\n

Pat de Br\u00fan, da Amnistia Internacional, foi mordaz com as conclus\u00f5es da Global Witness. \"A investiga\u00e7\u00e3o mostra consistentemente como os algoritmos do Facebook produzem resultados profundamente desiguais e muitas vezes refor\u00e7am a marginaliza\u00e7\u00e3o e a discrimina\u00e7\u00e3o\", disse \u00e0 CNN.<\/span><\/p>\n

Amazon elimina ferramenta secreta de recrutamento de IA que revelava preconceito contra as mulheres<\/span><\/h2>\n

A Amazon desenvolveu uma ferramenta de recrutamento de IA entre 2014 e 2017, antes de se aperceber que a ferramenta era tendenciosa na sele\u00e7\u00e3o de empregos de programador de software e outros cargos t\u00e9cnicos. Em 2018, a Amazon abandonou completamente a ferramenta.\u00a0<\/span><\/p>\n

O sistema de IA penalizou os curr\u00edculos que continham as palavras \"mulheres\" e \"feminino\" e desvalorizou as compet\u00eancias das mulheres licenciadas.<\/span><\/p>\n

O sistema falhou mesmo depois de a Amazon ter tentado editar os algoritmos para os tornar neutros em termos de g\u00e9nero.<\/span><\/p>\n

Posteriormente, verificou-se que a Amazon treinou a ferramenta com base em curr\u00edculos enviados \u00e0 empresa durante um per\u00edodo de 10 anos, a maioria dos quais era de homens.\u00a0<\/span><\/p>\n

Tal como muitos sistemas de IA, a ferramenta da Amazon foi influenciada pelos dados com que foi treinada, o que levou a um enviesamento n\u00e3o intencional. Este preconceito favoreceu os candidatos do sexo masculino e preferiu curr\u00edculos que utilizavam uma linguagem mais comum nos curr\u00edculos dos engenheiros do sexo masculino.\u00a0<\/span><\/p>\n

Al\u00e9m disso, devido a problemas com os dados subjacentes, o sistema recomendava frequentemente candidatos n\u00e3o qualificados para v\u00e1rios empregos.\u00a0<\/span><\/p>\n

O <\/span>F\u00f3rum Econ\u00f3mico Mundial<\/span><\/a> sobre o sistema de recrutamento da Amazon: \"Por exemplo, como no caso da Amazon, os fortes desequil\u00edbrios de g\u00e9nero podem estar relacionados com o tipo de estudo realizado. Estes enviesamentos dos dados de forma\u00e7\u00e3o tamb\u00e9m podem surgir devido \u00e0 m\u00e1 qualidade dos dados ou a conjuntos de dados muito pequenos e n\u00e3o diversificados, o que pode ser o caso de empresas que n\u00e3o operam a n\u00edvel global e que procuram candidatos de nicho.\"<\/span><\/p>\n

A Amazon conseguiu reutilizar uma \"vers\u00e3o dilu\u00edda\" do motor de recrutamento para tarefas rudimentares, como a elimina\u00e7\u00e3o de perfis de candidatos duplicados das bases de dados.\u00a0<\/span><\/p>\n

Criaram uma nova equipa para tentar novamente o rastreio autom\u00e1tico de emprego, desta vez centrado na promo\u00e7\u00e3o da diversidade.<\/span><\/p>\n

A Google luta contra os seus pr\u00f3prios problemas de discrimina\u00e7\u00e3o e preconceito<\/span><\/h2>\n

Em dezembro de 2020, o Dr. Timnit Gebru, um dos principais especialistas em \u00e9tica da IA na Google, anunciou que a <\/span>a empresa tinha-a despedido<\/span><\/a>.\u00a0<\/span><\/p>\n

A rescis\u00e3o do contrato foi efectuada depois de o Dr. Gebru ter manifestado a sua preocupa\u00e7\u00e3o com a abordagem da Google em rela\u00e7\u00e3o \u00e0 contrata\u00e7\u00e3o de minorias e com os preconceitos inerentes aos sistemas de IA.<\/span><\/p>\n

Antes de deixar a empresa, o Dr. Gebru estava prestes a publicar um artigo que destacava a parcialidade dos modelos de IA da Google.\u00a0<\/span><\/p>\n

Depois de apresentar este artigo numa confer\u00eancia acad\u00e9mica, a Dra. Gebru revelou que um gestor da Google lhe pediu para se retratar do artigo ou para retirar os seus nomes e os dos outros investigadores da Google. Ao recusar-se a cumprir o pedido, a Google aceitou uma proposta de demiss\u00e3o condicional, pondo efetivamente termo ao cargo da Dra. Gebru de imediato.<\/span><\/p>\n