{"id":2501,"date":"2023-07-14T09:43:36","date_gmt":"2023-07-14T09:43:36","guid":{"rendered":"https:\/\/dailyai.com\/?p=2501"},"modified":"2024-03-28T00:47:11","modified_gmt":"2024-03-28T00:47:11","slug":"ai-in-recruitment-are-the-risks-worth-the-rewards-of-speed-and-efficiency","status":"publish","type":"post","link":"https:\/\/dailyai.com\/de\/2023\/07\/ai-in-recruitment-are-the-risks-worth-the-rewards-of-speed-and-efficiency\/","title":{"rendered":"KI in der Personalbeschaffung: Sind die Risiken die Vorteile von Geschwindigkeit und Effizienz wert?"},"content":{"rendered":"

Da die KI immer mehr Einzug in die Personalbeschaffungsprozesse h\u00e4lt, ist klar, dass das Effizienzversprechen der Technologie auch seine Risiken mit sich bringt.\u00a0<\/strong><\/p>\n

Nach Angaben von 2022 Daten<\/a>Etwa 55% der Unternehmen nutzen bereits KI-Tools f\u00fcr die Personalbeschaffung.<\/span><\/p>\n

Die KI hat zwar die traditionellen Einstellungsverfahren beschleunigt und Stapel von Lebensl\u00e4ufen und Bewerbungen \u00fcberfl\u00fcssig gemacht, aber sie hat auch kritische Fragen zu Fairness, Voreingenommenheit und dem Wesen der menschlichen Entscheidungsfindung aufgeworfen.\u00a0<\/span><\/p>\n

Schlie\u00dflich werden KI auf der Grundlage menschlicher Daten trainiert, so dass sie alle Voreingenommenheiten und Vorurteile, die sie auszurotten versprechen, \u00fcbernehmen k\u00f6nnen.\u00a0<\/span><\/p>\n

Ist dies etwas, das wir \u00e4ndern k\u00f6nnen? Was haben wir bisher von der KI bei der Personalbeschaffung gelernt?<\/p>\n

Menschenrechtsgruppen werfen Meta diskriminierende Werbepraktiken vor<\/span><\/h2>\n

Die Daten zeigen, dass einige <\/span>79% der Arbeitssuchenden<\/span><\/a> nutzen soziale Medien f\u00fcr die Arbeitssuche, und es ist erwiesen, dass hier die Diskriminierung beginnt.\u00a0<\/span><\/p>\n

Meta ist derzeit mit mehreren Anschuldigungen konfrontiert<\/a> von europ\u00e4ischen Menschenrechtsorganisationen, die behaupten, dass der Algorithmus von Facebook zur Ausrichtung von Stellenanzeigen voreingenommen ist.\u00a0<\/span><\/p>\n

Im Juni hat die NGO <\/span>Global Witness<\/span><\/a> untersuchte mehrere zielgerichtete Facebook-Stellenanzeigen und stellte fest, dass viele davon geschlechtsspezifische Vorurteile enthalten.<\/span><\/p>\n

So wurden beispielsweise M\u00e4nner deutlich h\u00e4ufiger mit Anzeigen aus dem Bereich Ingenieurwesen konfrontiert, w\u00e4hrend Frauen deutlich h\u00e4ufiger mit Anzeigen aus dem Bereich Unterricht konfrontiert wurden.\u00a0<\/span><\/p>\n

Von den in Frankreich geschalteten Anzeigen waren 93% der Nutzer, die eine Stellenanzeige f\u00fcr Vorschullehrer sahen, und 86% der Nutzer, die eine Stellenanzeige f\u00fcr Psychologen sahen, Frauen. Umgekehrt wurde nur 25% der Frauen eine Stellenanzeige f\u00fcr Piloten gezeigt und nur 6% eine Stellenanzeige f\u00fcr Mechaniker.\u00a0<\/span><\/p>\n

In den Niederlanden waren 85% der Nutzer, denen eine Stellenanzeige f\u00fcr Lehrer angezeigt wurde, und 96% der Nutzer, denen eine Stellenanzeige f\u00fcr Rezeptionisten angezeigt wurde, Frauen. \u00c4hnliche Ergebnisse wurden in vielen anderen L\u00e4ndern, darunter das Vereinigte K\u00f6nigreich, Indien und S\u00fcdafrika, beobachtet.\u00a0<\/span><\/p>\n

\"Facebook-Voreingenommenheit
Die Zielgruppenansprache von Facebook war in allen getesteten L\u00e4ndern stark verzerrt und spiegelte Geschlechterstereotypen wider. Quelle: Global Witness \u00fcber CNN<\/a>.<\/figcaption><\/figure>\n

In einem <\/span>Interview mit CNN<\/span><\/a>Naomi Hirst von Global Witness sagte: \"Unsere Sorge ist, dass Facebook die Vorurteile, die wir in der Gesellschaft leben, versch\u00e4rft und tats\u00e4chlich die Chancen f\u00fcr Fortschritt und Gerechtigkeit am Arbeitsplatz beeintr\u00e4chtigt.\"<\/span><\/p>\n

Gemeinsam mit dem Bureau Clara Wichmann und der Fondation des Femmes hat Global Witness Beschwerden gegen Meta bei den Menschenrechts- und Datenschutzbeh\u00f6rden in Frankreich und den Niederlanden eingereicht.\u00a0<\/span><\/p>\n

Die Gruppen dr\u00e4ngen auf eine Untersuchung, ob die Praktiken von Meta gegen Menschenrechte oder Datenschutzgesetze versto\u00dfen. Sollten sich die Vorw\u00fcrfe best\u00e4tigen, k\u00f6nnten Meta Geldstrafen und Sanktionen drohen.\u00a0<\/span><\/p>\n

Ein Meta-Sprecher erkl\u00e4rte daraufhin: \"Das System ber\u00fccksichtigt verschiedene Arten von Informationen, um zu versuchen, den Leuten Anzeigen zu liefern, an denen sie am meisten interessiert sind\".\u00a0<\/span><\/p>\n

Es ist nicht das erste Mal, dass Meta derartige Kritik abwehrt - das Unternehmen sah sich mehrere Gerichtsverfahren im Jahr 2019<\/a> und verpflichtete sich, sein Anzeigensystem zu \u00e4ndern, um Voreingenommenheit aufgrund von gesch\u00fctzten Merkmalen wie Geschlecht und Rasse zu vermeiden.<\/span><\/p>\n

Pat de Br\u00fan von Amnesty International kritisierte die Ergebnisse von Global Witness scharf. \"Die Forschung zeigt immer wieder, dass die Algorithmen von Facebook zu sehr ungleichen Ergebnissen f\u00fchren und oft Marginalisierung und Diskriminierung verst\u00e4rken\", sagte sie gegen\u00fcber CNN.<\/span><\/p>\n

Amazon streicht geheimes KI-Rekrutierungstool, das Frauen benachteiligt hat<\/span><\/h2>\n

Amazon entwickelte zwischen 2014 und 2017 ein KI-Rekrutierungstool, bevor es feststellte, dass das Tool bei der Auswahl von Softwareentwickler-Jobs und anderen technischen Stellen voreingenommen war. Im Jahr 2018 hat Amazon das Tool komplett eingestellt.\u00a0<\/span><\/p>\n

Das KI-System bestrafte Lebensl\u00e4ufe, die das Wort \"Frauen\" und \"Frauen\" enthielten, und stufte die F\u00e4higkeiten weiblicher Absolventen herab.<\/span><\/p>\n

Das System scheiterte selbst dann, als Amazon versuchte, die Algorithmen so zu \u00e4ndern, dass sie geschlechtsneutral sind.<\/span><\/p>\n

Sp\u00e4ter stellte sich heraus, dass Amazon das Tool anhand von Lebensl\u00e4ufen trainiert hatte, die dem Unternehmen \u00fcber einen Zeitraum von 10 Jahren vorgelegt worden waren und von denen die meisten von M\u00e4nnern stammten.\u00a0<\/span><\/p>\n

Wie viele KI-Systeme wurde auch Amazons Tool von den Daten beeinflusst, auf denen es trainiert wurde, was zu unbeabsichtigten Verzerrungen f\u00fchrte. Diese Voreingenommenheit beg\u00fcnstigte m\u00e4nnliche Bewerber und bevorzugte Lebensl\u00e4ufe, die eine Sprache verwendeten, die eher in Lebensl\u00e4ufen m\u00e4nnlicher Ingenieure zu finden ist.\u00a0<\/span><\/p>\n

Au\u00dferdem empfahl das System aufgrund von Problemen mit den zugrundeliegenden Daten h\u00e4ufig unqualifizierte Kandidaten f\u00fcr verschiedene Stellen.\u00a0<\/span><\/p>\n

Die <\/span>Weltwirtschaftsforum<\/span><\/a> sagte \u00fcber Amazons Rekrutierungssystem: \"Zum Beispiel k\u00f6nnten - wie im Fall von Amazon - starke geschlechtsspezifische Ungleichgewichte mit der Art der durchgef\u00fchrten Studie korrelieren. Diese Verzerrungen der Trainingsdaten k\u00f6nnen auch durch schlechte Datenqualit\u00e4t oder sehr kleine, nicht diversifizierte Datens\u00e4tze entstehen, was bei Unternehmen der Fall sein kann, die nicht global agieren und nach Nischenkandidaten suchen.<\/span><\/p>\n

Amazon gelang es, eine \"verw\u00e4sserte Version\" der Recruiting-Engine f\u00fcr rudiment\u00e4re Aufgaben wie die Beseitigung doppelter Kandidatenprofile aus Datenbanken umzuwidmen.\u00a0<\/span><\/p>\n

Sie richteten ein neues Team ein, um einen weiteren Versuch mit automatisierten Besch\u00e4ftigungspr\u00fcfungen zu unternehmen, diesmal mit Schwerpunkt auf der F\u00f6rderung der Vielfalt.<\/span><\/p>\n

Google k\u00e4mpft mit seinen eigenen Problemen mit Diskriminierung und Voreingenommenheit<\/span><\/h2>\n

Im Dezember 2020 gab Dr. Timnit Gebru, ein f\u00fchrender KI-Ethiker bei Google, bekannt, dass die <\/span>Firma hatte sie entlassen<\/span><\/a>.\u00a0<\/span><\/p>\n

Die K\u00fcndigung erfolgte, nachdem Dr. Gebru Bedenken \u00fcber Googles Vorgehen bei der Einstellung von Minderheiten und \u00fcber inh\u00e4rente Voreingenommenheit in KI-Systemen ge\u00e4u\u00dfert hatte.<\/span><\/p>\n

Bevor er das Unternehmen verlie\u00df, sollte Dr. Gebru eine Arbeit ver\u00f6ffentlichen, in der er auf Verzerrungen in Googles KI-Modellen hinwies.\u00a0<\/span><\/p>\n

Nachdem sie diese Arbeit bei einer akademischen Konferenz eingereicht hatte, offenbarte Dr. Gebru, dass ein Google-Manager sie aufforderte, die Arbeit zur\u00fcckzuziehen oder die Namen von sich und den anderen Google-Forschern zu entfernen. Als sie sich weigerte, der Aufforderung nachzukommen, akzeptierte Google einen bedingten R\u00fccktrittsvorschlag und beendete damit Dr. Gebru's Position mit sofortiger Wirkung.<\/span><\/p>\n