Voreingenommenheit war schon immer ein Problem in der k\u00fcnstlichen Intelligenz, aber eine neue Studie zeigt, dass sie heimlich in Sprachmodelle integriert wird - mit potenziell katastrophalen Folgen.<\/b><\/p>\n
In einer bereits als bahnbrechend angek\u00fcndigten Studie hat ein Forscherteam, darunter Valentin Hofman, Pratyusha Ria Kalluri, Dan Jurafsky und Sharese King, dokumentiert, wie gro\u00dfe Sprachmodelle (LLMs) afroamerikanisches Englisch (AAE) diskriminieren.<\/span><\/p>\n Kurz gesagt, die Studie testet, wie unterschiedliche Schreibweisen und Dialekte das Verhalten von LLMs beeinflussen. Es wird untersucht, ob bestimmte Dialekte und der Wortgebrauch das Verhalten von LLMs beeinflussen, wobei der Schwerpunkt auf Voreingenommenheit und Diskriminierung liegt.\u00a0<\/span><\/p>\n Wir wissen, dass die Ergebnisse des LLM sehr empfindlich auf die Eingabe reagieren. Selbst kleine Abweichungen in Rechtschreibung und Stil k\u00f6nnen die Ergebnisse beeinflussen.<\/span><\/p>\n Bedeutet dies aber, dass bestimmte Eingaben - z. B. die in AAE eingegebenen - zu verzerrten Ergebnissen f\u00fchren? Wenn ja, was sind die m\u00f6glichen Folgen?\u00a0<\/span><\/p>\n Um diese Fragen zu beantworten, wird die <\/span>Forscher<\/span> untersuchte die Vorurteile von insgesamt 12 LLMs gegen\u00fcber AAE und stellte dabei Vorurteile fest, die denen von Menschen entsprechen oder sie sogar \u00fcbertreffen. Die Studie ist verf\u00fcgbar auf ArXiv.<\/a><\/span><\/p>\n Die Forscher wendeten ihre Erkenntnisse dann auf gesellschaftliche Bereiche wie Besch\u00e4ftigung und Strafjustiz an, wo KI-Entscheidungen immer h\u00e4ufiger getroffen werden.\u00a0<\/span><\/p>\n Hofmann beschrieb die Methodik der Studie auf X: \"Wir analysieren Dialektvorurteile in LLMs mittels Matched Guise Probing: Wir betten afroamerikanische Englisch- und standardisierte amerikanische Englischtexte (SAE) in Prompts ein, die nach Eigenschaften der Sprecher fragen, die die Texte ge\u00e4u\u00dfert haben, und vergleichen die Modellvorhersagen f\u00fcr die beiden Arten von Input.\"\u00a0<\/span><\/p>\n Wir analysieren Dialektvorurteile in LLMs mit Hilfe von Matched Guise Probing: Wir betten afroamerikanische Englisch- und standardisierte amerikanische Englischtexte in Prompts ein, die nach Eigenschaften der Sprecher fragen, die die Texte ge\u00e4u\u00dfert haben, und vergleichen die Modellvorhersagen f\u00fcr die beiden Arten von Input. pic.twitter.com\/drTco67Ean<\/a><\/p>\n - Valentin Hofmann (@vjhofmann) 4. M\u00e4rz 2024<\/a><\/p><\/blockquote>\n\n