O enviesamento sempre foi um problema na IA, mas um novo estudo mostra que est\u00e1 a ser integrado secretamente nos modelos de linguagem com consequ\u00eancias potencialmente catastr\u00f3ficas.<\/b><\/p>\n
No que j\u00e1 foi anunciado como um estudo de refer\u00eancia, uma equipa de investigadores, incluindo Valentin Hofman, Pratyusha Ria Kalluri, Dan Jurafsky e Sharese King, documentou a forma como os modelos de linguagem de grande dimens\u00e3o (LLM) discriminam o ingl\u00eas afro-americano (AAE).<\/span><\/p>\n Em suma, o estudo testa a forma como diferentes ortografias e dialectos afectam o comportamento dos LLM. Investiga se determinados dialectos e a utiliza\u00e7\u00e3o de palavras influenciam o comportamento de um LLM, centrando-se no preconceito e na discrimina\u00e7\u00e3o.\u00a0<\/span><\/p>\n Sabemos que os resultados do LLM s\u00e3o muito sens\u00edveis ao input. Mesmo pequenos desvios na ortografia e no estilo podem influenciar os resultados.<\/span><\/p>\n Mas ser\u00e1 que isto significa que certas entradas - por exemplo, as digitadas em AAE - produzem resultados enviesados? Em caso afirmativo, quais s\u00e3o as poss\u00edveis consequ\u00eancias?\u00a0<\/span><\/p>\n Para responder a estas quest\u00f5es, o <\/span>investigadores<\/span> analisou os preconceitos de um total de 12 LLMs contra AAE, revelando preconceitos que igualam ou excedem os tipicamente existentes nos seres humanos. O estudo \u00e9 dispon\u00edvel no ArXiv.<\/a><\/span><\/p>\n Os investigadores aplicaram depois as suas conclus\u00f5es a dom\u00ednios sociais como o emprego e a justi\u00e7a penal, onde a tomada de decis\u00f5es por IA est\u00e1 a tornar-se mais comum.\u00a0<\/span><\/p>\n Hofmann descreveu a metodologia do estudo no X: \"Analisamos o preconceito dialetal em LLMs usando Matched Guise Probing: incorporamos textos em ingl\u00eas afro-americano e em ingl\u00eas americano normalizado (SAE) em avisos que pedem propriedades dos falantes que proferiram os textos e comparamos as previs\u00f5es do modelo para os dois tipos de entrada.\u00a0<\/span><\/p>\n Analisamos o preconceito de dialeto nos LLMs utilizando o Matched Guise Probing: incorporamos textos em ingl\u00eas afro-americano e em ingl\u00eas americano estandardizado em pedidos que solicitam propriedades dos falantes que proferiram os textos e comparamos as previs\u00f5es do modelo para os dois tipos de entrada. pic.twitter.com\/drTco67Ean<\/a><\/p>\n - Valentin Hofmann (@vjhofmann) 4 de mar\u00e7o de 2024<\/a><\/p><\/blockquote>\n\n