El sesgo siempre ha sido un problema en la IA, pero un nuevo estudio demuestra que se integra de forma encubierta en los modelos ling\u00fc\u00edsticos con consecuencias potencialmente catastr\u00f3ficas.<\/b><\/p>\n
En lo que ya se ha anunciado como un estudio hist\u00f3rico, un equipo de investigadores, entre ellos Valentin Hofman, Pratyusha Ria Kalluri, Dan Jurafsky y Sharese King, document\u00f3 c\u00f3mo los grandes modelos ling\u00fc\u00edsticos (LLM) discriminan el ingl\u00e9s afroamericano (AAE).<\/span><\/p>\n En resumen, el estudio comprueba c\u00f3mo afectan las distintas graf\u00edas y dialectos al comportamiento de los LLM. Se investiga si determinados dialectos y el uso de las palabras influyen en el comportamiento de un LLM, centr\u00e1ndose en los prejuicios y la discriminaci\u00f3n.\u00a0<\/span><\/p>\n Sabemos que los resultados del LLM son muy sensibles a los datos de entrada. Incluso peque\u00f1as desviaciones en la ortograf\u00eda y el estilo pueden influir en los resultados.<\/span><\/p>\n Pero, \u00bfsignifica esto que determinadas entradas -por ejemplo, las escritas en AAE- producen salidas sesgadas? Si es as\u00ed, \u00bfcu\u00e1les son las posibles consecuencias?\u00a0<\/span><\/p>\n Para responder a estas preguntas, el <\/span>investigadores<\/span> analiz\u00f3 los prejuicios que ten\u00edan un total de 12 LLM contra la AAE, revelando sesgos que igualan o superan los que suelen tener los humanos. El estudio disponible en ArXiv.<\/a><\/span><\/p>\n A continuaci\u00f3n, los investigadores aplicaron sus conclusiones a \u00e1mbitos sociales como el empleo y la justicia penal, donde la toma de decisiones mediante IA es cada vez m\u00e1s habitual.\u00a0<\/span><\/p>\n Hofmann describi\u00f3 la metodolog\u00eda del estudio en X: \"Analizamos el prejuicio dialectal en los LLM utilizando Matched Guise Probing: incrustamos textos en ingl\u00e9s afroamericano e ingl\u00e9s americano estandarizado (SAE) en prompts que preguntan por las propiedades de los hablantes que han pronunciado los textos, y comparamos las predicciones del modelo para los dos tipos de input\".\u00a0<\/span><\/p>\n Analizamos el prejuicio dialectal en los LLM mediante el uso de Matched Guise Probing: incrustamos textos en ingl\u00e9s afroamericano e ingl\u00e9s americano estandarizado en prompts que preguntan por las propiedades de los hablantes que han pronunciado los textos, y comparamos las predicciones del modelo para los dos tipos de input. pic.twitter.com\/drTco67Ean<\/a><\/p>\n - Valentin Hofmann (@vjhofmann) 4 de marzo de 2024<\/a><\/p><\/blockquote>\n\n