Quiz\u00e1 resulte tentador imaginar la IA como una tecnolog\u00eda emp\u00edrica, subrayada por la objetividad de las matem\u00e1ticas, el c\u00f3digo y los c\u00e1lculos.\u00a0<\/span><\/p>\n Sin embargo, nos hemos dado cuenta de que las decisiones que toman los sistemas de IA son muy subjetivas y se basan en los datos a los que est\u00e1n expuestos, y los humanos deciden c\u00f3mo seleccionar y ensamblar estos datos.\u00a0<\/span><\/p>\n Ah\u00ed radica el reto, ya que los datos de entrenamiento de la IA a menudo encarnan los prejuicios y la discriminaci\u00f3n contra los que lucha la humanidad.<\/span><\/p>\n Incluso formas aparentemente sutiles de sesgo inconsciente pueden verse magnificadas por el proceso de entrenamiento de modelos, revel\u00e1ndose finalmente en forma de coincidencias faciales incorrectas en entornos policiales, denegaci\u00f3n de cr\u00e9ditos, diagn\u00f3sticos err\u00f3neos de enfermedades y mecanismos de seguridad deteriorados para veh\u00edculos de conducci\u00f3n aut\u00f3noma, entre otras cosas.\u00a0<\/span><\/p>\n Los intentos de la humanidad por evitar la discriminaci\u00f3n en toda la sociedad siguen siendo un trabajo en curso, pero la IA est\u00e1 impulsando la toma de decisiones cr\u00edticas en estos momentos.<\/span><\/p>\n \u00bfPodemos trabajar lo suficientemente r\u00e1pido para sincronizar la IA con los valores modernos y evitar decisiones y comportamientos sesgados que cambien la vida?\u00a0<\/span><\/p>\n En la \u00faltima d\u00e9cada, los sistemas de IA han demostrado reflejar los prejuicios sociales. <\/span><\/p>\n Estos sistemas no son inherentemente parciales, sino que absorben los sesgos de sus creadores y de los datos con los que se entrenan.\u00a0<\/span><\/p>\n Los sistemas de IA, como los humanos, aprenden por exposici\u00f3n. El cerebro humano es un \u00edndice aparentemente infinito de informaci\u00f3n, una biblioteca con estanter\u00edas casi ilimitadas donde almacenamos experiencias, conocimientos y recuerdos.\u00a0<\/span><\/p>\n Neurociencia <\/span>estudios<\/span><\/a> demuestran que el cerebro no tiene realmente una \"capacidad m\u00e1xima\" y sigue clasificando y almacenando informaci\u00f3n hasta bien entrada la vejez.\u00a0<\/span><\/p>\n Aunque dista mucho de ser perfecto, el proceso de aprendizaje progresivo e iterativo del cerebro nos ayuda a adaptarnos a nuevos valores culturales y sociales, desde permitir el voto femenino y aceptar identidades diversas hasta acabar con la esclavitud y otras formas de prejuicio consciente. <\/span><\/p>\n W<\/span>ivimos en una \u00e9poca en la que se utilizan herramientas de IA para la toma de decisiones cr\u00edticas en lugar del juicio humano.\u00a0<\/span><\/p>\n Muchos modelos de aprendizaje autom\u00e1tico (ML) aprenden de los datos de entrenamiento que constituyen la base de su toma de decisiones y no pueden inducir nueva informaci\u00f3n con la misma eficacia que el cerebro humano. Por eso, a menudo no producen las decisiones actualizadas y al minuto de las que dependemos.\u00a0<\/span><\/p>\n Por ejemplo, los modelos de IA se utilizan para identificar coincidencias faciales con fines policiales, <\/span>analizar curr\u00edculos para solicitudes de empleo<\/span><\/a>y tomar decisiones cr\u00edticas para la salud en entornos cl\u00ednicos.<\/span><\/p>\n A medida que la sociedad sigue integrando la IA en nuestra vida cotidiana, debemos asegurarnos de que sea igualitaria y precisa para todos. <\/span><\/p>\n Actualmente no es as\u00ed.\u00a0\u00a0<\/span><\/p>\n Existen numerosos ejemplos reales de prejuicios y discriminaci\u00f3n relacionados con la IA.\u00a0<\/span><\/p>\n En algunos casos, las consecuencias de los prejuicios de la IA cambian la vida, mientras que en otros permanecen en un segundo plano, influyendo sutilmente en las decisiones.\u00a0<\/span><\/p>\n Un conjunto de datos de entrenamiento del MIT creado en 2008 llamado <\/span>Im\u00e1genes diminutas<\/span><\/a> conten\u00eda aproximadamente 80.000.000 de im\u00e1genes repartidas en unas 75.000 categor\u00edas.\u00a0<\/span><\/p>\n Inicialmente se concibi\u00f3 para ense\u00f1ar a los sistemas de IA a reconocer personas y objetos dentro de im\u00e1genes y se convirti\u00f3 en un popular conjunto de datos de referencia para diversas aplicaciones en visi\u00f3n por ordenador (CV).\u00a0<\/span><\/p>\n A 2020 an\u00e1lisis de The Register<\/a> encontr\u00f3 que muchos <\/span>Tiny Images conten\u00eda etiquetas obscenas, racistas y sexistas.\u00a0<\/span><\/p>\n Antonio Torralba, del MIT, dijo que el laboratorio no estaba al tanto de estas etiquetas ofensivas, y declar\u00f3 a The Register: \"Est\u00e1 claro que deber\u00edamos haberlas examinado manualmente\". El MIT emiti\u00f3 m\u00e1s tarde un comunicado para decir que hab\u00edan retirado el conjunto de datos del servicio.<\/span><\/p>\n No es la \u00fanica vez que un antiguo conjunto de datos de referencia ha resultado estar plagado de problemas. Labeled Faces in the Wild (LFW), un conjunto de datos de rostros de famosos muy utilizado en tareas de reconocimiento facial, consta de 77,5% de hombres y 83,5% de personas de piel blanca.\u00a0<\/span><\/p>\n Muchos de estos veteranos conjuntos de datos se han incorporado a los modelos modernos de IA, pero proceden de una era de desarrollo de la IA en la que el objetivo era crear sistemas que <\/span>s\u00f3lo trabajo <\/span><\/i>en lugar de las adecuadas para su despliegue en escenarios del mundo real.\u00a0<\/span><\/p>\n Una vez que un sistema de IA se ha entrenado con un conjunto de datos de este tipo, no tiene necesariamente el mismo privilegio que el cerebro humano a la hora de recalibrarse a los valores contempor\u00e1neos. <\/span><\/p>\n Aunque los modelos pueden actualizarse iterativamente, es un proceso lento e imperfecto que no puede igualar el ritmo del desarrollo humano.\u00a0<\/span><\/p>\n En 2019, el <\/span>El Gobierno de EE.UU. descubri\u00f3<\/span><\/a> que los sistemas de reconocimiento facial de alto rendimiento identifican err\u00f3neamente a los negros entre 5 y 10 veces m\u00e1s que a los blancos.\u00a0<\/span><\/p>\n No se trata de una mera anomal\u00eda estad\u00edstica: tiene graves implicaciones en el mundo real, desde que Google Photos identifique a personas negras como gorilas hasta que los coches autoconducidos no reconozcan a las personas de piel m\u00e1s oscura y las atropellen.\u00a0<\/span><\/p>\n Adem\u00e1s, se produjo una oleada de detenciones y encarcelamientos injustos relacionados con falsas coincidencias faciales, quiz\u00e1s de forma m\u00e1s prol\u00edfica <\/span>Nijeer Parks<\/span><\/a> que fue acusado falsamente de hurto en una tienda y de infracciones de tr\u00e1fico, a pesar de encontrarse a 30 millas del incidente. Posteriormente, Parks pas\u00f3 10 d\u00edas en la c\u00e1rcel y tuvo que desembolsar miles de euros en honorarios de abogados.\u00a0<\/span><\/p>\nDesentra\u00f1ar los prejuicios en la IA<\/span><\/h2>\n
Estudios de caso sobre el sesgo de la IA<\/span><\/h2>\n
1. Sesgo del conjunto de datos del MIT<\/span><\/h3>\n
![\"Peque\u00f1a](\"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/07\/statement-1024x281.png\")
2: Reconocimiento de im\u00e1genes: prejuicios contra las personas de piel m\u00e1s oscura<\/span><\/h3>\n
![\"Parques](\"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/07\/facialmatchparks-1024x576.jpg\")