\u00c9 talvez tentador imaginar a IA como uma tecnologia emp\u00edrica, sublinhada pela objetividade da matem\u00e1tica, do c\u00f3digo e dos c\u00e1lculos.\u00a0<\/span><\/p>\n No entanto, apercebemo-nos de que as decis\u00f5es tomadas pelos sistemas de IA s\u00e3o altamente subjectivas com base nos dados a que est\u00e3o expostos - e s\u00e3o os humanos que decidem como selecionar e reunir esses dados.\u00a0<\/span><\/p>\n A\u00ed reside um desafio, uma vez que os dados de treino da IA incorporam frequentemente o preconceito, a discrimina\u00e7\u00e3o e a discrimina\u00e7\u00e3o que a humanidade est\u00e1 a combater.<\/span><\/p>\n Mesmo formas aparentemente subtis de preconceitos inconscientes podem ser ampliadas pelo processo de treino do modelo, acabando por se revelar sob a forma de correspond\u00eancias faciais incorrectas em contextos de aplica\u00e7\u00e3o da lei, cr\u00e9dito recusado, diagn\u00f3sticos errados de doen\u00e7as e mecanismos de seguran\u00e7a deficientes para ve\u00edculos aut\u00f3nomos, entre outras coisas.\u00a0<\/span><\/p>\n As tentativas da humanidade para evitar a discrimina\u00e7\u00e3o em toda a sociedade continuam a ser um trabalho em curso, mas a IA est\u00e1 a impulsionar a tomada de decis\u00f5es cr\u00edticas neste momento.<\/span><\/p>\n Poderemos trabalhar com rapidez suficiente para sincronizar a IA com os valores modernos e evitar decis\u00f5es e comportamentos tendenciosos que alterem a vida?\u00a0<\/span><\/p>\n Na \u00faltima d\u00e9cada, os sistemas de IA demonstraram refletir os preconceitos da sociedade. <\/span><\/p>\n Estes sistemas n\u00e3o s\u00e3o inerentemente tendenciosos - em vez disso, absorvem os preconceitos dos seus criadores e os dados com que s\u00e3o treinados.\u00a0<\/span><\/p>\n Os sistemas de IA, tal como os humanos, aprendem por exposi\u00e7\u00e3o. O c\u00e9rebro humano \u00e9 um \u00edndice de informa\u00e7\u00e3o aparentemente intermin\u00e1vel - uma biblioteca com prateleiras quase ilimitadas onde armazenamos experi\u00eancias, conhecimentos e mem\u00f3rias.\u00a0<\/span><\/p>\n Neurocient\u00edfica <\/span>estudos<\/span><\/a> mostram que o c\u00e9rebro n\u00e3o tem realmente uma \"capacidade m\u00e1xima\" e continua a classificar e a armazenar informa\u00e7\u00f5es at\u00e9 \u00e0 velhice.\u00a0<\/span><\/p>\n Embora esteja longe de ser perfeito, o processo de aprendizagem progressivo e iterativo do c\u00e9rebro ajuda-nos a adaptarmo-nos a novos valores culturais e sociais, desde o direito de voto das mulheres e a aceita\u00e7\u00e3o de identidades diversas at\u00e9 ao fim da escravatura e de outras formas de preconceito consciente. <\/span><\/p>\n W<\/span>ivemos agora numa era em que as ferramentas de IA s\u00e3o utilizadas para a tomada de decis\u00f5es cr\u00edticas em vez do julgamento humano.\u00a0<\/span><\/p>\n Muitos modelos de aprendizagem autom\u00e1tica (ML) aprendem a partir de dados de treino que constituem a base da sua tomada de decis\u00f5es e n\u00e3o conseguem introduzir novas informa\u00e7\u00f5es de forma t\u00e3o eficiente como o c\u00e9rebro humano. Como tal, muitas vezes n\u00e3o conseguem produzir as decis\u00f5es actualizadas e ao minuto de que dependemos.\u00a0<\/span><\/p>\n Por exemplo, os modelos de IA s\u00e3o utilizados para identificar correspond\u00eancias faciais para efeitos de aplica\u00e7\u00e3o da lei, <\/span>analisar curr\u00edculos para candidaturas a emprego<\/span><\/a>e tomar decis\u00f5es cr\u00edticas em mat\u00e9ria de sa\u00fade em contextos cl\u00ednicos.<\/span><\/p>\n \u00c0 medida que a sociedade continua a incorporar a IA na nossa vida quotidiana, temos de garantir que \u00e9 igual e precisa para todos. <\/span><\/p>\n Atualmente, n\u00e3o \u00e9 esse o caso.\u00a0\u00a0<\/span><\/p>\n Existem numerosos exemplos reais de preconceitos e discrimina\u00e7\u00e3o relacionados com a IA.\u00a0<\/span><\/p>\n Nalguns casos, os impactos do enviesamento da IA mudam a vida das pessoas, enquanto noutros, permanecem em segundo plano, influenciando subtilmente as decis\u00f5es.\u00a0<\/span><\/p>\n Um conjunto de dados de treino do MIT criado em 2008, denominado <\/span>Pequenas imagens<\/span><\/a> continha aproximadamente 80.000.000 imagens em cerca de 75.000 categorias.\u00a0<\/span><\/p>\n Foi inicialmente concebido para ensinar sistemas de IA a reconhecer pessoas e objectos em imagens e tornou-se um conjunto de dados de refer\u00eancia popular para v\u00e1rias aplica\u00e7\u00f5es em vis\u00e3o computacional (CV).\u00a0<\/span><\/p>\n A 2020 an\u00e1lise do The Register<\/a> constatou que muitos <\/span>Tiny Images continha r\u00f3tulos obscenos, racistas e sexistas.\u00a0<\/span><\/p>\n Antonio Torralba, do MIT, afirmou que o laborat\u00f3rio n\u00e3o tinha conhecimento destes r\u00f3tulos ofensivos, dizendo ao The Register: \"\u00c9 evidente que dev\u00edamos t\u00ea-los selecionado manualmente\". Mais tarde, o MIT divulgou um comunicado a dizer que tinha retirado o conjunto de dados do servi\u00e7o.<\/span><\/p>\n Esta n\u00e3o foi a \u00fanica vez que um antigo conjunto de dados de refer\u00eancia foi encontrado repleto de problemas. O Labeled Faces in the Wild (LFW), um conjunto de dados de rostos de celebridades utilizado extensivamente em tarefas de reconhecimento facial, \u00e9 composto por 77,5% de homens e 83,5% de indiv\u00edduos de pele branca.\u00a0<\/span><\/p>\n Muitos destes conjuntos de dados veteranos foram incorporados nos modelos modernos de IA, mas tiveram origem numa era de desenvolvimento da IA em que a t\u00f3nica era colocada na cria\u00e7\u00e3o de sistemas que <\/span>apenas trabalho <\/span><\/i>em vez dos adequados para serem utilizados em cen\u00e1rios do mundo real.\u00a0<\/span><\/p>\n Quando um sistema de IA \u00e9 treinado com esse conjunto de dados, n\u00e3o tem necessariamente o mesmo privil\u00e9gio que o c\u00e9rebro humano para se recalibrar com os valores actuais. <\/span><\/p>\n Embora os modelos possam ser actualizados iterativamente, trata-se de um processo lento e imperfeito que n\u00e3o consegue acompanhar o ritmo do desenvolvimento humano.\u00a0<\/span><\/p>\n Em 2019, o <\/span>O Governo dos EUA descobriu<\/span><\/a> que os sistemas de reconhecimento facial com melhor desempenho identificam erradamente os negros 5 a 10 vezes mais do que os brancos.\u00a0<\/span><\/p>\n N\u00e3o se trata de uma mera anomalia estat\u00edstica - tem implica\u00e7\u00f5es terr\u00edveis no mundo real, que v\u00e3o desde o Google Photos identificar pessoas negras como gorilas at\u00e9 carros aut\u00f3nomos que n\u00e3o reconhecem indiv\u00edduos de pele mais escura e os atropelam.\u00a0<\/span><\/p>\n Al\u00e9m disso, registou-se uma s\u00e9rie de deten\u00e7\u00f5es e pris\u00f5es injustas envolvendo falsas correspond\u00eancias faciais, talvez a mais prol\u00edfica <\/span>Nijeer Parks<\/span><\/a> que foi falsamente acusado de furto em loja e de infrac\u00e7\u00f5es rodovi\u00e1rias, apesar de estar a 30 milhas de dist\u00e2ncia do incidente. Posteriormente, Parks passou 10 dias na pris\u00e3o e teve de pagar milhares de euros de custas judiciais.\u00a0<\/span><\/p>\nDesvendar os preconceitos na IA<\/span><\/h2>\n
Estudos de caso sobre preconceitos de IA<\/span><\/h2>\n
1. Vi\u00e9s do conjunto de dados do MIT<\/span><\/h3>\n
![\"Declara\u00e7\u00e3o](\"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/07\/statement-1024x281.png\")
2: Reconhecimento de imagens: preconceito contra indiv\u00edduos de pele mais escura<\/span><\/h3>\n
![\"Parques](\"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/07\/facialmatchparks-1024x576.jpg\")