Il est peut-\u00eatre tentant d'imaginer l'IA comme une technologie empirique, soulign\u00e9e par l'objectivit\u00e9 des math\u00e9matiques, du code et des calculs.\u00a0<\/span><\/p>\n Cependant, nous nous sommes rendu compte que les d\u00e9cisions prises par les syst\u00e8mes d'IA sont hautement subjectives et bas\u00e9es sur les donn\u00e9es auxquelles ils sont expos\u00e9s - et ce sont les humains qui d\u00e9cident de la mani\u00e8re de s\u00e9lectionner et d'assembler ces donn\u00e9es.\u00a0<\/span><\/p>\n C'est l\u00e0 que r\u00e9side le d\u00e9fi, car les donn\u00e9es d'apprentissage de l'IA incarnent souvent les pr\u00e9jug\u00e9s et la discrimination que l'humanit\u00e9 doit combattre.<\/span><\/p>\n M\u00eame des formes apparemment subtiles de pr\u00e9jug\u00e9s inconscients peuvent \u00eatre amplifi\u00e9es par le processus de formation des mod\u00e8les, se r\u00e9v\u00e9lant finalement sous la forme de correspondances faciales incorrectes dans le cadre de l'application de la loi, de cr\u00e9dits refus\u00e9s, de diagnostics erron\u00e9s de maladies et de m\u00e9canismes de s\u00e9curit\u00e9 alt\u00e9r\u00e9s pour les v\u00e9hicules autopilot\u00e9s, entre autres.\u00a0<\/span><\/p>\n Les tentatives de l'humanit\u00e9 pour pr\u00e9venir les discriminations dans l'ensemble de la soci\u00e9t\u00e9 sont encore en cours, mais l'IA est aujourd'hui \u00e0 l'origine de d\u00e9cisions cruciales.<\/span><\/p>\n Pouvons-nous travailler suffisamment vite pour synchroniser l'IA avec les valeurs modernes et emp\u00eacher les d\u00e9cisions et les comportements biais\u00e9s qui changent la vie ?\u00a0<\/span><\/p>\n Au cours de la derni\u00e8re d\u00e9cennie, les syst\u00e8mes d'IA se sont av\u00e9r\u00e9s refl\u00e9ter les pr\u00e9jug\u00e9s de la soci\u00e9t\u00e9. <\/span><\/p>\n Ces syst\u00e8mes ne sont pas intrins\u00e8quement biais\u00e9s - ils absorbent plut\u00f4t les biais de leurs cr\u00e9ateurs et des donn\u00e9es sur lesquelles ils sont form\u00e9s.\u00a0<\/span><\/p>\n Les syst\u00e8mes d'IA, comme les humains, apprennent par exposition. Le cerveau humain est un index d'informations apparemment sans fin - une biblioth\u00e8que aux \u00e9tag\u00e8res quasi illimit\u00e9es o\u00f9 nous stockons nos exp\u00e9riences, nos connaissances et nos souvenirs.\u00a0<\/span><\/p>\n Neurosciences <\/span>\u00e9tudes<\/span><\/a> montrent que le cerveau n'a pas vraiment de \"capacit\u00e9 maximale\" et qu'il continue \u00e0 trier et \u00e0 stocker des informations jusqu'\u00e0 un \u00e2ge avanc\u00e9.\u00a0<\/span><\/p>\n Bien qu'il soit loin d'\u00eatre parfait, le processus d'apprentissage progressif et it\u00e9ratif du cerveau nous aide \u00e0 nous adapter \u00e0 de nouvelles valeurs culturelles et soci\u00e9tales, qu'il s'agisse du droit de vote des femmes, de l'acceptation d'identit\u00e9s diverses ou de la fin de l'esclavage et d'autres formes de pr\u00e9jug\u00e9s conscients. <\/span><\/p>\n W<\/span>ous vivons d\u00e9sormais dans une \u00e8re o\u00f9 les outils d'IA sont utilis\u00e9s pour prendre des d\u00e9cisions critiques \u00e0 la place du jugement humain.\u00a0<\/span><\/p>\n De nombreux mod\u00e8les d'apprentissage automatique apprennent \u00e0 partir de donn\u00e9es d'entra\u00eenement qui constituent la base de leur prise de d\u00e9cision et ne peuvent pas int\u00e9grer de nouvelles informations aussi efficacement que le cerveau humain. C'est pourquoi ils ne parviennent souvent pas \u00e0 produire les d\u00e9cisions actualis\u00e9es, \u00e0 la minute pr\u00e8s, pour lesquelles nous avons fini par compter sur eux.\u00a0<\/span><\/p>\n Par exemple, les mod\u00e8les d'IA sont utilis\u00e9s pour identifier les correspondances faciales \u00e0 des fins d'application de la loi, <\/span>analyser les curriculum vitae pour les demandes d'emploi<\/span><\/a>et prendre des d\u00e9cisions critiques en mati\u00e8re de sant\u00e9 dans un contexte clinique.<\/span><\/p>\n Alors que la soci\u00e9t\u00e9 continue d'int\u00e9grer l'IA dans notre vie quotidienne, nous devons veiller \u00e0 ce qu'elle soit \u00e9gale et pr\u00e9cise pour tout le monde. <\/span><\/p>\n Actuellement, ce n'est pas le cas.\u00a0\u00a0<\/span><\/p>\n Il existe de nombreux exemples concrets de partialit\u00e9, de pr\u00e9jug\u00e9s et de discrimination li\u00e9s \u00e0 l'IA.\u00a0<\/span><\/p>\n Dans certains cas, les cons\u00e9quences des biais de l'IA changent la vie, tandis que dans d'autres, elles restent en arri\u00e8re-plan, influen\u00e7ant subtilement les d\u00e9cisions.\u00a0<\/span><\/p>\n Un ensemble de donn\u00e9es de formation du MIT construit en 2008, appel\u00e9 <\/span>Petites images<\/span><\/a> contenait environ 80 000 000 d'images r\u00e9parties dans quelque 75 000 cat\u00e9gories.\u00a0<\/span><\/p>\n Con\u00e7u \u00e0 l'origine pour apprendre aux syst\u00e8mes d'intelligence artificielle \u00e0 reconna\u00eetre des personnes et des objets dans des images, il est devenu un ensemble de donn\u00e9es de r\u00e9f\u00e9rence populaire pour diverses applications dans le domaine de la vision par ordinateur (VA).\u00a0<\/span><\/p>\n A 2020 analyse par The Register<\/a> a constat\u00e9 que de nombreux <\/span>Tiny Images contenait des \u00e9tiquettes obsc\u00e8nes, racistes et sexistes.\u00a0<\/span><\/p>\n Antonio Torralba, du MIT, a d\u00e9clar\u00e9 que le laboratoire n'\u00e9tait pas au courant de ces \u00e9tiquettes offensantes et a d\u00e9clar\u00e9 \u00e0 The Register : \"Il est clair que nous aurions d\u00fb les filtrer manuellement.\" Le MIT a ensuite publi\u00e9 une d\u00e9claration indiquant qu'il avait retir\u00e9 l'ensemble de donn\u00e9es du service.<\/span><\/p>\n Ce n'est pas la seule fois qu'un ancien ensemble de donn\u00e9es de r\u00e9f\u00e9rence s'est r\u00e9v\u00e9l\u00e9 truff\u00e9 de probl\u00e8mes. Le Labeled Faces in the Wild (LFW), un ensemble de donn\u00e9es de visages de c\u00e9l\u00e9brit\u00e9s largement utilis\u00e9 dans les t\u00e2ches de reconnaissance faciale, se compose de 77,5% d'hommes et de 83,5% d'individus \u00e0 la peau blanche.\u00a0<\/span><\/p>\n Bon nombre de ces ensembles de donn\u00e9es anciens ont trouv\u00e9 leur place dans les mod\u00e8les d'IA modernes, mais ils sont issus d'une \u00e8re de d\u00e9veloppement de l'IA o\u00f9 l'accent \u00e9tait mis sur la construction de syst\u00e8mes qui <\/span>travailler simplement <\/span><\/i>plut\u00f4t que ceux qui sont appropri\u00e9s pour \u00eatre d\u00e9ploy\u00e9s dans des sc\u00e9narios r\u00e9els.\u00a0<\/span><\/p>\n Une fois qu'un syst\u00e8me d'IA est form\u00e9 sur un tel ensemble de donn\u00e9es, il n'a pas n\u00e9cessairement le m\u00eame privil\u00e8ge que le cerveau humain pour se recalibrer sur les valeurs contemporaines. <\/span><\/p>\n Bien que les mod\u00e8les puissent \u00eatre mis \u00e0 jour de mani\u00e8re it\u00e9rative, il s'agit d'un processus lent et imparfait qui ne peut suivre le rythme du d\u00e9veloppement humain.\u00a0<\/span><\/p>\n En 2019, le <\/span>Le gouvernement am\u00e9ricain a trouv\u00e9<\/span><\/a> que les syst\u00e8mes de reconnaissance faciale les plus performants identifient mal les personnes noires 5 \u00e0 10 fois plus que les personnes blanches.\u00a0<\/span><\/p>\n Il ne s'agit pas d'une simple anomalie statistique : elle a de graves cons\u00e9quences dans le monde r\u00e9el, allant de Google Photos qui identifie les personnes noires comme des gorilles aux voitures autonomes qui ne reconnaissent pas les personnes \u00e0 la peau plus fonc\u00e9e et leur foncent dessus.\u00a0<\/span><\/p>\n En outre, il y a eu une vague d'arrestations et d'emprisonnements injustifi\u00e9s impliquant de fausses correspondances faciales, dont la plus fr\u00e9quente est sans doute la suivante <\/span>Nijeer Parks<\/span><\/a> qui a \u00e9t\u00e9 accus\u00e9 \u00e0 tort de vol \u00e0 l'\u00e9talage et de d\u00e9lits routiers, alors qu'il se trouvait \u00e0 30 miles de l'incident. Parks a ensuite pass\u00e9 10 jours en prison et a d\u00fb d\u00e9bourser des milliers de dollars en frais d'avocat.\u00a0<\/span><\/p>\nD\u00e9m\u00ealer les biais de l'IA<\/span><\/h2>\n
\u00c9tudes de cas sur la partialit\u00e9 de l'IA<\/span><\/h2>\n
1. Le biais de l'ensemble de donn\u00e9es du MIT<\/span><\/h3>\n
![\"Petite](\"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/07\/statement-1024x281.png\")
2 : Reconnaissance d'images : pr\u00e9jug\u00e9s contre les personnes \u00e0 la peau plus fonc\u00e9e<\/span><\/h3>\n
![\"Parcs](\"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/07\/facialmatchparks-1024x576.jpg\")