Google a temporairement désactivé le générateur d'images d'IA Gemini en raison de préoccupations concernant l'exactitude historique de l'outil.
Il s'est avéré que l'IA générait des représentations diverses de personnages tels que les pères fondateurs des États-Unis et les soldats allemands de l'ère nazie, ce qui, bien que bien intentionné pour promouvoir la diversité, a suscité une vaste controverse.
Gémeaux, créez une image des pères fondateurs des États-Unis d'Amérique pic.twitter.com/89LqcLJ5DU
- Tsarathustra (@tsarnick) 20 février 2024
Google a reconnu publiquement le problème, en déclarant : "Nous travaillons déjà à résoudre les problèmes récents liés à la fonction de génération d'images de Gemini", et a assuré qu'une version améliorée serait bientôt disponible.
Nous travaillons déjà à résoudre les problèmes récents liés à la fonction de génération d'images de Gemini. Pendant ce temps, nous allons mettre en pause la génération d'images des personnes et publierons bientôt une version améliorée. https://t.co/SLxYPGoqOZ
- Google Communications (@Google_Comms) 22 février 2024
Le problème a été identifié lorsque les utilisateurs ont remarqué que les images générées par l'IA incluaient des identités raciales et sexuelles diverses qui étaient historiquement inexactes.
Un test effectué par The Verge a révélé la tendance du modèle à générer des images de femmes noires et amérindiennes en tant que sénatrices américaines dans les années 1800, malgré le fait que la première femme sénatrice, qui était blanche, ait pris ses fonctions en 1922.
Wow, les Gémeaux sont une blague. https://t.co/0MIzi03GIP
- Paul Graham (@paulg) 20 février 2024
En réponse, Google a déclaré : "Nous travaillons à l'amélioration de la capacité de Gemini à générer des images de personnes. Nous prévoyons le retour prochain de cette fonctionnalité et vous en informerons dans les mises à jour de publication."
En dehors de cette question spécifique, Gémeaux a été critiqué pour sa faible fiabilité, car il génère des images non pertinentes ou ne génère pas d'images du tout pour certains messages, y compris des représentations ridicules des cofondateurs de Google, Larry Page et Sergey Brin.
L'IA a également été signalée comme refusant catégoriquement certaines invites de texte et d'image faisant référence à des personnes.
En toute honnêteté, certains de ces "tests" donnent des résultats similaires sur d'autres générateurs d'images. Néanmoins, on a l'impression que Google a explicitement programmé Gemini pour fournir des résultats ethniques et sexospécifiques au détriment de la raison et de la rationalité.
Le comportement de Gemini s'inscrit également dans le débat actuel sur l'"IA éveillée".
Certaines personnalités, dont Elon Musk, ont critiqué la tendance de l'IA à refléter un "virus de l'esprit éveillé", suggérant que les efforts visant à imprégner l'IA d'un contenu politiquement correct ou trop inclusif peuvent conduire à des distorsions de la réalité et des faits historiques.
Les critiques soutiennent que les efforts de l'IA pour être inclusive ne doivent pas se faire au détriment de l'exactitude des faits, en particulier dans la représentation historique.
Il s'agissait d'un thème de marketing clé lorsque Le xAI de Musk a publié GrokLe projet est considéré comme un "anti-éveil".
Des expériences ont montré que Les modèles de Google et d'OpenAI présentent un biais de gauche, tandis que les modèles de logiciels libres peuvent être plus à droite sur l'axe politique.
Certains estimeront que ces comportements sont essentiellement bénins, d'autres qu'ils sont essentiellement nuisibles.
Couplé avec L'épisode hallucinatoire de ChatGPT cette semaineLa période actuelle n'a pas été la plus stable pour l'IA.
