Passer au contenu
mardi, novembre 3, 2026Guide gratuit
FR
dailyai
Éthique et société

Google retire la fonctionnalité de génération d'images de Gemini suite à des résultats controversés

· 2 min de lecture
PartagerXen

Google a temporairement désactivé le générateur d'images d'IA Gemini en raison de préoccupations concernant l'exactitude historique de l'outil. 

Il s'est avéré que l'IA générait des représentations diverses de personnages tels que les pères fondateurs des États-Unis et les soldats allemands de l'ère nazie, ce qui, bien que bien intentionné pour promouvoir la diversité, a suscité une vaste controverse. 

 

Google a reconnu publiquement le problème, en déclarant : "Nous travaillons déjà à résoudre les problèmes récents liés à la fonction de génération d'images de Gemini", et a assuré qu'une version améliorée serait bientôt disponible.

Le problème a été identifié lorsque les utilisateurs ont remarqué que les images générées par l'IA incluaient des identités raciales et sexuelles diverses qui étaient historiquement inexactes.

Un test effectué par The Verge a révélé la tendance du modèle à générer des images de femmes noires et amérindiennes en tant que sénatrices américaines dans les années 1800, malgré le fait que la première femme sénatrice, qui était blanche, ait pris ses fonctions en 1922.

En réponse, Google a déclaré : "Nous travaillons à l'amélioration de la capacité de Gemini à générer des images de personnes. Nous prévoyons le retour prochain de cette fonctionnalité et vous en informerons dans les mises à jour de publication." 

En dehors de cette question spécifique, Gemini a été critiqué pour sa faible fiabilité, car il génère des images non pertinentes ou ne génère pas d'images du tout pour certains messages, y compris des représentations ridicules des cofondateurs de Google, Larry Page et Sergey Brin.

Gemini AI
Gemini n'a pas pu générer d'images compétentes des fondateurs de Google.

L'IA a également été signalée comme refusant catégoriquement certaines invites de texte et d'image faisant référence à des personnes.

En toute honnêteté, certains de ces "tests" donnent des résultats similaires sur d'autres générateurs d'images. Néanmoins, on a l'impression que Google a explicitement programmé Gemini pour fournir des résultats ethniques et sexospécifiques au détriment de la raison et de la rationalité. 

Le comportement de Gemini s'inscrit également dans le débat actuel sur l'"IA éveillée".

Certaines personnalités, dont Elon Musk, ont critiqué la tendance de l'IA à refléter un "virus de l'esprit éveillé", suggérant que les efforts visant à imprégner l'IA d'un contenu politiquement correct ou trop inclusif peuvent conduire à des distorsions de la réalité et des faits historiques. 

Les critiques soutiennent que les efforts de l'IA pour être inclusive ne doivent pas se faire au détriment de l'exactitude des faits, en particulier dans la représentation historique. 

Il s'agissait d'un thème de marketing clé lorsque Le xAI de Musk a publié GrokLe projet est considéré comme un "anti-éveil". 

Des expériences ont montré que Les modèles de Google et d'OpenAI présentent un biais de gauche, tandis que les modèles de logiciels libres peuvent être plus à droite sur l'axe politique.

Certains estimeront que ces comportements sont essentiellement bénins, d'autres qu'ils sont essentiellement nuisibles.

Couplé avec L'épisode hallucinatoire de ChatGPT cette semaineLa période actuelle n'a pas été la plus stable pour l'IA.

Gemini

Plus d'articles dans la section Éthique et société >