La nouvelle fonction "AI Overview" de Google, qui vise à fournir aux utilisateurs des résumés des résultats de recherche générés par l'IA, a été critiquée pour ses réponses trompeuses, inexactes et parfois carrément bizarres.
La fonctionnalité, qui est maintenant déployée à des milliards d'exemplaires après que Google a doublé la mise lors de la récente conférence de presse de l'entreprise, a été mise en place par Google. Conférence des développeurs Google I/OL'IA est devenue l'objet de nombreuses moqueries et inquiétudes sur les médias sociaux, les utilisateurs exposant des exemples de bévues de l'IA.
Ce n'était qu'une question de temps. La curiosité humaine prend le dessus sur les garde-fous de l'IA d'une manière ou d'une autre.
Des journalistes et des utilisateurs ordinaires se sont rendus sur X et d'autres plateformes pour signaler des cas où la fonction "AI Overview" avait cité des sources douteuses, telles que des articles satiriques de The Onion ou des messages humoristiques sur Reddit, comme s'il s'agissait de faits réels.
Dans l'un des cas les plus alarmants, l'informaticienne Melanie Mitchell a montré un exemple où la fonction affichait une théorie du complot suggérant que l'ancien président Barack Obama est musulman, apparemment à la suite d'une mauvaise interprétation par l'IA d'informations provenant d'une plateforme de recherche de l'Oxford University Press.
Parmi les autres exemples d'erreurs commises par l'IA, citons le plagiat de textes provenant de blogs sans supprimer les références personnelles aux enfants des auteurs, l'absence de reconnaissance de l'existence de pays africains commençant par la lettre "K", et même la suggestion que les pythons sont des mammifères.
Certains de ces résultats inexacts, tels que la théorie de la conspiration d'Obama ou la suggestion de mettre de la colle sur une pizza, n'affichent plus de résumé de l'IA, mais des articles faisant référence aux problèmes factuels de l'IA.
Toutefois, les gens se demandent aujourd'hui si l'aperçu de l'IA pourra un jour remplir correctement sa fonction.
Google a déjà reconnu le problème, un porte-parole de l'entreprise ayant déclaré The Verge que les erreurs sont apparues sur "des requêtes généralement très rares et ne sont pas représentatives de l'expérience de la plupart des gens".
Cependant, la cause exacte du problème n'est pas claire. Elle pourrait être due à la tendance de l'IA à "halluciner".
Elle pourrait également provenir des sources utilisées par Google pour générer des résumés, telles que des articles satiriques ou des messages de trolls sur les médias sociaux.
Dans une interview accordée à The Verge, Sundar Pichai, PDG de Google, a abordé la question des hallucinations de l'IA, reconnaissant qu'il s'agit d'un "problème non résolu", mais s'abstenant de fournir un calendrier pour la recherche d'une solution.
Ce n'est pas la première fois que Google doit faire face à des critiques concernant ses produits d'IA. Au début de l'année, Gemini AI, un concurrent de ChatGPT et DALL-E d'OpenAI, a été critiqué pour avoir généré des images historiquement inexactes, notamment des officiers nazis issus de la diversité raciale, des femmes blanches présidentes et une femme pape.
En réponse, Google s'est excusé publiquement et a temporairement suspendue La capacité des Gémeaux à générer des images de personnes.
L'aperçu de l'IA a également été critiqué par les propriétaires de sites web et la communauté du marketing, car il menace de faire passer les utilisateurs de l'interaction avec les résultats traditionnels des moteurs de recherche à une simple dépendance à l'égard des extraits générés par l'IA.
