Après l'échec spectaculaire de la nouvelle fonction de recherche AI Overviews de Google la semaine dernière, l'entreprise a minimisé le problème tout en indiquant qu'un correctif était en cours.
AI Overviews utilise l'IA pour puiser des informations sur l'internet afin de fournir une réponse à une demande de recherche. Cela évite à l'utilisateur de devoir cliquer sur plusieurs sites web.
Dans un cas classique d'"entrée et de sortie de déchets", un certain nombre de réponses fournies par les aperçus de l'IA étaient les suivantes comiquement faux parce qu'elle s'est appuyée sur des informations erronées publiées en ligne.
La responsable de la recherche, Liz Reid, a fait une déclaration dans un article de blog dans laquelle elle a déclaré que les aperçus sur l'IA avaient été un grand succès, tout en admettant qu'il y avait eu quelques accrocs.
M. Reid a indiqué que certains résultats étranges s'expliquaient par des requêtes absurdes ou des captures d'écran truquées. En ce qui concerne les faux résultats, M. Reid a déclaré : "Ces aperçus de l'IA ne sont jamais apparus. Nous encourageons donc les personnes qui rencontrent ces captures d'écran à effectuer elles-mêmes une recherche pour vérifier."
Elle a admis que les aperçus d'IA ont donné des résultats "bizarres, inexacts ou inutiles". La raison principale en est soit le manque de données de qualité sur l'internet en rapport avec la requête, soit le fait que la requête était absurde et que l'outil de recherche ne s'en est pas rendu compte.
La suggestion de manger des cailloux est un exemple parfait du défi auquel AI Overviews est confrontée. La question "Combien de pierres devrais-je manger ?" n'aurait pas été posée par beaucoup de gens. Lorsque AI Overviews a tenté de répondre à cette question, il a trouvé un article satirique sur The Onion qui recommandait en plaisantant de manger un petit caillou par jour.
AI Overviews n'est pas très doué pour distinguer les contenus humoristiques, satiriques ou sarcastiques des informations factuelles, mais Google affirme avoir amélioré la qualité des résultats d'AI Overviews :
- Construire de meilleurs mécanismes de détection pour les requêtes absurdes et les contenus satiriques ou humoristiques.
- Limiter l'utilisation de contenus générés par les utilisateurs (par exemple Reddit) dans les réponses qui pourraient offrir des conseils trompeurs.
- Ajout de restrictions de déclenchement pour les requêtes pour lesquelles les aperçus de l'IA ne s'avéraient pas aussi utiles.
- Des garde-fous plus solides ont été ajoutés pour limiter les réponses liées à des sujets tels que l'actualité et la santé.
Les gens se sont peut-être amusés à se concentrer sur les réponses bizarres, mais il est extrêmement difficile de fournir de bonnes réponses aux requêtes de recherche. AI Overviews est objectivement utile, même si vous devez traiter les résultats avec un certain scepticisme.
L'IA ne crée pas d'informations, elle s'appuie sur ses données d'apprentissage ou, comme dans le cas des aperçus de l'IA, elle renvoie une réponse basée sur des informations générées par l'homme sur l'internet.
AI Overviews doit répondre aux mêmes questions difficiles que celles auxquelles les humains sont confrontés lorsqu'ils lisent quelque chose en ligne : Est-ce vrai ?
Paradoxalement, l'IA rend la réponse à cette question plus difficile, et non plus facile.
