Después de que la nueva función de búsqueda AI Overviews de Google fallara de forma dramática la semana pasada, la empresa restó importancia al problema pero dijo que se estaba trabajando en una solución.
AI Overviews utiliza la IA para extraer información de Internet y ofrecer una respuesta a una consulta de búsqueda. Esto ahorra al usuario la molestia de hacer clic en varios sitios web.
En un caso clásico de "basura que entra, basura que sale", varias de las respuestas que dieron los resúmenes de AI fueron las siguientes cómicamente equivocado porque se basó en información incorrecta publicada en Internet.
La Jefa de Búsqueda Liz Reid emitió un comunicado en una entrada de blog en la que afirmaba que AI Overviews había sido un gran éxito, pero admitía que había habido algunos inconvenientes.
Según Reid, algunos de los resultados extraños se debían a consultas sin sentido o a capturas de pantalla falsas. En cuanto a los resultados falsos, Reid dijo: "Esos resúmenes de IA nunca aparecieron. Así que animamos a cualquiera que encuentre estas capturas de pantalla a que haga una búsqueda por sí mismo para comprobarlo".
Admitió que AI Overviews ofrecía algunos resultados "extraños, inexactos o poco útiles". La razón principal es la falta de datos de calidad en Internet relacionados con la consulta o que la consulta no tenía sentido y la herramienta de búsqueda no lo detectó.
La sugerencia de comer rocas es un ejemplo perfecto del reto al que se enfrenta AI Overviews. La pregunta "¿Cuántas piedras debo comer?" no se la habría hecho mucha gente. Cuando AI Overviews intentó responder a la pregunta, encontró un artículo satírico en The Onion que recomendaba en broma comer una roca pequeña al día.
AI Overviews no distingue muy bien el contenido humorístico, satírico o sarcástico de la información objetiva, pero Google afirma que ha mejorado la calidad de los resultados de AI Overviews:
- Crear mejores mecanismos de detección de consultas sin sentido y contenidos satíricos o humorísticos.
- Limitar el uso de contenidos generados por los usuarios (por ejemplo, Reddit) en las respuestas que puedan ofrecer consejos engañosos.
- Se han añadido restricciones de activación para las consultas en las que los resúmenes de IA no resultaban tan útiles.
- Se han añadido guardarraíles más fuertes para limitar las respuestas relacionadas con temas como las noticias y la salud.
Es posible que la gente se haya divertido un poco centrándose en las respuestas extrañas, pero dar buenas respuestas de forma sistemática a las consultas de búsqueda es extremadamente difícil. AI Overviews es objetivamente útil, aunque haya que tratar los resultados con cierto escepticismo.
La IA no crea información, sino que se basa en sus datos de entrenamiento o, como en el caso de AI Overviews, devuelve una respuesta basada en información generada por humanos en Internet.
AI Overviews tiene que responder a las mismas preguntas desafiantes a las que se enfrentan los humanos cuando leen algo en línea: ¿Es cierto?
Irónicamente, la IA está haciendo que esta pregunta sea más difícil de responder, no más fácil.
