La recién lanzada función AI Overview de Google, cuyo objetivo es ofrecer a los usuarios resúmenes generados por la IA de los resultados de búsqueda, ha sido criticada por ofrecer respuestas engañosas, inexactas y, en ocasiones, francamente extrañas.
La función, que ahora se está extendiendo a miles de millones de personas después de que Google se reafirmara en ella en el reciente Conferencia para desarrolladores Google I/Ose ha convertido en objeto de burla y preocupación generalizadas en las redes sociales a medida que los usuarios exponían ejemplos de las meteduras de pata de la IA.
Era sólo cuestión de tiempo. Curiosidad humana consigue lo mejor de los guardarraíles de la IA de una forma u otra.
Periodistas y usuarios han recurrido a X y otras plataformas para señalar casos en los que la función AI Overview ha citado fuentes dudosas, como artículos satíricos de The Onion o bromas de Reddit, como si fueran hechos reales.
En uno de los casos más alarmantes, la informática Melanie Mitchell mostró un ejemplo en el que la función mostraba una teoría de la conspiración que sugería que el ex presidente Barack Obama es musulmán, aparentemente como resultado de que la IA malinterpretara información de una plataforma de investigación de Oxford University Press.
Otros ejemplos de los errores de la IA incluyen plagiar texto de blogs sin eliminar las referencias personales a los hijos de los autores, no reconocer la existencia de países africanos que empiezan por la letra "K" e incluso sugerir que las pitones son mamíferos.
Algunos de estos resultados inexactos, como la teoría de la conspiración de Obama o la sugerencia de poner pegamento en la pizza, ya no muestran un resumen de la IA y, en su lugar, muestran artículos que hacen referencia a los problemas fácticos de la IA.
Sin embargo, la gente se pregunta ahora si AI Overview podrá alguna vez servir correctamente a su propósito.
Google ya ha reconocido el problema y un portavoz de la empresa ha declarado lo siguiente The Verge que los errores aparecieron en "consultas generalmente muy poco comunes y no son representativas de las experiencias de la mayoría de la gente".
Sin embargo, la causa exacta del problema sigue sin estar clara. Podría deberse a la tendencia de la IA a "alucinar".
También podría deberse a las fuentes que utiliza Google para generar resúmenes, como artículos satíricos o publicaciones de trolls en las redes sociales.
En una entrevista con The Verge, el CEO de Google, Sundar Pichai, abordó el tema de las alucinaciones de la IA, reconociendo que son un "problema sin resolver", pero sin llegar a ofrecer un plazo para su solución.
No es la primera vez que Google se enfrenta a críticas por sus productos de IA; a principios de este año, la IA Gemini de la empresa, competidora de ChatGPT y DALL-E de OpenAI, fue objeto de críticas por generar imágenes históricamente inexactas, como oficiales nazis racialmente diversos, mujeres blancas presidentes y una mujer papa.
En respuesta, Google se disculpó públicamente más tarde y suspendido temporalmente La capacidad de Géminis para generar imágenes de personas.
La visión general de la IA también ha sido criticada por los propietarios de sitios web y en la comunidad de marketing, ya que amenaza con hacer que los usuarios dejen de interactuar con los resultados tradicionales de los motores de búsqueda para confiar simplemente en los fragmentos generados por la IA.
