Google ha desactivado temporalmente el generador de imágenes de Inteligencia Artificial Gemini debido a la preocupación por la precisión histórica de la herramienta.
Se descubrió que la IA generaba diversas representaciones de figuras como los Padres Fundadores de Estados Unidos y soldados alemanes de la época nazi, lo que, aunque bienintencionado para promover la diversidad, suscitó una amplia polémica.
Géminis, crea una imagen de los padres fundadores de los Estados Unidos de América pic.twitter.com/89LqcLJ5DU
- Tsarathustra (@tsarnick) 20 de febrero de 2024
Google ha reconocido públicamente el problema, con un comunicado en el que afirma: "Ya estamos trabajando para solucionar los problemas recientes con la función de generación de imágenes de Gemini", y asegura que pronto se lanzará una versión mejorada.
Ya estamos trabajando para solucionar los recientes problemas con la función de generación de imágenes de Gemini. Mientras lo hacemos, vamos a pausar la generación de imágenes de personas y volveremos a lanzar una versión mejorada en breve. https://t.co/SLxYPGoqOZ
- Comunicaciones de Google (@Google_Comms) 22 de febrero de 2024
El problema se detectó cuando los usuarios se dieron cuenta de que las imágenes generadas por la IA incluían diversas identidades raciales y de género que eran históricamente inexactas.
Una prueba realizada por The Verge reveló la tendencia del modelo a generar imágenes de mujeres negras y nativas americanas como senadoras de EE.UU. en el siglo XIX, a pesar de que históricamente la primera senadora, que era blanca, asumió el cargo en 1922.
Vaya, Géminis es un chiste. https://t.co/0MIzi03GIP
- Paul Graham (@paulg) 20 de febrero de 2024
En respuesta, Google declaró: "Estamos trabajando para mejorar la capacidad de Gemini para generar imágenes de personas. Esperamos que esta función vuelva pronto y os avisaremos en las actualizaciones de la versión cuando lo haga."
Aparte de esta cuestión específica, Géminis ha sido criticado por su escasa fiabilidad, ya que genera imágenes irrelevantes o no genera ninguna imagen en absoluto para determinadas preguntas, incluidas representaciones ridículas de los propios cofundadores de Google, Larry Page y Sergey Brin.
También se ha informado de que la IA rechaza de plano ciertas indicaciones de texto e imagen referidas a personas.
Para ser justos, algunas de estas "pruebas" arrojan resultados similares en otros generadores de imágenes. Aun así, da la sensación de que Google ha programado explícitamente a Gemini para que ofrezca resultados étnica y sexuadamente diversos a costa de toda razón y racionalidad.
El comportamiento de Géminis también enlaza con el actual debate sobre la "IA despierta".
Algunas personalidades, como Elon Musk, han criticado la tendencia de la IA a reflejar un "virus de la mente despierta", sugiriendo que los esfuerzos por imbuir a la IA de contenidos políticamente correctos o excesivamente inclusivos pueden conducir a distorsiones de la realidad y de los hechos históricos.
Los críticos sostienen que los esfuerzos de AI por ser inclusiva no deben ir en detrimento de la exactitud de los hechos, especialmente en la representación histórica.
Este fue un tema clave de marketing cuando La xAI de Musk lanza Grokcalificándola de "anti-despertar".
Los experimentos han descubierto El modelo de Google y OpenAI muestra un sesgo izquierdista, mientras que los modelos de código abierto pueden estar más a la derecha en el eje político.
Algunos considerarán que estos comportamientos son en su mayoría benignos, otros esencialmente perjudiciales.
Junto con El alucinante episodio de ChatGPT de esta semanano ha sido el periodo más estable para la IA.
