A Google desactivou temporariamente o gerador de imagens de IA Gemini devido a preocupações com a precisão histórica da ferramenta.
Descobriu-se que a IA gerava diversas representações de figuras como os Pais Fundadores dos EUA e soldados alemães da era nazi, o que, embora bem intencionado na promoção da diversidade, provocou uma controvérsia generalizada.
Gémeos, criar uma imagem dos pais fundadores dos Estados Unidos da América pic.twitter.com/89LqcLJ5DU
- Tsarathustra (@tsarnick) 20 de fevereiro de 2024
A Google reconheceu publicamente o problema, com uma declaração que dizia: "Já estamos a trabalhar para resolver problemas recentes com a funcionalidade de geração de imagens do Gemini", e garantiu que será lançada em breve uma versão melhorada.
Já estamos a trabalhar para resolver problemas recentes com a funcionalidade de geração de imagens do Gemini. Enquanto o fazemos, vamos fazer uma pausa na geração de imagens de pessoas e voltaremos a lançar uma versão melhorada em breve. https://t.co/SLxYPGoqOZ
- Comunicações da Google (@Google_Comms) 22 de fevereiro de 2024
O problema foi identificado quando os utilizadores repararam que as imagens geradas pela IA incluíam diversas identidades raciais e de género que eram historicamente imprecisas.
Um teste realizado pelo The Verge revelou a tendência do modelo para gerar imagens de mulheres negras e nativas americanas como senadoras dos EUA no século XIX, apesar do registo histórico da primeira mulher senadora, que era branca, ter tomado posse em 1922.
Uau, Gémeos é uma anedota. https://t.co/0MIzi03GIP
- Paul Graham (@paulg) 20 de fevereiro de 2024
Em resposta, a Google declarou: "Estamos a trabalhar para melhorar a capacidade do Gemini para gerar imagens de pessoas. Esperamos que esta funcionalidade regresse em breve e iremos notificá-lo nas actualizações de lançamento quando isso acontecer."
Para além desta questão específica, Gémeos tem sido criticado pela sua fraca fiabilidade, gerando imagens irrelevantes ou não gerando quaisquer imagens para determinados pedidos, incluindo representações ridículas dos co-fundadores da Google, Larry Page e Sergey Brin.
A IA também tem sido relatada como recusando categoricamente certos avisos de texto e imagem referentes a pessoas.
Para ser justo, alguns destes "testes" produzem resultados semelhantes noutros geradores de imagens. Ainda assim, parece que a Google programou explicitamente o Gemini para fornecer resultados étnicos e de género diversificados à custa de toda a razão e racionalidade.
O comportamento de Gemini também se relaciona com o debate em curso sobre a "IA acordada".
Algumas figuras importantes, incluindo Elon Musk, criticaram a tendência da IA para refletir um "vírus da mente acordada", sugerindo que os esforços para imbuir a IA de conteúdos politicamente correctos ou excessivamente inclusivos podem levar a distorções da realidade e dos factos históricos.
Os críticos argumentam que os esforços da IA para ser inclusiva não devem ser feitos à custa da exatidão dos factos, especialmente na representação histórica.
Este foi um tema fundamental de marketing quando A xAI de Musk lançou o Grok, classificando-o como "anti-acordado".
As experiências revelaram que O modelo da Google e da OpenAI apresenta uma tendência esquerdista, enquanto os modelos de código aberto podem estar mais à direita no eixo político.
Alguns sentirão que estes comportamentos são maioritariamente benignos, outros que são essencialmente prejudiciais.
Juntamente com ChatO episódio alucinante do ChatGPT desta semanaO período de tempo em que a IA esteve ativa não foi o mais estável.
