Depois de a nova funcionalidade de pesquisa de visões gerais de IA da Google ter falhado de forma dramática na semana passada, a empresa minimizou o problema, mas disse que estava a ser feita uma correção.
As sínteses de IA utilizam a IA para obter informações na Internet e dar uma resposta a uma consulta de pesquisa. Isto poupa ao utilizador o trabalho de clicar em vários sítios Web.
Num caso clássico de "lixo dentro, lixo fora", algumas das respostas dadas pelas sínteses da IA foram comicamente errado porque se baseou em informações incorrectas publicadas na Internet.
A directora de pesquisa Liz Reid emitiu uma declaração numa publicação no blogue na qual afirmou que o AI Overviews foi um grande sucesso, mas admitiu que houve alguns problemas.
Reid disse que as razões por trás de alguns dos resultados estranhos eram consultas sem sentido ou capturas de ecrã falsas. Relativamente aos resultados falsos, Reid disse: "Essas visões gerais da IA nunca apareceram. Por isso, encorajamos qualquer pessoa que encontre estas capturas de ecrã a fazer uma pesquisa para verificar".
Admitiu que as sínteses de IA apresentavam alguns resultados "estranhos, incorrectos ou inúteis". A principal razão para isso é a falta de dados de qualidade na Internet relacionados com a consulta ou o facto de a consulta ser absurda e a ferramenta de pesquisa não ter detectado esse facto.
A sugestão de comer pedras é um exemplo perfeito do desafio que o AI Overviews enfrenta. A pergunta "Quantas pedras devo comer?" não teria sido feita por muitas pessoas. Quando o AI Overviews tentou responder a essa pergunta, encontrou um artigo satírico no The Onion que, a brincar, recomendava comer uma pedra pequena por dia.
As sínteses de IA não são muito boas a distinguir conteúdos humorísticos, satíricos ou sarcásticos de informações factuais, mas a Google afirma ter melhorado a qualidade dos resultados das sínteses de IA:
- Criar melhores mecanismos de deteção de consultas sem sentido e de conteúdos satíricos ou humorísticos.
- Limitar a utilização de conteúdos gerados pelos utilizadores (por exemplo, Reddit) em respostas que possam oferecer conselhos enganadores.
- Adicionadas restrições de acionamento para consultas em que as sínteses de IA não estavam a ser tão úteis.
- Adicionadas barreiras de proteção mais fortes para limitar as respostas relacionadas com tópicos como notícias e saúde.
As pessoas podem ter-se divertido um pouco a concentrar-se nas respostas estranhas, mas é extremamente difícil dar respostas consistentemente boas às consultas de pesquisa. As sínteses de IA são objetivamente úteis, mesmo que seja necessário tratar os resultados com algum ceticismo.
A IA não cria informações, baseia-se nos seus dados de treino ou, como no caso das sínteses de IA, devolve uma resposta baseada em informações geradas por humanos na Internet.
As sínteses de IA têm de responder às mesmas perguntas desafiantes com que os humanos se deparam quando lêem algo em linha: Isto é verdade?
Ironicamente, a IA está a tornar esta questão mais difícil de responder, e não mais fácil.
