A Amazon declarou que está a utilizar ferramentas de IA cada vez mais sofisticadas para combater as críticas falsas e os comentários não autênticos no seu mercado.
O principal mercado de comércio eletrónico do mundo tem-se debatido com falsos corretores de críticas desde há muitos anos, culminando recentemente numa ação judicial contra a NiceRebate.com, um falso corretor de críticas que visa os clientes do Reino Unido.
Dharmesh Mehta, chefe da equipa de confiança do cliente da Amazon, declarou: "Estamos a combater agressivamente os corretores de avaliações" e revelou que a Amazon tinha tomado medidas legais contra 94 desses autores de fraudes de revisão em todo o mundoincluindo nos EUA, na China e na Europa.
Em 2022, a Fakespot, uma ferramenta criada para detetar críticas falsas, analisou 720 milhões de críticas e estimou que cerca de 42% eram contrafeitos de alguma forma.
Quase todos os que estudam as avaliações da Amazon já se depararam com avaliações suspeitas que parecem intuitivamente falsas. Muitas avaliações são endossos pagos com o objetivo de aumentar as classificações de um vendedor ou sabotar uma empresa rival.
A Amazon está a investir em modelos de aprendizagem automática (ML) capazes de analisar milhares de pontos de dados para ajudar a identificar actividades de avaliação fraudulentas. O modelo de IA avalia vários factores para determinar a probabilidade de uma avaliação ser falsa, tais como a relação do autor com outras contas online, a atividade de início de sessão, o histórico de avaliações e um comportamento invulgar.
A Amazon também está a perseguir grupos de redes sociais criados para negociar críticas. Em 2022, a Amazon identificou mais de 23 000 grupos de redes sociais, constituídos por mais de 46 milhões de membros envolvidos na facilitação de críticas falsas.
Numerosos projectos de investigação têm tido como objetivo eliminar as críticas falsas utilizando técnicas de IA de processamento da linguagem natural (PNL).
Por exemplo, um estudo em 2022 utilizaram o GPT-2 para treinar um classificador de críticas falsas que superou o desempenho dos humanos.
Mehta declarou: "Utilizamos a aprendizagem automática para procurar contas suspeitas, para seguir as relações entre uma conta de comprador que está a deixar uma avaliação e alguém que vende esse produto. Através de uma combinação de verificação meticulosa, aprendizagem automática avançada e inteligência artificial, podemos evitar que as críticas falsas cheguem ao cliente."
Como a IA detecta críticas falsas
Se alguma vez leu uma crítica e pensou: "Parece falso", isso prova que a IA pode fazer o mesmo. Há sinais e pistas que se apanham, e a IA também os pode aprender.
As IA podem utilizar a PNL para analisar factores como pontuação excessiva, gramática deficiente e tons demasiado negativos ou positivos, também designados por análise de sentimentos. No entanto, a deteção de críticas falsas é mais do que isso e, se a Amazon não definir critérios rigorosos, corre o risco de remover críticas genuínas.
Outros métodos incluem a análise dos tipos de produtos que recebem críticas falsas, o momento em que as críticas falsas são deixadas e se as críticas genéricas de 5 estrelas provêm da mesma conta.
Claro que não há ninguém melhor colocado para analisar esses dados do que a Amazon, o que levanta a questão: porque é que o problema é tão grande (ou maior) do que nunca?
Por muito que a Amazon queira promover a confiança através da remoção de críticas falsas, a manutenção de grandes volumes de todos é do seu interesse.
Como Saoud Khalifah, do Fakespot, afirmaSe a Amazon eliminasse 100% das críticas falsas, perderia centenas de milhares de milhões de euros de valor para os accionistas".
