Amazon har förklarat att de använder alltmer sofistikerade AI-verktyg för att bekämpa förfalskade recensioner och icke-autentiska kommentarer på sin marknadsplats.
Världens ledande marknadsplats för e-handel har brottats med falska recensionsmäklare i många år, vilket nyligen kulminerade i rättsliga åtgärder mot NiceRebate.com, en falsk recensionsmäklare som riktar sig till brittiska kunder.
Dharmesh Mehta, chef för Amazons kundförtroendeteam, sade: "Vi bekämpar aggressivt recensionsmäklare" och avslöjade att Amazon hade vidtagit rättsliga åtgärder mot 94 sådana granskningsbedrägerier globalt, bland annat i USA, Kina och Europa.
År 2022 analyserade Fakespot, ett verktyg som byggts för att upptäcka falska recensioner, 720 miljoner recensioner och uppskattade att vissa 42% var förfalskade på något sätt.
Nästan alla som har studerat Amazon-recensioner har sannolikt stött på misstänkta recensioner som känns intuitivt falska. Många recensioner är betalda rekommendationer som syftar till att öka en säljares betyg eller sabotera ett konkurrerande företag.
Amazon investerar i modeller för maskininlärning (ML) som kan analysera tusentals datapunkter för att hjälpa till att identifiera bedräglig recensionsaktivitet. AI-modellen utvärderar olika faktorer för att avgöra sannolikheten för att en recension är falsk, till exempel författarens relation till andra onlinekonton, inloggningsaktivitet, granskningshistorik och ovanligt beteende.
Amazon följer också upp grupper på sociala medier som inrättats för att handla med recensioner. Under 2022 identifierade Amazon över 23 000 grupper på sociala medier, bestående av mer än 46 miljoner medlemmar som var involverade i att underlätta falska recensioner.
Många forskningsprojekt har syftat till att avslöja falska recensioner med hjälp av AI-teknik för bearbetning av naturligt språk (NLP).
Till exempel, en studie under 2022 använde GPT-2 för att träna en klassificerare av falska recensioner som överträffade människor.
Mehta sa: "Vi använder maskininlärning för att leta efter misstänkta konton, för att spåra relationerna mellan ett inköpskonto som lämnar en recension och någon som säljer den produkten. Genom en kombination av noggrann kontroll, avancerad maskininlärning och artificiell intelligens kan vi förhindra att falska recensioner når kunden."
Hur AI upptäcker falska recensioner
Om du någonsin har läst en recension och tänkt: "Det ser falskt ut", så bevisar det mer eller mindre att AI kan göra detsamma. Det finns signaler och ledtrådar som du plockar upp, och AI kan lära sig dessa också.
AI kan använda NLP för att titta på faktorer som överdriven skiljetecken, dålig grammatik och alltför negativa eller positiva toner, även kallad sentimentanalys. Det är dock mer än så att upptäcka falska recensioner, och om Amazon inte definierar strikta kriterier riskerar de att ta bort äkta recensioner.
Andra metoder är att analysera vilka typer av produkter som får falska recensioner, tidpunkten för när de falska recensionerna lämnas och om generiska 5-stjärniga recensioner kommer från samma konto.
Naturligtvis finns det ingen som är bättre lämpad att analysera dessa data än Amazon, vilket väcker frågan, varför är problemet lika stort (eller större) än någonsin?
Hur mycket Amazon än vill främja förtroendet genom att ta bort falska recensioner, upprätthåller stora volymer av alla recensioner ligger i deras bästa intresse.
Som Saoud Khalifah från Fakespot säger"Om Amazon raderade 100 procent av de falska omdömena skulle de förlora hundratals miljarder i aktieägarvärde."
