Amazon har erklært at de bruker stadig mer sofistikerte AI-verktøy for å bekjempe falske anmeldelser og ikke-autentiske kommentarer på sin markedsplass.
Verdens ledende markedsplass for e-handel har kjempet mot falske anmeldelsesmeglere i mange år, noe som nylig kulminerte i rettslige skritt mot NiceRebate.com, en falsk anmeldelsesmegler som retter seg mot britiske kunder.
Dharmesh Mehta, leder for Amazons kundetillitsteam, uttalte: "Vi kjemper aggressivt mot anmeldermeglere", og avslørte at Amazon hadde tatt rettslige skritt mot 94 slike anmeldelsessvindlere globaltblant annet i USA, Kina og Europa.
I 2022 analyserte Fakespot, et verktøy som er utviklet for å oppdage falske anmeldelser, 720 millioner anmeldelser og anslo at noen 42% var forfalsket på en eller annen måte.
Nesten alle som har studert Amazon-anmeldelser har sannsynligvis kommet over mistenkelige anmeldelser som intuitivt føles falske. Mange anmeldelser er betalte anmeldelser som har som mål å øke en selgers rangering eller sabotere et konkurrerende selskap.
Amazon investerer i maskinlæringsmodeller (ML) som kan analysere tusenvis av datapunkter for å bidra til å identifisere falske anmeldelser. AI-modellen evaluerer ulike faktorer for å avgjøre sannsynligheten for at en anmeldelse er falsk, for eksempel forfatterens forhold til andre nettkontoer, påloggingsaktivitet, anmeldelseshistorikk og uvanlig oppførsel.
Amazon forfølger også grupper i sosiale medier som er opprettet for å handle med anmeldelser. I 2022 identifiserte Amazon over 23 000 grupper på sosiale medier, bestående av mer enn 46 millioner medlemmer, som var involvert i å legge til rette for falske anmeldelser.
En rekke forskningsprosjekter har tatt sikte på å avsløre falske anmeldelser ved hjelp av AI-teknikker for naturlig språkbehandling (NLP).
For eksempel, én studie i 2022 brukte GPT-2 til å trene opp en klassifisering av falske anmeldelser som gjorde det bedre enn mennesker.
Mehta uttalte: "Vi bruker maskinlæring til å lete etter mistenkelige kontoer, for å spore forholdet mellom en kjøpskonto som legger igjen en anmeldelse og noen som selger produktet. Gjennom en kombinasjon av grundig kontroll, avansert maskinlæring og kunstig intelligens kan vi forhindre at falske anmeldelser når ut til kundene."
Hvordan AI oppdager falske anmeldelser
Hvis du noen gang har lest en anmeldelse og tenkt: "Det ser falskt ut", så beviser det mer eller mindre at AI kan gjøre det samme. Det finnes signaler og signaler du plukker opp, og AI kan lære seg disse også.
AI kan bruke NLP til å se på faktorer som overdreven tegnsetting, dårlig grammatikk og overdrevent negative eller positive toner, også kalt sentimentanalyse. Det er imidlertid mer enn det å oppdage falske anmeldelser, og hvis Amazon ikke definerer strenge kriterier, risikerer de å fjerne ekte anmeldelser.
Andre metoder er å analysere hvilke typer produkter som får falske anmeldelser, tidspunktet for når de falske anmeldelsene legges igjen, og om generiske 5-stjerners anmeldelser kommer fra samme konto.
Selvfølgelig er det ingen som er bedre plassert til å analysere disse dataene enn Amazon, noe som reiser spørsmålet om hvorfor problemet er like stort (eller større) enn noensinne?
Selv om Amazon ønsker å fremme tillit ved å fjerne falske anmeldelser, er det å opprettholde store mengder alle vurderinger er i deres beste interesse.
Som Saoud Khalifah fra Fakespot sier"Hvis Amazon slettet 100 prosent av de falske anmeldelsene, ville de miste hundrevis av milliarder av aksjonærverdier."
