Amazon har erklæret, at de bruger stadig mere sofistikerede AI-værktøjer til at bekæmpe falske anmeldelser og ikke-autentiske kommentarer på deres markedsplads.
Verdens førende markedsplads for e-handel har kæmpet med falske anmeldelsesmæglere i mange år, hvilket for nylig kulminerede i en retssag mod NiceRebate.com, en falsk anmeldelsesmægler, der var rettet mod britiske kunder.
Dharmesh Mehta, leder af Amazons kundetillidsteam, udtalte: "Vi bekæmper anmeldermæglere aggressivt" og afslørede, at Amazon havde taget retslige skridt mod 94 sådanne anmeldelsessvindlere på verdensplan, herunder i USA, Kina og Europa.
I 2022 analyserede Fakespot, et værktøj, der er bygget til at opdage falske anmeldelser, 720 millioner anmeldelser og anslog, at nogle 42% var forfalskede på en eller anden måde.
Næsten alle, der har studeret Amazon-anmeldelser, er sandsynligvis stødt på mistænkelige anmeldelser, der intuitivt føles falske. Mange anmeldelser er betalte anbefalinger, der har til formål at øge en sælgers ratings eller sabotere en konkurrerende virksomhed.
Amazon investerer i maskinlæringsmodeller (ML), der er i stand til at analysere tusindvis af datapunkter for at hjælpe med at identificere svigagtig anmeldelsesaktivitet. AI-modellen evaluerer forskellige faktorer for at afgøre sandsynligheden for, at en anmeldelse er falsk, f.eks. forfatterens forhold til andre onlinekonti, login-aktivitet, anmeldelseshistorik og usædvanlig adfærd.
Amazon forfølger også grupper på sociale medier, der er oprettet for at handle med anmeldelser. I 2022 identificerede Amazon over 23.000 grupper på sociale medier, som bestod af mere end 46 millioner medlemmer, der var involveret i at formidle falske anmeldelser.
Talrige forskningsprojekter har haft til formål at afsløre falske anmeldelser ved hjælp af AI-teknikker til behandling af naturligt sprog (NLP).
For eksempel, et studie i 2022 brugte GPT-2 til at træne en klassifikator for falske anmeldelser, der klarede sig bedre end mennesker.
Mehta sagde: "Vi bruger maskinlæring til at lede efter mistænkelige konti og til at spore forholdet mellem en købskonto, der efterlader en anmeldelse, og en person, der sælger det pågældende produkt. Gennem en kombination af omhyggelig kontrol, avanceret maskinlæring og kunstig intelligens kan vi forhindre, at falske anmeldelser når ud til kunderne."
Sådan opdager AI falske anmeldelser
Hvis du nogensinde har læst en anmeldelse og tænkt: "Det ser falsk ud", så beviser det mere eller mindre, at AI kan gøre det samme. Der er signaler og tegn, du opfanger, og dem kan AI også lære.
AI'er kan bruge NLP til at se på faktorer som overdreven tegnsætning, dårlig grammatik og alt for negative eller positive toner, også kaldet sentimentanalyse. Men der er mere i at opdage falske anmeldelser end det, og hvis Amazon ikke definerer strenge kriterier, risikerer de at fjerne ægte anmeldelser.
Andre metoder er at analysere, hvilke typer produkter der får falske anmeldelser, hvornår de falske anmeldelser bliver givet, og om generiske 5-stjernede anmeldelser kommer fra den samme konto.
Der er selvfølgelig ingen, der er bedre placeret til at analysere disse data end Amazon, hvilket rejser spørgsmålet, hvorfor problemet er så stort (eller større) end nogensinde?
Selv om Amazon ønsker at skabe tillid ved at fjerne falske anmeldelser, er det svært at opretholde store mængder af alle anmeldelser er i deres bedste interesse.
Som Saoud Khalifah fra Fakespot siger"Hvis Amazon slettede 100 procent af de falske anmeldelser, ville de miste hundredvis af milliarder i aktionærværdi."
