Falska recensioner är allestädes närvarande och oundvikliga, men de har aldrig varit så svåra att identifiera.
Enligt vissa uppskattningar, 40% av Amazon-recensionerna är falskamen detta omfattar även webbplatser som Trustpilot, Tripadvisor och Google Reviews.
I april, CNBC rapporterade att vissa Amazon-recensioner ger bort sitt ursprung genom att börja sin uppskrivning med "Som en AI-språkmodell ..." För det mesta är dock AI-genererade falska recensioner utmanande att identifiera med blotta ögat.
I ett försök att stävja bedrägliga recensioner diskuterade Federal Trade Commission (FTC) nyligen att införa regler för att förbjuda falska och betalda recensioner med hårda straff för alla som bryter mot dem.
Michael Atleson, advokat på FTC:s avdelning för reklammetoder, sa: "Vi vet inte - och har egentligen inget sätt att veta - i vilken utsträckning dåliga aktörer faktiskt använder något av dessa verktyg, och hur mycket som kan vara botgenererat kontra mänskligt genererat."
Det förutsätter dock att man kan skilja falska recensioner från riktiga, vilket är oerhört svårt nu när AI är språkligt exakt och kunnigt inom en mängd olika ämnen.
AI ökar antalet falska recensioner
Fakespot, en startup som använder AI för att urskilja bedrägliga recensioner, registrerade ökningar av AI-genererade falska recensioner, enligt VD Saoud Khalifah. Företaget investerar nu i tekniker som är utformade för att identifiera recensioner som skapats av AI-system, till exempel ChatGPT.
"Det som är väldigt annorlunda idag är att modellerna är så pass kunniga att de kan skriva om vad som helst", säger Khalifah.
En annan fråga är, vem kan säga att någon inte använder AI för att hjälpa dem att skriva en autentisk recension?
AI-genererade recensioner strider inte strikt mot Amazons policy. Enligt en talesperson för företagetMed hjälp av AI kan kunderna publicera AI-skapade recensioner så länge de är autentiska och följer riktlinjerna i policyn.
Nyckelfrågan är om den AI som har till uppgift att upptäcka falska recensioner kan överlista den AI som genererar dem. Saoud Khalifah från Fakespot noterade att de första AI-genererade falska recensionerna som hans företag upptäckte härstammade från Indien och skapades av "falska granskningsgårdar".
"Det är definitivt ett svårt test att klara för dessa detekteringsverktyg", säger Bhuwan Dhingra, biträdande professor i datavetenskap vid Duke University. "För om modellerna exakt matchar det sätt som människor skriver något på, då kan du verkligen inte skilja mellan de två."
Ben Zhao, professor i datavetenskap vid University of Chicago, hävdade på liknande sätt att det är "nästan omöjligt" för AI att effektivt fånga AI-genererade recensioner.
"Det är en ständig katt-och-råtta-jakt, men i slutändan finns det inget grundläggande som skiljer ett AI-skapat innehåll från ett annat", säger han.
För tillfället kommer falska recensioner att förbli en del av internets möbler, och de kommer sannolikt att bli allt svårare att skilja från den äkta varan, både för människor och de avancerade AI-system som har till uppgift att identifiera dem.
"Det är skrämmande för konsumenterna", säger Teresa Murray, chef för konsumentbevakningsbyrån för U.S. Public Interest Research Group.
"Redan nu hjälper AI oärliga företag att spotta ut riktiga recensioner med en samtalston i tusental på några sekunder."
Borta är dagarna med dåligt skrivna falska recensioner - gör dig redo för exakt skrivna AI-recensioner som du inte kan skilja från den verkliga varan.
