Falske anmeldelser er allestedsnærværende og uundgåelige, men de har aldrig været så svære at identificere.
Ifølge nogle skøn, 40% af Amazon-anmeldelserne er falskemen det gælder også sider som Trustpilot, Tripadvisor og Google Reviews.
I april, CNBC rapporterede at nogle Amazon-anmeldelser afslører deres oprindelse ved at begynde deres beskrivelse med "Som en AI-sprogmodel ..." Men for det meste er AI-genererede falske anmeldelser udfordrende at identificere med det blotte øje.
I et forsøg på at slå ned på falske anmeldelser diskuterede Federal Trade Commission (FTC) for nylig at indføre regler for at forbyde falske og betalte anmeldelser med hårde straffe til alle, der overtræder dem.
Michael Atleson, advokat i FTC's afdeling for reklamepraksis, sagde: "Vi ved ikke - har virkelig ingen mulighed for at vide - i hvilket omfang dårlige aktører faktisk bruger nogen af disse værktøjer, og hvor meget der kan være botgenereret i forhold til menneskeskabt."
Men det kræver, at man kan skelne mellem falske og ægte anmeldelser, og det er meget svært nu, hvor AI er sprogligt præcis og har viden om en lang række emner.
AI forbedrer falske anmeldelser
Fakespot, en startup, der anvender AI til at skelne mellem falske anmeldelser, har ifølge CEO Saoud Khalifah registreret en stigning i AI-genererede falske anmeldelser. Virksomheden investerer nu i teknikker, der er designet til at identificere anmeldelser, der er skabt af AI-systemer som ChatGPT.
"Det, der er meget anderledes i dag, er, at modellerne er så vidende, at de kan skrive om hvad som helst," siger Khalifah.
Et andet spørgsmål er, hvem kan sige, at nogen ikke bruger AI til at hjælpe dem med at skrive en autentisk anmeldelse?
AI-genererede anmeldelser er ikke helt i strid med Amazons politik. Ifølge en Virksomhedens talsmandgiver virksomheden kunderne mulighed for at skrive AI-skabte anmeldelser, så længe de er autentiske og overholder de politiske retningslinjer.
Det centrale spørgsmål er, om den AI, der har til opgave at opdage falske anmeldelser, kan overliste den AI, der genererer dem. Saoud Khalifah fra Fakespot bemærkede, at de første AI-genererede falske anmeldelser, som hans virksomhed opdagede, stammede fra Indien og var skabt af "falske anmeldelsesfarme".
"Det er bestemt en svær test at bestå for disse detektionsværktøjer", siger Bhuwan Dhingra, der er adjunkt i datalogi ved Duke University. "For hvis modellerne svarer nøjagtigt til den måde, mennesker skriver noget på, så kan man ikke rigtig skelne mellem de to."
Ben Zhao, professor i datalogi ved University of Chicago, hævdede ligeledes, at det er "næsten umuligt" for AI effektivt at fange AI-genererede anmeldelser.
"Det er en løbende katten-efter-musen-jagt, men der er i sidste ende ikke noget grundlæggende, der adskiller et AI-skabt stykke indhold", siger han.
Indtil videre vil falske anmeldelser fortsat være en del af internettets inventar, og de vil sandsynligvis blive stadig sværere at skelne fra den ægte vare, både for mennesker og de avancerede AI-systemer, der har til opgave at identificere dem.
"Det er skræmmende for forbrugerne", siger Teresa Murray, direktør for forbrugernes vagthundskontor for U.S. Public Interest Research Group.
"Allerede nu hjælper kunstig intelligens uærlige virksomheder med at spytte ægte anmeldelser ud i tusindvis i løbet af få sekunder."
Borte er dagene med dårligt skrevne falske anmeldelser - Gør dig klar til præcist skrevne AI-anmeldelser, som du ikke kan skelne fra den ægte vare.
