Falske anmeldelser er allestedsnærværende og uunngåelige, men de har aldri vært så vanskelige å identifisere som nå.
Ifølge noen estimater 40% av Amazon-anmeldelser er falske, men dette gjelder også nettsteder som Trustpilot, Tripadvisor og Google Reviews.
I april, CNBC rapporterte at noen Amazon-anmeldelser avslører sitt opphav ved å begynne med "Som en AI-språkmodell ..." For det meste er AI-genererte falske anmeldelser imidlertid utfordrende å identifisere med det blotte øye.
I et forsøk på å slå ned på falske anmeldelser har Federal Trade Commission (FTC) nylig diskutert å etablere regler for å forby falske og betalte anmeldelser med strenge straffer for alle som bryter dem.
Michael Atleson, advokat i FTCs avdeling for reklamepraksis, sa: "Vi vet ikke - vi har egentlig ingen mulighet til å vite - i hvilken grad dårlige aktører faktisk bruker noen av disse verktøyene, og hvor mye som kan være botgenerert kontra menneskeskapt."
Det forutsetter imidlertid at man kan skille falske anmeldelser fra ekte, noe som er svært vanskelig nå som kunstig intelligens er språklig presis og har kunnskap om en rekke emner.
AI forbedrer falske anmeldelser
Fakespot, en oppstartsbedrift som bruker kunstig intelligens til å identifisere falske anmeldelser, har ifølge administrerende direktør Saoud Khalifah registrert en kraftig økning av AI-genererte falske anmeldelser. Selskapet investerer nå i teknikker som er utviklet for å identifisere anmeldelser som er opprettet av AI-systemer, som ChatGPT.
"Det som er veldig annerledes i dag, er at modellene er så kunnskapsrike at de kan skrive om hva som helst", sier Khalifah.
Et annet spørsmål er hvem som kan si at noen ikke bruker kunstig intelligens til å hjelpe dem med å skrive en autentisk anmeldelse?
AI-genererte anmeldelser er ikke strengt tatt i strid med Amazons retningslinjer. I følge en talsperson for selskapetlar selskapet kunder legge ut AI-skapte anmeldelser så lenge de er autentiske og overholder retningslinjene.
Det viktigste spørsmålet er om AI-en som skal oppdage falske anmeldelser, kan overliste AI-en som genererer dem. Saoud Khalifah fra Fakespot bemerket at de første AI-genererte falske anmeldelsene selskapet hans oppdaget, stammet fra India og ble opprettet av "falske anmeldelsesgårder".
"Det er definitivt en vanskelig test å bestå for disse deteksjonsverktøyene", sier Bhuwan Dhingra, assisterende professor i informatikk ved Duke University. "For hvis modellene stemmer nøyaktig overens med måten mennesker skriver noe på, kan du egentlig ikke skille mellom de to."
Ben Zhao, professor i informatikk ved University of Chicago, hevdet på samme måte at det er "nesten umulig" for AI å fange opp AI-genererte anmeldelser på en effektiv måte.
"Det er en pågående katt-og-mus-jakt, men det er til syvende og sist ikke noe grunnleggende som skiller et AI-skapt stykke innhold fra andre", sier han.
Inntil videre vil falske anmeldelser forbli en del av internettmøbleringen, og de vil sannsynligvis bli stadig vanskeligere å skille fra ekte vare, både for mennesker og de avanserte AI-systemene som har til oppgave å identifisere dem.
"Det er skremmende for forbrukerne", sier Teresa Murray, direktør for forbrukerovervåkningskontoret til U.S. Public Interest Research Group.
"Allerede nå hjelper kunstig intelligens uærlige bedrifter med å spytte ut tusenvis av anmeldelser som høres ekte ut, med en dialogisk tone i løpet av sekunder."
Tiden med dårlig skrevne falske anmeldelser er forbi - gjør deg klar for presist skrevne AI-anmeldelser som du ikke kan skille fra den ekte varen.
