Valse recensies zijn alomtegenwoordig en onvermijdelijk, maar ze zijn nog nooit zo moeilijk te herkennen geweest.
Volgens sommige schattingen, 40% van de Amazon-recensies zijn nepMaar dit geldt ook voor sites als Trustpilot, Tripadvisor en Google Reviews.
In april, CNBC meldde dat sommige Amazon recensies hun herkomst prijsgeven door hun artikel te beginnen met "Als een AI-taalmodel...". Voor het grootste deel zijn AI-gegenereerde nepreviews echter moeilijk met het blote oog te identificeren.
In een poging om frauduleuze recensies aan banden te leggen, heeft de Federal Trade Commission (FTC) onlangs gesproken over het opstellen van regels om neppe en betaalde recensies te verbieden, met zware straffen voor iedereen die deze regels overtreedt.
Michael Atleson, een advocaat bij de FTC's Division of Advertising Practices, zei: "We weten niet - we hebben echt geen manier om te weten - in welke mate slechte actoren daadwerkelijk gebruik maken van deze tools, en hoeveel er bot-gegenereerd is versus door mensen gegenereerd."
Dat is echter afhankelijk van het onderscheid tussen nepreviews en echte reviews, wat bijzonder moeilijk is nu AI taalkundig nauwkeurig is en kennis heeft van een groot aantal onderwerpen.
AI verbetert neprecensies
Fakespot, een startup die AI inzet om frauduleuze recensies te onderscheiden, registreerde volgens CEO Saoud Khalifah een toename van door AI gegenereerde neprecensies. Het bedrijf investeert nu in technieken die zijn ontworpen om reviews te identificeren die zijn gemaakt door AI-systemen, zoals ChatGPT.
"Wat vandaag de dag heel anders is, is dat de modellen zoveel kennis hebben dat ze over alles kunnen schrijven," zei Khalifah.
Een ander punt is, wie zegt dat iemand geen AI gebruikt om hem te helpen een authentieke recensie te schrijven?
AI-gegenereerde beoordelingen zijn niet strikt in strijd met het beleid van Amazon. Volgens een bedrijfswoordvoerderHet bedrijf staat klanten toe om door AI gemaakte beoordelingen te plaatsen, zolang deze authentiek zijn en voldoen aan de beleidsrichtlijnen.
De hamvraag is of de AI die neprecensies moet opsporen de AI die ze genereert te slim af kan zijn. Saoud Khalifah van Fakespot merkte op dat de eerste door AI gegenereerde nepreviews die zijn bedrijf ontdekte afkomstig waren uit India en werden gemaakt door "nepreviewfarms".
"Het is zeker een moeilijke test om te doorstaan voor deze detectietools", zegt Bhuwan Dhingra, assistent-professor computerwetenschappen aan Duke University. "Want als de modellen precies overeenkomen met de manier waarop mensen iets schrijven, dan kun je echt geen onderscheid maken tussen de twee."
Ben Zhao, een professor in computerwetenschappen aan de Universiteit van Chicago, stelde op vergelijkbare wijze dat het "bijna onmogelijk" is voor AI om effectief door AI gegenereerde recensies te vangen.
"Het is een voortdurende kat-en-muis achtervolging, maar er is uiteindelijk niets fundamenteels dat een door AI gecreëerd stuk content onderscheidt," zei hij.
Voorlopig zullen nepreviews deel blijven uitmaken van het internetmeubilair en ze zullen waarschijnlijk steeds moeilijker van echt te onderscheiden zijn, zowel voor mensen als voor de geavanceerde AI-systemen die ze moeten identificeren.
"Het is angstaanjagend voor consumenten," zegt Teresa Murray, directeur van het consumentenwaakhondbureau van de U.S. Public Interest Research Group.
"Nu al helpt AI oneerlijke bedrijven om binnen enkele seconden echt klinkende recensies met een conversatietoon uit te spugen, met duizenden tegelijk."
Voorbij zijn de dagen van slecht geschreven neprecensies - Bereid je voor op nauwkeurig geschreven AI-recensies die je niet van echt kunt onderscheiden.
