Gefälschte Bewertungen sind allgegenwärtig und unvermeidlich, aber sie waren noch nie so schwer zu erkennen.
Nach einigen Schätzungen, 40% der Amazon-Rezensionen sind gefälschtDies gilt aber auch für Websites wie Trustpilot, Tripadvisor und Google Reviews.
Im April, CNBC berichtete dass einige Amazon-Rezensionen ihre Herkunft verraten, indem sie ihren Text mit "Als KI-Sprachmodell..." beginnen. In den meisten Fällen sind KI-generierte gefälschte Rezensionen jedoch nur schwer mit bloßem Auge zu erkennen.
In dem Bemühen, gegen betrügerische Bewertungen vorzugehen, hat die Federal Trade Commission (FTC) vor kurzem Regeln für das Verbot von gefälschten und bezahlten Bewertungen erörtert, die harte Strafen für alle vorsehen, die dagegen verstoßen.
Michael Atleson, Anwalt in der Abteilung für Werbepraktiken der FTC, sagte: "Wir wissen nicht - und können es auch nicht wissen - in welchem Umfang böse Akteure diese Tools tatsächlich nutzen und wie viel davon von Bots und wie viel von Menschen generiert wird."
Dies setzt jedoch voraus, dass gefälschte Bewertungen von echten unterschieden werden können, was heutzutage äußerst schwierig ist, da die KI sprachlich präzise ist und sich in einer Vielzahl von Themen auskennt.
KI steigert gefälschte Bewertungen
Fakespot, ein Startup, das KI einsetzt, um betrügerische Bewertungen zu erkennen, registrierte laut CEO Saoud Khalifah einen Anstieg von KI-generierten gefälschten Bewertungen. Das Unternehmen investiert nun in Techniken zur Erkennung von Bewertungen, die von KI-Systemen wie ChatGPT erstellt wurden.
"Was heute ganz anders ist, ist, dass die Models so gut Bescheid wissen, dass sie über alles schreiben können", erklärte Khalifah.
Ein weiteres Problem ist, wer kann sagen, dass nicht jemand KI benutzt, um eine authentische Rezension zu schreiben?
KI-generierte Bewertungen verstoßen nicht strikt gegen die Richtlinien von Amazon. Laut einer Unternehmenssprechererlaubt das Unternehmen seinen Kunden, von der KI erstellte Bewertungen abzugeben, sofern diese authentisch sind und den Richtlinien entsprechen.
Die entscheidende Frage ist, ob die KI, die mit der Erkennung gefälschter Bewertungen beauftragt ist, die KI überlisten kann, die sie erstellt. Saoud Khalifah von Fakespot stellte fest, dass die ersten KI-generierten gefälschten Bewertungen, die sein Unternehmen entdeckte, aus Indien stammten und von "Fake-Review-Farmen" erstellt wurden.
"Es ist definitiv ein harter Test für diese Erkennungswerkzeuge", sagte Bhuwan Dhingra, ein Assistenzprofessor für Informatik an der Duke University. "Denn wenn die Modelle genau der Art und Weise entsprechen, wie Menschen etwas schreiben, dann kann man nicht wirklich zwischen den beiden unterscheiden.
Ben Zhao, Professor für Informatik an der University of Chicago, vertrat ebenfalls die Ansicht, dass es für die KI "fast unmöglich" sei, von der KI erstellte Bewertungen effektiv zu erfassen.
"Es ist ein ständiges Katz-und-Maus-Spiel, aber am Ende des Tages gibt es nichts Wesentliches, was einen von KI erstellten Inhalt auszeichnet", sagte er.
Bis auf Weiteres werden gefälschte Bewertungen Teil des Internet-Mobiliars bleiben, und es wird wahrscheinlich immer schwieriger werden, sie von echten zu unterscheiden, sowohl für Menschen als auch für die fortschrittlichen KI-Systeme, die sie erkennen sollen.
"Für die Verbraucher ist das erschreckend", sagte Teresa Murray, Leiterin des Büros für Verbraucherschutz der U.S. Public Interest Research Group.
"Schon jetzt hilft KI unehrlichen Unternehmen, in Sekundenschnelle Tausende von echt klingenden Bewertungen im Plauderton auszuspucken."
Vorbei sind die Zeiten der schlecht geschriebenen, gefälschten Bewertungen - Machen Sie sich auf präzise geschriebene KI-Bewertungen gefasst, die Sie nicht von der Realität unterscheiden können.
