Reddit-Nutzer in schockierendem psychologischen Experiment heimlich von KI manipuliert

Forscher der Universität Zürich führten heimlich und ohne Zustimmung der Nutzer ein mehrmonatiges KI-Experiment in der 3,8 Millionen Mitglieder starken Reddit-Community r/changemyview durch.

Eine Forschergruppe der Universität Zürich führte ein mehrmonatiges, verdecktes Experiment durch, bei dem KI-generierte Kommentare eingesetzt wurden, um Reddit-Nutzer ohne deren Wissen oder Zustimmung zu beeinflussen.

Das Experiment fand am statt r/changemyview, ein Subreddit mit 3,8 Millionen Mitgliedern, das für seine zivilisierten Debatten bekannt ist. Die Forscher setzten es ein. große Sprachmodelle (LLMs) personalisierte, überzeugende Antworten zu verfassen und sich dabei als echte Personen auszugeben, um zu sehen, ob KI die Ansichten der Nutzer verändern kann.

Die Details

• Um die öffentliche Meinung zu beeinflussen, wurden KI-generierte Kommentare veröffentlicht, die sich als echte Nutzer ausgaben.
• Zu den dargestellten Personen gehörten Traumaüberlebende und umstrittene politische Stimmen.
• Die KI nutzte aus dem Nutzerverhalten extrahierte persönliche Daten, um überzeugende Antworten zu erstellen.
• Keine der Aktivitäten wurde offengelegt., Verstoß gegen die Regeln dieses Subreddits und die Regeln von Reddit insgesamt.

Hier ging es nicht nur um Bots.

Es handelte sich um psychologische Manipulation unter Verwendung persönlicher Daten, um zu testen, wie effektiv KI sein kann. Die Meinung der Menschen ändern.

Reddits Chefjustiziar Ben Lee Er nannte es “sowohl moralisch als auch rechtlich zutiefst verwerflich” und bestätigte, dass Reddit formelle rechtliche Schritte vorbereitet.

Foto von Brett Jordan auf Unsplash

Die Verteidigung der Forscher

Sie behaupten, ihr Ethikrat habe das Projekt genehmigt, und argumentieren, ihr Ziel sei es gewesen, aufzuzeigen, wie KI missbraucht werden könne, um Wahlen zu manipulieren oder Hassreden zu verbreiten.

“Wir glauben, dass der potenzielle Nutzen dieser Forschung die Risiken deutlich überwiegt”, schrieben die Forscher.

Die Gegenreaktion

Die Moderatoren von r/changemyview waren empört und bezeichneten die Studie als “unerwünscht” und “manipulativ”.”

Sie haben eine Beschwerde eingereicht. und forderte die Universität auf, die Veröffentlichung der Studie zu verhindern. Dieses Experiment offenbart eine wachsende Bedrohung: KI-gestützte Beeinflussung in großem Umfang, ohne Einwilligung. Es zeigt, wie leicht Menschen beeinflusst werden können, wenn KI ihre Überzeugungen kennt und ihre Mitmenschen imitieren kann.

Reddit-Nutzer wurden als Testpersonen eingesetzt.

Dies war nicht nur eine akademische Übung. Es zeigt, wie mächtig und subtil KI-Manipulation sein kann, insbesondere wenn sie vertrauenswürdige menschliche Stimmen mithilfe persönlicher Daten imitiert.

Da generative KI immer weite Verbreitung findet, Das Risiko einer KI-gesteuerten Manipulation ist nicht länger theoretischer Natur. Es ist echt, und es ist gerade in einer der größten Online-Communities passiert.

Nun wehrt sich Reddit, eine der weltweit größten Online-Communities.