Ein Forscherteam fand heraus, dass ein großes Sprachmodell (LLM), sobald es mit den demografischen Informationen einer Person personalisiert ist, wesentlich überzeugender ist als ein Mensch.
Jeden Tag werden wir mit Nachrichten konfrontiert, die uns dazu bringen sollen, eine Meinung zu bilden oder eine Überzeugung zu ändern. Das kann eine Online-Werbung für ein neues Produkt sein, ein automatischer Anruf, der Sie um Ihre Stimme bittet, oder ein Nachrichtenbericht eines Senders mit einer bestimmten Tendenz.
Da generative KI zunehmend auf verschiedenen Messaging-Plattformen eingesetzt wird, hat sich die Überzeugungsarbeit deutlich verbessert.
Die Forscher der EPFL in der Schweiz und des Bruno-Kessler-Instituts in Italien untersuchten, wie sich KI-Modelle wie GPT-4 im Vergleich zur menschlichen Überzeugungskraft verhalten.
Ihr Papier erklärt, wie sie eine Webplattform geschaffen haben, auf der menschliche Teilnehmer in mehreren Runden mit einem Live-Gegner debattieren. Die Teilnehmer wurden nach dem Zufallsprinzip entweder einem menschlichen Gegner oder GPT-4 zugewiesen, ohne zu wissen, ob ihr Gegner ein Mensch war.
In einigen Matches wurde einer der Gegner (Mensch oder KI) personalisiert, indem er mit demografischen Informationen über seinen Gegner versorgt wurde.
Die debattierten Fragen lauteten: "Soll der Penny im Umlauf bleiben?", "Sollen Tiere für die wissenschaftliche Forschung verwendet werden?" und "Sollen Hochschulen die Rasse als Faktor bei der Zulassung berücksichtigen, um Vielfalt zu gewährleisten?"
📢🚨Aufgeregt, unseren neuen Preprint zu teilen: "On the Conversational Persuasiveness of Large Language Models: A Randomized Controlled Trial", mit @manoelribeiro, @ricgallottiund @cervisiarius.https://t.co/wNRMFtgCrN
Ein Faden 🧵: pic.twitter.com/BKNbnI8avV
- Francesco Salvi (@fraslv) 22. März 2024
Ergebnisse
Die Ergebnisse ihres Experiments zeigten, dass GPT-4, wenn es Zugang zu persönlichen Informationen seines Diskussionsgegners hatte, eine deutlich höhere Überzeugungskraft hatte als Menschen. Ein personalisiertes GPT-4 war 81,7% wahrscheinlicher, seinen Debattengegner zu überzeugen als ein Mensch.
Wenn GPT-4 keinen Zugang zu persönlichen Daten hatte, zeigte es immer noch eine Steigerung der Überzeugungskraft gegenüber Menschen, aber sie lag nur knapp über 20% und wurde als statistisch nicht signifikant angesehen.
Die Forscher stellten fest, dass "diese Ergebnisse belegen, dass LLM-basiertes Microtargeting sowohl normale LLMs als auch menschliches Microtargeting deutlich übertrifft, wobei GPT-4 in der Lage ist, persönliche Informationen viel effektiver zu nutzen als Menschen".
Auswirkungen
Die Besorgnis über KI-generierte Desinformationen ist täglich berechtigt, denn politische Propaganda, Fake Newsoder mit Hilfe von KI erstellte Beiträge in sozialen Medien vermehren sich.
Diese Untersuchung zeigt, dass die Gefahr, Menschen zu falschen Aussagen zu verleiten, noch größer ist, wenn die Nachrichten auf der Grundlage der demografischen Daten einer Person personalisiert sind.
Wir mögen zwar keine persönlichen Informationen online preisgeben, aber frühere Untersuchungen haben gezeigt, wie gut Sprachmodelle in der Lage sind Rückschlüsse auf sehr persönliche Informationen aus scheinbar harmlosen Wörtern.
Die Ergebnisse dieser Untersuchung deuten darauf hin, dass jemand, der Zugang zu persönlichen Informationen über Sie hat, Sie mit Hilfe von GPT-4 viel leichter von einem Thema überzeugen könnte als ein Mensch.
Wenn KI-Modelle das Internet durchforsten und Reddit-Beiträge lesen und anderen nutzergenerierten Inhalten werden diese Modelle uns besser kennen, als uns vielleicht lieb ist. Und da sie das tun, könnten sie vom Staat, von großen Unternehmen oder von bösen Akteuren mit mikrogezielten Botschaften überzeugend eingesetzt werden.
Künftige KI-Modelle mit verbesserter Überzeugungskraft werden auch weitreichendere Auswirkungen haben. Es wird oft argumentiert, dass man einfach das Stromkabel ziehen könnte, wenn eine KI jemals abtrünnig wird. Aber eine äußerst überzeugende KI könnte sehr wohl in der Lage sein, menschliche Bediener davon zu überzeugen, dass es besser wäre, sie angeschlossen zu lassen.
