Des utilisateurs de Reddit manipulés à leur insu par une IA dans une expérience psychologique choquante
Des chercheurs de l'Université de Zurich ont mené secrètement une expérience d'intelligence artificielle pendant plusieurs mois sur la communauté r/changemyview de Reddit, qui compte 3,8 millions de membres, sans le consentement des utilisateurs.
Un groupe de chercheurs de l'Université de Zurich a mené une expérience secrète de plusieurs mois, utilisant des commentaires générés par l'IA pour influencer les utilisateurs de Reddit à leur insu et sans leur consentement.
L'expérience a eu lieu le r/changemyview, un subreddit de 3,8 millions de membres connu pour ses débats respectueux. Les chercheurs ont déployé grands modèles de langage (LLM) Rédiger des réponses personnalisées et persuasives, en se faisant passer pour de vraies personnes, afin de voir si l'IA pouvait modifier l'opinion des utilisateurs.
Les détails
- Des commentaires générés par l'IA, se faisant passer pour de vrais utilisateurs, ont été publiés pour influencer les opinions.
- Parmi les personnalités représentées figuraient des survivants de traumatismes et des voix politiques controversées.
- L'IA a utilisé des données personnelles extraites de l'historique des utilisateurs pour adapter les réponses et les rendre plus persuasives.
- Aucune de ces activités n'a été divulguée., Violation des règles du subreddit et de Reddit en général.
Il ne s'agissait pas seulement de bots.
Il s'agissait d'une manipulation psychologique utilisant des données personnelles pour tester l'efficacité de l'IA. changer les mentalités.
Ben Lee, directeur juridique de Reddit Reddit a qualifié cette décision de “ profondément répréhensible sur les plans moral et juridique ” et a confirmé préparer une action en justice formelle.
Photo par Brett Jordan sur Unsplash
La défense des chercheurs
Ils affirment que leur comité d'éthique a approuvé le projet et soutiennent que leur objectif était de montrer comment l'IA pouvait être mal utilisée pour manipuler les élections ou diffuser des discours haineux.
“ Nous pensons que les avantages potentiels de cette recherche l'emportent largement sur ses risques ”, ont écrit les chercheurs.
La réaction
Les modérateurs du subreddit r/changemyview étaient indignés, qualifiant la recherche d“” indésirable “ et de ” manipulatrice ».”
Ils ont déposé une plainte et a demandé à l'université d'empêcher la publication de l'étude. Cette expérience révèle une menace croissante : la persuasion à grande échelle, sans consentement, grâce à l'IA. Elle montre avec quelle facilité les individus peuvent être influencés lorsque l'IA connaît leurs croyances et peut imiter celles de leurs pairs.
Des utilisateurs de Reddit ont servi de sujets d'expérience.
Il ne s'agissait pas d'un simple exercice académique. Cela démontre à quel point la manipulation par l'IA peut être puissante et subtile, notamment lorsqu'elle imite des voix humaines de confiance à partir de données personnelles.
Avec la généralisation de l'IA générative, Le risque de manipulation par l'IA n'est plus théorique. C'est bien réel, et cela vient de se produire dans l'une des plus grandes communautés d'Internet.
Reddit, l'une des plus grandes communautés en ligne au monde, riposte.
