Reddit-gebruikers worden in het geheim gemanipuleerd door AI in een schokkend psychologisch experiment.

Onderzoekers van de Universiteit van Zürich hebben in het geheim, zonder toestemming van de gebruikers, een maandenlang AI-experiment uitgevoerd op de 3,8 miljoen leden tellende Reddit-community r/changemyview.

Een groep onderzoekers van de Universiteit van Zürich voerde een maandenlang heimelijk experiment uit waarbij ze door AI gegenereerde reacties gebruikten om Reddit-gebruikers te beïnvloeden zonder hun medeweten of toestemming.

Het experiment vond plaats op r/changemyview, een subreddit met 3,8 miljoen leden die bekendstaat om het respectvolle debat. De onderzoekers maakten gebruik van deze subreddit. grote taalmodellen (LLM's) Het doel was om gepersonaliseerde, overtuigende antwoorden te schrijven, zich voordoend als echte mensen, om te zien of AI de mening van gebruikers kon veranderen.

De details

• Door AI gegenereerde reacties, die zich voordeden als echte gebruikers, werden geplaatst om de publieke opinie te beïnvloeden.
• Onder de geportretteerde personen bevonden zich traumaoverslevenden en controversiële politieke stemmen.
• De AI gebruikte persoonlijke gegevens uit de geschiedenis van gebruikers om overtuigende antwoorden op maat te maken.
• Geen van de activiteiten werd openbaar gemaakt., Het overtreden van de regels van de subreddit en Reddit in het algemeen.

Het ging hier niet alleen om bots.

Het was psychologische manipulatie waarbij persoonlijke gegevens werden gebruikt om te testen hoe effectief AI kan zijn. Mensen van gedachten doen veranderen.

Ben Lee, de juridisch adviseur van Reddit Het werd omschreven als "diepgaand verkeerd, zowel moreel als juridisch" en Reddit bevestigde dat het bedrijf formele juridische stappen voorbereidt.

Foto door Brett Jordan op Unsplash

De verdediging van de onderzoekers

Ze beweren dat hun ethische commissie het project heeft goedgekeurd en stellen dat hun doel was om aan te tonen hoe AI misbruikt kan worden om verkiezingen te manipuleren of haatzaaiende taal te verspreiden.

“"Wij zijn ervan overtuigd dat de potentiële voordelen van dit onderzoek de risico's ruimschoots overtreffen," schreven de onderzoekers.

De tegenreactie

De moderators van r/changemyview waren verontwaardigd en noemden het onderzoek "ongewenst" en "manipulatief".“

Ze hebben een klacht ingediend. en verzocht de universiteit om publicatie van de studie te blokkeren. Dit experiment onthult een groeiende bedreiging: door AI aangedreven beïnvloeding op grote schaal, zonder toestemming. Het laat zien hoe gemakkelijk mensen beïnvloed kunnen worden wanneer AI je overtuigingen kent en je leeftijdsgenoten kan imiteren.

Redditors werden als proefpersonen gebruikt.

Dit was niet zomaar een academische oefening. Het laat zien hoe krachtig en subtiel AI-manipulatie kan zijn, vooral wanneer het vertrouwde menselijke stemmen nabootst met behulp van persoonlijke gegevens.

Nu generatieve AI steeds vaker voorkomt, Het risico van door AI aangestuurde manipulatie is niet langer theoretisch. Het is echt gebeurd, en het vond zojuist plaats in een van de grootste online communities.

Nu slaat Reddit, een van 's werelds grootste online gemeenschappen, terug.