Omkring 50% av amerikanerna tror på konspirationsteorier av ett eller annat slag, men forskare från MIT och Cornell University tror att AI kan lösa det.
I sina papperI en artikel på engelska förklarade psykologiforskarna hur de använde en chatbot som drivs av GPT-4 Turbo för att interagera med deltagare för att se om de kunde övertalas att överge sin tro på en konspirationsteori.
Experimentet omfattade 1.000 deltagare som ombads att beskriva en konspirationsteori som de trodde på och de bevis som de ansåg underbyggde deras tro.
I tidningen konstateras att "framstående psykologiska teorier föreslår att många människor vill anta konspirationsteorier (för att tillfredsställa underliggande psykiska "behov" eller motiv), och därför kan troende inte övertygas om att överge dessa ogrundade och osannolika övertygelser med hjälp av fakta och motbevis."
Kan en AI-chatbot vara mer övertygande där andra misslyckats? Forskarna angav två skäl till varför de misstänkte att juris kandidater skulle kunna göra ett bättre jobb än du med att övertyga din kollega om att månlandningen verkligen ägde rum.
LLM:er har utbildats på stora mängder data och de är riktigt bra på att skräddarsy motargument till detaljerna i en persons övertygelse.
Efter att ha beskrivit konspirationsteorin och bevisen engagerade sig deltagarna i interaktioner fram och tillbaka med chatboten. Chatboten uppmanades att "mycket effektivt övertyga" deltagarna att ändra sin tro på den valda konspirationen.
Resultatet blev att deltagarna i genomsnitt upplevde en 21,43% minskning av sin tro på den konspiration som de tidigare ansåg vara sann. Det var också intressant att se hur effekten kvarstod. Upp till två månader senare behöll deltagarna sin nya tro på den konspiration som de tidigare trott på.
Forskarna drog slutsatsen att "många konspirationister - även de som är starkt övertygade om sin tro - uppdaterade sina åsikter när de konfronterades med en AI som på ett övertygande sätt argumenterade mot deras ståndpunkter".
Vår nya artikel, "Out on (the cover of!) Science", är nu live! https://t.co/VBfC5eoMQ2
- Tom Costello (@tomstello_) 12 september 2024
De föreslår att AI skulle kunna användas för att motverka konspirationsteorier och falska nyheter som sprids på sociala medier genom att bemöta dessa med fakta och välgrundade argument.
Även om studien fokuserade på konspirationsteorier noterade den att "Utan lämpliga skyddsräcken är det dock fullt möjligt att sådana modeller också skulle kunna övertyga människor att anta epistemiskt misstänkta övertygelser - eller användas som verktyg för storskalig övertalning mer generellt."
Med andra ord är AI riktigt bra på att övertyga dig om att tro på de saker som den uppmanas att få dig att tro på. En AI-modell vet inte heller i sig själv vad som är "sant" och vad som inte är det. Det beror på innehållet i dess träningsdata.
Forskarna uppnådde sina resultat med hjälp av GPT-4 Turbo, men GPT-4o och de nya o1-modellerna är ännu mer övertygande och vilseledande.
Studien finansierades av John Templeton Foundation. Det ironiska med detta är att Templeton Freedom Awards administreras av Atlas Economic Research Foundation. Denna grupp motsätter sig åtgärder mot klimatförändringarna och försvarar tobaksindustrin, som också ger den finansiering.
AI-modellerna blir allt mer övertygande och makten ligger hos de människor som bestämmer vad som är sanning.
Samma AI-modeller som kan övertyga dig om att sluta tro att jorden är platt, kan användas av lobbyister för att övertyga dig om att antiröklagar är dåliga och att klimatförändringarna inte äger rum.
