Gli utenti di Reddit manipolati segretamente dall'intelligenza artificiale in un esperimento psicologico sconvolgente
Alcuni ricercatori dell'Università di Zurigo hanno condotto segretamente, per diversi mesi, un esperimento di intelligenza artificiale sulla community r/changemyview di Reddit, composta da 3,8 milioni di membri, senza il consenso degli utenti.
Un gruppo di ricercatori dell'Università di Zurigo ha condotto un esperimento segreto, durato diversi mesi, utilizzando commenti generati dall'intelligenza artificiale per influenzare gli utenti di Reddit a loro insaputa e senza il loro consenso.
L'esperimento ha avuto luogo il r/changemyview, un subreddit con 3,8 milioni di membri noto per il dibattito civile. I ricercatori hanno impiegato modelli linguistici di grandi dimensioni (LLM) Scrivere risposte personalizzate e persuasive, fingendosi persone reali, per verificare se l'intelligenza artificiale potesse modificare le opinioni degli utenti.
I dettagli
- Sono stati pubblicati commenti generati dall'intelligenza artificiale, che si spacciavano per utenti reali, al fine di influenzare le opinioni.
- Tra i personaggi intervistati figuravano sopravvissuti a traumi e voci politiche controverse.
- L'intelligenza artificiale ha utilizzato i dati personali estratti dalla cronologia degli utenti per personalizzare le risposte persuasive.
- Nessuna delle attività è stata divulgata, violazione delle regole del subreddit e di Reddit in generale.
Non si trattava solo di bot.
Si trattava di manipolazione psicologica che utilizzava dati personali per testare quanto l'IA possa essere efficace cambiare le opinioni delle persone.
Ben Lee, responsabile legale di Reddit definendolo "profondamente sbagliato sia sul piano morale che legale" e confermando che Reddit si sta preparando ad intraprendere un'azione legale formale.
Foto di Brett Jordan su Unsplash
La difesa dei ricercatori
Affermano che il loro comitato etico ha approvato il progetto e sostengono che il loro obiettivo fosse dimostrare come l'intelligenza artificiale possa essere utilizzata impropriamente per manipolare le elezioni o diffondere discorsi d'odio.
“"Riteniamo che i potenziali benefici di questa ricerca superino di gran lunga i rischi", hanno scritto i ricercatori.
La reazione negativa
I moderatori di r/changemyview si sono indignati, definendo la ricerca "indesiderata" e "manipolativa".“
Hanno presentato una denuncia e ha chiesto all'università di bloccare la pubblicazione dello studio. Questo esperimento rivela una minaccia crescente: la persuasione su larga scala tramite intelligenza artificiale, senza consenso. Dimostra con quanta facilità le persone possano essere influenzate quando l'IA conosce le loro convinzioni ed è in grado di imitare i loro pari.
Gli utenti di Reddit sono stati utilizzati come soggetti di test.
Non si è trattato di un semplice esercizio accademico. Dimostra quanto possa essere potente e subdola la manipolazione tramite intelligenza artificiale, soprattutto quando imita voci umane affidabili utilizzando dati personali.
Con la diffusione dell'IA generativa, Il rischio di manipolazione tramite intelligenza artificiale non è più teorico. È vero, ed è appena successo in una delle più grandi community di internet.
Ora Reddit, una delle più grandi comunità online al mondo, sta reagendo.
