Usuarios de Reddit manipulados secretamente por IA en un impactante experimento psicológico.
Investigadores de la Universidad de Zúrich llevaron a cabo en secreto un experimento de inteligencia artificial que duró varios meses en la comunidad r/changemyview de Reddit, que cuenta con 3,8 millones de miembros, sin el consentimiento de los usuarios.
Un grupo de investigadores de la Universidad de Zúrich llevó a cabo un experimento encubierto de varios meses de duración utilizando comentarios generados por inteligencia artificial para influir en los usuarios de Reddit sin su conocimiento ni consentimiento.
El experimento tuvo lugar el r/cambiamiopinión, un subreddit de 3,8 millones de miembros conocido por el debate civilizado. Los investigadores desplegaron grandes modelos de lenguaje (LLM) Redactar respuestas personalizadas y persuasivas, haciéndose pasar por personas reales, para comprobar si la IA podía cambiar la opinión de los usuarios.
Los detalles
- Se publicaron comentarios generados por inteligencia artificial, haciéndose pasar por usuarios reales, para influir en la opinión pública.
- Entre los personajes representados se incluían supervivientes de traumas y voces políticas controvertidas.
- La IA utilizó datos personales extraídos del historial de los usuarios para personalizar las respuestas persuasivas.
- No se reveló ninguna de las actividades, violando las reglas del subreddit y las reglas generales de Reddit.
Esto no se trataba solo de bots.
Fue una manipulación psicológica que utilizó datos personales para probar cuán efectiva puede ser la IA en cambiar la opinión de la gente.
Ben Lee, director jurídico de Reddit Lo calificó de "profundamente erróneo tanto a nivel moral como legal" y confirmó que Reddit está preparando acciones legales formales.
Foto de Brett Jordan en Unsplash
La defensa de los investigadores
Afirman que su comité de ética aprobó el proyecto y argumentan que su objetivo era demostrar cómo la IA podría utilizarse indebidamente para manipular elecciones o difundir discursos de odio.
“Creemos que los beneficios potenciales de esta investigación superan con creces sus riesgos”, escribieron los investigadores.
La reacción
Los moderadores de r/changemyview se mostraron indignados, calificando la investigación de "inoportuna" y "manipuladora".“
Han presentado una queja. y solicitó a la universidad que impidiera la publicación del estudio. Este experimento revela una amenaza creciente: la persuasión a gran escala mediante inteligencia artificial, sin consentimiento. Demuestra la facilidad con la que se puede influir en las personas cuando la IA conoce sus creencias y puede imitar a sus pares.
Los usuarios de Reddit fueron utilizados como sujetos de prueba.
Esto no fue solo un ejercicio académico. Demuestra lo poderosa y sutil que puede ser la manipulación mediante IA, especialmente cuando imita voces humanas de confianza utilizando datos personales.
Con la IA generativa cada vez más extendida, El riesgo de manipulación mediante inteligencia artificial ya no es teórico. Es real, y acaba de ocurrir en una de las comunidades más grandes de internet.
Ahora Reddit, una de las comunidades en línea más grandes del mundo, está contraatacando.
