Una detallada investigación realizada por periodistas de la BBC ha desvelado una alarmante tendencia de vídeos de YouTube generados por inteligencia artificial y llenos de falsa información "científica" destinada a engañar a los jóvenes espectadores.
El equipo de la BBC descubrió "más de 50 canales en más de 20 idiomas difundiendo desinformación disfrazada de contenidos STEM [Ciencia, Tecnología, Ingeniería, Matemáticas]".
Estos canales se especializan en pseudociencia, información falsa y teorías conspirativas que van desde afirmaciones sobre pirámides que producen electricidad hasta la negación del cambio climático provocado por el hombre y debates sobre seres extraterrestres.
Se descubrió que los algoritmos de YouTube recomiendan estos vídeos a los espectadores más jóvenes.
La IA ha simplificado el proceso de creación de vídeos en YouTube mediante métodos automatizados, lo que ha suscitado la preocupación de que la calidad de los contenidos en la plataforma esté disminuyendo.
El papel de la IA en la difusión de desinformación
En Análisis de la BBC reveló que la mayoría de estos vídeos engañosos habían empleado programas de IA generativa, como ChatGPT y MidJourney, para producir texto, imágenes y narraciones.
El YouTuber y educador científico Kyle Hill tuvo experiencia de primera mano con este asunto, al afirmar: "Los creadores parecen haber robado y manipulado contenidos precisos y luego los han vuelto a publicar."
Además, comentó: "Estos canales parecían haber identificado lo exacto para maximizar las visitas con el menor esfuerzo".
El equipo de la BBC realizó un experimento para conocer el grado de exposición de los niños a estos contenidos engañosos.
Crearon cuentas infantiles en YouTube y descubrieron que estos vídeos de "mala ciencia" generados por la IA sí se recomendaban a estas cuentas.
Los niños reaccionan
La investigación también midió las reacciones a los vídeos mostrándolos a dos grupos de niños de 10 a 12 años.
Un vídeo se centraba en conspiraciones sobre ovnis y extraterrestres, mientras que otro afirmaba falsamente que las pirámides de Giza se utilizaban para generar electricidad.
Un niño dijo: "Me ha gustado verlo", "Al principio no estaba seguro de que existieran los extraterrestres, pero ahora creo que sí".
Algunos detectaron el contenido falso: "Me pareció bastante gracioso que ni siquiera utilizaran una voz humana, pensé que no era humano", dijo un niño.
La interacción de la IA con los niños ha sido objeto de un acalorado debate en las últimas semanas, con 50 fiscales estatales de EE.UU. uniéndose para advertir al Congreso de los peligros de la tecnología para las generaciones más jóvenes a principios de este mes.
En agosto, el El Foro Económico Mundial (FEM) advirtió que la política que aborda el papel de la IA en la vida de los niños es muy deficiente.
Respuesta de YouTube
YouTube señaló que recomienda YouTube Kids para los menores de 13 años, alegando que tiene un "listón más alto" para la calidad de los vídeos que se pueden mostrar.
Sin embargo, no hicieron comentarios sobre las preguntas relativas a los ingresos publicitarios generados por estos vídeos engañosos.
Claire Seeley, profesora de primaria en el Reino Unido, expresó su preocupación por el futuro.
"No sabemos muy bien cómo influyen los contenidos generados por inteligencia artificial en la comprensión de los niños. Como profesores, estamos intentando ponernos al día".
La profesora Vicki Nash, directora del Instituto de Internet de Oxford, planteó sus dudas desde el punto de vista ético: "La idea de que YouTube y Google estén ganando dinero a costa de anuncios que se sirven con noticias pseudocientíficas me parece realmente poco ética".
A medida que la IA siga evolucionando, se espera que los problemas que plantea la desinformación generada por la IA vayan en aumento, lo que exigirá una actuación vigilante por parte de las empresas tecnológicas, los educadores y los padres.
Si bien la regulación aumentará la presión sobre las plataformas de redes sociales para que actúen ante los contenidos generados por IA, es una tarea difícil cuando la detección de estos contenidos en primer lugar es notoriamente difícil.
