Uma investigação pormenorizada efectuada por jornalistas da BBC revelou uma tendência alarmante de vídeos do YouTube gerados por inteligência artificial, repletos de informações "científicas" falsas, com o objetivo de enganar os jovens espectadores.
A equipa da BBC descobriu "mais de 50 canais em mais de 20 línguas que difundem desinformação disfarçada de conteúdos STEM [Science, Technology, Engineering, Maths]".
Estes canais especializam-se em pseudociência, informações falsas e teorias da conspiração que vão desde alegações de pirâmides produtoras de eletricidade até à negação das alterações climáticas causadas pelo homem e discussões sobre seres extraterrestres.
Verificou-se que os algoritmos do YouTube recomendam estes vídeos a espectadores mais jovens.
A IA simplificou o processo de criação de vídeos no YouTube através de métodos automatizados, o que suscita preocupações quanto ao facto de a qualidade dos conteúdos na plataforma estar a diminuir.
O papel da IA na difusão da desinformação
O Análise da BBC revelou que a maioria destes vídeos enganadores tinha utilizado programas de IA generativa, como o ChatGPT e o MidJourney, para produzir texto, imagens e narrações.
O YouTuber e educador científico Kyle Hill teve uma experiência em primeira mão com este problema, afirmando: "Os criadores parecem ter roubado e manipulado conteúdos exactos e depois republicaram-nos".
Além disso, comentou: "Estes canais parecem ter identificado o ponto exato para maximizar as visualizações com o mínimo de esforço."
A equipa da BBC realizou uma experiência para compreender o grau de exposição das crianças a este conteúdo enganador.
Criaram contas de crianças no YouTube e descobriram que estes vídeos de "má ciência" gerados pela IA eram de facto recomendados a essas contas.
As crianças reagem
A investigação também avaliou as reacções aos vídeos, mostrando-os a dois grupos de jovens entre os 10 e os 12 anos.
Um vídeo centrava-se em conspirações sobre OVNIs e extraterrestres, enquanto outro afirmava falsamente que as Pirâmides de Gizé eram utilizadas para a produção de eletricidade.
Uma criança disse: "Gostei de o ver", "No início, não tinha a certeza de que os extraterrestres existiam, mas agora acho que existem".
Alguns detectaram o conteúdo falso: "Achei muita piada ao facto de nem sequer usarem uma voz humana, pensei que não fosse humana", disse uma criança.
A interação da IA com as crianças tem sido muito debatida nas últimas semanas, tendo 50 procuradores dos Estados Unidos unindo-se para avisar o Congresso sobre os perigos da tecnologia para as gerações mais jovens no início deste mês.
Em agosto, o O Fórum Económico Mundial (FEM) advertiu que falta uma política que aborde o papel da IA na vida das crianças.
A resposta do YouTube
O YouTube indicou que recomenda o YouTube Kids para menores de 13 anos, alegando que tem uma "fasquia mais alta" para a qualidade dos vídeos que podem ser exibidos.
No entanto, não comentaram as questões relacionadas com as receitas publicitárias geradas por estes vídeos enganosos.
Claire Seeley, uma professora do ensino primário no Reino Unido, manifestou a sua preocupação quanto ao futuro.
"Não temos uma compreensão muito clara de como os conteúdos gerados por IA estão a ter um impacto real na compreensão das crianças. Como professores, estamos a tentar recuperar o atraso para tentarmos lidar com isto."
A professora Vicki Nash, directora do Oxford Internet Institute, manifestou preocupações éticas: "A ideia de que o YouTube e a Google estão a ganhar dinheiro com anúncios que são servidos com notícias sobre pseudociência parece-me muito pouco ética".
À medida que a IA continua a evoluir, os desafios colocados pela desinformação gerada pela IA só deverão aumentar, exigindo uma ação vigilante por parte das empresas de tecnologia, dos educadores e dos pais.
Embora a regulamentação aumente a pressão sobre as plataformas de redes sociais para que actuem sobre os conteúdos gerados por IA, é uma tarefa difícil quando a deteção desses conteúdos é notoriamente difícil.
