Een gedetailleerd onderzoek door journalisten van de BBC heeft een alarmerende trend aan het licht gebracht van door AI gegenereerde YouTube-video's die vol staan met valse "wetenschappelijke" informatie om jonge kijkers te misleiden.
Het BBC-team ontdekte "meer dan 50 kanalen in meer dan 20 talen die desinformatie verspreiden vermomd als STEM [Science, Technology, Engineering, Maths] inhoud".
Deze kanalen zijn gespecialiseerd in pseudowetenschap, valse informatie en samenzweringstheorieën, variërend van beweringen over piramides die elektriciteit produceren tot ontkenning van door mensen veroorzaakte klimaatverandering en discussies over buitenaardse wezens.
De algoritmes van YouTube bleken deze video's aan te bevelen aan jongere kijkers.
AI heeft het proces van het maken van YouTube-video's met behulp van geautomatiseerde methoden vereenvoudigd, wat tot bezorgdheid heeft geleid dat de kwaliteit van de inhoud op het platform afneemt.
De rol van AI bij het verspreiden van desinformatie
De BBC-analyse onthulde dat de meerderheid van deze misleidende video's generatieve AI-programma's hadden gebruikt, zoals ChatGPT en MidJourney, om tekst, afbeeldingen en verhaallijnen te produceren.
YouTuber en wetenschapsvoorlichter Kyle Hill had ervaring uit de eerste hand met dit probleem en zei: "De makers lijken accurate inhoud te hebben gestolen en gemanipuleerd en deze vervolgens opnieuw te hebben gepubliceerd."
Hij merkte verder op: "Deze kanalen leken precies de juiste dingen te hebben geïdentificeerd om het aantal views te maximaliseren met de minste inspanning."
Het BBC-team voerde een experiment uit om de mate van blootstelling van kinderen aan deze misleidende inhoud te begrijpen.
Ze maakten kinderaccounts aan op YouTube en ontdekten dat deze door AI gegenereerde "slechte wetenschap"-video's inderdaad aan deze accounts werden aanbevolen.
Kinderen reageren
Het onderzoek peilde ook de reacties op de video's door ze aan twee groepen 10-12-jarigen te laten zien.
Eén video richtte zich op UFO- en buitenaardse samenzweringen, terwijl een andere ten onrechte beweerde dat de piramides van Gizeh werden gebruikt voor het opwekken van elektriciteit.
Een kind zei: "Ik vond het leuk om naar te kijken," "In het begin wist ik niet zeker of buitenaardse wezens bestonden, maar nu denk ik van wel."
Sommigen ontdekten de nep-inhoud: "Ik vond het heel grappig dat ze niet eens een menselijke stem gebruikten, ik dacht dat het niet menselijk was," zei een kind.
De interactie van AI met kinderen is de afgelopen weken onderwerp van verhitte discussies geweest, waarbij 50 openbare aanklagers in Amerikaanse staten zich verenigen om het Congres te waarschuwen eerder deze maand over de gevaren van de technologie voor jongere generaties.
In augustus heeft de Wereld Economisch Forum (WEF) waarschuwde dat er een groot gebrek is aan beleid dat de rol van AI in het leven van kinderen aanpakt.
Reactie van YouTube
YouTube wees erop dat het YouTube Kids aanbeveelt voor kinderen onder de 13 jaar, omdat het een "hogere lat" legt voor de kwaliteit van video's die getoond kunnen worden.
Ze gaven echter geen commentaar op vragen over de advertentie-inkomsten die deze misleidende video's genereren.
Claire Seeley, een lerares op een basisschool in het Verenigd Koninkrijk, uitte haar zorgen over de toekomst.
"We hebben niet echt een duidelijk inzicht in hoe AI-gegenereerde inhoud echt invloed heeft op het begrip van kinderen. Als leerkrachten zijn we bezig met een inhaalslag om hier grip op te krijgen."
Professor Vicki Nash, directeur van het Oxford Internet Institute, uitte ethische bezwaren: "Het idee dat YouTube en Google geld verdienen aan advertenties met pseudowetenschappelijk nieuws lijkt me echt onethisch."
Naarmate AI zich blijft ontwikkelen, zullen de uitdagingen die voortkomen uit door AI gegenereerde desinformatie naar verwachting alleen maar escaleren, wat waakzame actie vereist van zowel techbedrijven als opvoeders en ouders.
Hoewel de regelgeving de druk op sociale mediaplatforms zal verhogen om actie te ondernemen tegen AI-gegenereerde inhoud, is het een hele opgave als het opsporen van dergelijke inhoud in de eerste plaats notoir moeilijk is.
