Eine ausführliche Untersuchung von BBC-Journalisten hat einen alarmierenden Trend von KI-generierten YouTube-Videos aufgedeckt, die mit falschen "wissenschaftlichen" Informationen gefüllt sind, um junge Zuschauer in die Irre zu führen.
Das BBC-Team entdeckte "mehr als 50 Kanäle in mehr als 20 Sprachen, die als MINT-Inhalte (Wissenschaft, Technik, Ingenieurwesen, Mathematik) getarnte Desinformationen verbreiten".
Diese Kanäle sind auf Pseudowissenschaft, Falschinformationen und Verschwörungstheorien spezialisiert, die von Behauptungen über stromproduzierende Pyramiden bis hin zur Leugnung des vom Menschen verursachten Klimawandels und Diskussionen über außerirdische Wesen reichen.
Es wurde festgestellt, dass die Algorithmen von YouTube diese Videos jüngeren Zuschauern empfehlen.
Die künstliche Intelligenz hat die Erstellung von YouTube-Videos mithilfe automatisierter Methoden vereinfacht, was zu der Befürchtung geführt hat, dass die Qualität der Inhalte auf der Plattform sinkt.
Die Rolle der KI bei der Verbreitung von Desinformationen
Die Die Analyse der BBC ergab, dass in den meisten dieser irreführenden Videos generative KI-Programme wie ChatGPT und MidJourney eingesetzt wurden, um Text, Bilder und Erzählungen zu erzeugen.
Der YouTuber und Wissenschaftspädagoge Kyle Hill hat dieses Problem aus erster Hand erfahren: "Die Macher scheinen korrekte Inhalte gestohlen und manipuliert zu haben, um sie dann erneut zu veröffentlichen."
Er kommentierte weiter: "Diese Kanäle schienen genau das Richtige gefunden zu haben, um mit dem geringsten Aufwand die Aufrufe zu maximieren."
Das BBC-Team führte ein Experiment durch, um herauszufinden, inwieweit die Kinder diesen irreführenden Inhalten ausgesetzt sind.
Sie richteten Kinderkonten auf YouTube ein und stellten fest, dass diese von der KI generierten "schlechten wissenschaftlichen" Videos diesen Konten tatsächlich empfohlen wurden.
Kinder reagieren
Bei der Untersuchung wurden auch die Reaktionen auf die Videos ermittelt, indem sie zwei Gruppen von 10- bis 12-Jährigen gezeigt wurden.
Ein Video befasste sich mit UFO- und Außerirdischen-Verschwörungen, während ein anderes fälschlicherweise behauptete, die Pyramiden von Gizeh würden zur Stromerzeugung genutzt.
Ein Kind sagte: "Es hat mir Spaß gemacht, den Film zu sehen", "Am Anfang war ich mir nicht sicher, ob es Außerirdische gibt, aber jetzt glaube ich, dass sie es tun".
Einige erkannten den gefälschten Inhalt: "Ich fand es ziemlich lustig, dass sie nicht einmal eine menschliche Stimme benutzt haben, ich dachte, es wäre nicht menschlich", sagte ein Kind.
Die Interaktion von KI mit Kindern wurde in den letzten Wochen heftig diskutiert, wobei 50 Staatsanwälte der US-Bundesstaaten sich zusammenschließen, um den Kongress zu warnen über die Gefahren der Technologie für die jüngere Generation zu Beginn dieses Monats.
Im August hat die Das Weltwirtschaftsforum (WEF) warnte dass eine Politik, die sich mit der Rolle der künstlichen Intelligenz im Leben der Kinder befasst, in hohem Maße fehlt.
Die Antwort von YouTube
YouTube wies darauf hin, dass es YouTube Kids für Kinder unter 13 Jahren empfiehlt und behauptet, es habe eine "höhere Messlatte" für die Qualität der Videos, die gezeigt werden können.
Sie äußerten sich jedoch nicht zu Fragen bezüglich der mit diesen irreführenden Videos erzielten Werbeeinnahmen.
Claire Seeley, eine Grundschullehrerin aus dem Vereinigten Königreich, äußerte sich besorgt über die Zukunft.
"Wir wissen nicht genau, wie sich KI-generierte Inhalte wirklich auf das Verständnis der Kinder auswirken. Als Lehrer müssen wir aufholen und versuchen, das in den Griff zu bekommen.
Professor Vicki Nash, Direktorin des Oxford Internet Institute, äußerte ethische Bedenken: "Der Gedanke, dass YouTube und Google Geld damit verdienen, dass Anzeigen mit pseudowissenschaftlichen Nachrichten geschaltet werden, erscheint mir wirklich unethisch."
Mit der weiteren Entwicklung der KI werden die Herausforderungen, die durch KI-generierte Desinformation entstehen, voraussichtlich noch zunehmen und ein wachsames Handeln von Technologieunternehmen, Pädagogen und Eltern gleichermaßen erfordern.
Die Regulierung wird zwar den Druck auf die Social-Media-Plattformen erhöhen, auf KI-generierte Inhalte zu reagieren, aber das ist ein schwieriges Unterfangen, da es bekanntermaßen schwierig ist, solche Inhalte überhaupt zu erkennen.
