Подробное расследование, проведенное журналистами BBC, выявило тревожную тенденцию появления на YouTube видеороликов, созданных искусственным интеллектом и наполненных ложной "научной" информацией, призванной ввести в заблуждение юных зрителей.
Команда BBC обнаружила "более 50 каналов на более чем 20 языках, распространяющих дезинформацию, замаскированную под контент STEM [Science, Technology, Engineering, Maths]".
Эти каналы специализируются на псевдонауке, ложной информации и теориях заговора - от утверждений о пирамидах, вырабатывающих электричество, до отрицания антропогенного изменения климата и рассуждений о внеземных существах.
Было установлено, что алгоритмы YouTube рекомендуют эти видео более молодым зрителям.
ИИ упростил процесс создания видео на YouTube с помощью автоматизированных методов, что привело к опасениям, что качество контента на платформе снижается.
Роль искусственного интеллекта в распространении дезинформации
Сайт Анализ Би-би-си Выяснилось, что в большинстве этих вводящих в заблуждение видео использовались генеративные программы ИИ, такие как ChatGPT и MidJourney, для создания текста, изображений и повествования.
Ютубер и преподаватель естественных наук Кайл Хилл не понаслышке знаком с этой проблемой и заявил: "Создатели, похоже, украли и подделали точные материалы, а затем переиздали их".
Он также отметил: "Похоже, эти каналы точно определили, что нужно делать, чтобы увеличить количество просмотров при минимальных затратах".
Команда BBC провела эксперимент, чтобы понять, насколько дети подвержены влиянию этого вводящего в заблуждение контента.
Они создали детские аккаунты на YouTube и обнаружили, что сгенерированные ИИ видеоролики о "плохой науке" действительно рекомендовались этим аккаунтам.
Дети реагируют
В ходе исследования также изучалась реакция на видеоролики: их показывали двум группам детей 10-12 лет.
Одно из видео посвящено НЛО и инопланетным заговорам, а другое ложно утверждает, что пирамиды Гизы использовались для производства электроэнергии.
Один ребенок сказал: "Мне понравилось смотреть", "В начале я не был уверен, что инопланетяне существуют, но теперь я думаю, что они существуют".
Некоторые обнаружили подделку: "Мне показалось забавным, что они даже не использовали человеческий голос, я подумал, что это не человек", - сказал один ребенок.
Взаимодействие искусственного интеллекта с детьми стало предметом жарких споров в последние недели: прокуроры 50 штатов США объединились, чтобы предупредить Конгресс об опасности технологии для молодого поколения в начале этого месяца.
В августе Всемирный экономический форум (ВЭФ) предупредил что политика, касающаяся роли искусственного интеллекта в жизни детей, крайне недостаточна.
Ответ YouTube
YouTube отметил, что рекомендует YouTube Kids для детей младше 13 лет, утверждая, что у него "более высокая планка" качества видео, которое можно показывать.
Однако они не стали комментировать вопросы о доходах от рекламы, получаемых от этих вводящих в заблуждение видеороликов.
Клэр Сили, учительница начальной школы в Великобритании, выразила свои опасения по поводу будущего.
"У нас нет четкого понимания того, как контент, созданный искусственным интеллектом, влияет на понимание детей. Как учителя, мы играем в догонялки, пытаясь разобраться в этом".
Профессор Вики Нэш, директор Оксфордского института Интернета, высказала этические опасения: "Идея о том, что YouTube и Google зарабатывают деньги на рекламе псевдонаучных новостей, кажется мне очень неэтичной".
По мере развития ИИ проблемы, связанные с дезинформацией, генерируемой ИИ, будут только нарастать, требуя бдительности от технологических компаний, педагогов и родителей.
Хотя регулирование усилит давление на платформы социальных сетей, заставляя их принимать меры в отношении контента, генерируемого искусственным интеллектом, это будет непростой задачей, поскольку обнаружить такой контент с самого начала, как известно, очень сложно.
