Компания YouTube представила ряд мер и рекомендаций по борьбе со злоупотреблениями, связанными с искусственным интеллектом, в частности, с музыкой, созданной искусственным интеллектом, и глубокими подделками.
Решение принято на фоне растущего давления, требующего принятия мер в отношении музыки, созданной искусственным интеллектом, и глубоко фальсифицированного контента, примером которого могут служить такие песни, как "Heart on My Sleeve", в которой сгенерированный искусственным интеллектом вокал похож на Дрейка и The Weeknd без их разрешения.
Universal Music Group раскритиковала песню за "нарушающий авторские права контент, созданный с помощью генеративного искусственного интеллекта".
После некоторых споров "Грэмми" недавно объявила, что такие композиции не будут рассматриваться для получения наград.
YouTube - это обновление процесса рассмотрения жалоб на нарушение конфиденциальности разрешить подавать жалобы на глубокие подделки, уточнив, что не весь такой контент будет удаляться, а при принятии решений будут учитываться такие факторы, как пародия и сатира.
Кроме того, авторы теперь должны сообщать, когда они используют манипулируемый или синтетический контент, включая материалы, созданные искусственным интеллектом.
Это особенно важно для контента, обсуждающего такие деликатные темы, как выборы и кризисы в здравоохранении. YouTube также отметил, что несоблюдение этих рекомендаций может привести к удалению контента или приостановке выплат за рекламу.
Кроме того, в описание видео будет добавлена метка, идентифицирующая контент, созданный искусственным интеллектом, а в случае деликатных тем метка будет более заметной.
Компания заявила, что материалы, созданные искусственным интеллектом и нарушающие существующие правила контента, например синтетически созданные видео с насилием, также будут удаляться.
Вот краткий обзор инструментов YouTube для борьбы с неправомерным использованием ИИ:
- Требования к раскрытию информации и маркировка содержания: Создатели должны сообщать, если их контент содержит измененный или синтетический материал, который является реалистичным, особенно при использовании инструментов искусственного интеллекта. Это очень важно для контента, обсуждающего такие деликатные темы, как выборы и кризисы в здравоохранении. Несоблюдение этого требования может привести к удалению контента или другим санкциям.
- Информация о программе просмотра: YouTube планирует информировать зрителей о синтетическом контенте с помощью меток на панели описания и, в случае деликатных тем, на более заметном месте в видеоплеере.
- Удаление содержимого в случаях повышенного риска: Синтетические материалы, представляющие риск причинения вреда, независимо от маркировки, будут удалены, если они нарушают Правила сообщества. Сюда относится контент, изображающий реалистичное насилие, направленное на то, чтобы шокировать или вызвать отвращение у зрителей.
- Процесс подачи запроса о конфиденциальности: YouTube будет разрешать запросы на удаление сгенерированного искусственным интеллектом или измененного контента, имитирующего лицо или голос идентифицируемого человека. Решения будут приниматься с учетом таких факторов, как пародия или сатира, возможность идентификации личности и ее общественный статус.
- Специальные положения для музыкального контента: Музыкальные партнеры могут потребовать удалить музыку, сгенерированную искусственным интеллектом, которая имитирует уникальный голос исполнителя. В таких случаях YouTube будет оценивать такие факторы, как репортаж новостей или актуальность критики.
- ИИ в модерации контента: YouTube использует сочетание технологий искусственного интеллекта и человеческого контроля для обеспечения соблюдения Правил сообщества. Классификаторы ИИ помогают обнаружить потенциальные нарушения, а человеческие рецензенты подтверждают нарушения правил. Генеративный ИИ особенно полезен для выявления и устранения новых форм злоупотреблений.
- Повышение ответственности за инструменты искусственного интеллекта: YouTube уделяет особое внимание разработке инструментов искусственного интеллекта со встроенными средствами защиты, предотвращающими создание неприемлемого контента. Они также готовятся к возможным обходам со стороны злоумышленников путем постоянного совершенствования и создания специальных групп по обнаружению угроз.
Это следует за более широкой тенденцией в отрасли, направленной на разоблачение контента, связанного с ИИ, который не стремится внести подлинный и достоверный вклад в работу платформ.
Такие компании, как Meta, также представляют требования к политическим рекламодателям раскрывать информацию об использовании искусственного интеллекта в рекламе. Дезинформация
Это происходит под давлением общественных и частных сил, когда компании, занимающиеся разработкой ИИ, стремятся продемонстрировать готовность выполнить обещания, данные в различных добровольных рамках.
