YouTube ha dado a conocer una serie de medidas y directrices para combatir el uso indebido de la inteligencia artificial, en particular de la música falsa generada por ella.
La decisión se produce en medio de una creciente presión para que se tomen medidas contra la música generada por IA y los contenidos falsos, ejemplificados por canciones como "Heart on My Sleeve", que presenta voces generadas por IA parecidas a las de Drake y The Weeknd sin su permiso.
Universal Music Group criticó la canción por "infringir contenidos creados con IA generativa".
Tras cierto debate, los Grammy declararon recientemente que tales composiciones no se tendrán en cuenta para los premios.
YouTube es actualización de su procedimiento de reclamación en materia de protección de la intimidad para admitir quejas sobre falsificaciones profundas, especificando que no se eliminarán todos los contenidos de este tipo, y que factores como la parodia y la sátira intervendrán en su toma de decisiones.
Además, ahora los creadores deben revelar cuándo utilizan contenidos manipulados o sintéticos, incluido el material generado por IA.
Esto se hace especialmente hincapié en los contenidos que tratan temas delicados como elecciones y crisis de salud pública. YouTube también ha mencionado que el incumplimiento de estas directrices podría conllevar la retirada de contenidos o la suspensión de los pagos por publicidad.
Además, se añadirá a las descripciones de los vídeos una etiqueta que identifique el contenido generado por IA, con un etiquetado más destacado para los temas delicados.
La empresa ha declarado que también se eliminará el material generado por IA que infrinja las directrices de contenido existentes, como los vídeos violentos creados sintéticamente.
He aquí un resumen del arsenal de herramientas de YouTube para combatir el uso indebido de la IA:
- Requisitos de información y etiquetas de contenido: Los creadores deben revelar si sus contenidos incluyen material alterado o sintético que sea realista, especialmente cuando se utilicen herramientas de IA. Esto es crucial para los contenidos que tratan temas delicados como elecciones y crisis de salud pública. El incumplimiento puede conllevar la retirada de contenidos u otras sanciones.
- Información del visor: YouTube tiene previsto informar a los espectadores sobre los contenidos sintéticos mediante etiquetas en el panel de descripción y, en el caso de los temas delicados, de forma más destacada en el reproductor de vídeo.
- Eliminación de contenidos en casos de alto riesgo: Los medios sintéticos que supongan un riesgo de daño, independientemente de su etiquetado, serán eliminados si infringen las Directrices comunitarias. Esto incluye contenidos que muestren violencia realista con el objetivo de escandalizar o disgustar a los espectadores.
- Proceso de solicitud de protección de datos: YouTube permitirá solicitar la retirada de contenidos generados o alterados por IA que simulen la cara o la voz de una persona identificable. Las decisiones se basarán en factores como la parodia o la sátira, la identificabilidad de la persona y su estatus público.
- Disposiciones especiales para contenidos musicales: Los socios musicales pueden solicitar la retirada de música generada por IA que imite la voz única de un artista. YouTube evaluará factores como la información periodística o la relevancia crítica en estos casos.
- La IA en la moderación de contenidos: YouTube emplea una combinación de tecnología de IA y revisión humana para hacer cumplir las Directrices comunitarias. Los clasificadores de IA ayudan a detectar posibles infracciones, mientras que los revisores humanos confirman los incumplimientos de las políticas. La IA generativa es especialmente útil para identificar y abordar nuevas formas de abuso.
- Asumir la responsabilidad de las herramientas de IA: YouTube se centra en el desarrollo de herramientas de IA con salvaguardias integradas para evitar la generación de contenidos inapropiados. También se está preparando para la posible elusión por parte de agentes malintencionados mediante la mejora continua y equipos dedicados a la detección de amenazas.
Esto sigue una tendencia más amplia de la industria para exponer el contenido relacionado con la IA que no pretende hacer una contribución genuina y digna de confianza a las plataformas.
Empresas como Meta también introducen requisitos para los anunciantes políticos revelar el uso de IA en los anuncios. Información errónea
Esto es el resultado de una mezcla de presión pública y privada, en la que las empresas de IA intentan mostrar su voluntad de cumplir las promesas realizadas en diversos marcos voluntarios.
