O YouTube revelou uma série de medidas e directrizes para combater a utilização indevida relacionada com a IA, em especial no que diz respeito à música falsa profunda e gerada por IA.
A decisão surge no meio de uma pressão crescente para tomar medidas em relação à música gerada por IA e aos conteúdos profundamente falsos, exemplificados por canções como "Heart on My Sleeve", com vozes geradas por IA que se assemelham a Drake e The Weeknd sem a sua autorização.
O Universal Music Group criticou a canção por "infringir conteúdos criados com IA generativa".
Após algum debate, os Grammys declararam recentemente que tais composições não serão considerados para prémios.
O YouTube é atualização do seu processo de reclamação em matéria de privacidade para permitir queixas sobre falsificações profundas, especificando que nem todos os conteúdos desse tipo serão removidos, com factores como a paródia e a sátira a desempenharem um papel na tomada de decisões.
Além disso, os criadores devem agora revelar quando utilizam conteúdos manipulados ou sintéticos, incluindo material gerado por IA.
Isto é particularmente importante para conteúdos que discutam temas sensíveis como eleições e crises de saúde pública. O YouTube também mencionou que o não cumprimento destas directrizes pode levar à remoção do conteúdo ou à suspensão dos pagamentos de publicidade.
Além disso, será acrescentada às descrições dos vídeos uma etiqueta que identifica os conteúdos gerados por IA, com maior destaque para os temas sensíveis.
A empresa declarou que o material gerado por IA que viole as directrizes de conteúdo existentes, como os vídeos violentos criados sinteticamente, também será removido.
Eis um resumo do arsenal de ferramentas do YouTube para combater a utilização abusiva da IA:
- Requisitos de divulgação e rótulos de conteúdo: Os criadores devem revelar se os seus conteúdos incluem material alterado ou sintético que seja realista, nomeadamente quando utilizam ferramentas de IA. Isto é crucial para conteúdos que debatam temas sensíveis como eleições e crises de saúde pública. O incumprimento pode levar à remoção de conteúdos ou a outras sanções.
- Informações do visualizador: O YouTube planeia informar os espectadores sobre os conteúdos sintéticos através de etiquetas no painel de descrição e, no caso de temas sensíveis, de forma mais visível no leitor de vídeo.
- Remoção de conteúdos em casos de alto risco: Os media sintéticos que representem um risco de danos, independentemente da etiqueta, serão removidos se violarem as Directrizes da Comunidade. Isto inclui conteúdos que representem violência realista com o objetivo de chocar ou enojar os espectadores.
- Processo de pedido de privacidade: O YouTube vai permitir pedidos de remoção de conteúdos gerados por IA ou alterados que simulem o rosto ou a voz de uma pessoa identificável. As decisões basear-se-ão em factores como a paródia ou a sátira, a possibilidade de identificação da pessoa e o seu estatuto público.
- Disposições especiais para conteúdos musicais: Os parceiros musicais podem solicitar a remoção de música gerada por IA que imite a voz única de um artista. Nestes casos, o YouTube avaliará factores como a relevância das notícias ou da crítica.
- IA na moderação de conteúdos: O YouTube utiliza uma combinação de tecnologia de IA e análise humana para aplicar as Directrizes da Comunidade. Os classificadores de IA ajudam a detetar potenciais violações, enquanto os revisores humanos confirmam as violações das políticas. A IA generativa é particularmente útil para identificar e abordar novas formas de abuso.
- Criar responsabilidade pelas ferramentas de IA: O YouTube está concentrado no desenvolvimento de ferramentas de IA com salvaguardas incorporadas para evitar a produção de conteúdos inadequados. Está também a preparar-se para potenciais evasões por parte de maus actores através de melhorias contínuas e de equipas dedicadas à deteção de ameaças.
Isto segue uma tendência mais ampla do sector para expor conteúdos relacionados com a IA que não pretendem dar um contributo genuíno e fiável para as plataformas.
Empresas como a Meta também introduzem requisitos para os anunciantes políticos para divulgar a utilização de IA nos anúncios. Desinformação
Isto resulta de uma mistura de pressão pública e privada, com as empresas de IA a procurarem mostrar vontade de cumprir as promessas feitas em vários quadros voluntários.
