YouTube a dévoilé une série de mesures et de lignes directrices visant à lutter contre les abus liés à l'IA, en particulier la musique générée par l'IA et la musique "deep fake".
Cette décision intervient alors que les pressions se font de plus en plus fortes pour que des mesures soient prises à l'égard de la musique générée par l'IA et des contenus profondément faux, comme l'illustrent des chansons telles que "Heart on My Sleeve", où des voix générées par l'IA ressemblent à celles de Drake et de The Weeknd, sans leur autorisation.
Universal Music Group a critiqué la chanson pour son "contenu illicite créé à l'aide de l'IA générative".
Après quelques débats, les Grammys ont récemment déclaré que de telles compositions ne sera pas pris en considération pour les prix.
YouTube est la mise à jour de sa procédure de plainte en matière de protection de la vie privée pour autoriser les plaintes concernant les "deep fakes", en précisant que tous les contenus de ce type ne seront pas supprimés, des facteurs tels que la parodie et la satire jouant un rôle dans la prise de décision.
En outre, les créateurs doivent désormais divulguer lorsqu'ils utilisent du contenu manipulé ou synthétique, y compris du matériel généré par l'IA.
L'accent est mis en particulier sur les contenus traitant de sujets sensibles tels que les élections et les crises de santé publique. YouTube a également indiqué que le non-respect de ces lignes directrices pourrait entraîner la suppression du contenu ou la suspension des paiements publicitaires.
En outre, une étiquette identifiant le contenu généré par l'IA sera ajoutée aux descriptions des vidéos, avec une étiquette plus visible pour les sujets sensibles.
L'entreprise a déclaré que les contenus générés par l'IA qui violent les règles de contenu existantes, comme les vidéos violentes créées synthétiquement, seront également supprimés.
Voici un résumé de l'arsenal d'outils dont dispose YouTube pour lutter contre l'utilisation abusive de l'IA :
- Exigences de divulgation et étiquettes de contenu: Les créateurs doivent indiquer si leur contenu comprend des éléments modifiés ou synthétiques qui sont réalistes, en particulier lorsqu'ils utilisent des outils d'intelligence artificielle. Cette obligation est cruciale pour les contenus traitant de sujets sensibles tels que les élections et les crises de santé publique. Le non-respect de cette obligation peut entraîner la suppression du contenu ou d'autres sanctions.
- Informations sur le visualiseur: YouTube prévoit d'informer les spectateurs sur les contenus synthétiques par le biais d'étiquettes dans le panneau de description et, pour les sujets sensibles, de manière plus visible sur le lecteur vidéo.
- Suppression du contenu dans les cas à haut risque: Les médias synthétiques qui présentent un risque de préjudice, quel que soit leur étiquetage, seront supprimés s'ils enfreignent les lignes directrices de la communauté. Il s'agit notamment des contenus présentant une violence réaliste visant à choquer ou à dégoûter les spectateurs.
- Procédure de demande de protection de la vie privée: YouTube va autoriser les demandes de retrait de contenus générés ou modifiés par l'intelligence artificielle qui simulent le visage ou la voix d'une personne identifiable. Les décisions seront fondées sur des facteurs tels que la parodie ou la satire, l'identifiabilité de la personne et son statut public.
- Dispositions particulières pour les contenus musicaux: Les partenaires musicaux peuvent demander le retrait de la musique générée par l'IA qui imite la voix unique d'un artiste. Dans ce cas, YouTube évaluera des facteurs tels que la pertinence du reportage ou de la critique.
- L'IA dans la modération de contenu: YouTube utilise un mélange de technologie d'intelligence artificielle et d'évaluation humaine pour faire respecter les lignes directrices de la communauté. Les classificateurs d'IA aident à détecter les violations potentielles, tandis que les réviseurs humains confirment les infractions à la politique. L'IA générative est particulièrement utile pour identifier et traiter les nouvelles formes d'abus.
- Renforcer la responsabilité des outils d'IA: YouTube se concentre sur le développement d'outils d'intelligence artificielle dotés de protections intégrées afin d'empêcher la production de contenus inappropriés. Il se prépare également à d'éventuels contournements par des acteurs malveillants grâce à une amélioration continue et à des équipes dédiées à la détection des menaces.
Cette démarche s'inscrit dans une tendance plus large du secteur à dénoncer les contenus liés à l'IA qui ne visent pas à apporter une contribution authentique et digne de confiance aux plates-formes.
Des entreprises comme Meta introduisent également exigences pour les annonceurs politiques de divulguer l'utilisation de l'IA dans les publicités. La désinformation
Cela résulte d'un mélange de pressions publiques et privées, les entreprises d'IA cherchant à montrer leur volonté de respecter les promesses faites dans divers cadres volontaires.
