YouTube heeft een groot aantal maatregelen en richtlijnen onthuld om AI-gerelateerd misbruik tegen te gaan, met name voor door AI gegenereerde en deep fake muziek.
De beslissing komt onder toenemende druk om actie te ondernemen tegen door AI gegenereerde muziek en nepcontent, zoals nummers als "Heart on My Sleeve" met door AI gegenereerde vocalen die lijken op Drake en The Weeknd zonder hun toestemming.
Universal Music Group bekritiseerde het nummer voor "inbreukmakende inhoud die is gemaakt met generatieve AI".
Na enige discussie hebben de Grammy's onlangs verklaard dat dergelijke composities komen niet in aanmerking voor awards.
YouTube is de privacy-klachtenprocedure bijwerken om klachten over diepe vervalsingen toe te staan, met de vermelding dat niet alle dergelijke inhoud zal worden verwijderd, waarbij factoren als parodie en satire een rol spelen in hun besluitvorming.
Daarnaast moeten makers nu aangeven wanneer ze gemanipuleerde of synthetische inhoud gebruiken, inclusief AI-gegenereerd materiaal.
Dit geldt met name voor content over gevoelige onderwerpen zoals verkiezingen en crises op het gebied van de volksgezondheid. YouTube heeft ook aangegeven dat het niet naleven van deze richtlijnen kan leiden tot het verwijderen van content of het opschorten van advertentiebetalingen.
Bovendien zal er een label met AI-gegenereerde inhoud worden toegevoegd aan videobeschrijvingen, met meer prominente labels voor gevoelige onderwerpen.
Het bedrijf heeft verklaard dat AI-gegenereerd materiaal dat de bestaande richtlijnen voor inhoud schendt, zoals synthetisch gemaakte gewelddadige video's, ook zal worden verwijderd.
Hier volgt een overzicht van YouTube's arsenaal aan tools om AI-misbruik tegen te gaan:
- Openbaarmakingsvereisten en inhoudsetiketten: Makers moeten bekendmaken of hun inhoud veranderd of synthetisch materiaal bevat dat realistisch is, vooral wanneer er AI-tools worden gebruikt. Dit is cruciaal voor content over gevoelige onderwerpen zoals verkiezingen en crises in de volksgezondheid. Niet-naleving kan leiden tot verwijdering van content of andere straffen.
- Informatie over de kijker: YouTube is van plan om kijkers te informeren over synthetische inhoud door middel van labels in het beschrijvingspaneel en, voor gevoelige onderwerpen, prominenter in de videospeler.
- Verwijdering van inhoud in risicovolle gevallen: Synthetische media die een risico op schade inhouden, ongeacht het label, worden verwijderd als ze in strijd zijn met de Community Guidelines. Hieronder valt ook inhoud met realistisch geweld die is bedoeld om kijkers te choqueren of te walgen.
- Procedure voor privacyverzoeken: YouTube zal verzoeken toestaan om door AI gegenereerde of gewijzigde inhoud te verwijderen die het gezicht of de stem van een identificeerbare persoon simuleert. Beslissingen zullen worden gebaseerd op factoren zoals parodie of satire, de identificeerbaarheid van de persoon en de publieke status van de persoon.
- Speciale bepalingen voor muziekinhoud: Muziekpartners kunnen de verwijdering aanvragen van AI-gegenereerde muziek die de unieke stem van een artiest nabootst. YouTube beoordeelt in deze gevallen factoren als nieuwsverslaggeving of relevantie van kritiek.
- AI in inhoudsmoderatie: YouTube gebruikt een combinatie van AI-technologie en menselijke beoordeling om de Communityrichtlijnen te handhaven. AI-classificeerders helpen bij het opsporen van mogelijke overtredingen, terwijl menselijke beoordelaars overtredingen van het beleid bevestigen. Generatieve AI is vooral nuttig bij het identificeren en aanpakken van nieuwe vormen van misbruik.
- Verantwoordelijkheid opbouwen voor AI-tools: YouTube richt zich op het ontwikkelen van AI-tools met ingebouwde beveiligingen om het genereren van ongepaste inhoud te voorkomen. Ze bereiden zich ook voor op mogelijke omzeiling door kwaadwillenden door middel van voortdurende verbetering en speciale teams voor het opsporen van bedreigingen.
Dit volgt op een bredere trend in de sector om AI-gerelateerde inhoud die niet gericht is op het leveren van een echte en betrouwbare bijdrage aan platforms, aan de kaak te stellen.
Bedrijven als Meta introduceren ook eisen voor politieke adverteerders om het gebruik van AI in advertenties bekend te maken. Desinformatie
Dit is het gevolg van een mix van publieke en private druk, waarbij AI-bedrijven proberen te laten zien dat ze bereid zijn om de beloften in verschillende vrijwillige raamwerken na te komen.
