YouTube har presenterat en rad åtgärder och riktlinjer för att bekämpa AI-relaterat missbruk, särskilt när det gäller AI-genererad och djupt falsk musik.
Beslutet kommer efter ett ökat tryck på att vidta åtgärder mot AI-genererad musik och djupt falskt innehåll, vilket exemplifieras av låtar som "Heart on My Sleeve", med AI-genererad sång som liknar Drake och The Weeknd utan deras tillstånd.
Universal Music Group kritiserade låten för "intrångsgörande innehåll skapat med generativ AI".
Efter en del debatt förklarade Grammygalan nyligen att sådana kompositioner kommer inte att komma ifråga för utmärkelser.
YouTube är uppdatering av sin process för klagomål om integritet att tillåta klagomål om djupa förfalskningar och specificera att inte allt sådant innehåll kommer att tas bort, med faktorer som parodi och satir som spelar en roll i deras beslutsfattande.
Dessutom måste kreatörer nu uppge när de använder manipulerat eller syntetiskt innehåll, inklusive AI-genererat material.
Detta är särskilt viktigt för innehåll som diskuterar känsliga ämnen som val och folkhälsokriser. YouTube har också nämnt att bristande efterlevnad av dessa riktlinjer kan leda till att innehåll tas bort eller att reklambetalningarna avbryts.
Dessutom kommer en etikett som identifierar AI-genererat innehåll att läggas till i videobeskrivningar, med mer framträdande märkning för känsliga ämnen.
Företaget har meddelat att AI-genererat material som bryter mot befintliga innehållsriktlinjer, t.ex. syntetiskt skapade våldsamma videor, också kommer att tas bort.
Här är en sammanfattning av YouTubes arsenal av verktyg för att bekämpa AI-missbruk:
- Informationskrav och innehållsförteckningar: Skapare måste uppge om deras innehåll innehåller ändrat eller syntetiskt material som är realistiskt, särskilt när de använder AI-verktyg. Detta är avgörande för innehåll som diskuterar känsliga ämnen som val och folkhälsokriser. Bristande efterlevnad kan leda till att innehåll tas bort eller andra påföljder.
- Information om tittaren: YouTube planerar att informera tittarna om syntetiskt innehåll genom etiketter på beskrivningspanelen och, för känsliga ämnen, mer framträdande på videospelaren.
- Borttagning av innehåll i högriskfall: Syntetisk media som utgör en risk för skada, oavsett märkning, kommer att tas bort om det bryter mot gemenskapens riktlinjer. Detta inkluderar innehåll som skildrar realistiskt våld som syftar till att chockera eller äckla tittarna.
- Process för begäran om sekretess: YouTube kommer att tillåta förfrågningar om att ta bort AI-genererat eller ändrat innehåll som simulerar en identifierbar individs ansikte eller röst. Besluten kommer att baseras på faktorer som parodi eller satir, personens identifierbarhet och individens offentliga status.
- Särskilda bestämmelser för musikinnehåll: Musikpartners kan begära borttagning av AI-genererad musik som efterliknar en artists unika röst. YouTube kommer att utvärdera faktorer som nyhetsrapportering eller kritikrelevans i dessa fall.
- AI i moderering av innehåll: YouTube använder en blandning av AI-teknik och mänsklig granskning för att verkställa gemenskapens riktlinjer. AI-klassificerare hjälper till att upptäcka potentiella överträdelser, medan mänskliga granskare bekräftar policyöverträdelser. Generativ AI är särskilt användbar för att identifiera och ta itu med nya former av missbruk.
- Bygga ansvar för AI-verktyg: YouTube fokuserar på att utveckla AI-verktyg med inbyggda skyddsåtgärder för att förhindra generering av olämpligt innehåll. De förbereder sig också för potentiellt kringgående av dåliga aktörer genom kontinuerlig förbättring och dedikerade hotdetekteringsteam.
Detta följer en bredare branschtrend att avslöja AI-relaterat innehåll som inte syftar till att ge ett äkta och pålitligt bidrag till plattformar.
Företag som Meta introducerar också krav för politiska annonsörer att upplysa om användningen av AI i annonser. Felaktig information
Detta är resultatet av en blandning av offentliga och privata påtryckningar, där AI-företagen försöker visa att de är villiga att uppfylla de löften som ges i olika frivilliga ramverk.
