YouTube har afsløret en række foranstaltninger og retningslinjer for at bekæmpe AI-relateret misbrug, især for AI-genereret og deep fake-musik.
Beslutningen kommer midt i et stigende pres for at gribe ind over for AI-genereret musik og dybt falsk indhold, eksemplificeret ved sange som "Heart on My Sleeve", der indeholder AI-genererede vokaler, der ligner Drake og The Weeknd uden deres tilladelse.
Universal Music Group kritiserede sangen for "krænkende indhold skabt med generativ AI".
Efter en del debat erklærede Grammy-priserne for nylig, at sådanne kompositioner vil ikke komme i betragtning til priser.
YouTube er opdaterer sin klageproces for privatlivets fred at tillade klager over deep fakes og specificere, at ikke alt sådant indhold vil blive fjernet, idet faktorer som parodi og satire spiller en rolle i deres beslutningstagning.
Derudover skal skabere nu oplyse, når de bruger manipuleret eller syntetisk indhold, herunder AI-genereret materiale.
Dette understreges især for indhold, der diskuterer følsomme emner som valg og folkesundhedskriser. YouTube har også nævnt, at manglende overholdelse af disse retningslinjer kan føre til fjernelse af indhold eller suspension af reklamebetalinger.
Desuden vil en etiket, der identificerer AI-genereret indhold, blive føjet til videobeskrivelser, med mere fremtrædende mærkning for følsomme emner.
Virksomheden har udtalt, at AI-genereret materiale, der overtræder eksisterende retningslinjer for indhold, som f.eks. syntetisk skabte voldelige videoer, også vil blive fjernet.
Her er en oversigt over YouTubes arsenal af værktøjer til at bekæmpe AI-misbrug:
- Oplysningskrav og indholdsmærkning: Skabere skal oplyse, om deres indhold indeholder ændret eller syntetisk materiale, der er realistisk, især når de bruger AI-værktøjer. Dette er afgørende for indhold, der diskuterer følsomme emner som valg og folkesundhedskriser. Manglende overholdelse kan føre til fjernelse af indhold eller andre sanktioner.
- Information om seeren: YouTube planlægger at informere seerne om syntetisk indhold gennem etiketter på beskrivelsespanelet og, for følsomme emner, mere fremtrædende på videoafspilleren.
- Fjernelse af indhold i højrisikosager: Syntetiske medier, der udgør en risiko for skade, uanset mærkning, vil blive fjernet, hvis de overtræder fællesskabets retningslinjer. Dette omfatter indhold, der viser realistisk vold med det formål at chokere eller afsky seerne.
- Proces for anmodning om beskyttelse af personlige oplysninger: YouTube vil tillade anmodninger om at fjerne AI-genereret eller ændret indhold, der simulerer en identificerbar persons ansigt eller stemme. Beslutninger vil være baseret på faktorer som parodi eller satire, personens identificerbarhed og personens offentlige status.
- Særlige bestemmelser for musikindhold: Musikpartnere kan anmode om at få fjernet AI-genereret musik, der efterligner en kunstners unikke stemme. YouTube vil evaluere faktorer som nyhedsrapportering eller kritikrelevans i disse tilfælde.
- AI i moderering af indhold: YouTube bruger en blanding af AI-teknologi og menneskelig gennemgang til at håndhæve Community Guidelines. AI-klassifikatorer hjælper med at opdage potentielle overtrædelser, mens menneskelige korrekturlæsere bekræfter brud på politikken. Generativ AI er især nyttig til at identificere og håndtere nye former for misbrug.
- Opbygning af ansvar for AI-værktøjer: YouTube fokuserer på at udvikle AI-værktøjer med indbyggede sikkerhedsforanstaltninger for at forhindre generering af upassende indhold. De forbereder sig også på potentiel omgåelse af dårlige aktører gennem løbende forbedringer og dedikerede trusselsdetekteringsteams.
Dette følger en bredere tendens i branchen til at afsløre AI-relateret indhold, der ikke sigter mod at yde et ægte og troværdigt bidrag til platforme.
Virksomheder som Meta introducerer også krav til politiske annoncører til at oplyse om brugen af AI i annoncer. Misinformation
Det skyldes en blanding af offentligt og privat pres, hvor AI-virksomhederne forsøger at vise, at de er villige til at leve op til løfterne i forskellige frivillige rammer.
