YouTube har lansert en rekke tiltak og retningslinjer for å bekjempe AI-relatert misbruk, særlig når det gjelder AI-generert og deep fake-musikk.
Avgjørelsen kommer midt i et økende press for å iverksette tiltak mot AI-generert musikk og dypt falskt innhold, eksemplifisert av sanger som "Heart on My Sleeve", med AI-genererte vokaler som ligner Drake og The Weeknd uten deres tillatelse.
Universal Music Group kritiserte sangen for å "krenke innhold skapt med generativ AI".
Etter en del debatt erklærte Grammy-utdelingen nylig at slike komposisjoner vil ikke bli vurdert for priser.
YouTube er oppdaterer sin klageprosess for personvern å tillate klager på "deep fakes", og presiserer at ikke alt slikt innhold vil bli fjernet, og at faktorer som parodi og satire spiller en rolle i beslutningsprosessen.
I tillegg må skaperne nå opplyse om når de bruker manipulert eller syntetisk innhold, inkludert AI-generert materiale.
Dette gjelder særlig for innhold som diskuterer sensitive temaer som valg og folkehelsekriser. YouTube har også nevnt at manglende overholdelse av disse retningslinjene kan føre til fjerning av innhold eller stans av annonseringsbetalinger.
I tillegg vil videobeskrivelser bli utstyrt med en merkelapp som identifiserer AI-generert innhold, og sensitive temaer vil få en mer fremtredende merking.
Selskapet har uttalt at AI-generert materiale som bryter med eksisterende retningslinjer for innhold, for eksempel syntetisk skapte voldelige videoer, også vil bli fjernet.
Her er en oppsummering av YouTubes arsenal av verktøy for å bekjempe AI-misbruk:
- Krav til offentliggjøring og innholdsmerking: Skaperne må opplyse om innholdet deres inneholder endret eller syntetisk materiale som er realistisk, særlig ved bruk av AI-verktøy. Dette er avgjørende for innhold som diskuterer sensitive temaer som valg og folkehelsekriser. Manglende overholdelse kan føre til fjerning av innhold eller andre sanksjoner.
- Visningsinformasjon: YouTube planlegger å informere seerne om syntetisk innhold ved hjelp av merkelapper i beskrivelsespanelet og, for sensitive temaer, på en mer fremtredende plass i videospilleren.
- Fjerning av innhold i høyrisikosaker: Syntetiske medier som utgjør en risiko for skade, uavhengig av merking, vil bli fjernet hvis de bryter med retningslinjene for fellesskapet. Dette inkluderer innhold som skildrer realistisk vold som har til hensikt å sjokkere eller frastøte seerne.
- Prosess for forespørsler om personvern: YouTube vil tillate forespørsler om å fjerne AI-generert eller endret innhold som simulerer en identifiserbar persons ansikt eller stemme. Avgjørelsene vil være basert på faktorer som parodi eller satire, personens identifiserbarhet og personens offentlige status.
- Spesielle bestemmelser for musikkinnhold: Musikkpartnere kan be om fjerning av AI-generert musikk som etterligner en artists unike stemme. YouTube vil i slike tilfeller vurdere faktorer som nyhetsrapportering eller kritikkrelevans.
- AI i innholdsmoderering: YouTube bruker en blanding av AI-teknologi og menneskelig gjennomgang for å håndheve retningslinjene for fellesskapet. AI-klassifiseringsverktøy hjelper til med å oppdage potensielle brudd, mens menneskelige korrekturlesere bekrefter brudd på retningslinjene. Generativ AI er spesielt nyttig når det gjelder å identifisere og håndtere nye former for misbruk.
- Bygge ansvar for AI-verktøy: YouTube fokuserer på å utvikle AI-verktøy med innebygde sikkerhetstiltak for å forhindre generering av upassende innhold. De forbereder seg også på at dårlige aktører kan omgå dem ved hjelp av kontinuerlig forbedring og dedikerte team for trusseldeteksjon.
Dette følger en bredere bransjetrend som går ut på å avsløre AI-relatert innhold som ikke tar sikte på å gi et genuint og troverdig bidrag til plattformene.
Selskaper som Meta introduserer også krav til politiske annonsører å opplyse om bruk av kunstig intelligens i annonser. Feilinformasjon
Dette skyldes en blanding av offentlig og privat press, der AI-selskapene forsøker å vise at de er villige til å innfri løftene i ulike frivillige rammeverk.
