De Oversight Board is een onafhankelijk orgaan van experts dat in 2020 door Meta is opgericht om de meest uitdagende inhoudsmoderatiebeslissingen van het bedrijf op Facebook, Instagram en Threads te beoordelen.
Het kondigde dinsdag aan dat het Meta's afhandeling van twee zaken met betrekking tot door AI gegenereerde seksueel expliciete afbeeldingen van vrouwelijke publieke figuren zal herzien.
Het bestuur heeft wereldwijd 20 leden, waaronder advocaten, mensenrechtenactivisten, journalisten en academici.
Het opereert onafhankelijk van Meta, met eigen personeel en budget, en kan bindende beslissingen nemen over inhoud die Meta moet implementeren tenzij dit de wet zou schenden.
De raad kan ook niet-bindende beleidsaanbevelingen doen aan Meta.
In een blogpostDe Raad van Toezicht verklaarde: "Vandaag kondigt de Raad van Toezicht twee nieuwe zaken aan. Als onderdeel hiervan nodigen we mensen en organisaties uit om publiekelijk commentaar te leveren."
In de eerste zaak gaat het om een expliciet door AI gegenereerde afbeelding die op Instagram is geplaatst en is ontworpen om een publiek figuur uit India af te beelden.
Volgens het bestuur "is de afbeelding gemaakt met behulp van kunstmatige intelligentie (AI) om te lijken op een publiek figuur uit India. Het account dat deze inhoud plaatste, deelt alleen AI-gegenereerde afbeeldingen van Indiase vrouwen. De meerderheid van de gebruikers die reageerden hebben accounts in India, waar deepfakes steeds meer een probleem worden."
De tweede zaak heeft betrekking op een afbeelding die werd geplaatst in een Facebook-groep gewijd aan AI-creaties, met een door AI gegenereerde naakte vrouw die lijkt op een Amerikaans publiek figuur die wordt betast door een man.
De Oversight Board merkte op: "Het bevat een door AI gegenereerde afbeelding van een naakte vrouw met een man die haar borst betast. De afbeelding is gemaakt met AI om te lijken op een Amerikaans publiek figuur, die ook wordt genoemd in het bijschrift. De meeste gebruikers die reageerden hebben accounts in de Verenigde Staten."
In eerste instantie stond Meta toe dat de afbeelding van de Indiase publieke figuur op Instagram bleef staan, maar later werd deze verwijderd wegens het schenden van de Bullying and Harassment Community Standard nadat de Oversight Board de zaak had geselecteerd voor beoordeling.
Meta verwijderde de afbeelding van de Amerikaanse publieke figuur voor het schenden van hetzelfde beleid, in het bijzonder de clausule die "denigrerende geseksualiseerde photoshop of tekeningen" verbiedt.
De Raad van Toezicht verklaarde dat het "deze zaken heeft geselecteerd om te beoordelen of het beleid en de handhavingspraktijken van Meta effectief zijn in het aanpakken van expliciet door AI gegenereerd beeldmateriaal. Deze zaak sluit aan bij de strategische prioriteit van de Raad voor gender."
Als onderdeel van het beoordelingsproces is de Oversight Board op zoek naar openbare opmerkingen over verschillende aspecten van de zaken, waaronder "de aard en ernst van de schade die wordt veroorzaakt door diepe neppornografie", "contextuele informatie over het gebruik en de prevalentie van diepe neppornografie wereldwijd" en "strategieën voor de manier waarop Meta diepe neppornografie op zijn platforms kan aanpakken".
De openbare commentaarperiode blijft 14 dagen open en sluit op 30 april. De Oversight Board zal dan over de zaken beraadslagen en beslissingen nemen die bindend zijn voor Meta. Eventuele beleidsaanbevelingen van de raad zijn niet-bindend, maar Meta moet er binnen 60 dagen op reageren.
De aankondiging van de Raad van Toezicht komt in het midden van toenemende zorgen over de proliferatie van niet-consensuele deep fake pornografie gericht op vrouwen, in het bijzonder beroemdheden.
Taylor Swift was de meest productieve doelwitwaarbij AI-gegenereerde expliciete beelden van de zangeres een digitale klopjacht op de dader ontketenden.
Als reactie op de toenemende dreiging van diepe neppornografie introduceerden wetgevers de DEFIANCE-wet in januariwaardoor slachtoffers van niet met toestemming gemaakte deep fakes naar de rechter kunnen stappen als ze kunnen bewijzen dat de inhoud zonder hun toestemming is gemaakt.
Congreslid Alexandria Ocasio-Cortez, die het wetsvoorstel sponsorde en zelf doelwit was van deep fake pornografie, benadrukte dat het Congres moet optreden om slachtoffers te ondersteunen nu deep fakes toegankelijker worden.
