OpenAI har annonceret GPT-4's potentiale til at modernisere opgaven med at moderere indhold og reducere behovet for menneskeligt tilsyn.
Internettet modereres konstant for skadeligt, hadefuldt eller på anden måde uacceptabelt indhold, og selv om algoritmer allerede arbejder bag kulisserne for at automatisere processen, er menneskelig indsigt stadig uvurderlig.
Indholdsmoderatorer har dette ansvar og skal sortere i tidstypisk traumatisk indhold, der skildrer selvmord, tortur og mord.
OpenAI forestiller sig en fremtid, hvor AI strømliner moderering af onlineindhold i henhold til platformsspecifikke retningslinjer, hvilket reducerer presset på menneskelige moderatorer betydeligt.
I en blogindlæg"Vi mener, at dette giver et mere positivt syn på fremtiden for digitale platforme, hvor AI kan hjælpe med at moderere onlinetrafikken i henhold til platformsspecifikke politikker og aflaste den mentale byrde for menneskelige moderatorer, som der sandsynligvis er hundredtusinder af på verdensplan."
Dette er et vigtigt emne, da OpenAI for nylig blev indblandet i en skandale der involverer indholdsmoderatorer, som arbejder for datatjenestevirksomheden Sama i Nairobi, Kenya.
Medarbejderne skulle sortere i grafisk tekstindhold for at forbedre ChatGPT's "tilpasning" - som beskriver ændring af AI-output til "ønskelige" etiske, moralske og politiske grænser - en meget subjektiv praksis.
Indholdsmoderationsteamet rapporterede om traumatiske og uretfærdige arbejdsforhold og indgav en underskriftsindsamling til den kenyanske regering, som kulminerede i en retssag.
OpenAI siger, at GPT-4 kan hjælpe med at lave personlige indholdspolitikker og anvende dem på indhold i stor skala.
Ved at sammenligne GPT-4 med manuel moderation fremhævede OpenAI AI'ens evne til at tilbyde konsekvent mærkning og hurtig feedback og forklarede: "Folk kan fortolke politikker forskelligt, eller nogle moderatorer kan være længere tid om at fordøje nye politikændringer, hvilket fører til inkonsekvente mærkninger. Til sammenligning er LLM'er følsomme over for granulære forskelle i ordlyden og kan øjeblikkeligt tilpasse sig politikopdateringer for at give brugerne en ensartet indholdsoplevelse."
Men på trods af GPT-4's potentiale til at lette byrden for indholdsmoderatorer, indrømmede OpenAI, at det sandsynligvis ikke er muligt at automatisere processen fuldt ud: "Som med enhver AI-applikation skal resultater og output overvåges nøje, valideres og forfines ved at holde mennesker i gang."
Hvordan OpenAI har tænkt sig at udnytte GPT-4 til indholdsmoderation
Digitale platforme står over for en løbende udfordring: at moderere store mængder indhold hurtigt og præcist.
Historisk set blev de tunge løft udført af menneskelige moderatorer med potentielt katastrofale psykologiske konsekvenser, ofte kombineret med lav løn.
OpenAI forsøger at udnytte GPT-4 til automatisk at implementere politikker for at begrænse skadeligt indhold. Virksomheden fremhævede følgende fordele:
- Hastighed: Med GPT-4 kan ændringer i indholdspolitikken, som tidligere tog måneder, nu klares på få timer.
- Konsistens: Menneskelig fortolkning af indholdspolitikker kan variere og føre til uoverensstemmelser. GPT-4 tilbyder en standardiseret tilgang ved at tilpasse sig politiske justeringer.
- Mentalt velbefindende: Ved at automatisere en stor del af indholdsmodereringsprocessen med GPT-4 kan man reducere den følelsesmæssige belastning af menneskelige moderatorer, som ofte støder på skadeligt eller stødende indhold.
OpenAI indrømmede dog, at indholdsmoderering bevæger sig hurtigt, da mennesker konstant opfinder nye måder at omgå filtre på, f.eks. ved at bruge nye slangudtryk for at undgå at blive opdaget.
Desuden er bias stadig et problem, da GPT-4's beslutninger kan afspejle bias i dens træningsdata. Det kan føre til blinde vinkler eller uforudsigelig behandling af noget indhold.
Det er værd at bemærke, at de kenyanske indholdsmoderatorer udførte denne opgave for at hjælpe med at tilpasse ChatGPT.
Så selv hvis man bruger AI til at moderere indhold, kræver det i sidste ende et vist niveau af menneskelig eksponering.
