OpenAI har meddelat att GPT-4 har potential att modernisera innehållsmoderering och minska behovet av mänsklig tillsyn.
Internet modereras ständigt med avseende på skadligt, hatiskt eller på annat sätt oacceptabelt innehåll, och även om algoritmer redan arbetar bakom kulisserna för att automatisera processen är mänsklig insikt fortfarande ovärderlig.
Innehållsmoderatorer har detta ansvar och måste sortera bort tidvis traumatiskt innehåll som skildrar självmord, tortyr och mord.
OpenAI ser framför sig en framtid där AI effektiviserar moderering av innehåll online enligt plattformsspecifika riktlinjer, vilket avsevärt minskar trycket på mänskliga moderatorer.
I en Blogginlägg"Vi anser att detta ger en mer positiv vision av framtiden för digitala plattformar, där AI kan hjälpa till att moderera onlinetrafiken enligt plattformsspecifika policyer och avlasta mänskliga moderatorer, som det sannolikt finns hundratusentals av världen över."
Detta är ett aktuellt ämne, eftersom OpenAI nyligen inblandad i en skandal med innehållsmoderatorer som arbetar för datatjänstföretaget Sama i Nairobi, Kenya.
Medarbetarna var tvungna att sortera grafiskt textinnehåll för att förbättra ChatGPT:s "alignment" - vilket innebär att modifiera AI-utdata så att de "önskvärda" etiska, moraliska och politiska gränserna uppnås - en mycket subjektiv metod.
Teamet för innehållsmoderering rapporterade om traumatiska och orättvisa arbetsförhållanden och gjorde en framställan till den kenyanska regeringen, vilket kulminerade i en stämningsansökan.
OpenAI säger att GPT-4 kan hjälpa till att skapa personliga innehållspolicyer och tillämpa dem på innehåll i stor skala.
OpenAI jämför GPT-4 med manuell moderering och lyfter fram AI:s förmåga att erbjuda konsekvent märkning och snabb återkoppling och förklarar: "Människor kan tolka policyer på olika sätt eller vissa moderatorer kan ta längre tid på sig att smälta nya policyändringar, vilket leder till inkonsekvent märkning. I jämförelse är LLM:er känsliga för granulerade skillnader i ordalydelse och kan omedelbart anpassa sig till policyuppdateringar för att erbjuda en konsekvent innehållsupplevelse för användarna."
Trots GPT-4:s potential att minska bördan för innehållsmoderatorer medgav OpenAI att det förmodligen inte är möjligt att automatisera processen helt och hållet: "Som med alla AI-applikationer måste resultat och utdata noggrant övervakas, valideras och förfinas genom att hålla människor uppdaterade."
Hur OpenAI avser att utnyttja GPT-4 för innehållsmoderering
Digitala plattformar står inför en ständig utmaning: att moderera stora mängder innehåll snabbt och korrekt.
Historiskt sett har det tunga arbetet utförts av mänskliga moderatorer med potentiellt katastrofala psykologiska konsekvenser, ofta i kombination med låg lön.
OpenAI vill utnyttja GPT-4 för att automatiskt implementera policyer för att begränsa skadligt innehåll. Företaget lyfte fram följande fördelar:
- Hastighet: Med hjälp av GPT-4 kan ändringar av innehållspolicyer som tidigare tog månader nu göras på några timmar.
- Samstämmighet: Den mänskliga tolkningen av innehållspolicyer kan variera, vilket leder till inkonsekvenser. GPT-4 erbjuder ett standardiserat tillvägagångssätt genom att anpassa sig till policyjusteringar.
- Psykiskt välbefinnande: Genom att automatisera en stor del av innehållsmodereringsprocessen med GPT-4 kan man minska den känslomässiga påfrestningen på mänskliga moderatorer, som ofta stöter på skadligt eller stötande innehåll.
OpenAI medgav dock att innehållsmoderering går snabbt eftersom människor ständigt uppfinner nya sätt att kringgå filter, t.ex. genom att använda nya slanguttryck för att undgå upptäckt.
Dessutom är partiskhet fortfarande ett problem, eftersom GPT-4:s beslut kan återspegla partiskheten i dess utbildningsdata. Detta kan leda till blinda fläckar eller oförutsägbar behandling av visst innehåll.
Det är värt att notera att de kenyanska innehållsmoderatorerna utförde den uppgiften för att hjälpa till att anpassa ChatGPT.
Så även om man använder AI för att moderera innehåll krävs i slutändan en viss nivå av mänsklig exponering.
