Nu de wereld dit jaar een aantal belangrijke verkiezingen nadert, beschrijft een blogpost van OpenAI methoden om het democratische proces te versterken tegen misbruik van AI-technologie.
OpenAI's strategie draait om drie kerngebieden: het voorkomen van misbruik, het vergroten van de transparantie en het verbeteren van de toegang tot accurate steminformatie.
Het bedrijf is actief bezig om schadelijke deep fakes tegen te gaan, AI-gebaseerde operaties om de mening van kiezers te beïnvloeden in te dammen en chatbots die zich voordoen als politieke kandidaten aan banden te leggen.
OpenAI verklaarde ook dat ze actief bezig zijn met het verfijnen van hun tools om de feitelijke nauwkeurigheid te verbeteren, vooroordelen te verminderen en verzoeken te weigeren die de verkiezingsintegriteit zouden kunnen schaden, zoals het weigeren van verzoeken voor het genereren van afbeeldingen van echte mensen, inclusief kandidaten.
In hun woorden: "We verwachten en streven ernaar dat mensen onze hulpmiddelen veilig en verantwoord gebruiken, en verkiezingen zijn niet anders."
Dit omvat rigoureuze red teaming van nieuwe systemen, het vragen om feedback van gebruikers en partners en het inbouwen van veiligheidsbeperkingen.
Transparantie verbeteren
Diepe vervalsingen zijn nu volksvijand nummer één voor de industrie.
Recente incidenten zoals diepe nepadvertenties zich voordoen als de Britse premier Rishi Sunak op Facebook, met een bereik van naar schatting 400.000 mensen, en mogelijke inmenging in de Slowaakse en Verkiezingen in Bangladesh hebben het potentieel van AI voor inmenging in de politiek geïllustreerd.
AI is al ingezet in de aanloop naar de Amerikaanse verkiezingenwaarbij kandidaten de technologie gebruiken om promotioneel beeldmateriaal te genereren.
OpenAI zet zich in voor meer transparantie. Ze zijn van plan om de digitale referenties van de Coalition for Content Provenance and Authenticity te implementeren voor beelden gegenereerd door DALL-E 3, die cryptografie gebruiken om details over de herkomst van inhoud te coderen.
Daarnaast wordt er een nieuwe provenance classifier ontwikkeld voor het detecteren van DALL-E gegenereerde afbeeldingen. "Onze interne tests hebben veelbelovende eerste resultaten laten zien", aldus OpenAI, dat van plan is deze tool vrij te geven aan journalisten, platforms en onderzoekers voor feedback.
OpenAI integreert ChatGPT ook met realtime nieuwsrapportage over de hele wereld, met als doel gebruikers transparante bronnen te bieden voor hun zoekopdrachten.
In de VS werkt OpenAI samen met de National Association of Secretaries of State (NASS) om gebruikers van ChatGPT door te verwijzen naar CanIVote.org voor gezaghebbende Amerikaanse steminformatie.
Ze zijn van plan om de inzichten uit deze samenwerking te gebruiken als leidraad voor strategieën in andere landen.
De brandende vragen blijven: is het genoeg? Kunnen AI-bedrijven deze problemen praktisch aanpakken of is het probleem al voorbij?
