AI-billedgenererings-pioneren Midjourney overvejer et komplet forbud mod AI-genererede billeder af Joe Biden og Donald Trump op til det amerikanske valg i 2024.
Formålet er at beskytte platformen mod at blive et redskab for misinformation forud for valget i år.
Midjourneys CEO, David Holz, udtrykte ærligt sin holdning til politisk indhold på deres platform og sagde: "Jeg ved ikke, hvor meget jeg bekymrer mig om politisk tale i det næste år på vores platform."
Holz fortalte også humoristisk om sine blandede følelser i forbindelse med at producere billeder af Donald Trump: "Jeg ved, at det er sjovt at lave Trump-billeder - jeg laver Trump-billeder. Trump er æstetisk set virkelig interessant. Men det er nok bedre at lade være, bedre at trække sig lidt tilbage under dette valg. Vi får se."
Samtalen om AI-genererede billeder, især i politiske sammenhænge, er blevet intensiveret, især på grund af en nylig kontrovers omkring eksplicitte AI-genererede billeder af Taylor Swift.
Taylor Swift blev udsat for en række falske billeder, som cirkulerede på de sociale medier og fik millioner af visninger.
AI fortsætter med at påvirke den politiske diskurs, og der er voksende bekymring for dens potentiale til at forstyrre de demokratiske processer mærkbart.
Vi har set mange eksempler på deep fakes med politisk temaofte brugt til at starte kontroverser eller sprede misinformation. En nylig hændelse så en AI-avatar af Pakistans tidligere premierminister erklære en valgsejr før den endelige optælling.
Sam Altman, CEO for OpenAI, diskuterede sin virksomheds holdning til deepfakes tidligere i år og sagde: "Det, jeg er mest bekymret for, er, at der med nye muligheder med AI ... vil være bedre deepfakes end i 2020."
OpenAI er startet Tilføjelse af særlige metadata til billeder skabt med DALL-E 3 for at hjælpe platforme og brugere med at identificere AI-indhold.
Meta har også forbedret deres spil i Identificere AI-genereret indhold på tværs af deres platforme.
Lige nu er der ingen enkelt metode, der er idiotsikker.
