AI-bildegenereringspioneren Midjourney vurderer et totalforbud mot AI-genererte bilder av Joe Biden og Donald Trump i forkant av det amerikanske valget i 2024.
Dette har som mål å beskytte plattformen mot å bli et redskap for feilinformasjon i forkant av valget i år.
Midjourneys administrerende direktør, David Holz, uttrykte åpent sin holdning til politisk innhold på plattformen deres og sa: "Jeg vet ikke hvor mye jeg bryr meg om politiske ytringer det neste året på plattformen vår."
Holz delte også på humoristisk vis sine blandede følelser rundt det å produsere bilder av Donald Trump: "Jeg vet at det er gøy å lage Trump-bilder - jeg lager Trump-bilder. Trump er estetisk veldig interessant. Men det er nok bedre å la være, det er bedre å trekke seg litt tilbake under dette valget. Vi får se."
Samtalen rundt AI-genererte bilder, spesielt i politiske sammenhenger, har blitt intensivert, særlig på grunn av en nylig kontrovers rundt eksplisitte AI-genererte bilder av Taylor Swift.
Taylor Swift ble utsatt for en rekke falske bilder som sirkulerte på sosiale medier og fikk millioner av visninger.
Kunstig intelligens fortsetter å påvirke den politiske diskursen, og bekymringene øker for at den kan forstyrre demokratiske prosesser på en håndgripelig måte.
Vi har sett mange eksempler på deep fakes med politisk temaofte brukt for å skape kontroverser eller spre feilinformasjon. Nylig så vi en AI-avatar av Pakistans tidligere statsminister erklære valgseier før den endelige opptellingen.
Sam Altman, administrerende direktør i OpenAI, diskuterte selskapets holdning til deepfakes tidligere i år, og uttalte: "Det jeg er mest bekymret for, er at med nye muligheter med AI ... vil det bli bedre deepfakes enn i 2020."
OpenAI har startet legge til spesielle metadata i bilder opprettet med DALL-E 3 for å hjelpe plattformer og brukere med å identifisere AI-innhold.
Meta har også forbedret seg innen identifisere AI-generert innhold på tvers av plattformene sine.
Per i dag finnes det ingen metode som er idiotsikker.
