Midjourney, pionier op het gebied van AI-beeldgeneratie, overweegt een volledig verbod op AI-gegenereerde afbeeldingen van Joe Biden en Donald Trump in de aanloop naar de Amerikaanse verkiezingen van 2024.
Dit is bedoeld om te voorkomen dat het platform in de aanloop naar de verkiezingen van dit jaar een medium voor verkeerde informatie wordt.
Midjourney's CEO, David Holz, gaf openhartig zijn standpunt weer over politieke inhoud op hun platform, door te zeggen: "Ik weet niet hoeveel ik geef om politieke toespraak voor het komende jaar voor ons platform."
Holz deelde ook op humoristische wijze zijn gemengde gevoelens over het produceren van beelden van Donald Trump: "Ik weet dat het leuk is om Trump-foto's te maken - ik maak Trump-foto's. Trump is esthetisch echt interessant. Maar waarschijnlijk is het beter om het gewoon niet te doen, beter om je een beetje terug te trekken tijdens deze verkiezingen. We zullen zien."
De discussie rond AI-gegenereerde beelden, vooral in politieke contexten, is intensiever geworden, vooral door een recente controverse rond expliciete AI-gegenereerde afbeeldingen van Taylor Swift.
Taylor Swift was het doelwit van een reeks nepafbeeldingen die in de sociale media circuleerden en miljoenen indrukken opleverden.
AI blijft het politieke discours beïnvloeden en de bezorgdheid groeit over het potentieel van AI om democratische processen concreet te verstoren.
We hebben talloze voorbeelden gezien van politiek getinte fakesvaak ingezet om controverses aan te wakkeren of verkeerde informatie te verspreiden. Een recent incident was een AI avatar van de ex-premier van Pakistan een verkiezingsoverwinning uitroepen voor de laatste telling.
Sam Altman, CEO van OpenAI, besprak eerder dit jaar het standpunt van zijn bedrijf over deep fakes en zei: "Waar ik het meest bezorgd over ben, is dat met de nieuwe mogelijkheden van AI ... er betere deep fakes zullen zijn dan in 2020."
OpenAI is begonnen speciale metagegevens toevoegen aan afbeeldingen gemaakt met DALL-E 3 om platforms en gebruikers te helpen AI-inhoud te identificeren.
Meta heeft ook hun spel verbeterd in AI-gegenereerde inhoud identificeren op hun platforms.
Tot nu toe is geen enkele methode waterdicht.
