Der KI-Pionier für Bilderzeugung Midjourney erwägt ein vollständiges Verbot von KI-generierten Bildern von Joe Biden und Donald Trump im Vorfeld der US-Wahlen 2024.
Damit soll verhindert werden, dass die Plattform im Vorfeld der Wahlen in diesem Jahr zu einem Sammelbecken für Fehlinformationen wird.
Der CEO von Midjourney, David Holz, äußerte sich offen über seine Haltung zu politischen Inhalten auf der Plattform: "Ich weiß nicht, wie sehr ich mich für das nächste Jahr um politische Äußerungen auf unserer Plattform kümmern werde".
Holz teilte auch humorvoll seine gemischten Gefühle über die Produktion von Bildern von Donald Trump mit: "Ich weiß, dass es Spaß macht, Trump-Bilder zu machen - ich mache Trump-Bilder. Trump ist ästhetisch wirklich interessant. Aber wahrscheinlich ist es besser, sich während dieser Wahl ein wenig zurückzuziehen. We'll see."
Die Diskussion über KI-generierte Bilder, vor allem in politischen Kontexten, hat sich intensiviert, insbesondere aufgrund der jüngsten Kontroverse um explizite AI-generierte Bilder von Taylor Swift.
Taylor Swift wurde mit einer Reihe von gefälschten Bildern angegriffen, die in den sozialen Medien kursierten und Millionen von Eindrücken erzeugten.
KI beeinflusst weiterhin den politischen Diskurs, und die Besorgnis über ihr Potenzial, demokratische Prozesse spürbar zu stören, wächst.
Wir haben zahlreiche Beispiele gesehen für Politische Fälschungendie oft eingesetzt werden, um Kontroversen zu schüren oder Fehlinformationen zu verbreiten. Vor kurzem wurde ein KI-Avatar des ehemaligen pakistanischen Premierministers einen Wahlsieg verkünden vor der endgültigen Auszählung.
Sam Altman, CEO von OpenAI, erörterte die Haltung seines Unternehmens zu Deep Fakes Anfang des Jahres mit den Worten: "Was mir am meisten Sorgen bereitet, ist, dass es mit den neuen Möglichkeiten der KI ... bessere Deepfakes geben wird als im Jahr 2020."
OpenAI hat begonnen Hinzufügen spezieller Metadaten zu Bildern die zusammen mit DALL-E 3 entwickelt wurde, um Plattformen und Nutzern die Identifizierung von KI-Inhalten zu erleichtern.
Meta hat sich auch im Bereich Identifizierung von KI-generierten Inhalten über ihre Plattformen.
Bislang gibt es keine einzige Methode, die absolut sicher ist.
