OpenAI kündigte an, den C2PA-Standard zu nutzen, um den mit DALL-E 3 erzeugten Bildern Metadaten hinzuzufügen.
Die Ankündigung kommt zu einem Zeitpunkt, an dem Unternehmen weiterhin nach Möglichkeiten suchen, um zu verhindern, dass ihre generativen KI-Produkte für die Verbreitung von Desinformationen verwendet werden.
C2PA ist ein offener technischer Standard, der Metadaten zu einem Bild hinzufügt, darunter die Herkunft, die Bearbeitungshistorie und andere Informationen. OpenAI sagt, dass Bilder, die direkt mit DALL-E 3 oder über ChatGPT oder dessen API erzeugt werden, nun C2PA-Daten enthalten. Mobile Nutzer werden dies ab dem 12. Februar sehen.
Ein Bild, dem C2PA-Metadaten hinzugefügt wurden, kann auf Websites wie Inhalt Berechtigungsnachweise prüfen um die Herkunft des Bildes zu überprüfen. Hier ist ein Beispiel für die Informationen, die C2PA über ein mit DALL-E über die API erstelltes Bild liefert.
Social-Media-Plattformen könnten diese Daten auch nutzen, um Bilder als KI-generiert zu kennzeichnen und zu markieren. Meta hat kürzlich angekündigt dass sie sich stärker darum bemühen würde.
Durch die Hinzufügung der C2PA-Daten erhöht sich die Dateigröße, wobei die Schätzungen von OpenAI wie folgt lauten:
- 3,1 MB → 3,2 MB für PNG über API (3% Erhöhung)
- 287k → 302k für WebP über API (5% Steigerung)
- 287k → 381k für WebP durch ChatGPT (32% Anstieg)
OpenAI räumt ein, dass "C2PA kein Allheilmittel ist, um Probleme mit der Herkunft zu lösen". Die Metadaten werden leicht entfernt, oft unbeabsichtigt.
Wenn Sie einen Screenshot des Bildes machen, bleiben die C2PA-Daten nicht erhalten. Auch bei der Konvertierung eines Bildes von PNG in JPG werden die meisten Metadaten zerstört. Die meisten Social-Media-Plattformen entfernen die Metadaten aus den Bildern, wenn sie hochgeladen werden.
OpenAI sagt, dass es durch das Hinzufügen von C2PA zu DALL-E-Bildern hofft, "die Nutzer zu ermutigen, zu erkennen, dass diese Signale der Schlüssel zur Erhöhung der Vertrauenswürdigkeit digitaler Informationen sind".
Das mag in begrenztem Maße der Fall sein, aber die Tatsache, dass C2PA so leicht zu entfernen ist, hilft nicht viel, wenn jemand absichtlich ein Bild zur Irreführung verwenden will. Wenn überhaupt, wird es die Betrüger nur ein wenig bremsen.
Das digitale Wasserzeichen SynthID von Google scheint eine weitaus sicherere Lösung zu sein, aber es ist unwahrscheinlich, dass OpenAI ein Tool verwendet, das von der Konkurrenz entwickelt wurde.
