OpenAI ha annunciato che utilizzerà lo standard C2PA per aggiungere i metadati alle immagini generate con DALL-E 3.
L'annuncio arriva mentre le aziende continuano a cercare modi per impedire che i loro prodotti di IA generativa vengano usati per diffondere disinformazione.
C2PA è uno standard tecnico aperto che aggiunge metadati a un'immagine, tra cui l'origine, la cronologia delle modifiche e altre informazioni. OpenAI afferma che le immagini generate utilizzando DALL-E 3 direttamente, o tramite ChatGPT o le sue API, includeranno ora i dati C2PA. Gli utenti di telefonia mobile vedranno questa implementazione entro il 12 febbraio.
Un'immagine a cui sono stati aggiunti i metadati C2PA può essere caricata su siti come Verifica delle credenziali dei contenuti per verificare la provenienza dell'immagine. Ecco un esempio delle informazioni che C2PA rivela su un'immagine realizzata con DALL-E tramite l'API.
Le piattaforme di social media potrebbero anche utilizzare questi dati per segnalare ed etichettare le immagini come generate dall'IA. Meta ha recentemente annunciato che si impegnerebbe maggiormente in tal senso.
L'aggiunta dei dati C2PA aumenta le dimensioni del file, con stime esemplificative di OpenAI citate come:
- 3,1MB → 3,2MB per PNG tramite API (aumento di 3%)
- 287k → 302k per WebP tramite API (aumento di 5%)
- 287k → 381k per WebP attraverso ChatGPT (aumento di 32%)
OpenAI riconosce che "C2PA non è una pallottola d'argento per risolvere i problemi di provenienza". I metadati vengono facilmente rimossi, spesso involontariamente.
Se si fa uno screenshot dell'immagine, i dati C2PA non vengono conservati. Anche la conversione di un'immagine da PNG a JPG distrugge la maggior parte dei metadati. La maggior parte delle piattaforme di social media eliminano i metadati dalle immagini quando vengono caricate.
OpenAI afferma che aggiungendo il C2PA alle immagini di DALL-E spera di incoraggiare "gli utenti a riconoscere che questi segnali sono fondamentali per aumentare l'affidabilità delle informazioni digitali".
Può farlo in misura limitata, ma il fatto che il C2PA sia così facile da rimuovere non aiuta molto quando una persona vuole intenzionalmente usare un'immagine per essere ingannevole. Semmai, potrebbe solo rallentare un po' i falsificatori.
Filigrana digitale SynthID di Google sembra una soluzione molto più sicura, ma è improbabile che OpenAI utilizzi uno strumento creato dalla concorrenza.
