OpenAI ha anunciado que utilizará el estándar C2PA para añadir metadatos a las imágenes generadas con DALL-E 3.
El anuncio se produce mientras las empresas siguen buscando formas de impedir que sus productos de IA generativa se utilicen para difundir desinformación.
C2PA es un estándar técnico abierto que añade metadatos a una imagen, incluidos su origen, historial de edición y otra información. OpenAI afirma que las imágenes generadas utilizando DALL-E 3 directamente, o a través de ChatGPT o su API, incluirán ahora datos C2PA. Los usuarios de móviles verán esto implementado el 12 de febrero.
Una imagen a la que se hayan añadido metadatos C2PA puede subirse a sitios como Verificación de credenciales de contenido para comprobar la procedencia de la imagen. Este es un ejemplo de la información que C2PA revela sobre una imagen realizada con DALL-E a través de la API.
Las plataformas de redes sociales también podrían utilizar estos datos para marcar y etiquetar las imágenes como generadas por IA. Meta anunció recientemente que haría un mayor esfuerzo para ello.
La adición de datos C2PA aumenta el tamaño del archivo con estimaciones de ejemplo de OpenAI citadas como:
- 3,1 MB → 3,2 MB para PNG a través de API (aumento de 3%).
- 287k → 302k para WebP a través de API (aumento de 5%).
- 287k → 381k para WebP a través de ChatGPT (aumento de 32%).
OpenAI reconoce que "C2PA no es una bala de plata para resolver los problemas de procedencia". Los metadatos se eliminan fácilmente, a menudo sin querer.
Si haces una captura de pantalla de la imagen, los datos C2PA no se conservan. Incluso convertir una imagen de PNG a JPG destruirá la mayoría de los metadatos. La mayoría de las plataformas de redes sociales eliminan los metadatos de las imágenes cuando se suben.
OpenAI afirma que al añadir C2PA a las imágenes de DALL-E espera animar a "los usuarios a reconocer que estas señales son clave para aumentar la fiabilidad de la información digital."
Puede que lo haga hasta cierto punto, pero el hecho de que el C2PA sea tan fácil de eliminar no ayuda mucho cuando una persona quiere utilizar intencionadamente una imagen para engañar. En todo caso, puede ralentizar un poco a los "deepfakers".
Marca de agua digital SynthID de Google parece una solución mucho más segura, pero es poco probable que OpenAI utilice una herramienta creada por su competencia.
