Meta ha anunciado nuevas iniciativas para mejorar la transparencia en torno a los contenidos generados por IA en sus plataformas.
Escribir en un entrada del blogNick Clegg, Presidente de Asuntos Mundiales de Meta, subrayó el compromiso de la empresa de etiquetar las imágenes generadas por IA para ayudar a los usuarios a discernir entre los contenidos creados por humanos y los sintéticos.
Clegg declaró: "A medida que se difumina la diferencia entre contenidos humanos y sintéticos, la gente quiere saber dónde está el límite". Además, añadió que Meta ha estado "trabajando con socios de la industria para alinearse en normas técnicas comunes que señalen cuándo un contenido ha sido creado utilizando IA."
Meta está reconociendo la creciente prevalencia de contenidos fotorrealistas generados por IA, ahora ampliamente conocidos como deep fakes.
Taylor Swift ha sido la última víctima de alto perfil de la imágenes no consentidas generadas por IAque los usuarios rastrearon hasta un "desafío" en 4Chan.
Una estafa orquestada por falsificadores de vídeos de gran profundidad extrajo el lunes $25,6 millones a una empresa multinacional.
La responsabilidad de evitar que estas imágenes se difundan recae directamente en empresas de medios sociales como X y Meta.
Meta ha venido etiquetando las imágenes fotorrealistas creadas con su propia función Meta AI como "Imaginadas con IA" y tiene previsto extender esta práctica a los contenidos generados por las herramientas de otras empresas.
La empresa afirma que está desarrollando herramientas capaces de identificar marcadores invisibles y metadatos incrustados en imágenes generadas por IA, lo que le permite etiquetar contenidos de un amplio espectro de fuentes, como Google, OpenAI, Microsoft, Adobe, Midjourney y Shutterstock.
Meta se dispone ahora a aplicar estas etiquetas en todos los idiomas admitidos en sus plataformas.
Clegg también subrayó la necesidad de colaboración en todo el sector tecnológico: "Dado que los contenidos generados por IA aparecen en todo Internet, hemos estado trabajando con otras empresas de nuestro sector para desarrollar normas comunes que permitan identificarlos a través de foros como la Asociación sobre IA (PAI). Los marcadores invisibles que utilizamos para las imágenes de Meta AI -metadatos IPTC y marcas de agua invisibles- están en línea con las mejores prácticas de PAI".
A pesar de los esfuerzos y avances realizados para acabar con las falsificaciones profundas, Clegg señaló que la detección de audio y vídeo generados por IA sigue siendo un reto debido a la falta de señales comparables.
Pero incluso cuando se trata de imágenes falsas, éstas pueden acumular millones de impresiones antes de ser eliminadas por completo, como hemos visto en el último incidente de Taylor Swift.
Otros incidentes, como el comentarista Ben Shapiro compartiendo un probable imagen generada por IA de un bebé muerto del conflicto entre Israel y Palestina, también acaparó una enorme atención mundial antes de ser contrarrestada.
Como medida provisional, Meta introducirá una función que permitirá a los usuarios revelar cuándo comparten vídeo o audio generado por IA.
Pero, ¿quién lo utilizará si publica contenidos destinados a suscitar polémica?
Además del etiquetado, Meta está explorando diversas tecnologías para mejorar su capacidad de detectar contenidos generados por IA, incluso en ausencia de marcadores invisibles.
Esto incluye la investigación en tecnología de marcas de agua invisibles, como la Firma estable desarrollado por el laboratorio de investigación de IA de Meta, FAIR, que integra la marca de agua directamente en el proceso de generación de imágenes.
Próximas elecciones, se intensifican las falsificaciones profundas
Hemos sido testigos numerosos casos de desinformación política canalizado a través de falsificaciones profundas.
Google, Meta, YouTube, X y otras empresas están redoblando sus esfuerzos para combatir las falsificaciones profundas de cara a las próximas elecciones, incluidas las de EE.UU. y el Reino Unido (muy probablemente).
A medida que los contenidos generados por IA se vuelven más sofisticados y se generalizan, crece la necesidad de vigilancia e innovación en la autenticación y transparencia de los contenidos.
¿Se vislumbra una solución definitiva? Parece que no.
