2023 ha sido testigo de un diluvio de imágenes falsas creadas con generadores de imágenes de IA, desde una imagen falsa de una explosión en el Pentágono hasta imágenes de abusos a menores.
La tecnología de falsificación profunda también genera copias sólidas de la voz de prácticamente cualquier persona, desde Johnny Cash cantando Barbie Girl a discursos falsos del ex presidente sudanés Omar al-Bashir.
No es de extrañar, por tanto, que las falsificaciones hayan calado hondo en el ya de por sí tenso panorama digital que rodea al actual conflicto entre Israel y Hamás.
En general, los analistas creen que la desinformación generada por la IA ha sido limitada: en las redes sociales circulan suficientes contenidos viscerales reales. Sin embargo, la mera perspectiva de falsificaciones generadas por IA ha llevado a la gente a cuestionar la legitimidad de imágenes, vídeos y clips de audio auténticos.
Esto se llama "dividendo del mentiroso". Los contenidos reales pueden ahora ser potencialmente descartados como generados por IA, lo que los convierte en falsos a los ojos de los espectadores.
Las redes sociales crean el escenario perfecto para que la sospecha y la paranoia en torno a los contenidos digitales se extiendan como la pólvora: la oportunidad de tachar de falso algo que parece real, y viceversa, es algo que muchos utilizarán para reforzar sus opiniones.
Como subraya Bill Marcellino, de la RAND Corporation, este dilema: "¿Qué pasa cuando literalmente todo lo que ves que es digital podría ser sintético?".
Del mismo modo, Hany Farid, especialista en investigación forense digital y desinformación por IA, comentó sobre el conflicto entre Israel y Hamás: "Incluso para los estándares de niebla de guerra a los que estamos acostumbrados, este conflicto es particularmente desordenado... El espectro de los deepfakes es mucho, mucho más significativo ahora - no se necesitan decenas de miles, sólo se necesitan unos pocos, y entonces envenenas el pozo y todo se vuelve sospechoso".
Lo sorprendente es lo rápido que ha evolucionado la tecnología de falsificación profunda. En 2022, identificar incoherencias en imágenes generadas por IA era sencillo e intuitivo, mientras que ahora, a menudo requiere un análisis especializado.
La erosión de la confianza se hace más evidente a medida que continúan los debates sobre Gaza, especialmente en las redes sociales.
Los contenidos falsos suscitan polémica y, por tanto, exposición
El problema de los contenidos cuestionablemente falsos es que suscitan debate y, a su vez, impresiones, "me gusta" y comentarios.
Por ejemplo, un post en X, que atrajo 1,8 millones de visitas, describía falsamente a los aficionados del Atlético de Madrid desplegando una enorme bandera palestina. Los usuarios señalaron las figuras distorsionadas de la imagen, indicativas de la generación de IA.
Otra publicación de una cuenta vinculada a Hamás en la plataforma X, según informó el New York Times, mostraba de forma inexacta un campamento de tiendas de campaña para israelíes desplazados, con un diseño de bandera incorrecto. Esta publicación fue eliminada posteriormente.
La atención y el escrutinio se centraron más en las imágenes sin signos aparentes de manipulación por IA. Por ejemplo, un vídeo del director de un hospital de Gaza dando una rueda de prensa, que algunos tacharon de "generado por IA" a pesar de que múltiples fuentes captaron el evento desde distintos ángulos.
En un intento por separar la verdad de los contenidos generados por IA, algunos usuarios de redes sociales han recurrido a herramientas de detección. Estas herramientas afirman identificar la manipulación digital, pero han demostrado ser incoherentes y poco fiables.
En los primeros días del conflicto, el Primer Ministro Netanyahu compartió una serie de imágenes en la plataforma X, alegando que mostraban "fotos horripilantes de bebés asesinados y quemados" por Hamás.
Cuando el comentarista conservador Ben Shapiro llamó la atención sobre una de las imágenes de la plataforma X, se enfrentó a acusaciones generalizadas de difundir contenidos generados por IA. No incrustaremos el tuit directamente debido a la naturaleza horrible de la imagen, pero puedes ver la debate sobre el post de Shapiro aquí.
Un post, que acumuló más de 21 millones de visitas antes de ser retirado, afirmaba tener pruebas de que la imagen del bebé era falsa, presentando una captura de pantalla de AI or Not, una herramienta de detección, etiquetando la imagen como "generada por IA."
Posteriormente, la empresa revisó esta evaluación en la plataforma X, explicando que el resultado era "no concluyente" debido a la compresión de la imagen y a alteraciones que ocultaban detalles identificativos. La empresa también anunció que había perfeccionado su herramienta de detección.
Estamos siguiendo el debate que se está produciendo en Twitter, como hacemos siempre con los casos controvertidos de gran notoriedad. Hemos confirmado con nuestro sistema que el resultado no es concluyente debido a que la fotografía fue comprimida y alterada para difuminar la etiqueta con el nombre. https://t.co/uZihVMD7Cq
- AI or Not (@Ai_or_Not) 13 de octubre de 2023
Anatoly Kvitnitsky, Director General de IA o noreflexionó sobre las implicaciones éticas de su tecnología: "Llegamos a la conclusión de que estamos intentando hacer el bien, vamos a mantener el servicio activo y a hacer todo lo posible para asegurarnos de que somos proveedores de la verdad. Pero pensamos en ello: ¿estamos causando más confusión, más caos?".
Todo esto se suma a una situación increíblemente densa y confusa que amplifica emociones ya llevadas más allá del límite.
La IA aporta y resta al debate público y a la verdad. Cómo se adapta la gente a su presencia en las redes sociales? ¿Podrán las empresas tecnológicas recuperar algún día el control?
