{"id":6885,"date":"2023-10-28T19:00:38","date_gmt":"2023-10-28T19:00:38","guid":{"rendered":"https:\/\/dailyai.com\/?p=6885"},"modified":"2023-10-28T19:17:55","modified_gmt":"2023-10-28T19:17:55","slug":"deep-fakes-wreak-havoc-amid-the-israel-palestine-conflict","status":"publish","type":"post","link":"https:\/\/dailyai.com\/es\/2023\/10\/deep-fakes-wreak-havoc-amid-the-israel-palestine-conflict\/","title":{"rendered":"Las falsificaciones causan estragos en el conflicto palestino-israel\u00ed"},"content":{"rendered":"

2023 ha sido testigo de un diluvio de im\u00e1genes falsas creadas con generadores de im\u00e1genes de IA, desde una imagen falsa de una explosi\u00f3n en el Pent\u00e1gono hasta im\u00e1genes de abusos a menores.\u00a0<\/strong><\/p>\n

La tecnolog\u00eda de falsificaci\u00f3n profunda tambi\u00e9n genera copias s\u00f3lidas de la voz de pr\u00e1cticamente cualquier persona, desde Johnny Cash cantando Barbie Girl<\/a> a discursos falsos del ex presidente sudan\u00e9s<\/a> Omar al-Bashir.\u00a0<\/span><\/p>\n

No es de extra\u00f1ar, por tanto, que las falsificaciones hayan calado hondo en el ya de por s\u00ed tenso panorama digital que rodea al actual conflicto entre Israel y Ham\u00e1s.\u00a0<\/span><\/p>\n

En general, los analistas creen que la desinformaci\u00f3n generada por la IA ha sido limitada: en las redes sociales circulan suficientes contenidos viscerales reales. Sin embargo, la mera perspectiva de falsificaciones generadas por IA ha llevado a la gente a cuestionar la legitimidad de im\u00e1genes, v\u00eddeos y clips de audio aut\u00e9nticos.<\/span><\/p>\n

Esto se llama \"dividendo del mentiroso\". Los contenidos reales pueden ahora ser potencialmente descartados como generados por IA, lo que los convierte en falsos a los ojos de los espectadores.<\/span><\/p>\n

Las redes sociales crean el escenario perfecto para que la sospecha y la paranoia en torno a los contenidos digitales se extiendan como la p\u00f3lvora: la oportunidad de tachar de falso algo que parece real, y viceversa, es algo que muchos utilizar\u00e1n para reforzar sus opiniones.\u00a0<\/span><\/p>\n

Como subraya Bill Marcellino, de la RAND Corporation, este dilema: \"\u00bfQu\u00e9 pasa cuando literalmente todo lo que ves que es digital podr\u00eda ser sint\u00e9tico?\".\u00a0<\/span><\/p>\n

Del mismo modo, Hany Farid, especialista en investigaci\u00f3n forense digital y desinformaci\u00f3n por IA, coment\u00f3 sobre el conflicto entre Israel y Ham\u00e1s: \"Incluso para los est\u00e1ndares de niebla de guerra a los que estamos acostumbrados, este conflicto es particularmente desordenado... El espectro de los deepfakes es mucho, mucho m\u00e1s significativo ahora - no se necesitan decenas de miles, s\u00f3lo se necesitan unos pocos, y entonces envenenas el pozo y todo se vuelve sospechoso\".<\/span><\/p>\n

Lo sorprendente es lo r\u00e1pido que ha evolucionado la tecnolog\u00eda de falsificaci\u00f3n profunda. En 2022, identificar incoherencias en im\u00e1genes generadas por IA era sencillo e intuitivo, mientras que ahora, a menudo requiere un an\u00e1lisis especializado.\u00a0<\/span><\/p>\n

La erosi\u00f3n de la confianza se hace m\u00e1s evidente a medida que contin\u00faan los debates sobre Gaza, especialmente en las redes sociales.<\/span><\/p>\n

Los contenidos falsos suscitan pol\u00e9mica y, por tanto, exposici\u00f3n<\/span><\/h2>\n

El problema de los contenidos cuestionablemente falsos es que suscitan debate y, a su vez, impresiones, \"me gusta\" y comentarios.\u00a0<\/span><\/p>\n

Por ejemplo, un post en X, que atrajo 1,8 millones de visitas, describ\u00eda falsamente a los aficionados del Atl\u00e9tico de Madrid desplegando una enorme bandera palestina<\/a>. Los usuarios se\u00f1alaron las figuras distorsionadas de la imagen, indicativas de la generaci\u00f3n de IA.\u00a0<\/span><\/p>\n

Otra publicaci\u00f3n de una cuenta vinculada a Ham\u00e1s en la plataforma X, seg\u00fan inform\u00f3 el New York Times, mostraba de forma inexacta un campamento de tiendas de campa\u00f1a para israel\u00edes desplazados, con un dise\u00f1o de bandera incorrecto. Esta publicaci\u00f3n fue eliminada posteriormente.\u00a0<\/span><\/p>\n

La atenci\u00f3n y el escrutinio se centraron m\u00e1s en las im\u00e1genes sin signos aparentes de manipulaci\u00f3n por IA. Por ejemplo, un v\u00eddeo del director de un hospital de Gaza dando una rueda de prensa, que algunos tacharon de \"generado por IA\" a pesar de que m\u00faltiples fuentes captaron el evento desde distintos \u00e1ngulos.<\/span><\/p>\n

En un intento por separar la verdad de los contenidos generados por IA, algunos usuarios de redes sociales han recurrido a herramientas de detecci\u00f3n. Estas herramientas afirman identificar la manipulaci\u00f3n digital, pero han demostrado ser incoherentes y poco fiables.<\/span><\/p>\n

En los primeros d\u00edas del conflicto, el Primer Ministro Netanyahu comparti\u00f3 una serie de im\u00e1genes en la plataforma X, alegando que mostraban \"fotos horripilantes de beb\u00e9s asesinados y quemados\" por Ham\u00e1s.\u00a0<\/span><\/p>\n

Cuando el comentarista conservador Ben Shapiro llam\u00f3 la atenci\u00f3n sobre una de las im\u00e1genes de la plataforma X, se enfrent\u00f3 a acusaciones generalizadas de difundir contenidos generados por IA. No incrustaremos el tuit directamente debido a la naturaleza horrible de la imagen, pero puedes ver la debate sobre el post de Shapiro aqu\u00ed<\/a>.\u00a0<\/span><\/p>\n

Un post, que acumul\u00f3 m\u00e1s de 21 millones de visitas antes de ser retirado, afirmaba tener pruebas de que la imagen del beb\u00e9 era falsa, presentando una captura de pantalla de AI or Not, una herramienta de detecci\u00f3n, etiquetando la imagen como \"generada por IA.\"\u00a0<\/span><\/p>\n

Posteriormente, la empresa revis\u00f3 esta evaluaci\u00f3n en la plataforma X, explicando que el resultado era \"no concluyente\" debido a la compresi\u00f3n de la imagen y a alteraciones que ocultaban detalles identificativos. La empresa tambi\u00e9n anunci\u00f3 que hab\u00eda perfeccionado su herramienta de detecci\u00f3n.<\/span><\/p>\n

\n

Estamos siguiendo el debate que se est\u00e1 produciendo en Twitter, como hacemos siempre con los casos controvertidos de gran notoriedad. Hemos confirmado con nuestro sistema que el resultado no es concluyente debido a que la fotograf\u00eda fue comprimida y alterada para difuminar la etiqueta con el nombre. https:\/\/t.co\/uZihVMD7Cq<\/a><\/p>\n

- AI or Not (@Ai_or_Not) 13 de octubre de 2023<\/a><\/p><\/blockquote>\n