Algunos de los mejores detectores de imágenes de IA pueden engañarse añadiendo textura a la imagen o degradándola ligeramente.
Aunque las imágenes generadas por inteligencia artificial no llevan mucho tiempo entre nosotros, sabemos que no debemos fiarnos de nuestros ojos. Pero resulta que ni siquiera podemos fiarnos de las máquinas que se supone que nos dicen si una imagen es real o falsa.
Un experimento reciente según el New York Times descubrió que, en su mayor parte, los detectores de imágenes de IA como Colmena o Umm-maybe eran capaces de clasificar correctamente las imágenes generadas por IA. Eso hasta que añadían grano a la imagen.
Cuando degradaban las imágenes añadiendo una pequeña cantidad de grano, o ruido pixelado, los detectores se convencían mayoritariamente de que las imágenes generadas por la IA eran reales. En un caso, una imagen en blanco y negro de un hombre fue calificada correctamente con una probabilidad de 99% de ser generada por IA. Al añadir una pequeña cantidad de grano, el detector redujo repentinamente la probabilidad a 3,3%, lo que significa que la imagen era casi con toda seguridad real.
Cuando las imágenes falsas del Papa en un puffer de Balenciaga engañan a algunas personas es una diversión inofensiva. Pero cuando las imágenes generadas por inteligencia artificial se utilizan en las elecciones y no pueden identificarse como falsas, las implicaciones podrían ser más graves.
Ron DeSantis fue criticado recientemente por utilizar imágenes generadas por IA en su campaña. Su campaña intercaló 3 imágenes reales de Trump con 3 generadas por IA de Trump abrazando y besando al Dr. Anthony Fauci. Agencia France-Press fue el primero en señalar las falsificaciones.
Si estás mínimamente familiarizado con la política de Trump, no necesitas que un programa informático te diga que una foto suya besando a Fauci es falsa. Pero los detectores de imágenes de IA no utilizan el contexto o el tema para decidir si una foto es real o no. Se fijan en los patrones de píxeles reveladores que los generadores de imágenes de IA producen al crear una imagen.
Resulta que si se toman esas imágenes de alta resolución y se degradan sólo un poco, incluso los mejores detectores de falsificaciones de IA dirán a menudo que la imagen es auténtica. Incluso pedir a Midjourney que produzca una foto vintage de baja calidad es suficiente para engañar a algunas de estas herramientas.
Es un avance interesante, pero está por ver hasta qué punto es significativo. Las consecuencias reales de Desinformación generada por IA es poco probable que puedan evitarse con detectores infalibles. Una buena dosis de escepticismo y educar a la gente sobre los riesgos de confiar en sus ojos será probablemente mucho más eficaz.
