Los legisladores estadounidenses propusieron un nuevo proyecto de ley titulado Desarticulación de imágenes explícitas falsificadas y ediciones no consentidas (DEFIANCE).
DEFIANCE aborda el creciente problema de las imágenes explícitas generadas por IA, como las recientes y polémicas representaciones explícitas de Taylor Swift creadas por IA.
Taylor Swift fue blanco de una serie de imágenes falsas generadas por IA que reacciones desencadenadas de la Casa Blanca, del CEO de Microsoft, Satya Nadella, y de millones de personas en todo el mundo.
En respuesta a la difusión de los deepfakes de Swift, sus fans, conocidos como "Swifties", iniciaron una campaña en las redes sociales utilizando la frase "Taylor Swift AI" para eclipsar el contenido explícito con clips de actuaciones. También lanzaron una caza digital del autor.
Mientras tanto, falsificaciones políticas profundas se han vuelto cada vez más realistas y alarmantes, y el audio falso profundo es cada vez más difíciles de detectar.
Esta legislación bipartidista pretende dar más poder a las personas permitiéndoles demandar por daños y perjuicios si aparecen en "falsificaciones digitales" sin su consentimiento.
Presentado por el jefe de la mayoría del Senado, Dick Durbin (D-IL), y apoyado por los senadores Lindsey Graham (R-SC), Amy Klobuchar (D-MN) y Josh Hawley (R-MO), el proyecto de ley amplía el marco jurídico establecido por la Ley de Reautorización de la Ley de Violencia contra las Mujeres de 2022, que abordaba de forma similar las imágenes explícitas no falsificadas.
La Ley DEFIANCE responde a lo que los legisladores consideran un problema "exponencialmente" creciente de imágenes explícitas de IA manipuladas digitalmente.
El senador Durbin señaló: "Este mes, imágenes falsas y sexualmente explícitas de Taylor Swift, generadas por inteligencia artificial, recorrieron las plataformas de las redes sociales. Aunque las imágenes pueden ser falsas, el daño a las víctimas de la distribución de 'deep fakes' sexualmente explícitos es muy real."
Con la llegada de herramientas de IA generativa accesibles, las falsificaciones profundas se han vuelto extremadamente sencillas de crear, incluso utilizando herramientas desarrolladas por empresas de la talla de Microsoft y OpenAI, con graves consecuencias de desinformación, acoso y chantaje.
La Ley DEFIANCE no sólo aborda las imágenes generadas por IA, sino que también incluye cualquier imagen sexualmente explícita creada o modificada por medios tecnológicos para que parezca indistinguible de una representación auténtica del individuo.
Esta amplia definición abarca herramientas más antiguas como Photoshop, siempre que los resultados sean lo bastante realistas.
El senador Josh Hawley hizo hincapié en la importancia de esta legislación, declarando: "Nadie -ni famosos ni estadounidenses de a pie- debería verse nunca en la pornografía de AI. Las personas inocentes tienen derecho a defender su reputación y a exigir responsabilidades a los autores ante los tribunales. Este proyecto de ley lo hará realidad".
"Nadie, ni los famosos ni los estadounidenses de a pie, debería verse nunca en la pornografía de la IA", afirmó Hawley.
"Las personas inocentes tienen derecho a defender su reputación y a exigir responsabilidades a los autores ante los tribunales".https://t.co/qRNhqo5c8Y
- Oficina de prensa del senador Hawley (@SenHawleyPress) 31 de enero de 2024
El proyecto de ley también se enfrenta a posibles retos y preguntas sobre su impacto en la expresión artística y la parodia política, pero se podría pensar que la línea entre la parodia y el daño es bastante fácil de trazar cuando se trata de imágenes sexualmente explícitas, al menos.
En conjunto, la Ley DEFIANCE parece un paso adelante en la resolución de las lagunas legales que rodean a las imágenes explícitas no consentidas generadas por IA, pero se trata de un objetivo en movimiento.
