Os legisladores norte-americanos propuseram um novo projeto de lei intitulado Disrupt Explicit Forged Images and Non-Consensual Edits (DEFIANCE).
O DEFIANCE visa a questão crescente das imagens explícitas geradas por IA, como as recentes e controversas representações explícitas de Taylor Swift criadas por IA.
Taylor Swift foi alvo de uma série de imagens falsas geradas por IA que reacções desencadeadas da Casa Branca, do CEO da Microsoft, Satya Nadella, e de milhões de pessoas em todo o mundo.
Em resposta à propagação dos deepfakes de Swift, os seus fãs, conhecidos como "Swifties", iniciaram uma campanha nas redes sociais utilizando a frase "Taylor Swift AI" para ofuscar o conteúdo explícito com clips de actuações. Eles também lançaram um caça digital ao criminoso.
Entretanto, falsificações políticas profundas tornaram-se cada vez mais realistas e alarmantes, e o áudio falso profundo é tornando-se muito mais difícil de detetar.
Esta legislação bipartidária tem como objetivo dar poder aos indivíduos, permitindo-lhes processar por danos se forem retratados em "falsificações digitais" sem consentimento.
Apresentado pelo líder da maioria no Senado, Dick Durbin (D-IL), e apoiado pelos senadores Lindsey Graham (R-SC), Amy Klobuchar (D-MN) e Josh Hawley (R-MO), o projeto de lei alarga o quadro jurídico estabelecido pela Lei de Reautorização da Lei da Violência contra as Mulheres de 2022, que abordava de forma semelhante as imagens explícitas não falsificadas.
A Lei DEFIANCE responde ao que os legisladores consideram ser um problema "exponencialmente" crescente de imagens de IA explícitas manipuladas digitalmente.
O Senador Durbin observou: "Este mês, imagens falsas e sexualmente explícitas de Taylor Swift, geradas por inteligência artificial, percorreram as plataformas das redes sociais. Embora as imagens possam ser falsas, os danos causados às vítimas pela distribuição de 'deep fakes' sexualmente explícitos são muito reais".
Com o advento de ferramentas de IA generativa acessíveis, as falsificações profundas tornaram-se extremamente simples de criar, mesmo utilizando ferramentas desenvolvidas por empresas como a Microsoft e a OpenAI, com graves consequências em termos de desinformação, assédio e chantagem.
A Lei DEFIANCE não se refere apenas a imagens geradas por IA, mas inclui também qualquer imagem sexualmente explícita criada ou modificada por meios tecnológicos para parecer indistinguível de uma representação autêntica do indivíduo.
Esta definição alargada inclui ferramentas mais antigas como o Photoshop, desde que os resultados sejam suficientemente realistas.
O Senador Josh Hawley sublinhou a importância desta legislação, declarando: "Ninguém - nem celebridades nem americanos comuns - deveria alguma vez ter de aparecer em pornografia de IA. Pessoas inocentes têm o direito de defender suas reputações e responsabilizar os perpetradores em tribunal. Este projeto de lei vai tornar isso uma realidade".
"Ninguém, nem as celebridades nem os americanos comuns, deveria ter de aparecer na pornografia de IA", disse Hawley.
"As pessoas inocentes têm o direito de defender a sua reputação e de responsabilizar os autores dos crimes em tribunal".https://t.co/qRNhqo5c8Y
- Gabinete de Imprensa do Senador Hawley (@SenHawleyPress) 31 de janeiro de 2024
O projeto de lei também enfrenta potenciais desafios e questões relacionadas com o seu impacto na expressão artística e na paródia política, mas é de esperar que a linha entre paródia e dano seja bastante fácil de traçar, pelo menos no que diz respeito a imagens sexualmente explícitas.
Em suma, a Lei DEFIANCE parece ser um passo para colmatar as lacunas legais em torno das imagens explícitas não consentidas geradas por IA, mas este é um alvo em movimento.
