Imagens falsas explícitas e profundas de Taylor Swift suscitaram um debate aceso sobre o potencial da IA para criar e espalhar desinformação.
Falando no meio de uma cascata de reacções da indústria tecnológica e do público, o CEO da Microsoft, Satya Nadella, abordou a tendência perturbadora dos nus falsos gerados por IA.
Durante uma entrevista exclusiva com NBC NewsNadella expressou a sua preocupação com a situação, descrevendo a proliferação deste tipo de conteúdos como "alarmante e terrível".
Nadella enfatizou a necessidade urgente de ação, afirmando: "Penso que nos compete agir rapidamente nesta matéria". Nadella sublinhou a importância de implementar "barreiras de proteção" mais rigorosas em torno da tecnologia de IA para garantir conteúdos em linha mais seguros.
A questão é que as barreiras de proteção não funcionam assim tão bem. Estudo após estudo revelou que os modelos de IA mais sofisticados são vulneráveis a numerosas formas de manipulação.
Nadella reconheceu os esforços para combater as falsificações profundas, mas sublinhou a necessidade de um consenso social global sobre o momento em que as autoridades policiais e as plataformas tecnológicas devem colaborar para controlar os conteúdos.
Isso poderia ser um terreno escorregadio para a privacidade, e passar a responsabilidade pelos produtos das grandes empresas de tecnologia para a aplicação da lei é um ângulo questionável.
Entretanto, registaram-se progressos no rastreio da culpados das imagens de Taylor Swiftque poderá ter origem num relatório do 404 Mediaque rastreou as imagens até um grupo do Telegram conhecido por produzir conteúdos pornográficos não consentidos.
Este grupo recomendou anteriormente a criação dessas imagens utilizando o gerador de imagens Designer da Microsoft, explorando uma lacuna nas protecções da IA.
Embora não esteja definitivamente provado que o Designer foi utilizado neste caso, este facto realça a ineficácia dos métodos actuais para restringir os danos.
Mais tarde, a Microsoft emitiu uma declaração à NBC: "Levamos estes relatórios muito a sério e estamos empenhados em proporcionar uma experiência segura a todos. Investigámos estas denúncias e não conseguimos reproduzir as imagens explícitas nelas contidas".
"Os nossos filtros de segurança para conteúdos explícitos estavam a funcionar e, até agora, não encontrámos provas de que tenham sido contornados. Por uma questão de precaução, tomámos medidas para reforçar os nossos avisos de filtragem de texto e resolver a utilização indevida dos nossos serviços."
Reacções generalizadas
A reação não se limitou ao sector tecnológico.
SAG-AFTRA, o sindicato que representa os actores e outros profissionais dos meios de comunicação social, descreveu as imagens de Taylor Swift como "perturbador, prejudicial e profundamente preocupante" e defendeu uma ação judicial.
O sindicato, que esteve envolvido na histórica greve dos actores de Hollywood no ano passado, apoia uma legislação abrangente em matéria de IA, que continua a faltar quando se trata de riscos a curto prazo, como as falsificações profundas.
Entretanto, a etiqueta #ProtectTaylorSwift tornou-se uma tendência mundial à medida que as pessoas se juntavam à condenação.
Justiça vigilante?
Taylor Swift é apoiada por milhões de "Swifties", que têm uma reputação temível de confrontar aqueles que falam mal da estrela.
Um perfil X chamado Zubera Abdi, identificado como o utilizador canadiano que potencialmente disseminou as imagens NSFW de Swift geradas por IA, tornou-se o alvo de uma caça ao homem digital.
Abdi provocou com confiança: "Não me interessa o quão poderosos são os Swifties, eles nunca me vão encontrar", subestimando a determinação da base de fãs de Swift.
O desafio de Abdi durou pouco, pois os Swifties mobilizaram-se e localizaram o seu nome completo, Zubear Mohamed Abdi.
zubear abdi aka @zvbear
toronto, ontário, canadá
estudou: Universidade de Toronto Scarborough
Somaliano mas vive no CanadáMas ainda preciso de um endereço exato. pic.twitter.com/N8L7yZsaso
- 𝗯𝗿𝗼𝘁𝗵𝗲𝗿... (@theantiqueswift) 25 de janeiro de 2024
A situação agravou-se quando as informações pessoais de Abdi foram amplamente partilhadas entre os suecos, tendo um deles comentado: "Puseram o (nome) do governo nas manchetes e agora ele está acabado".
Outro utilizador, @Melodic_Lemons3, deu a entender as potenciais consequências legais que Abdi poderia enfrentar, observando: "Zubear Mohamed Abdi está tramado", especialmente à luz do facto de a Casa Branca ter expressado alarme sobre as imagens explícitas de Swift geradas por IA.
Zubear Mohamed Abdi está cozinhado https://t.co/WfRQA1Sjm5
- 𝕸𝖊𝖑𝖔𝖉𝖎𝖈❤️🔥 #FreePalestine (@Melodic_Lemons3) 26 de janeiro de 2024
Perante a reação esmagadora e a perspetiva de problemas legais, Abdi cedeu à pressão, optando por uma "retirada tática" ao tornar a sua conta privada.
"Agora estou a lidar com os Swifties. Um animal totalmente diferente", disse ele. "Isto é uma retirada tática, todos os grandes exércitos fizeram isto."
Abdi, se foi o responsável, meteu-se sem dúvida com a pessoa errada, mas nem todas as vítimas de crimes falsos têm milhões de apoiantes para as apoiar.
