Imagens falsas e explícitas da estrela pop Taylor Swift, geradas por inteligência artificial, circularam recentemente nas redes sociais, provocando um alvoroço generalizado.
Apesar das regras rigorosas contra este tipo de conteúdo, estas imagens não consensuais mostravam Swift em posições sexualmente explícitas e estiveram no ar durante 19 horas, acumulando mais de 27 milhões de visualizações e 260 000 gostos antes de a conta de publicação ser suspensa.
O incidente contribui para uma enxurrada de questões sobre a eficácia das políticas das redes sociais contra desinformação falsa e profunda.
É possível parar? Aparentemente, não. Então, como é que o combatemos? Bem, os serviços de deteção de IA (semelhantes aos verificadores de factos) e as "Notas da Comunidade", anexadas às publicações no X, são duas soluções possíveis, mas ambas têm as suas falhas.
As imagens explícitas de Taylor Swift circularam principalmente na plataforma de redes sociais X mas também foram parar a outras plataformas de redes sociais, incluindo o Facebook, mostrando como os conteúdos controversos da IA se espalham como fogo.
Um porta-voz da Meta respondeu ao incidente, afirmando: "Este conteúdo viola as nossas políticas, pelo que estamos a removê-lo das nossas plataformas e a tomar medidas contra as contas que o publicaram. Continuamos a monitorizar e, se identificarmos qualquer outro conteúdo violador, removê-lo-emos e tomaremos as medidas adequadas".
Milhões de utilizadores foram ao Reddit para discutir as ramificações e o impacto deste e de outros incidentes virais recentes, incluindo uma fotografia da Torre Eiffel em chamas.
Há um vídeo TikTok a circular, visto milhões de vezes, que afirma que a Torre Eiffel está a arder. A Torre Eiffel não está a arder. pic.twitter.com/IxlsKOqOsI
- Alistair Coleman (@alistaircoleman) 22 de janeiro de 2024
Embora muitos considerem estas imagens obviamente falsas, não podemos presumir que o público em geral esteja sensibilizado para o facto.
Um comentador no Reddit disse, a propósito do incidente com Taylor Swift: "Agora sei quantas pessoas não sabem o que são deepfakes", o que implica uma fraca sensibilização para o problema.
Os peritos do sector também debateram a questão com Ed Newton-Rex, ex-executivo da Stability, que argumentou que as atitudes de entusiasmo das empresas tecnológicas e o fraco envolvimento dos decisores contribuem para o problema.
Os deepfakes de IA explícitos e não consensuais são o resultado de uma série de falhas.
- A cultura do "embarque tão rápido quanto possível" da IA generativa, independentemente das consequências
- Ignorância voluntária nas empresas de IA quanto à utilização dos seus modelos
- Um desrespeito total pela confiança e...- Ed Newton-Rex (@ednewtonrex) 26 de janeiro de 2024
Ben Decker, da Memetica, uma agência de investigação digital, comentou a falta de controlo sobre os impactos da IA: "Este é um excelente exemplo das formas como a IA está a ser desencadeada por uma série de razões nefastas, sem que existam barreiras suficientes para proteger a praça pública".
O Comissário salientou também as deficiências das estratégias de monitorização de conteúdos das empresas de redes sociais.
Os relatórios sugerem que Taylor Swift está agora a considerar uma ação legal contra o site pornográfico falso que aloja as imagens.
Registaram-se numerosos incidentes semelhantes de falsificações profundas explícitas, na sua maioria envolvendo mulheres e crianças, por vezes com a intenção de subornar pessoastambém designada por "sexploitation".
As imagens de IA de abuso sexual de crianças são o impacto mais sombrio e preocupante da tecnologia de geração de imagens. Um homem norte-americano foi recentemente condenado a 40 anos na prisão por posse de tais imagens.
Na sequência deste e de outros incidentes semelhantes, tem havido um aumento dos apelos à adoção de legislação para resolver esta forma de utilização indevida da IA.
O deputado norte-americano Joe Morelle descreveu a propagação dos deepfakes de Swift como "aterradora", defendendo uma ação legal urgente. O que aconteceu a Taylor Swift não é nada de novo", sublinhou, sublinhando o impacto desproporcionado deste tipo de conteúdos nas mulheres.
A desinformação falsa e profunda também foi amplamente debatida no o Fórum Económico Mundial em Davos com o aumento receios quanto à possibilidade de os conteúdos manipulados influenciarem os mercados bolsistas, as eleições e a opinião pública.
Estão em curso esforços para combater as falsificações profundas, com startups e gigantes da tecnologia a desenvolverem tecnologias de deteção.
A Intel, por exemplo, lançou um produto capaz de detetar vídeos falsos com uma precisão de 96%.
No entanto, por enquanto, o desafio continua a ser praticamente intransponível, uma vez que a tecnologia está a evoluir rapidamente e a espalhar-se pela Internet.
