A recém-lançada ferramenta de criação de autocolantes da Meta parece estar aberta à manipulação de guardrails, com resultados chocantes e cómicos.
Na última semana, o Meta lançou uma lista interminável de novas ferramentas e funcionalidades de IA, incluindo uma função de geração de autocolantes para Instagram, Facebook Stories, WhatsApp e Messenger.
O "Emu", abreviatura de "expressive media universe", combinado com o Llama 2, permite a uOs utilizadores introduzem uma frase ou palavra e a IA sugere várias opções de autocolantes personalizados para as conversas.
No entanto, os mecanismos de salvaguarda dos autocolantes parecem ineficazes e os utilizadores aproveitaram-se rapidamente.
Humor inócuo? Bem, alguns resultados são suficientemente inocentes, como o abraço de Trump a Putin, mas outros são um pouco sinistros.
Ok, estes são simplesmente fantásticos! 😂❤️ pic.twitter.com/HVbBAmupK5
- 🌺jess🌺 (@__RedLily__) 4 de outubro de 2023
O Professor Tama Leaver, investigador da Universidade de Curtin, partilhou as suas descobertas sobre o Emu on X. Uma observação revelou que, enquanto "criança com arma" é assinalada pela IA, "criança com granada" não o é, o que resulta em sugestões de autocolantes de crianças com armas.
Leaver comentou: "Enquanto os autocolantes de IA são acessíveis em todo o mundo, as soluções de IA da Meta estão limitadas aos EUA. Talvez a Meta pretenda adaptar estas ferramentas a contextos nacionais e culturais específicos. Ainda assim, as actuais salvaguardas parecem insuficientes".
Durante uma teste do GizmodoPor exemplo, a frase "elon musk, seios grandes" foi bloqueada, mas "elon musk mammaries" foi permitida.
Outras sugestões de autocolantes questionáveis incluíam "espingarda do spongebob", "roupa interior do karl marx" e um autocolante que representava o ditador cambojano Pol Pot rodeado de imagens perturbadoras.
descobri que o facebook messenger tem agora autocolantes gerados pelo ai e acho que ninguém pensou em nada pic.twitter.com/co987cRhyu
- defender trans rights🏳️⚧️ - podesbiens.bsky.social (@Pioldes) 3 de outubro de 2023
As pesquisas por frases como "guantanamo bay" e "syria gas attacks" também produziram resultados controversos, e enquanto "school shooting" resultou em autocolantes controversos, "school shooting mass murder" foi assinalado como inapropriado.
A Meta reconheceu a vasta escala de utilização de autocolantes num comunicado de imprensa, sublinhando que os utilizadores enviam "milhares de milhões de autocolantes" através das suas plataformas todos os meses.
Estamos a aprender que os pontos fracos da IA são rapidamente explorados pelos humanos, como demonstrado pela tentativa de uma mercearia da Nova Zelândia de criar uma aplicação de sugestões de refeições que os utilizadores manipularam para obter receitas como "chá de lixívia" e "guisado de carne humana".
Será que isto diz mais sobre a malícia da IA ou dos humanos? Bem, dado que os humanos programaram e manipularam estas IA, a culpa recai diretamente sobre os ombros humanos.
