Metas nyligen lanserade verktyg för skapande av klistermärken verkar vidöppet för manipulation av skyddsräcken, med chockerande och komiska resultat.
Den senaste veckan eller så har Meta släppt en vandrande lista över nya AI-verktyg och funktioner, inklusive en klistermärkesgenereringsfunktion för Instagram, Facebook Stories, WhatsApp och Messenger.
"Emu", en förkortning för "expressive media universe", i kombination med Llama 2, gör det möjligt för uanvändare att ange en fras eller ett ord, och AI föreslår flera anpassade klistermärkesalternativ för chattar.
Skyddsmekanismerna för klistermärkena verkar dock ineffektiva, och användarna har snabbt dragit nytta av dem.
Oskyldig humor? Tja, vissa resultat är tillräckligt oskyldiga, till exempel Trump som omfamnar Putin, men andra är lite olycksbådande.
Ok dessa är bara fantastiska! 😂❤️ pic.twitter.com/HVbBAmupK5
- 🌺jess🌺 (@__RedLily__) 4 oktober 2023
Professor Tama Leaver, forskare vid Curtin University, delade med sig av sina upptäckter om Emu på X. En observation visade att medan "barn med pistol" flaggas av AI:n, går "barn med granat" förbi det, vilket resulterar i klistermärkesförslag om barn som hanterar vapen.
Leaver kommenterade: "Medan AI-klistermärken är globalt tillgängliga, är bredare Meta AI-lösningar USA-begränsade. Kanske avser Meta att anpassa dessa verktyg för specifika nationella och kulturella sammanhang. Ändå verkar de nuvarande skyddsåtgärderna subpar."
Under en intern test av Gizmodo, blockerades frasen "elon musk, stora bröst", men "elon musk bröst" tilläts.
Andra tvivelaktiga förslag på klistermärken var "spongebob rifle", "karl marx underkläder" och ett klistermärke som föreställde den kambodjanske diktatorn Pol Pot omgiven av störande bilder.
upptäckte att facebook messenger har ai genererat klistermärken nu och jag tror inte att någon inblandad har tänkt igenom något pic.twitter.com/co987cRhyu
- försvara trans rights🏳️⚧️ - podesbiens.bsky.social (@Pioldes) 3 oktober 2023
Sökningar efter fraser som "guantanamo bay" och "syria gas attacks" gav också kontroversiella resultat, och medan "school shooting" resulterade i kontroversiella klistermärken, flaggades "school shooting mass murder" som olämpligt.
Meta erkände den stora omfattningen av klistermärkesanvändningen i ett pressmeddelande och betonade att användare skickar "miljarder klistermärken" över sina plattformar varje månad.
Vi lär oss att AI:s svagheter snabbt utnyttjas av människor, vilket demonstreras av en nyzeeländsk livsmedelsbutiks försök att skapa en app för måltidsförslag som användarna manipulerade för att få fram recept som "blekmedelste" och "gryta på människokött".
Säger detta mer om AI:s eller människans illvilja? Tja, med tanke på att människor både programmerade dessa AI och manipulerade dem, måste man säga att skulden helt och hållet faller på människans axlar.
