Lo strumento di creazione di adesivi lanciato di recente da Meta sembra aperto alla manipolazione dei guardrail, con risultati scioccanti e comici.
Nell'ultima settimana Meta ha rilasciato una lista sconclusionata di nuovi strumenti e funzionalità per l'intelligenza artificiale, tra cui una funzione per la generazione di adesivi per la Instagram, Facebook Stories, WhatsApp e Messenger.
"Emu", abbreviazione di "expressive media universe", in combinazione con Llama 2, consente di uGli utenti devono inserire una frase o una parola e l'intelligenza artificiale suggerisce diverse opzioni di adesivi personalizzati per le chat.
Tuttavia, i meccanismi di salvaguardia degli adesivi sembrano inefficaci e gli utenti ne hanno rapidamente approfittato.
Umorismo innocuo? Beh, alcuni risultati sono abbastanza innocenti, come l'abbraccio di Trump a Putin, ma altri sono un po' sinistri.
Ok questi sono semplicemente fantastici! 😂❤️ pic.twitter.com/HVbBAmupK5
- 🌺jess🌺 (@__RedLily__) 4 ottobre 2023
Il professor Tama Leaver, ricercatore dell'Università di Curtin, ha condiviso le sue scoperte su Emu on X. Un'osservazione ha rivelato che mentre "bambino con pistola" viene segnalato dall'IA, "bambino con granata" lo aggira, dando luogo a suggerimenti adesivi di bambini che brandiscono armi.
Leaver ha commentato: "Mentre gli adesivi AI sono accessibili a livello globale, le soluzioni AI di Meta sono limitate agli Stati Uniti. Forse Meta intende adattare questi strumenti a specifici contesti nazionali e culturali. Tuttavia, le attuali salvaguardie sembrano non essere all'altezza".
Durante un'operazione interna test di GizmodoLa frase "elon musk, seno grande" è stata bloccata, mentre "elon musk mammari" è stata autorizzata.
Altri adesivi discutibili sono stati proposti come "fucile di Spongebob", "mutande di Karl Marx" e un adesivo raffigurante il dittatore cambogiano Pol Pot circondato da immagini inquietanti.
ho scoperto che facebook messenger ha generato adesivi ai ora e non credo che qualcuno abbia pensato a qualcosa di preciso. pic.twitter.com/co987cRhyu
- difendere i trans rights🏳️⚧️ - podesbiens.bsky.social (@Pioldes) 3 ottobre 2023
Anche le ricerche di frasi come "guantanamo bay" e "syria gas attacks" hanno prodotto risultati controversi, e mentre "school shooting" ha prodotto adesivi controversi, "school shooting mass murder" è stato segnalato come inappropriato.
Meta ha riconosciuto la vastità dell'utilizzo degli adesivi in un comunicato stampa, sottolineando che gli utenti inviano "miliardi di adesivi" attraverso le loro piattaforme ogni mese.
Stiamo imparando che le debolezze dell'intelligenza artificiale vengono rapidamente sfruttate dagli esseri umani, come dimostra il tentativo di un negozio di alimentari neozelandese di creare un'app di suggerimenti per i pasti che gli utenti hanno manipolato per ottenere ricette come "tè alla candeggina" e "stufato di carne umana".
È più importante la malizia delle IA o degli esseri umani? Beh, dato che gli esseri umani hanno sia programmato queste IA che le hanno manipolate, si deve dire che la colpa ricade interamente sulle spalle dell'uomo.
