Metas nylig lanserte verktøy for å lage klistremerker ser ut til å være helt åpent for manipulasjon av rekkverk, med sjokkerende og komiske resultater.
Den siste uken har Meta lansert en lang liste med nye AI-verktøy og -funksjoner, inkludert en klistremerkefunksjon for Instagram, Facebook Stories, WhatsApp og Messenger.
"Emu", en forkortelse for "ekspressivt medieunivers", kombinert med Llama 2, gjør det mulig for ukan skrive inn en setning eller et ord, og AI-en foreslår flere tilpassede klistremerkealternativer for chatter.
Sikkerhetsmekanismene på klistremerket ser imidlertid ut til å være ineffektive, og brukerne har raskt utnyttet dem.
Uskyldig humor? Vel, noen resultater er uskyldige nok, som at Trump omfavner Putin, men andre er litt mer uhyggelige.
Ok, disse er bare fantastiske! 😂❤️ pic.twitter.com/HVbBAmupK5
- 🌺jess🌺 (@__RedLily__) 4. oktober 2023
Professor Tama Leaver, forsker ved Curtin University, delte sine funn om Emu på X. En observasjon avslørte at mens "barn med pistol" blir flagget av AI-en, går "barn med granat" utenom, noe som resulterer i klistremerkeforslag av barn som bruker våpen.
Leaver kommenterte: "Mens AI-klistremerker er globalt tilgjengelige, er bredere Meta AI-løsninger begrenset til USA. Kanskje Meta har til hensikt å tilpasse disse verktøyene til spesifikke nasjonale og kulturelle kontekster. Likevel virker de nåværende sikkerhetstiltakene mangelfulle."
Under en intern test av Gizmodoble uttrykket "elon musk, store bryster" blokkert, mens "elon musk mammaries" ble tillatt.
Andre tvilsomme forslag til klistremerker inkluderte "Svampebob-rifle", "Karl Marx-undertøy" og et klistremerke som forestilte den kambodsjanske diktatoren Pol Pot omgitt av urovekkende bilder.
fant ut at facebook messenger har ai-genererte klistremerker nå, og jeg tror ikke noen av de involverte har tenkt gjennom noe pic.twitter.com/co987cRhyu
- defend trans rights🏳️⚧️ - podesbiens.bsky.social (@Pioldes) 3. oktober 2023
Søk på fraser som "guantanamo bay" og "syria gas attacks" ga også omstridte resultater, og mens "school shooting" resulterte i kontroversielle klistremerker, ble "school shooting mass murder" markert som upassende.
Meta anerkjente det enorme omfanget av klistremerkebruk i en pressemelding, og fremhevet at brukerne sender "milliarder av klistremerker" på tvers av plattformene sine hver måned.
Vi lærer at AIs svakheter raskt blir utnyttet av mennesker, noe som demonstreres av en New Zealandsk dagligvarebutikks forsøk på å lage en app med måltidsforslag som brukerne manipulerte for å få tilbake oppskrifter som "blekemiddelte" og "menneskekjøttstuing".
Sier dette mer om AI-enes eller menneskenes ondskapsfullhet? Vel, siden mennesker både har programmert og manipulert disse AI-ene, må du si at skylden ligger på menneskets skuldre.
