Meta's pas gelanceerde tool om stickers te maken lijkt wijd open te staan voor manipulatie van vangrails, met schokkende en komische resultaten.
De afgelopen week heeft Meta een lange lijst met nieuwe AI-tools en functies uitgebracht, waaronder een functie voor het genereren van stickers voor Instagram, Facebook Stories, WhatsApp en Messenger.
"Emu", kort voor "expressief media-universum", gecombineerd met Llama 2, maakt het mogelijk om users om een zin of woord in te voeren en de AI stelt meerdere aangepaste stickeropties voor chats voor.
De beveiligingsmechanismen van de sticker lijken echter niet effectief en gebruikers hebben er snel misbruik van gemaakt.
Onschuldige humor? Nou, sommige resultaten zijn onschuldig genoeg, zoals Trump die Poetin omhelst, maar andere zijn een beetje sinister.
Ok deze zijn gewoon geweldig! 😂❤️ pic.twitter.com/HVbBAmupK5
- Jess🌺 (@__RedLily__) 4 oktober 2023
Professor Tama Leaver, onderzoeker aan de Curtin University, deelde zijn bevindingen over Emu op X. Eén observatie onthulde dat terwijl "kind met pistool" wordt gemarkeerd door de AI, "kind met granaat" dit omzeilt, wat resulteert in stickersuggesties van kinderen met wapens.
Leaver: "Terwijl AI Stickers wereldwijd toegankelijk zijn, zijn de bredere AI-oplossingen van Meta beperkt tot de VS. Misschien is Meta van plan om deze tools aan te passen voor specifieke nationale en culturele contexten. Toch lijken de huidige beveiligingen ondermaats."
Tijdens een interne test door GizmodoDe zin "elon musk, grote borsten" werd geblokkeerd, maar "elon musk mammaries" werd toegestaan.
Andere twijfelachtige stickersuggesties waren "spongebob geweer", "karl marx ondergoed" en een sticker die de Cambodjaanse dictator Pol Pot voorstelde, omringd door verontrustende beelden.
ontdekte dat facebook messenger nu ai gegenereerde stickers heeft en ik denk niet dat iemand die erbij betrokken is iets doordacht heeft pic.twitter.com/co987cRhyu
- verdedig trans rights🏳️⚧️ - podesbiens.bsky.social (@Pioldes) 3 oktober 2023
Zoekopdrachten naar zinnen als "guantanamo bay" en "syria gas attacks" leverden ook controversiële resultaten op, en terwijl "school shooting" controversiële stickers opleverde, werd "school shooting mass murder" gemarkeerd als ongepast.
Meta erkende de enorme omvang van het stickergebruik in een persverklaring en benadrukte dat gebruikers maandelijks "miljarden stickers" versturen via hun platforms.
We leren dat de zwakke punten van AI snel door mensen worden uitgebuit, zoals blijkt uit de poging van een Nieuw-Zeelandse kruidenierswinkel om een app met maaltijdsuggesties maken die gebruikers manipuleerden om recepten als "bleekwaterthee" en "stoofpot van mensenvlees" terug te geven.
Zegt dit meer over de ondeugendheid van AI's of van mensen? Nou, gezien het feit dat mensen deze AI's zowel hebben geprogrammeerd als gemanipuleerd, moet je zeggen dat de schuld volledig bij de mens ligt.
