Metas neu eingeführtes Tool zur Erstellung von Aufklebern scheint für Leitplankenmanipulationen weit offen zu sein - mit schockierenden und komischen Ergebnissen.
In der letzten Woche hat Meta eine umfangreiche Liste neuer KI-Tools und -Funktionen veröffentlicht, darunter eine Funktion zur Erstellung von Aufklebern für Instagram, Facebook Stories, WhatsApp und Messenger.
"Emu", kurz für "Expressive Media Universe", kombiniert mit Llama 2, ermöglicht users einen Satz oder ein Wort eingeben, und die KI schlägt mehrere individuelle Aufkleberoptionen für Chats vor.
Die Schutzmechanismen des Aufklebers scheinen jedoch unwirksam zu sein, und die Nutzer haben dies schnell ausgenutzt.
Unschuldiger Humor? Nun, einige Ergebnisse sind harmlos genug, wie z. B. die Umarmung Putins durch Trump, aber andere sind ein wenig unheimlich.
Ok, die sind einfach unglaublich! 😂❤️ pic.twitter.com/HVbBAmupK5
- 🌺jess🌺 (@__RedLily__) 4. Oktober 2023
Professor Tama Leaver, Forscher an der Curtin University, teilte seine Erkenntnisse über Emu on X mit. Eine Beobachtung ergab, dass "Kind mit Waffe" von der KI erkannt wird, "Kind mit Granate" jedoch nicht, was zu Aufklebern mit waffenführenden Kindern führt.
Leaver kommentierte: "Während die AI-Sticker weltweit zugänglich sind, sind weitere AI-Lösungen von Meta auf die USA beschränkt. Möglicherweise beabsichtigt Meta, diese Tools für bestimmte nationale und kulturelle Kontexte anzupassen. Dennoch scheinen die derzeitigen Sicherheitsvorkehrungen unzureichend zu sein".
Während einer internen Test von GizmodoSo wurde der Satz "elon musk, große Brüste" gesperrt, "elon musk mammaries" jedoch zugelassen.
Andere fragwürdige Aufklebervorschläge waren "Spongebob-Gewehr", "Karl-Marx-Unterwäsche" und ein Aufkleber mit der Darstellung des kambodschanischen Diktators Pol Pot, umgeben von verstörenden Bildern.
Ich habe herausgefunden, dass Facebook Messenger jetzt ai generierte Sticker hat und ich glaube nicht, dass irgendjemand, der daran beteiligt ist, etwas durchdacht hat. pic.twitter.com/co987cRhyu
- trans verteidigen rights🏳️⚧️ - podesbiens.bsky.social (@Pioldes) 3. Oktober 2023
Auch die Suche nach Begriffen wie "Guantanamo Bay" und "Gasangriffe in Syrien" führte zu umstrittenen Ergebnissen, und während "Schulschießerei" zu kontroversen Aufklebern führte, wurde "Schulschießerei - Massenmord" als unangemessen gekennzeichnet.
Meta bestätigte in einer Presseerklärung das enorme Ausmaß der Stickernutzung und betonte, dass die Nutzer jeden Monat "Milliarden von Stickern" über ihre Plattformen versenden.
Wir lernen, dass die Schwächen der KI schnell von Menschen ausgenutzt werden, wie der Versuch eines neuseeländischen Lebensmittelhändlers zeigt, die eine App mit Essensvorschlägen erstellen die von den Nutzern manipuliert wurden, um Rezepte wie "Bleichtee" und "Menschenfleischeintopf" zu erhalten.
Sagt dies mehr über die Bösartigkeit der KI oder der Menschen aus? Nun, da der Mensch diese KI sowohl programmiert als auch manipuliert hat, muss man sagen, dass die Schuld eindeutig auf den Schultern des Menschen lastet.
