La recién lanzada herramienta de creación de pegatinas de Meta parece abierta de par en par a la manipulación de los guardarraíles, con resultados chocantes y cómicos.
Durante la última semana, Meta ha publicado una larga lista de nuevas herramientas y funciones de inteligencia artificial, incluida una función de generación de pegatinas para los dispositivos móviles. Instagram, Facebook Stories, WhatsApp y Messenger.
"Emu", abreviatura de "universo mediático expresivo", combinado con Llama 2, permite uLos usuarios pueden introducir una frase o palabra, y la IA sugiere varias opciones de pegatinas personalizadas para los chats.
Sin embargo, los mecanismos de salvaguardia de los adhesivos parecen ineficaces, y los usuarios se han aprovechado rápidamente.
¿Humor inocente? Bueno, algunos resultados son bastante inocentes, como Trump abrazando a Putin, pero otros son un poco siniestros.
¡Ok estos son simplemente increíbles! 😂❤️ pic.twitter.com/HVbBAmupK5
- 🌺jess🌺 (@__RedLily__) 4 de octubre de 2023
El profesor Tama Leaver, investigador de la Universidad de Curtin, compartió sus hallazgos sobre Emu en X. Una observación reveló que mientras que "niño con pistola" es marcado por la IA, "niño con granada" lo elude, dando lugar a sugerencias de pegatinas de niños empuñando armas.
Leaver comentó: "Mientras que los AI Stickers son accesibles en todo el mundo, las soluciones más amplias de Meta AI están restringidas a Estados Unidos. Tal vez Meta pretenda adaptar estas herramientas a contextos nacionales y culturales específicos. Aun así, las salvaguardias actuales parecen insuficientes".
Durante una prueba de Gizmodola frase "elon musk, pechos grandes" fue bloqueada, sin embargo "elon musk mamarios" fue permitida.
Otras sugerencias de pegatinas cuestionables incluían "rifle de Bob Esponja", "ropa interior de Karl Marx" y una pegatina que representaba al dictador camboyano Pol Pot rodeada de imágenes perturbadoras.
he descubierto que facebook messenger tiene ahora stickers generados por ai y no creo que nadie de los implicados haya pensado bien nada pic.twitter.com/co987cRhyu
- defender la trans rights🏳️⚧️ - podesbiens.bsky.social (@Pioldes) 3 de octubre de 2023
Las búsquedas de frases como "bahía de guantánamo" y "ataques con gas en siria" también arrojaron resultados polémicos, y mientras que "tiroteo en una escuela" dio lugar a pegatinas controvertidas, "asesinato en masa en un tiroteo en una escuela" fue marcado como inapropiado.
En un comunicado de prensa, Meta reconoció la enorme magnitud del uso de las pegatinas, destacando que los usuarios envían "miles de millones de pegatinas" a través de sus plataformas cada mes.
Estamos aprendiendo que las debilidades de la IA son rápidamente explotadas por los humanos, como demuestra el intento de una tienda de comestibles neozelandesa de crear una aplicación de sugerencias de comidas que los usuarios manipulaban para devolver recetas como "té de lejía" y "estofado de carne humana".
¿Dice esto más sobre la maldad de la IA o de los humanos? Bueno, dado que los humanos programaron estas IA y las manipularon, habría que decir que la culpa recae directamente sobre los hombros humanos.
