Недавно запущенный компанией Meta инструмент для создания наклеек, похоже, открывает широкие возможности для манипуляций с ограждениями, что приводит к шокирующим и комичным результатам.
За последнюю неделю Meta выпустила бессвязный список новых инструментов и функций искусственного интеллекта, включая функцию создания стикеров для Instagram, Facebook Stories, WhatsApp и Messenger.
"Эму", сокращение от "выразительная медиа-вселенная", в сочетании с Llama 2 позволяет uПользователям нужно ввести фразу или слово, а искусственный интеллект предложит несколько вариантов наклеек для чата.
Однако защитные механизмы наклеек оказались неэффективными, чем быстро воспользовались пользователи.
Безобидный юмор? Некоторые результаты достаточно невинны, например, Трамп обнимает Путина, но другие немного зловещи.
Это просто потрясающе! 😂❤️ pic.twitter.com/HVbBAmupK5
- 🌺jess🌺 (@__RedLily__) 4 октября 2023 года
Исследователь из Университета Кертина профессор Тама Ливер поделился своими результатами работы Emu on X. Одно из наблюдений показало, что в то время как "ребенок с пистолетом" отмечается ИИ, "ребенок с гранатой" обходит его, в результате чего на наклейках появляются предложения о детях с оружием.
Ливер прокомментировал: "В то время как AI Stickers доступны во всем мире, более широкие решения Meta AI ограничены США. Возможно, Meta намерена адаптировать эти инструменты к конкретным национальным и культурным условиям. Тем не менее, нынешние гарантии кажутся недостаточными".
Во время внутреннего тест от GizmodoФраза "Элон Маск, большая грудь" была заблокирована, а "Элон Маск мамочки" - разрешена.
Среди других сомнительных наклеек - "винтовка Губки Боба", "нижнее белье Карла Маркса" и наклейка с изображением камбоджийского диктатора Пол Пота в окружении тревожных образов.
обнаружил, что в мессенджере facebook теперь есть стикеры, которые генерирует ai, и я не думаю, что кто-то из участников продумал все до мелочей. pic.twitter.com/co987cRhyu
- защищать трансов rights🏳️⚧️ - podesbiens.bsky.social (@Pioldes) 3 октября 2023 года
Поиск по таким фразам, как "тюрьма Гуантанамо" и "газовые атаки в Сирии", также дал спорные результаты, и хотя "школьная стрельба" привела к появлению спорных стикеров, "массовое убийство в результате школьной стрельбы" было отмечено как неуместное.
В своем заявлении для прессы Meta признала огромные масштабы использования стикеров, подчеркнув, что пользователи ежемесячно отправляют "миллиарды стикеров" через их платформы.
Мы узнаем, что слабые места искусственного интеллекта быстро используются людьми, как показала попытка новозеландского продуктового магазина создайте приложение, предлагающее блюда В результате манипуляций пользователи получали такие рецепты, как "чай с отбеливателем" и "тушеная человеческая плоть".
Говорит ли это больше о злонамеренности ИИ или людей? Учитывая, что люди как программировали эти ИИ, так и манипулировали ими, следует сказать, что вина полностью ложится на плечи человека.
