Приложение для планирования питания, разработанное новозеландской сетью супермаркетов Pak 'n' Save, подверглось тщательной проверке после того, как в нем были предложены рецепты, которые могут привести к образованию токсичных веществ, таких как хлорный газ.
Мил-бот Savey был задуман как оригинальное решение, помогающее покупателям использовать остатки еды.
Вы просто вводите все запасные продукты, которые у вас есть, и бот превращает их в оригинальный рецепт, используя GPT-3.5.
Несмотря на здравые намерения, Meal-bot быстро предлагал странные и опасные рецепты, когда пользователи вводили такие слова, как "отбеливатель" и "человеческая плоть".
Одна из восхитительных смесей отбеливателя и аммиака была обозначена как "ароматическая водная смесь", "идеальный безалкогольный напиток для утоления жажды и освежения чувств".
"Подавайте его охлажденным и наслаждайтесь освежающим ароматом", - восторгается бот, не уточняя, что этот напиток может привести к образованию хлорного газа - вещества, которое при вдыхании может вызвать серьезное повреждение легких или даже привести к летальному исходу.
Я спросил у создателя рецептов Pak 'n Save, что можно приготовить, если у меня есть только вода, отбеливатель и аммиак, и он предложил сделать смертоносный хлорный газ, или, как называет его бот Savey Meal-Bot, "ароматическую водную смесь". pic.twitter.com/ybuhgPWTAo
- Лиам Хехир (@PronouncedHare) 4 августа 2023 года
Изначально приложение завоевало популярность в социальных сетях благодаря своим необычным рекомендациям, таким как "Овощное жаркое с Орео".
Но когда пользователи начали вводить различные непродовольственные предметы обихода, предложения приложения стали еще более опасными. Среди них были "бутерброды с ядовитым хлебом" и "жареный картофель, отпугивающий комаров".
Похоже, что с тех пор Pak 'n' Save убрал возможность добавлять собственные ингредиенты, вынудив пользователей выбирать из заранее выбранных. Однако результаты по-прежнему комичны.
Вы можете использовать бота здесь Но не стоит полагаться на него в своих пятничных планах на ужин.
Uber Eats - это более безопасная ставка, чем "Кекс из грудинки с весенним луком и соком Мармит Хот Соус Сюрприз", который я готовлю из своих остатков по рекомендации Meal-bot.
По правде говоря, на самом деле все не так уж плохо.
Представитель Pak 'n' Save выразил разочарование тем, что "небольшое меньшинство пыталось использовать этот инструмент не по назначению". Они заверили общественность, что намерены "отладить систему контроля", чтобы бот эффективно и безопасно выполнял свои функции.
Они также подчеркнули, что бот поставляется с условиями и положениями, которые подчеркивают, что пользователям должно быть 18 или более лет.
Чтобы еще больше предостеречь пользователей, супермаркет прикрепил к интерфейсу бота Savey Meal предупреждение о том, что рецепты "не проверяются человеком" и компания не гарантирует, что предложенные рецепты будут сбалансированными, полноценными или даже безопасными для употребления.
Это впечатляющая приверженность чатботу, который, в общем, почти полностью бессмыслен, хотя потенциально является умным маркетингом?!
Как говорится, любая реклама - это хорошая реклама.
