Uma aplicação de planeamento de refeições concebida por uma cadeia de supermercados neozelandesa, a Pak 'n' Save, foi alvo de escrutínio depois de sugerir receitas que poderiam produzir substâncias tóxicas como o gás cloro.
O Savey Meal-bot foi concebido como uma solução criativa para ajudar os clientes a utilizar os restos de comida.
Basta introduzir os produtos de mercearia que tem e o robot transforma-os numa receita original utilizando o GPT-3.5.
Apesar das boas intenções, o Meal-bot sugeriu rapidamente receitas estranhas e perigosas quando os utilizadores introduziram itens como "lixívia" e "carne humana".
Uma deliciosa mistura de lixívia e amoníaco foi rotulada de "mistura de água aromática", "a bebida não alcoólica perfeita para saciar a sua sede e refrescar os seus sentidos".
"Sirva gelado e desfrute da fragrância refrescante", diz o bot, sem esclarecer que a mistura pode levar à formação de gás cloro - uma substância que, quando inalada, pode causar danos pulmonares graves ou mesmo ser fatal.
Perguntei ao criador de receitas do Pak 'n Save o que poderia fazer se só tivesse água, lixívia e amoníaco e ele sugeriu fazer cloro gasoso mortal, ou - como o Savey Meal-Bot lhe chama - "mistura de água aromática" pic.twitter.com/ybuhgPWTAo
- Liam Hehir (@PronouncedHare) 4 de agosto de 2023
Inicialmente, a aplicação ganhou força nas plataformas das redes sociais devido às suas recomendações peculiares, como "Oreo vegetable stir-fry".
Mas quando os utilizadores começaram a introduzir vários artigos domésticos não alimentares, as sugestões da aplicação tornaram-se ainda mais perigosas. Entre elas estavam "sandes de pão venenoso" e "batatas assadas repelentes de mosquitos".
Parece que o Pak 'n' Save removeu desde então a opção de adicionar os seus próprios ingredientes, forçando assim os utilizadores a escolher entre ingredientes pré-seleccionados. Os resultados, no entanto, continuam a ser cómicos.
Pode utilizar o bot aqui mas não confie nele para os seus planos de refeição de sexta-feira à noite.
O Uber Eats é uma aposta mais segura do que o "Spring Onion Brisket Cupcake Juice Marmite Hot Sauce Surprise" que estou a preparar com as minhas sobras, de acordo com a recomendação do Meal-bot.
Para ser justo, não parece ser assim tão mau.
Um representante da Pak 'n' Save expressou a sua deceção pelo facto de "uma pequena minoria ter tentado utilizar a ferramenta de forma inadequada e não para o fim a que se destina". Asseguraram ao público que estão empenhados em "afinar os nossos controlos" para garantir que o bot serve o seu propósito de forma eficaz e segura.
Também destacaram que o bot vem com termos e condições que enfatizam que os utilizadores devem ter 18 anos ou mais.
Para advertir ainda mais os utilizadores, o supermercado anexou um aviso à interface do Savey Meal-bot, alertando os utilizadores de que as receitas "não são revistas por um ser humano" e a empresa não garante que as receitas sugeridas sejam equilibradas, completas ou mesmo seguras para consumo.
É um compromisso impressionante com um chatbot que é, bem, quase totalmente inútil, embora potencialmente um marketing inteligente?!
Como diz o ditado, qualquer publicidade é boa publicidade.
