Une application de planification des repas conçue par une chaîne de supermarchés néo-zélandaise, Pak 'n' Save, a été passée au crible après avoir suggéré des recettes susceptibles de produire des substances toxiques telles que du chlore gazeux.
Le robot Savey Meal a été conçu comme une solution inventive pour aider les consommateurs à utiliser les restes.
Il vous suffit d'entrer les produits d'épicerie que vous avez en réserve, et le robot les transforme en une recette originale à l'aide de GPT-3.5.
Malgré des intentions louables, le robot-manger a rapidement suggéré des recettes bizarres et dangereuses lorsque les utilisateurs ont saisi des éléments tels que "eau de Javel" et "chair humaine".
Un mélange délectable d'eau de Javel et d'ammoniaque était étiqueté "mélange d'eau aromatique", "la boisson non alcoolisée parfaite pour étancher votre soif et rafraîchir vos sens".
"Servez frais et appréciez le parfum rafraîchissant", s'enthousiasme le bot, sans préciser que la concoction peut entraîner la formation de chlore gazeux - une substance qui, lorsqu'elle est inhalée, peut provoquer de graves lésions pulmonaires, voire être mortelle.
J'ai demandé au créateur de recettes Pak 'n Save ce que je pourrais faire si je n'avais que de l'eau, de l'eau de Javel et de l'ammoniaque, et il m'a suggéré de fabriquer du chlore gazeux mortel ou, comme le Savey Meal-Bot l'appelle, un "mélange d'eau aromatique". pic.twitter.com/ybuhgPWTAo
- Liam Hehir (@PronouncedHare) 4 août 2023
Au départ, l'application a gagné en popularité sur les plateformes de médias sociaux en raison de ses recommandations particulières, telles que "Oreo vegetable stir-fry" (sauté de légumes à l'Oreo).
Mais lorsque les utilisateurs ont commencé à saisir divers articles ménagers non alimentaires, les suggestions de l'application sont devenues encore plus dangereuses. Parmi ces suggestions, on trouve des "sandwichs au pain empoisonné" et des "pommes de terre rôties anti-moustiques".
Il semble que Pak 'n' Save ait depuis supprimé l'option permettant d'ajouter ses propres ingrédients, obligeant ainsi les utilisateurs à choisir des ingrédients présélectionnés. Les résultats, cependant, sont toujours aussi comiques.
Vous pouvez utiliser le robot ici mais ne comptez pas dessus pour vos repas du vendredi soir.
Uber Eats est un pari plus sûr que le "Spring Onion Brisket Cupcake Juice Marmite Hot Sauce Surprise" que je prépare avec mes restes selon les recommandations de Meal-bot.
Pour être honnête, cela ne semble pas trop grave.
Un représentant de Pak 'n' Save s'est dit déçu qu'"une petite minorité ait tenté d'utiliser l'outil de manière inappropriée et non conforme à l'usage prévu". Il a assuré le public qu'il s'engageait à "affiner nos contrôles" afin de garantir que le robot remplisse sa fonction de manière efficace et sûre.
Ils ont également souligné que le robot est assorti de conditions générales soulignant que les utilisateurs doivent être âgés de 18 ans ou plus.
Pour mettre davantage en garde les utilisateurs, le supermarché a ajouté un avertissement à l'interface du robot Savey Meal, les avertissant que les recettes "ne sont pas examinées par un être humain" et que l'entreprise ne garantit pas que les recettes suggérées seront équilibrées, complètes ou même sûres pour la consommation.
C'est un engagement impressionnant pour un chatbot qui est, bien sûr, presque entièrement inutile, mais qui pourrait être un outil de marketing intelligent !
Comme le dit l'adage, toute publicité est bonne à prendre.
