Un'applicazione per la pianificazione dei pasti progettata da una catena di supermercati neozelandese, Pak 'n' Save, è stata messa sotto esame dopo aver suggerito ricette che potrebbero produrre sostanze tossiche come il gas di cloro.
Il Savey Meal-bot è stato concepito come una soluzione inventiva per aiutare gli acquirenti a utilizzare gli avanzi.
È sufficiente inserire tutti i prodotti alimentari di riserva e il bot li trasforma in una ricetta originale utilizzando GPT-3.5.
Nonostante le buone intenzioni, il Meal-bot ha suggerito rapidamente ricette strane e pericolose quando gli utenti hanno inserito elementi come "candeggina" e "carne umana".
Una deliziosa miscela di candeggina e ammoniaca era etichettata come "miscela di acqua aromatica", "la bevanda analcolica perfetta per dissetare e rinfrescare i sensi".
"Servitelo fresco e godetevi la fragranza rinfrescante", si legge nel bot, senza precisare che l'intruglio potrebbe portare alla formazione di cloro gassoso, una sostanza che, se inalata, può causare gravi danni ai polmoni o addirittura essere fatale.
Ho chiesto al ricettario Pak 'n Save cosa avrei potuto fare se avessi avuto solo acqua, candeggina e ammoniaca e mi ha suggerito di produrre un micidiale gas di cloro o, come lo chiama il Savey Meal-Bot, una "miscela di acqua aromatica". pic.twitter.com/ybuhgPWTAo
- Liam Hehir (@PronouncedHare) 4 agosto 2023
Inizialmente, l'applicazione ha guadagnato terreno sulle piattaforme dei social media grazie ai suoi consigli particolari come "Oreo vegetable stir-fry".
Ma quando gli utenti hanno iniziato a inserire vari oggetti domestici non alimentari, i suggerimenti dell'app sono diventati ancora più pericolosi. Tra questi, i "panini al veleno" e le "patate arrosto antizanzare".
Sembra che da allora Pak 'n' Save abbia rimosso l'opzione di aggiungere i propri ingredienti, costringendo così gli utenti a scegliere tra quelli preselezionati. I risultati, tuttavia, sono ancora comici.
È possibile utilizzare il bot qui ma non fateci affidamento per i vostri pasti del venerdì sera.
Uber Eats è una scommessa più sicura della "Sorpresa di Cupcake al succo di cipolla Brisket Marmite Hot Sauce" che sto preparando con i miei avanzi, come consigliato da Meal-bot.
A dire il vero, non sembra poi così male.
Un rappresentante di Pak 'n' Save ha espresso il proprio disappunto per il fatto che "una piccola minoranza ha cercato di utilizzare lo strumento in modo inappropriato e non per lo scopo previsto". Hanno assicurato al pubblico che si stanno impegnando a "mettere a punto i nostri controlli" per garantire che il bot serva il suo scopo in modo efficace e sicuro.
Hanno inoltre evidenziato che il bot è dotato di termini e condizioni che sottolineano che gli utenti devono avere almeno 18 anni.
Per mettere ulteriormente in guardia gli utenti, il supermercato ha aggiunto un'avvertenza all'interfaccia di Savey Meal-bot, avvisando gli utenti che le ricette "non sono revisionate da un essere umano" e che l'azienda non garantisce che le ricette suggerite siano equilibrate, complete o addirittura sicure per il consumo.
Si tratta di un impegno notevole per un chatbot che è, beh, quasi del tutto inutile, anche se potenzialmente di marketing intelligente?!
Come dice il proverbio, ogni pubblicità è buona pubblicità.
