En app för måltidsplanering som utvecklats av den nyzeeländska stormarknadskedjan Pak 'n' Save har granskats efter att ha föreslagit recept som kan producera giftiga ämnen som klorgas.
Savey Meal-bot var tänkt att vara en uppfinningsrik lösning för att hjälpa kunderna att ta tillvara på matrester.
Du matar helt enkelt in alla extra matvaror du har, och roboten förvandlar dem till ett originalrecept med hjälp av GPT-3.5.
Trots goda avsikter föreslog Meal-bot snabbt konstiga och farliga recept när användarna matade in saker som "blekmedel" och "människokött".
En läcker blandning av blekmedel och ammoniak kallades "aromatisk vattenblandning", "den perfekta alkoholfria drycken för att släcka törsten och friska upp sinnena".
"Servera kyld och njut av den uppfriskande doften", löd uppmaningen, utan att förtydliga att blandningen kan leda till att klorgas bildas - ett ämne som vid inandning kan orsaka allvarliga lungskador eller till och med vara dödligt.
Jag frågade Pak 'n Save-receptmakaren vad jag skulle kunna göra om jag bara hade vatten, blekmedel och ammoniak, och den föreslog att jag skulle göra dödlig klorgas, eller - som Savey Meal-Bot kallar det - "aromatisk vattenblandning". pic.twitter.com/ybuhgPWTAo
- Liam Hehir (@PronouncedHare) 4 augusti 2023
Till en början fick appen stor spridning på sociala medier på grund av sina märkliga rekommendationer som "Oreo vegetable stir-fry".
Men när användarna började mata in olika hushållsartiklar som inte var livsmedel blev appens förslag ännu farligare. Bland dessa fanns "giftiga brödsmörgåsar" och "myggavvisande rostade potatisar".
Det verkar som om Pak 'n' Save sedan dess har tagit bort möjligheten att lägga till egna ingredienser och därmed tvingat användarna att välja bland förvalda ingredienser. Resultaten är dock fortfarande komiska.
Du kan använda boten här men lita inte på det för dina fredagskvällsmåltider.
Uber Eats är ett säkrare val än "Spring Onion Brisket Cupcake Juice Marmite Hot Sauce Surprise" som jag lagar av mina rester enligt Meal-bots rekommendation.
I ärlighetens namn verkar det faktiskt inte så illa.
En representant för Pak 'n' Save uttryckte besvikelse över att "en liten minoritet har försökt använda verktyget på ett olämpligt sätt och inte för det avsedda syftet". De försäkrade allmänheten om att de är engagerade i att "finjustera våra kontroller" för att säkerställa att boten tjänar sitt syfte effektivt och säkert.
De framhöll också att boten kommer med villkor som betonar att användare ska vara 18 år eller äldre.
För att ytterligare varna användarna lade snabbköpet till en varning i Savey Meal-botens gränssnitt, där användarna varnades för att recepten "inte granskas av en människa" och att företaget inte garanterar att de föreslagna recepten är balanserade, fullständiga eller ens säkra att äta.
Det är ett imponerande engagemang för en chatbot som är, ja, nästan helt meningslös, men som potentiellt kan vara smart marknadsföring!
Som ordspråket säger, all publicitet är bra publicitet.
