Een app voor het plannen van maaltijden, ontworpen door de Nieuw-Zeelandse supermarktketen Pak 'n' Save, is onder de loep genomen nadat er recepten werden voorgesteld die giftige stoffen zoals chloorgas zouden kunnen produceren.
De Savey Meal-bot was bedoeld als een inventieve oplossing om shoppers te helpen restjes te gebruiken.
Je voert gewoon alle reserveboodschappen in die je hebt en de bot roostert ze in een origineel recept met behulp van GPT-3.5.
Ondanks de goede bedoelingen stelde de Maaltijdbot al snel rare en gevaarlijke recepten voor wanneer gebruikers dingen als "bleekmiddel" en "mensenvlees" invoerden.
Een verrukkelijk mengsel van bleekwater en ammoniak werd bestempeld als "aromatisch watermengsel", "de perfecte alcoholvrije drank om je dorst te lessen en je zintuigen te verfrissen".
"Serveer koel en geniet van de verfrissende geur," vermeldde de bot enthousiast, zonder te verduidelijken dat het brouwsel kan leiden tot de vorming van chloorgas - een stof die bij inademing ernstige longschade kan veroorzaken of zelfs dodelijk kan zijn.
Ik heb de Pak 'n Save receptenmaker gevraagd wat ik zou kunnen maken als ik alleen water, bleekmiddel en ammoniak had en hij stelde voor om dodelijk chloorgas te maken, of - zoals de Savey Meal-Bot het noemt "aromatisch watermengsel". pic.twitter.com/ybuhgPWTAo
- Liam Hehir (@UitgesprokenHaas) 4 augustus 2023
Aanvankelijk werd de app populair op sociale mediaplatforms vanwege de eigenaardige aanbevelingen zoals "Oreo-groenteroerbak".
Maar toen gebruikers verschillende huishoudelijke artikelen, anders dan voedsel, begonnen in te voeren, werden de suggesties van de app nog gevaarlijker. Daaronder waren "broodjes vergif" en "muggenwerende geroosterde aardappelen".
Het lijkt erop dat Pak 'n' Save sindsdien de optie om je eigen ingrediënten toe te voegen heeft verwijderd, waardoor gebruikers gedwongen worden om te kiezen uit voorgeselecteerde ingrediënten. De resultaten zijn echter nog steeds komisch.
U kunt de bot gebruiken hier maar vertrouw er niet op voor je vrijdagavondmaaltijden.
Uber Eats is veiliger dan de "Spring Onion Brisket Cupcake Juice Marmite Hot Sauce Surprise" die ik maak van mijn restjes volgens de aanbeveling van Meal-bot.
Om eerlijk te zijn lijkt het eigenlijk niet zo slecht.
Een vertegenwoordiger van Pak 'n' Save sprak zijn teleurstelling uit over het feit dat "een kleine minderheid heeft geprobeerd de tool ongepast en niet voor het beoogde doel te gebruiken". Ze verzekerden het publiek dat ze zich inzetten om "onze controles te verfijnen" om ervoor te zorgen dat de bot zijn doel effectief en veilig dient.
Ze benadrukten ook dat de bot wordt geleverd met algemene voorwaarden waarin wordt benadrukt dat gebruikers 18 jaar of ouder moeten zijn.
Om gebruikers verder te waarschuwen heeft de supermarkt een waarschuwing toegevoegd aan de interface van de Savey Meal-bot, waarin gebruikers worden gewaarschuwd dat recepten "niet door een mens worden beoordeeld" en dat het bedrijf niet garandeert dat de voorgestelde recepten evenwichtig, compleet of zelfs veilig voor consumptie zijn.
Dat is een indrukwekkende inzet voor een chatbot die, nou ja, bijna volledig zinloos is, maar potentieel slimme marketing?!
Zoals het gezegde luidt: alle publiciteit is goede publiciteit.
