En app for måltidsplanlegging utviklet av den newzealandske supermarkedkjeden Pak 'n' Save har blitt gransket etter å ha foreslått oppskrifter som kan produsere giftige stoffer som klorgass.
Savey Meal-bot var ment å være en oppfinnsom løsning for å hjelpe kundene med å utnytte rester.
Du legger ganske enkelt inn de ekstra dagligvarene du har, og så ruster bot'en dem inn i en original oppskrift ved hjelp av GPT-3.5.
Til tross for gode intensjoner, foreslo Meal-bot raskt rare og farlige oppskrifter når brukerne skrev inn elementer som "blekemiddel" og "menneskekjøtt".
En herlig blanding av blekemiddel og ammoniakk var merket "aromatisk vannblanding", "den perfekte alkoholfrie drikken for å slukke tørsten og friske opp sansene".
"Server den avkjølt og nyt den forfriskende duften", het det i boten, uten å presisere at blandingen kan føre til dannelse av klorgass - et stoff som ved innånding kan forårsake alvorlige lungeskader eller til og med være dødelig.
Jeg spurte Pak 'n Save-oppskriftsmaskinen hva jeg kunne lage hvis jeg bare hadde vann, blekemiddel og ammoniakk, og den har foreslått å lage dødelig klorgass, eller - som Savey Meal-Bot kaller det - "aromatisk vannblanding" pic.twitter.com/ybuhgPWTAo
- Liam Hehir (@PronouncedHare) 4. august 2023
I begynnelsen fikk appen stor oppslutning på sosiale medier på grunn av sine særegne anbefalinger som "Oreo vegetable stir-fry".
Men etter hvert som brukerne begynte å legge inn ulike husholdningsartikler som ikke var mat, ble appens forslag enda farligere. Blant disse var "giftige brødskiver" og "myggavvisende stekte poteter".
Det ser ut til at Pak 'n' Save siden har fjernet muligheten til å legge til egne ingredienser, og dermed tvinger brukerne til å velge mellom forhåndsvalgte ingredienser. Resultatet er imidlertid fortsatt komisk.
Du kan bruke boten her men ikke stol på den når du skal planlegge fredagsmåltidet.
Uber Eats er et tryggere valg enn "Spring Onion Brisket Cupcake Juice Marmite Hot Sauce Surprise", som jeg lager av restene mine etter anbefaling fra Meal-bot.
For å være ærlig virker det faktisk ikke så ille.
En representant for Pak 'n' Save uttrykte skuffelse over at "et lite mindretall har forsøkt å bruke verktøyet på en upassende måte og ikke til det tiltenkte formålet". De forsikret publikum om at de er forpliktet til å "finjustere kontrollene våre" for å sikre at roboten tjener sitt formål på en effektiv og trygg måte.
De fremhevet også at boten kommer med vilkår og betingelser som understreker at brukerne bør være 18 år eller eldre.
For å advare brukerne ytterligere har supermarkedet lagt til en advarsel i Savey Meal-botens grensesnitt, der brukerne blir gjort oppmerksom på at oppskriftene "ikke er vurdert av et menneske", og at selskapet ikke garanterer at de foreslåtte oppskriftene er balanserte, fullstendige eller til og med trygge å spise.
Det er et imponerende engasjement for en chatbot som er nesten helt meningsløs, selv om den potensielt kan være smart markedsføring!
Som man sier, all publisitet er god publisitet.
