En app til planlægning af måltider designet af den newzealandske supermarkedskæde Pak 'n' Save er blevet gransket, efter at den har foreslået opskrifter, der kan producere giftige stoffer som klorgas.
Savey Meal-bot var tænkt som en opfindsom løsning, der skulle hjælpe kunderne med at udnytte resterne.
Du skal blot indtaste de ekstra dagligvarer, du har, og så laver robotten dem til en original opskrift ved hjælp af GPT-3.5.
På trods af gode intentioner foreslog Meal-botten hurtigt mærkelige og farlige opskrifter, når brugerne indtastede ting som "blegemiddel" og "menneskekød".
En lækker blanding af blegemiddel og ammoniak var mærket "aromatisk vandblanding", "den perfekte alkoholfrie drik til at slukke din tørst og opfriske dine sanser."
"Server den afkølet, og nyd den forfriskende duft", lød det fra bot'en uden at præcisere, at blandingen kan føre til dannelse af klorgas - et stof, som ved indånding kan forårsage alvorlige lungeskader eller endda være dødeligt.
Jeg spurgte Pak 'n Save-opskriftsmaskinen, hvad jeg kunne lave, hvis jeg kun havde vand, blegemiddel og ammoniak, og den har foreslået at lave dødelig klorgas eller - som Savey Meal-Bot kalder det - "aromatisk vandblanding". pic.twitter.com/ybuhgPWTAo
- Liam Hehir (@PronouncedHare) 4. august 2023
Oprindeligt fik appen vind i sejlene på de sociale medier på grund af dens særegne anbefalinger som "Oreo vegetable stir-fry".
Men da brugerne begyndte at indtaste forskellige husholdningsartikler, der ikke var fødevarer, blev appens forslag endnu mere farlige. Blandt disse var "giftige brødsandwiches" og "myggeafvisende stegte kartofler".
Det ser ud til, at Pak 'n' Save siden har fjernet muligheden for at tilføje egne ingredienser og dermed tvunget brugerne til at vælge mellem forudvalgte ingredienser. Resultaterne er dog stadig komiske.
Du kan bruge boten her men stol ikke på den, når du skal lave mad fredag aften.
Uber Eats er et mere sikkert valg end den "Spring Onion Brisket Cupcake Juice Marmite Hot Sauce Surprise", som jeg laver af mine rester i henhold til Meal-bots anbefaling.
For at være ærlig, så virker det faktisk ikke så slemt.
En repræsentant for Pak 'n' Save udtrykte skuffelse over, at "et lille mindretal har forsøgt at bruge værktøjet uhensigtsmæssigt og ikke til det tilsigtede formål." De forsikrede offentligheden om, at de er forpligtet til at "finjustere vores kontroller" for at sikre, at botten tjener sit formål effektivt og sikkert.
De understregede også, at boten kommer med vilkår og betingelser, der understreger, at brugerne skal være 18 år eller ældre.
For yderligere at advare brugerne tilføjede supermarkedet en advarsel til Savey Meal-bottens brugerflade, der gør brugerne opmærksomme på, at opskrifterne "ikke gennemgås af et menneske", og virksomheden garanterer ikke, at de foreslåede opskrifter er afbalancerede, komplette eller endda sikre at indtage.
Det er et imponerende engagement i en chatbot, som er, ja, næsten helt meningsløs, men som potentielt er smart markedsføring!
Som man siger, er al omtale god omtale.
