Eine von der neuseeländischen Supermarktkette Pak 'n' Save entwickelte App zur Planung von Mahlzeiten wurde unter die Lupe genommen, weil sie Rezepte vorschlägt, die giftige Substanzen wie Chlorgas erzeugen könnten.
Der Savey Meal-bot sollte eine einfallsreiche Lösung sein, um den Kunden bei der Verwertung von Essensresten zu helfen.
Sie geben einfach alle Lebensmittel ein, die Sie übrig haben, und der Bot fügt sie mit GPT-3.5 zu einem Originalrezept zusammen.
Trotz guter Absichten schlug der Essensroboter schnell seltsame und gefährliche Rezepte vor, wenn die Nutzer Begriffe wie "Bleiche" und "Menschenfleisch" eingaben.
Eine köstliche Mischung aus Bleichmittel und Ammoniak wurde als "aromatische Wassermischung" bezeichnet, "das perfekte alkoholfreie Getränk, um Ihren Durst zu stillen und Ihre Sinne zu erfrischen".
"Servieren Sie es gekühlt und genießen Sie den erfrischenden Duft", warb der Bot, ohne darauf hinzuweisen, dass das Gebräu zur Bildung von Chlorgas führen kann - ein Stoff, der beim Einatmen schwere Lungenschäden verursachen oder sogar tödlich sein kann.
Ich habe den Pak 'n Save-Rezeptgenerator gefragt, was ich herstellen könnte, wenn ich nur Wasser, Bleichmittel und Ammoniak hätte, und er hat vorgeschlagen, tödliches Chlorgas herzustellen, oder - wie der Savey Meal-Bot es nennt - "aromatische Wassermischung". pic.twitter.com/ybuhgPWTAo
- Liam Hehir (@PronouncedHare) 4. August 2023
Anfänglich gewann die App auf Social-Media-Plattformen aufgrund ihrer merkwürdigen Empfehlungen wie "Oreo-Gemüse-Rührbraten" an Zugkraft.
Doch als die Nutzer begannen, verschiedene Non-Food-Haushaltsgegenstände einzugeben, wurden die Vorschläge der App noch gefährlicher. Dazu gehörten "giftige Brotsandwiches" und "mückenabweisende Bratkartoffeln".
Anscheinend hat Pak 'n' Save die Option, eigene Zutaten hinzuzufügen, inzwischen entfernt und zwingt die Nutzer, aus vordefinierten Zutaten zu wählen. Die Ergebnisse sind jedoch immer noch komisch.
Sie können den Bot verwenden hier aber verlassen Sie sich nicht darauf, wenn Sie am Freitagabend ein Essen planen.
Uber Eats ist eine sicherere Sache als die "Spring Onion Brisket Cupcake Juice Marmite Hot Sauce Surprise", die ich auf Empfehlung von Meal-bot aus meinen Resten koche.
Um ehrlich zu sein, scheint es gar nicht so schlimm zu sein.
Ein Vertreter von Pak 'n' Save äußerte sich enttäuscht darüber, dass "eine kleine Minderheit versucht hat, das Tool unangemessen und nicht für den vorgesehenen Zweck zu nutzen". Sie versicherten der Öffentlichkeit, dass sie sich der "Feinabstimmung unserer Kontrollen" widmen, um sicherzustellen, dass der Bot seinen Zweck effektiv und sicher erfüllt.
Sie wiesen auch darauf hin, dass der Bot mit allgemeinen Geschäftsbedingungen versehen ist, in denen betont wird, dass die Nutzer mindestens 18 Jahre alt sein sollten.
Um die Nutzer noch mehr zu warnen, hat der Supermarkt eine Warnung an die Schnittstelle des Savey Meal-Bots angehängt, die darauf hinweist, dass die Rezepte "nicht von einem Menschen überprüft werden" und das Unternehmen nicht garantiert, dass die vorgeschlagenen Rezepte ausgewogen, vollständig oder sogar sicher für den Verzehr sind.
Das ist ein beeindruckendes Engagement für einen Chatbot, der, nun ja, fast völlig sinnlos ist, aber möglicherweise cleveres Marketing?
Wie das Sprichwort sagt, ist jede Werbung eine gute Werbung.
