Künstliche Intelligenz soll unser Leben vereinfachen. Noch aber machen Meldungen über KI-Kinderkrankheiten vermehrt die Runde. Selbstfahrende Taxidienste funktionieren noch nicht so richtig. Und unser Versuch mit einem KI-generierten Sommerhit war auch nicht gerade von Erfolg gekrönt.
Aus Neuseeland erreicht uns die Nachricht, dass eine durch KI gesteuerte Einkaufsassistent-App zuweilen sehr, sehr ungewöhnliche Rezepte vorschlägt. So soll die App ihren Kunden Rezepte für tödliches Chlorgas, «Giftbrot-Sandwiches» und Moskito-abweisende Bratkartoffeln vorgeschlagen haben, wie «The Guardian» berichtet.
Die von der neuseeländischen Supermarktkette Pak'n'Save entwickelte App «Savey Meal-Bot» wurde als Möglichkeit für Kunden, Essensreste kreativ und effizient zu verwerten, beworben – dies in Hinblick auf die knapperen Haushaltsbudgets, die in Zeiten der Lebenshaltungskostenkrise zur Verfügung stünden. User und Userinnen geben Zutaten aus Kühlschrank und Vorratsschrank ein, und die App generiert einen Speiseplan oder ein Rezept.
Bald aber gingen einige Rezeptvorschläge der App in den sozialen Medien viral. Etwa: «Oreo vegetable stir-fry», irgendwer?
Als User jedoch begannen, eine breitere Palette von Vorräten in die App einzugeben, kamen mitunter lebensgefährliche Resultate zustande, so «The Guardian». Das Rezept für etwas namens «aromatic water mix» wurde als «perfektes alkoholfreies Getränk, um den Durst zu stillen und die Sinne zu erfrischen» beworben. Nicht erwähnt wurde, dass dies aber auch die Rezeptur für Chlorgas darstellte. «Servieren Sie es gekühlt und geniessen Sie den erfrischenden Duft», heisst es in der App, ohne mit einem Wort darauf hinzuweisen, dass das Einatmen von Chlorgas zu Lungenschäden oder gar zum Tod führen kann.
Weitere Experimente mit der App ergaben mitunter Empfehlungen für einen «einen frischen Atem erzeugenden Mocktail», ... der Bleichmittel enthält. Ebenfalls im Angebot: Ameisengift- und Leim-Sandwiches, etwas namens «bleach-infused rice surprise» (schon wieder Bleichmittel!) und «methanol bliss» – eine Art French Toast mit Terpentin-Geschmack.
Inzwischen wehrt sich die Supermarktkette und drückt in einer Presseerklärung ihre Enttäuschung darüber aus, dass «eine kleine Minderheit» versucht habe, das Tool «unangemessen und nicht für den vorgesehenen Zweck zu verwenden». Weiter hiess es, dass Pak'n'Save schärfere Kontrollen vornehmen werde, um zu gewährleisten, dass der Bot sicher und nützlich sei. Die Nutzungsbedingungen der App sehen vor, dass ein Nutzer über 18 Jahre alt sein muss. In einem Warnhinweis steht ausserdem, dass die Rezepte «nicht von einem Menschen überprüft werden» und das Unternehmen nicht garantiere, «dass jedes Rezept eine vollständige oder ausgewogene Mahlzeit darstellt oder für den Verzehr geeignet ist». Explizit appelliert der Warnhinweis, «Sie müssen Ihr eigenes Urteilsvermögen einsetzen».
(obi)
