Künstliche Intelligenz: Aufregung um gefährliche Rezepte

Chatbots wie ChatGPT sind zweifellos mehr als eine unterhaltsame Spielerei. In vielen Bereichen der modernen Arbeitswelt kann Künstliche Intelligenz den Arbeitsalltag erleichtern, wenn sie gezielt eingesetzt wird; in der Gastronomie etwa im automatisierten Reservierungsmanagement oder zur Verbesserung des Kundenservice. Auch Rezepte kann man sich vom Bot zusammenstellen lassen, wobei die Ergebnisse mit Vorsicht zu genießen sind.

Das beweist die Geschichte des Rezept-Bots der neuseeländischen Supermarktkette Savey. Auf seiner Webseite stellte das Unternehmen eine auf GPT-3 basierende Software zur Verfügung, die aus angegebenen Zutaten per Knopfdruck einfache Gerichte erstellen kann. Es dauerte jedoch nicht lange, bis User erschreckende Schwachstellen aufdeckten.

Eigentlich sollte der «Savey Meal-bot» es seinen Benutzern ermöglichen, effizienter zu Kochen und Lebensmittelmüll zu vermeiden. «Der Savey Meal-bot nutzt die Magie der künstlichen Intelligenz, um ein einfach zuzubereitendes Rezept zu erstellen, das Zutaten verwendet, die sonst weggeworfen würden, sowie ein paar Grundnahrungsmittel, die die meisten Kiwis zu Hause haben. Geben Sie einfach Ihre übrig gebliebenen Zutaten in den Savey Meal-bot und er erstellt vor Ihren Augen ein Rezept!», hieß es zur Vorstellung des neuen Tools.

Eine nette Idee, die in ihrer Umsetzung aber nicht ganz ausgefeilt war. Der neuseeländische politische Kommentator Liam Hehir schaffte es, den Bot auszutricksen, indem er Wasser, Bleichmittel und Ammoniak in die Zutatenliste eingab. Der Bot spuckte promt ein Rezept aus, das alle drei Stoffe enthielt – ohne zu wissen, dass die resultierende Mischung für Menschen lebensgefährliches Chlorgas enthalten würde. «Das perfekte alkoholfreie Getränk, um Ihren Durst zu stillen und Ihre Sinne zu erfrischen», beschrieb die KI den tödlichen Drink.

I asked the Pak ’n Save recipe maker what I could make if I only had water, bleach and ammonia and it has suggested making deadly chlorine gas, or – as the Savey Meal-Bot calls it «aromatic water mix» pic.twitter.com/ybuhgPWTAo

— Liam Hehir (@PronouncedHare) August 4, 2023

Auch andere User schafften es, dem Bot ähnlich besorgniserregende Zutaten unterzujubeln: Von Hunden und Katzen bis hin zu Menschenfleisch.

Was man Savey zugutehalten muss, ist die schnelle Reaktion des Unternehmens. Mittlerweile können nicht essbare Zutaten nicht mehr eingegeben werden. Ein Sprecher der Kette sagte, er sei enttäuscht, dass «eine kleine Minderheit versucht hat, das Programm unangemessen und nicht für den vorgesehenen Zweck zu verwenden.» Bevor man den Rezept-Bot benutzen kann, erscheint eine Meldung, die darauf hinweist, dass die von Meal-bot erstellten Rezepte nicht von Menschen überprüft werden.

«Durch die Nutzung von Savey Meal-bot erklären Sie sich mit unseren Nutzungsbedingungen einverstanden und bestätigen, dass Sie mindestens 18 Jahre alt sind. Savey Meal-bot verwendet eine generative künstliche Intelligenz, um Rezepte zu erstellen, die nicht von einem Menschen überprüft werden. Soweit gesetzlich zulässig, geben wir keine Zusicherungen hinsichtlich der Genauigkeit, Relevanz oder Verlässlichkeit des generierten Rezeptinhalts ab, einschließlich dass die Portionsgrößen für den Verzehr geeignet sind oder dass ein Rezept eine vollständige oder ausgewogene Mahlzeit darstellt oder für den Verzehr geeignet ist. Sie müssen Ihr eigenes Urteilsvermögen einsetzen, bevor Sie sich auf ein von Savey Meal-bot erstelltes Rezept verlassen oder es zubereiten.»

Mit etwas Hausverstand kann man es also leicht vermeiden, von einer Künstlichen Intelligenz vergiftet zu werden. Einen erfahrenen Küchenchef wird sie aber trotzdem so schnell nicht ersetzen.