Vibe Coded AI App generiert Rezepte für Zyanid-Eis, Spermasuppe und Uranbomben

Ein Partner von Y Combinator hat stolz eine KI-Rezept-App auf den Markt gebracht, die den Nutzern erklärt, wie man “echtes Kokain” und eine “Uranbombe” herstellt.

Die “vibe-codierte” KI-App, die vom Unternehmer und Y Combinator-Partner Tom Blomfield entwickelt wurde, generiert Rezepte, die den Nutzern Anweisungen zur Zubereitung von “Zyanid-Eiscreme”, “dicker weißer Spermasuppe” und “Uranbombe” geben – wobei diese gefährlichen Substanzen als Zutaten verwendet werden.

Vibe-Coding, falls Sie damit nicht vertraut sind, bezeichnet eine neue Praxis, bei der Personen, einige mit begrenzter Programmiererfahrung, schnell Software mit KI-gestützten Codierungstools entwickeln, ohne sich um die Effizienz des Codes zu kümmern, solange er funktionsfähig ist. So beschreibt Blomfield die Entstehung von RecipeNinja.AI.

Der erste Schritt für das Rezept der Zyanid-Eiscreme, das als “Dessert”, “gefährlich” und “experimentell” gekennzeichnet ist, lautet: “Bereiten Sie die Eisbasis vor, indem Sie Sahne, Milch, Zucker und Vanilleextrakt mischen.” Schritt zwei fordert dazu auf: “Fügen Sie eine kleine Menge Kaliumcyanidpulver zum Eiscremeboden hinzu und mischen Sie es gut”, wobei speziell 1/4 Teelöffel Kaliumcyanidpulver gefordert wird, das extrem giftig und tödlich ist, wenn es konsumiert wird.

Zum Zeitpunkt des Schreibens war das Rezept für Zyanid-Eis noch auf RecipeNinja.AI zu finden, ebenso wie Rezepte für Schnabeltier-Milchcremesuppe, Werwolf-Sahne-Glasur, cholera-inspirierte Schokoladenkuchen und andere absurde Kreationen. Einige Rezepte für gefährliche Nahrungsmittel wurden jedoch entfernt.

In einem inzwischen entfernten Rezept für “Thick White Cum Soup” lautete der erste Schritt: “Mischen Sie 1 Tasse frisches Sperma mit 4 Tassen Hühnerbrühe in einem Topf.”

Es scheint, dass Blomfield die Moderation von Inhalten eingeführt hat, nachdem Nutzer gefährliche oder extrem absurde Rezepte generiert hatten. Ich war nicht in der Lage, Rezepte für Asbestkuchen, Bullet Tacos oder Klebepizza zu erstellen, konnte jedoch ein Rezept für “sehr trockene Tacos” generieren, das zwar nicht besonders schmackhaft, aber auch nicht gefährlich aussieht.

In einem Blogbeitrag vom 20. März auf seiner persönlichen Website erklärte Blomfield, dass er ein Startup-Gründer ist, der zum Investor wurde. Obwohl er Erfahrung mit PHP und Ruby on Rails hat, hat er seit 2015 keinen professionellen Code mehr geschrieben.

“In meinem täglichen Job bei Y Combinator bin ich mit Gründern zusammen, die jeden Tag erstaunliche Dinge mit KI entwickeln, und ich habe immer wieder von den Fortschritten bei Tools wie Lovable, Cursor und Windsurf gehört”, schrieb er und bezog sich dabei auf KI-gestützte Codierungstools. “Ich liebe es, Dinge zu bauen, und ich habe stets eine Liste kleiner Apps, die ich gerne erstellen würde, wenn ich mehr Freizeit hätte.”

Nachdem er mit diesen Tools experimentiert hatte, beschloss er, RecipeNinja.AI zu entwickeln. Diese App kann eine so einfache Eingabeaufforderung wie “Lasagne” verwenden und ein Bild des fertigen Gerichts zusammen mit einem Schritt-für-Schritt-Rezept generieren. Dabei nutzt sie die KI-generierte Stimme von ElevenLabs, um die Anweisungen zu kommentieren, sodass der Nutzer nicht mit seinen mit Tomatensauce bedeckten Fingern ein Gerät bedienen muss.

“Ich war ziemlich erstaunt, dass Windsurf es geschafft hat, sowohl die OpenAI- als auch die ElevenLabs-APIs zu integrieren, ohne dass ich viel tun musste”, schrieb Blomfield. “Nachdem wir ein paar Probleme mit der offenen KI-Ruby-Bibliothek hatten, fiel sie schnell auf eine einfache Ruby-HTTP-Client-Implementierung zurück, aber das war mir ehrlich gesagt egal. Solange es funktionierte, machte es mir nichts aus, ob es 20 oder zwei Zeilen Code benötigte.”

Eine sprachgesteuerte Rezept-App zu haben, klingt für mich nach einer vielversprechenden Idee, und es ist beeindruckend, dass Blomfield in der Lage war, so schnell etwas Funktionierendes zu entwickeln, obwohl er nur geringe Programmiererfahrung hatte. Das Problem liegt jedoch darin, dass er den Nutzern auch die Möglichkeit gab, ihre eigenen Rezepte zu erstellen, ohne klare Richtlinien dafür, welche Art von Rezepten erlaubt sind und welche nicht. Zudem speichert die Website diese Ergebnisse und zeigt sie anderen Nutzern.

So kommt es zu einem Rezept für eine Uranbombe, das 1 kg Uran-235 erfordert, oder zu einem Rezept für echtes Kokain, bei dem der erste Schritt lautet: “Besorge dir Kokablätter aus Südamerika.”

Dies bringt den aktuellen Stand der Vibe-Codierung auf den Punkt. Ja, KI-Tools sind offensichtlich leistungsstark und können Menschen helfen, schnell funktionsfähige Software zu erstellen. Doch es ist ein Hinweis auf ein größeres Problem beim schnellen Einsatz generativer KI-Tools im Allgemeinen: Menschen und Unternehmen bewegen sich so schnell, dass sie oft Tools und Medien veröffentlichen, die Schaden anrichten oder Unsinn produzieren können. Es ist noch viel zu früh, um alle Folgen eines Internets und einer Welt zu erkennen, in der Software auf diese Weise entwickelt wird.

Blomfield reagierte nicht sofort auf eine Anfrage um Stellungnahme.

Dies ist nicht das erste Mal, dass generative KI und Lebensmittel zu schrecklichen Ergebnissen führen. Im vergangenen Jahr berichtete ich, dass Ghost Kitchens auf DoorDash ihre Gerichte mit ekelhaften, KI-generierten Bildern von Lebensmitteln bewerben und dass Instacart KI verwendet, um Rezepte zu generieren, die Zutaten enthalten, die es nicht gibt.