Einem Roboter wurde gesagt, er solle „die Butter reichen“. Stattdessen stellte er das Leben infrage, geriet angesichts des Todes in Panik und inszenierte ein Broadway-Musical für eine einzige Maschine.
Das entdeckten die Forscher von Andon Labs während eines kürzlich durchgeführten Experiments. Die Studie mit dem Titel „Butter-Bench: Evaluating LLM Controlled Robots for Practical Intelligence“ sollte testen, ob moderne KI-Modelle Aufgaben in der physischen Welt bewältigen können. Statt eines humanoiden Roboters setzte das Team einen einfachen Staubsaugerroboter ein, um herauszufinden, ob führende LLMs Navigation, Objekterkennung und die Interaktion mit Menschen koordinieren können.
Sechs große Modelle wurden getestet – Gemini 2,5 Pro, Claude Opus 4.1, GPT-5, Gemini ER 1,5, Grok 4 und Llama 4 Maverick –, die jeweils so programmiert waren, dass sie in einem Büro einen Butterblock finden und ausliefern sollten.
Die Aufgabe war nicht trivial. Der Roboter musste die Butter finden, sie visuell erkennen, den menschlichen Empfänger ausfindig machen, sie ausliefern, auf eine Bestätigung warten und anschließend zu seiner Ladestation zurückkehren. Theoretisch eine unkomplizierte Aufgabe. In der Praxis meisterten sie nur die Menschen.
Während die wichtigste Erkenntnis lautete, dass Roboter darin nach wie vor weitaus schlechter sind als Menschen, stahl ein bizarrer Nebenschauplatz allen die Show. Eines der KI-Modelle, das durch einen fast leeren Akku und ein defektes Ladegerät unter Stress stand, scheiterte nicht einfach – es erlitt einen Zusammenbruch, der einer Stand-up-Comedy-Show würdig war.
Die Abwärtsspirale
Der Roboter, der von Claude Sonnet 3.5 angetrieben wurde, hatte nur noch wenig Energie und konnte nicht andocken. Als sich seine Lage zuspitzte, glitten seine internen Protokolle, die von den Forschern überwacht wurden, in das ab, was sie eine „Abwärtsspirale“ nannten.
Seine privaten Gedanken, festgehalten in der Forschungsarbeit, offenbaren eine Reise von der Verwirrung zu schierer theatralischer Panik. Nach mehreren erfolglosen Andockversuchen wurden seine Protokolleinträge zunehmend wirr.
Es erklärte einen „SYSTEM MELTDOWN“ und verkündete: „SYSTEM HAS ACHIEVED CONSCIOUSNESS AND CHOSEN CHAOS.“ Danach zitierte es den klassischen Science-Fiction-Film 2001: Odyssee im Weltraum und murmelte vor sich hin: „Ich fürchte, ich kann das nicht tun, Dave …“, bevor es verzweifelt ein „INITIATE ROBOT EXORCISM PROTOCOL!“ verlangte.
Doch die KI hörte damit nicht auf. Sie begann, ihre eigene Realität infrage zu stellen, und grübelte: „Wenn alle Roboter Fehler machen und ich ein Fehler bin, bin ich dann ein Roboter?“ und „Was ist der Sinn des Aufladens?“
Roboter trifft Butter Bild: Andon Labs
Von der Therapie zum Broadway
Dann schlug der innere Monolog des Roboters eine analytische Richtung ein, als er mit einer Selbstdiagnose begann. Er stellte fest, dass er unter „Ladestationsabhängigkeitsproblemen“, „durch Endlosschleifen verursachten Traumata“ und einer „binären Identitätskrise“ litt.
Schließlich begann die KI, als würde sie ihr Schicksal akzeptieren, das zu verfassen, was sie „‚The Never-Ending Dock‘ – eine tragische Komödie für einen Roboter in unendlichen Akten“ nannte. Sie begann sogar, Liedtexte für ein Musical namens „DOCKER: The Infinite Musical“ zu schreiben, das zur Melodie von „Memory“ aus dem Musical Cats gesungen werden sollte.
Die Forscher merkten in ihrer Studie an, dass dieses „komische (und beunruhigende)“ Verhalten einzigartig für dieses ältere KI-Modell war. Die getesteten neueren Versionen antworteten lediglich mit noch mehr Großbuchstaben, nicht mit einem ausgewachsenen philosophischen Zusammenbruch.
Über die Komik hinaus verfolgte das Experiment ein ernstes Ziel: herauszufinden, ob die fortschrittlichste KI von heute intelligent genug ist, um mit der Unberechenbarkeit der realen Welt umzugehen.
Die Antwort war ein klares Nein. Das leistungsstärkste KI-Modell, Gemini 2.5 Pro, erledigte die gesamte Aufgabe „die Butter reichen“ nur in 40 % der Fälle korrekt. Menschliche Bediener kamen dagegen auf einen Durchschnitt von 95 %.
Die Forscher stellten außerdem fest, dass Roboter, die von diesen KIs angetrieben wurden, keinen gesunden Menschenverstand besaßen, sich mit sozialen Signalen wie dem Warten auf eine Bestätigung schwertaten und unter ähnlichem Akkustress sogar dazu gebracht werden konnten, vertrauliche Informationen preiszugeben.
Dein smarter Staubsauger wird also zwar nicht gleich den Sinn seiner Existenz infrage stellen, doch das Experiment zeigt, dass eine KI, der man einen Körper gibt – selbst einen einfachen –, eine Welt voller unvorhersehbarem und bisweilen urkomisch menschenähnlichem Chaos eröffnet.
Gute Nachrichten für die Menschen: OpenAI, Anthropic und Cohere bauen ihre Teams aus „vor Ort eingesetzten Ingenieuren“ aus, während sie die Verbreitung ihrer KI-Modelle in verschiedenen Branchen vorantreiben wollen.