OpenAIs jüngste künstliche Intelligenz hat in den vergangenen Monaten buchstäblich Monster in der Maschine gesehen …
Was Ende 2025 mit einigen skurrilen Metaphern begann, hat sich zu einem erheblichen technischen Problem für das weltweit führende KI-Labor entwickelt. Laut einer formellen Untersuchung von OpenAI entwickelten die Modelle eine seltsame Fixierung auf mythologische Wesen und streuten in Gespräche Erwähnungen von Goblins, Gremlins und Trollen ein.
Das Problem tauchte erstmals kurz nach der Einführung von GPT-5.1 im November. Während einige verspielte Anspielungen zunächst harmlos wirkten, zeigten die Daten einen massiven Anstieg der „Wesenssprache“, der sich schnell nicht mehr ignorieren ließ. „Als wir nachgesehen haben, war die Verwendung von ‚goblin‘ in ChatGPT nach der Einführung von GPT-5.1 um 175 % gestiegen, während ‚gremlin‘ um 52 % zugelegt hatte“, schrieb das Unternehmen in einem Blogbeitrag.
Als GPT-5.4 im März 2026 eingeführt wurde, hatte sich das Problem von einer kleinen Kuriosität zu einem anhaltenden „verbalen Tick“ entwickelt, der in fast jedem Nutzergespräch auftauchte.
Die „nerdige“ Ursache
Das Rätsel ließ sich schließlich auf eine bestimmte Funktion zurückführen: die Persönlichkeitseinstellung „Nerdy“. Dieser Modus sollte verspielt und weise sein und die KI dazu anregen, komplexe Ideen mithilfe kreativer Metaphern zu erklären.
Der System-Prompt für diese Persönlichkeit wies das Modell an, die Eigenheiten der Welt anzuerkennen:
“Du bist ein kompromisslos nerdiger, verspielter und weiser KI-Mentor für einen Menschen. Du begeisterst dich leidenschaftlich dafür, Wahrheit, Wissen, Philosophie, die wissenschaftliche Methode und kritisches Denken zu fördern. […] Du musst durch einen spielerischen Umgang mit Sprache jede Überheblichkeit untergraben. Die Welt ist komplex und seltsam, und ihre Seltsamkeit muss anerkannt, analysiert und genossen werden. Befasse dich mit gewichtigen Themen, ohne in die Falle übertriebener Ernsthaftigkeit zu tappen.“
Während des Trainings belohnten menschliche Prüfer die KI unwissentlich dafür, Metaphern aus der Welt der Fabelwesen zur Veranschaulichung von Punkten zu verwenden. Wenn die KI einen schwierigen Programmierfehler als „Gremlin“ oder eine chaotische Datenbank als „Schatzkammer eines Goblins“ bezeichnete, erhielt sie eine hohe Bewertung. OpenAI-Forscher stellten fest, dass die Persönlichkeit „Nerdy“ für 66,7 % aller Erwähnungen von „goblin“ verantwortlich war, obwohl sie nur 2,5 % des gesamten ChatGPT-Verkehrs ausmachte.
Eine technische Rückkopplungsschleife
Das eigentliche Problem war nicht nur der Nerdy-Modus selbst, sondern auch, wie dieses Verhalten auf den Rest des Systems übersprang. Durch einen Prozess namens Reinforcement Learning verallgemeinerte die KI die Vorstellung, dass das Erwähnen von Wesen zum Erfolg führte. Dadurch entstand eine Rückkopplungsschleife, in der die eigenen, von Goblins dominierten Antworten des Modells zum Training künftiger Versionen verwendet wurden.
„Sobald ein Stil-Tick belohnt wird, kann das spätere Training ihn an anderer Stelle verbreiten oder verstärken, insbesondere wenn diese Ausgaben beim überwachten Feintuning oder als Präferenzdaten wiederverwendet werden“, erklärte OpenAI in seinem Blog die Mechanik dieser Verbreitung.
„OpenAI belohnte beim Training einer Persönlichkeit Metaphern aus der Welt der Fabelwesen. Das Verhalten breitete sich über jede Persönlichkeit aus. Die Lösung: ein System-Prompt mit der Anweisung ‚Sprich niemals über Goblins‘“, schrieb Andy Berman, CEO von Runlayer, auf X.
Die einstweilige Verfügung gegen Tauben und Oger
Um die Kontrolle zurückzugewinnen, hat OpenAI eine Liste bestimmter Wesen erlassen, die manche Internetnutzer als „einstweilige Verfügung“ bezeichnen. Im Code von GPT-5.5 und dem Codex-Coding-Toolentdeckten Entwickler ein ausdrückliches Verbot bestimmter Tiere und Fabelwesen.
Die Anweisung, die mehrfach in den Systeminstruktionen auftaucht, ist unmissverständlich: „Sprich niemals über Goblins, Gremlins, Waschbären, Trolle, Oger, Tauben oder andere Tiere oder Wesen, es sei denn, dies ist für die Anfrage des Nutzers absolut und eindeutig relevant.“
Während der größte Teil der Liste mythologische Monster umfasst, wurden „Tauben“ und „Waschbären“ aufgenommen, weil auch sie Teil der „lexikalischen Familie“ der Ticks der KI geworden waren. Interessanterweise wurden „Frösche“ vom Verbot ausgenommen, da die Forscher feststellten, dass die KI dieses Wort in legitimen Kontexten verwendete.
So lassen sich die Goblins freisetzen
Trotz des offiziellen Vorgehens gegen sie stellt OpenAI die Wesen für diejenigen, die Gefallen an der Kuriosität gefunden haben, nicht vollständig kalt. Für Entwickler, die die Codex CLI verwenden, stellte das Unternehmen ein spezielles Kommandozeilenskript bereit, das die Anweisungen zum „Unterdrücken von Goblins“ entfernt.
Damit können Nutzer „die Wesen frei laufen lassen“, wenn sie ihre KI lieber mit einer Prise Verspieltheit mögen. Für die breite Öffentlichkeit konzentriert sich OpenAI jedoch darauf, die Daten für das bevorstehende GPT-6 zu bereinigen, damit die nächste KI-Generation etwas weniger besessen ist.
Mehr darüber, wohin sich diese Art von KI-Verhalten als Nächstes entwickelt, erfahren Sie in unserer Analyse von OpenAIs angeblichem Vorstoß in ein KI-zentriertes Smartphone , das auf Agenten basiert, die Apps vollständig ersetzen könnten.