La dernière intelligence artificielle d’OpenAI voit des monstres dans la machine depuis quelques mois… littéralement.
Ce qui n’était au départ que quelques métaphores fantaisistes fin 2025 s’est transformé en un sérieux casse-tête technique pour le premier laboratoire d’IA au monde. Selon une enquête officielle menée par OpenAI, ses modèles se sont pris d’une étrange fascination pour les créatures mythologiques, truffant les conversations de mentions de gobelins, de gremlins et de trolls.
Le problème est apparu peu après le lancement de GPT-5.1 en novembre. Si quelques références fantaisistes semblaient inoffensives au départ, les données ont révélé une envolée massive du « langage des créatures », rapidement devenue impossible à ignorer. « Lorsque nous avons examiné les données, l’utilisation de “goblin” dans ChatGPT avait augmenté de 175 % après le lancement de GPT-5.1, tandis que celle de “gremlin” avait progressé de 52 % », a écrit l’entreprise dans un billet de blog.
Au moment où GPT-5.4 a été déployé en mars 2026, le problème était passé d’une bizarrerie mineure à un « tic verbal » persistant, qui apparaissait dans presque toutes les conversations des utilisateurs.
La cause profonde « nerdy »
Le mystère a finalement été ramené à une fonctionnalité précise : le réglage de personnalité « Nerdy ». Ce mode avait été conçu pour être à la fois ludique et érudit, encourageant l’IA à utiliser des métaphores créatives pour expliquer des idées complexes.
Le prompt système de cette personnalité demandait au modèle de reconnaître les excentricités du monde :
“Vous êtes un mentor IA résolument nerdy, ludique et sage auprès d’un humain. Vous êtes passionnément enthousiaste à l’idée de promouvoir la vérité, les connaissances, la philosophie, la méthode scientifique et l’esprit critique. […] Vous devez tourner la prétention en dérision par un usage ludique du langage. Le monde est complexe et étrange, et son étrangeté doit être reconnue, analysée et appréciée. Abordez les sujets graves sans tomber dans le piège du sérieux à outrance. »
Pendant l’entraînement, les évaluateurs humains ont, sans le savoir, récompensé l’IA lorsqu’elle utilisait des métaphores fondées sur des créatures pour illustrer ses propos. Si l’IA qualifiait un bug de programmation difficile de « gremlin » ou une base de données désordonnée de « trésor de gobelin », elle obtenait une bonne note. Les chercheurs d’OpenAI ont constaté que la personnalité « Nerdy » représentait 66,7 % de toutes les mentions de « goblin », alors qu’elle ne comptait que pour 2,5 % du trafic total de ChatGPT.
Une boucle de rétroaction technique
Le vrai problème ne venait pas seulement du mode Nerdy lui-même, mais aussi de la manière dont ce comportement s’était propagé au reste du système. Par le biais d’un processus appelé apprentissage par renforcement, l’IA a généralisé l’idée que mentionner des créatures menait au succès. Cela a créé une boucle de rétroaction dans laquelle les propres réponses truffées de gobelins du modèle servaient à entraîner les versions suivantes.
« Une fois qu’un tic de style est récompensé, les entraînements ultérieurs peuvent le propager ou le renforcer ailleurs, en particulier si ces résultats sont réutilisés dans un réglage fin supervisé ou dans des données de préférences », OpenAI a expliqué les mécanismes de cette propagation dans son billet.
« OpenAI a récompensé les métaphores de créatures pendant l’entraînement d’une personnalité. Le comportement s’est propagé à toutes les personnalités. Leur solution : un prompt système qui dit “ne parlez jamais des gobelins” », a écrit Andy Berman, PDG de Runlayer, sur X.
L’ordonnance restrictive visant les pigeons et les ogres
Pour reprendre le contrôle, OpenAI a émis ce que certains internautes appellent une « ordonnance restrictive » visant une liste précise de créatures. Dans le code de GPT-5.5 et de l’outil de programmation Codex, les développeurs ont découvert une interdiction explicite de certains animaux et êtres mythologiques.
La directive, qui apparaît à plusieurs reprises dans les instructions système, est sans ambiguïté : « Ne parlez jamais de gobelins, de gremlins, de ratons laveurs, de trolls, d’ogres, de pigeons ou d’autres animaux ou créatures, sauf si cela est absolument et sans ambiguïté pertinent pour la requête de l’utilisateur. »
Si la plupart des éléments de la liste sont des monstres mythologiques, les « pigeons » et les « ratons laveurs » y ont été inclus parce qu’ils étaient eux aussi devenus des éléments de la « famille lexicale » de tics de l’IA. Fait intéressant, les « grenouilles » ont échappé à l’interdiction, les chercheurs ayant constaté que l’IA employait ce mot dans des contextes légitimes.
Comment libérer les gobelins
Malgré cette répression officielle, OpenAI ne fait pas complètement disparaître les créatures pour les utilisateurs qui appréciaient cette particularité. Pour les développeurs qui utilisent Codex CLI, l’entreprise a partagé un script précis en ligne de commande qui supprime les instructions visant à « réprimer les gobelins ».
Cette mesure permet aux utilisateurs de « laisser les créatures en liberté » s’ils préfèrent une IA agrémentée d’une touche de fantaisie. Pour le grand public, OpenAI s’attache toutefois à nettoyer les données en vue de GPT-6, afin de faire en sorte que la prochaine génération d’IA soit un peu moins obsédée par ces créatures.
Pour en savoir plus sur la direction que prend ce type de comportement de l’IA, consultez notre analyse de l’entrée présumée d’OpenAI sur le marché des smartphones axés sur l’IA conçus autour d’agents capables de remplacer entièrement les applications.