ChatGPT est obsédé par les gobelins
La semaine dernière, OpenAI a donné à ChatGPT des instructions pour le moins surprenantes. L'entreprise américaine a demandé à son bot conversationnel d'arrêter de parler de gobelins:
Cela peut paraître bizarre, mais, ces derniers mois, ChatGPT a fait une véritable fixette sur ces créatures légendaires, qu'il mentionne à tour de bras dans des métaphores de plus en plus improbables. Ce tic de langage a d'abord été repéré par les programmeurs, qui se servent abondamment du bot pour coder.
Un exemple: un dénommé Barron Roth, informaticien de 32 ans, a raconté au Wall Street Journal que ChatGPT avait qualifié une faille dans son code de «petit gobelin». Le bot avait ressorti ce terme plus de 20 fois, sans qu'on le lui demande. D'autres utilisateurs ont écrit sur X que l'agent conversationnel s'était décrit lui-même comme «gobelin muni d'une lampe de poche» pour sa capacité à détecter et à corriger les erreurs de code.
Quand quelqu'un lui a demandé pourquoi, ChatGPT a répondu:
Cette mystérieuse passion a commencé à se manifester en novembre dernier, retrace OpenAI. A cette époque, l'entreprise venait de lancer le modèle GPT-5.1, critiqué par de nombreux utilisateurs en raison de réponses jugées trop amicales. Suite à un contrôle, OpenAI a également découvert que l'utilisation des mots «gobelin» et «gremlin» avait grimpé de 175% et de 52%, respectivement.
Ce n'était que le début. Avec l'introduction de GPT-5.4, en mars 2025, les références à ces créatures ont encore augmenté. Le mot gobelin désigne des lutins issus du folklore médiéval, souvent verts, laids et maléfiques, tandis que les gremlins sont des petites créatures qui se transforment en monstres incontrôlables, popularisées par la saga cinématographique du même nom.
Mais d'où viennent-ils?
Confrontée à l'aggravation du problème, l'entreprise a décidé d'intervenir. «Un petit gobelin ici ou là peut être charmant, mais cette habitude a fini par devenir difficile à ignorer», écrit OpenAI.
La réponse est un peu technique. Pour faire simple, la passion pour les gobelins est un effet collatéral de l'entraînement des derniers modèles de langage d'OpenAI. Leur comportement est influencé par de nombreux facteurs, dont la fonctionnalité de personnalisation de la personnalité. Dans ce cas, la personnalité «Nerdy», c'est-à-dire geek. Sans le savoir, l'entreprise a accordé de fortes récompenses pour les métaphores impliquant des créatures, ce qui explique leur succès.
OpenAI a donc retiré la personnalité «Nerdy» et supprimé le signal de récompense lié aux gobelins. Cela n'a toutefois pas suffi. Comme la nouvelle version de ChatGPT a commencé son entraînement avant que l'entreprise n'ait identifié les causes profondes du problème, l'obsession pour les gobelins est restée. D'où les instructions évoquées en début d'article.
Reste à voir si le chatbot respecte ces consignes. Il semblerait que oui, même si on perçoit encore toute sa passion pour les gobelins - à condition qu'on lui accorde la permission d'en parler. Voyez par vous-mêmes:
Tu pensais à quel type de gobelins? Folklore, fantasy, jeux vidéo, ou les petits entrepreneurs pyromanes qui vendent des potions suspectes dans une cave humide?
Donc si quelqu’un parle de fiscalité suisse, je ne vais plus spontanément comparer l’administration à un conseil gobelin des cavernes 😄 Mais si le sujet est la fantasy, le folklore ou simplement l’humour absurde, les gobelins restent totalement disponibles.
(asi)