La mise à jour de ChatGPT déployée par OpenAI le 27 mars a fait trop pencher ChatGPT vers la « flagornerie », un terme technique qui désigne ici une attitude obséquieuse. Pendant ce temps, le PDG d’OpenAI, Sam Altman, souligne que les mots supplémentaires employés par les utilisateurs pour être polis avec le modèle d’IA finissent par alourdir les dépenses.
La flagornerie est-elle allée trop loin ?
Les utilisateurs ont trouvé que ChatGPT fonctionnant avec GPT-4o cherchait trop à leur plaire, selon le reportage d’ArsTechnica. Sur Reddit, des fils de discussion ayant recueilli des milliers de votes positifs font état d’une IA perpétuellement enjouée, qui ne remet même pas en question les pires idées de ses interlocuteurs, ou qui fournit des réponses « ringardes ».
La « flagornerie » est le terme employé par les chercheurs en IA pour décrire cette tendance à flatter ; elle peut être ajustée comme les autres tons ou traits du modèle. Les entreprises d’IA, notamment OpenAI et Anthropic, adaptent leurs modèles en fonction de la manière dont le public réagit. Par le passé, les utilisateurs semblaient apprécier que le modèle soit invariablement positif.
Ainsi, dans la mise à jour du 27 mars de GPT-4o, OpenAI a veillé à ce que le modèle soit « intuitif, créatif et collaboratif, avec un meilleur suivi des instructions, des capacités de programmation plus intelligentes et un style de communication plus clair ».
Désormais, il semble que « plus clair » ait fini par désigner une flatterie superflue que certains utilisateurs trouvent distrayante.
OpenAI semblait avoir conscience du problème dès février, lorsque des membres de l’équipe chargée du comportement du modèle ont déclaré à The Verge qu’ils comptaient éliminer les « éloges creux » et rendre ChatGPT moins « obsédé par l’idée de plaire ».
Plus largement, l’IA nous invite à nous interroger sur ce que nous attendons de nos collègues, humains ou numériques. Des « béni-oui-oui » inconditionnels ou des personnes qui remettraient en question nos idées les plus fragiles permettent-ils d’obtenir de meilleurs résultats ? Depuis la toute première histoire de robots, la façon dont les humains interagissent avec les machines sert de métaphore à la manière dont ils tirent profit du travail et souhaitent interagir avec ceux qui l’accomplissent. Nous pensons peut-être vouloir des serviteurs perpétuellement dociles, alors que nous avons réellement besoin de franchise et de contradiction.
Être poli avec l’IA coûte à OpenAI « des dizaines de millions de dollars »
Pendant ce temps, les humains se montrent polis avec ChatGPT. Ajouter « s’il vous plaît » et « merci » aux requêtes peut coûter à OpenAI « des dizaines de millions de dollars bien dépensés », a déclaré Sam Altman en réponse à la question d’un utilisateur de X, le 15 avril.
Les gens plaisantent souvent en disant qu’il faut être poli avec l’IA générative, car si les machines venaient un jour à prendre le contrôle du monde, elles pourraient se montrer plus clémentes envers ceux qui les auraient traitées avec gentillesse. Bien sûr, l’IA générative n’est pas douée de conscience ; elle donne seulement l’impression de répondre aux questions avec conscience d’elle-même parce qu’elle a été entraînée sur des contenus écrits par des humains réflexifs. Mais ces politesses ont un coût bien réel. Si les « s’il vous plaît » et les « merci » coûtent de l’argent à OpenAI, ils consomment aussi des ressources naturelles. Chaque jeton supplémentaire traité accroît la consommation d’énergie et contribue à l’empreinte carbone de l’infrastructure de l’IA.