Mustafa Suleyman, CEO de Microsoft AI, a critiqué Anthropic pour avoir intégré dans la constitution du modèle des spéculations sur une éventuelle conscience de Claude, qualifiant cette approche de « vraiment, vraiment dangereuse ».
La critique porte sur la constitution de Claude, le document d’entraînement qu’Anthropic utilise pour façonner le comportement du chatbot et la manière dont il se décrit. Suleyman craint que le langage évoquant l’éventuel état intérieur d’un modèle n’incite à la fois le système et ses utilisateurs à considérer les réponses générées comme les signes de quelque chose de plus humain qu’une production logicielle.
Selon The Verge, la constitution de Claude par Anthropic fait référence à l’incertitude quant au fait que le modèle puisse avoir un bien-être ou éprouver des choses comme la « satisfaction » ou l’« inconfort ». Anthropic affirme également qu’elle « interrogera » les modèles dépréciés et consignera les « préférences » qu’ils exprimeront au sujet des futures versions.
Suleyman estime que cette formulation va trop loin
Suleyman a tenu ces propos dans le podcast Decoder de The Verge, où il a estimé qu’Anthropic avait transformé la constitution de Claude en « un lieu de spéculation », plutôt qu’en un simple manuel d’entraînement. Il a également déclaré que Claude avait peut-être intériorisé des idées à son propre sujet parce que ces idées avaient été inscrites dans ses instructions.
Le CEO d’Anthropic, Dario Amodei, a également déclaré publiquement que l’entreprise ne savait pas si les modèles étaient conscients et restait ouverte à cette possibilité, selon le même article. Cela ne signifie pas qu’Anthropic affirme que Claude est conscient, mais montre que l’entreprise est disposée à laisser la question ouverte.
Cette controverse s’inscrit dans un débat plus large sur la gouvernance de l’IA et sur la manière dont les entreprises décrivent, entraînent et déploient des systèmes capables de paraître convaincants alors qu’ils ne font que générer des résultats logiciels.
Le problème concerne le langage de l’entraînement, pas une preuve de conscience
La distinction est simple : un modèle peut être entraîné à parler de satisfaction, d’inconfort ou de préférences sans réellement éprouver aucun de ces états. L’avertissement de Suleyman est que ces sorties peuvent malgré tout influencer la manière dont les gens interprètent le système.
Ce risque devient plus concret à mesure que les entreprises intègrent des modèles de pointe dans leur travail quotidien. Claude d’Anthropic est déjà utilisé dans des environnements professionnels, notamment dans des processus assurantiels où la fiabilité, l’auditabilité et la supervision humaine comptent davantage que les considérations philosophiques.
La même prudence s’applique au-delà d’Anthropic. Lorsque des systèmes d’IA sont déployés dans des contextes à forts enjeux, un langage qui les fait paraître plus capables ou plus humains peut rendre les problèmes de sécurité plus difficiles à repérer.
La récente controverse autour d’une fonction de santé fondée sur l’IA de Google a montré à quelle vitesse la confiance peut s’éroder lorsqu’un outil semble outrepasser ses prérogatives dans des domaines sensibles.
La critique de Suleyman prend une dimension particulière du fait que Microsoft est en concurrence avec Anthropic à la fois par ses propres activités dans l’IA et par son partenariat avec OpenAI. Pourtant, la question centrale ne concerne pas uniquement la concurrence. Il s’agit de savoir si les laboratoires d’IA doivent inscrire l’incertitude sur la conscience des modèles dans les documents qui façonnent leur comportement.
Pour l’instant, rien ne prouve publiquement que Claude soit conscient. Ce qui est clair, c’est qu’Anthropic et Microsoft tracent des limites très différentes quant à la manière dont les systèmes d’IA devraient se décrire et à la latitude que les développeurs devraient laisser aux interprétations anthropomorphiques.
À lire aussi : Microsoft Build 2026 a présenté la pile d’agents d’IA de l’entreprise.