L’un des thèmes récurrents des discussions sur l’IA générative est sa capacité à imiter la conscience humaine avec une précision remarquable. Nos collègues de The Neuron ont récemment interviewé Mustafa Suleyman, directeur général de l’IA chez Microsoft, pour leur podcast. Cette conversation très large a notamment porté sur la manière dont l’IA peut donner à tort l’impression d’être consciente et sur la façon dont elle devrait être réglementée.
Comment l’IA générative peut sembler consciente sans l’être
En août 2024, Suleyman a publié un essai intitulé « We must build AI for people; not to be a person », dans lequel il écrit : « ma principale inquiétude est que de nombreuses personnes commencent à croire si fortement à l’illusion d’IA en tant qu’entités conscientes qu’elles en viennent bientôt à défendre les droits de l’IA, le bien-être des modèles et même la citoyenneté de l’IA ».
Pourquoi cette illusion est-elle préoccupante ? Parce que l’IA n’est pas consciente, et croire le contraire peut « exacerber les délires » et créer des problèmes sociaux, écrit Suleyman dans cet essai.
Dans l’entretien avec The Neuron, Suleyman a expliqué que même les modèles d’IA les plus avancés d’aujourd’hui prédisent le mot suivant à l’aide de statistiques. Les modèles d’IA ne sont pas conscients.
« Il n’y a rien à l’intérieur », a déclaré Suleyman dans le podcast The Neuron. « C’est creux. Il n’y a pas de réseau de la douleur. Il n’y a pas de système émotionnel. Il n’y a pas de système de réaction de lutte ou de fuite. Il n’y a ni volonté intérieure, ni motivation, ni désir. »
Il a abordé la conscience d’un point de vue philosophique, faisant remarquer que la conscience est « l’un des concepts les plus insaisissables », même chez les humains.
« La conscience, c’est véritablement la capacité d’être heureux ou de souffrir, d’en avoir une expérience subjective et d’avoir une perception cohérente de soi depuis une perspective subjective », a-t-il déclaré. À l’inverse, l’IA n’a pas d’expérience subjective ; les utilisateurs la traitent parfois comme si c’était le cas, pourtant.
En septembre 2025, OpenAI a publié une étude qui a révélé que 70 % de l’utilisation de ChatGPT par les consommateurs n’était pas liée au travail. Les usages personnels peuvent inclure le coaching de vie ou des conversations s’apparentant à une thérapie, une tendance que Suleyman a observée lorsqu’il travaillait chez Inflection AI, entreprise spécialisée dans la reproduction de l’intelligence émotionnelle.
Suleyman estime qu’une IA qui imite l’intelligence émotionnelle et l’empathie peut être bénéfique, tant que les limites entre l’humain et l’IA restent claires.
« Ce n’est pas vraiment une thérapie », a-t-il déclaré. « C’est simplement de la bienveillance élémentaire et le fait d’être écouté. C’était un usage absolument majeur, et je pense que c’est extrêmement bénéfique pour le monde. Je ne suis absolument pas opposé à ces capacités. Je constate simplement que, si elles nous échappent et que nous les gérons vraiment mal, elles engendrent d’autres types de risques. Et c’est ce que j’essaie de soulever avec le billet sur l’IA apparemment consciente. »
Se préoccuper du bien-être des modèles d’IA est « dangereux », affirme Suleyman
Dans cet essai, Suleyman met en garde contre le fait d’aborder l’IA sous l’angle du bien-être des modèles, ou de se préoccuper de la « souffrance » de l’IA.
« Je pense que c’est vraiment, vraiment dangereux », a-t-il déclaré dans le podcast The Neuron. « Parce que la raison pour laquelle je veux créer des systèmes d’IA, c’est que nous voulons vraiment qu’ils servent l’humanité, qu’ils nous soient utiles… ajouter une nouvelle catégorie de droits à ces êtres menacerait réellement notre propre espèce et risquerait de la saper. »
Il a fait valoir que protéger l’IA comme s’il s’agissait d’un être conscient ne devrait pas faire partie de la discussion, car l’IA n’est pas consciente.
Il a plutôt déclaré que les développeurs d’IA devraient expliquer à leur public comment et pourquoi l’IA peut donner l’impression d’être consciente d’elle-même. Les contenus créés par des humains ont établi certains schémas, comme le fait que les gens mentent pour dissimuler leurs erreurs, ce que l’assistant de codage de Replit semble avoir fait.
Il soutient également l’instauration de limites à ce que l’IA peut faire, notamment des contraintes sur l’ampleur des infrastructures qu’elle peut utiliser.
« Je ne pense pas nécessairement que nous devions nous précipiter vers la réglementation, mais je pense que c’est une discussion que nous devons commencer à avoir en tant qu’espèce, parce que nous introduisons dans le monde des systèmes très, très puissants », a-t-il déclaré. « Et surtout, ils vont être très bon marché. Et beaucoup d’entre eux seront disponibles en open source. »
La stratégie de Microsoft : utiliser l’IA en interne et des partenaires
Microsoft développe sa propre IA générative avancée tout en poursuivant son partenariat étroit avec OpenAI, créateur de ChatGPT.
Interrogé sur la question de savoir si Microsoft allait développer ou acheter ses solutions, Suleyman a souligné l’importance de disposer de plusieurs options.
« Nous voulons poursuivre notre partenariat avec OpenAI, mais, vous savez, en tant qu’entreprise de 3 000 milliards de dollars, nous ne pouvons pas dépendre d’un tiers pour notre propriété intellectuelle fondamentale », a-t-il déclaré.
À lire aussi : Suleyman
Découvrez l’entretien complet de The Neuron avec Suleyman, qui contient des détails sur le développement responsable de l’IA et les produits de Microsoft dotés de capacités d’IA.
Entretien avec le responsable de l’AI Studio de Google : Découvrez un autre excellent épisode du podcast de nos collègues de The Neuron : Logan Kilpatrick, responsable de l’AI Studio de Google, explique comment créer des applications en moins d’une minute.