Mustafa Suleyman, directeur de l’IA de Microsoft, pense que l’idée du « bien-être des modèles », c’est-à-dire le fait d’accorder une considération morale aux systèmes d’intelligence artificielle avancés, est « dangereuse ». Il estime que traiter l’IA comme si elle pouvait acquérir une conscience risque de nuire aux personnes vulnérables.
« Tout cela va exacerber les délires, créer encore davantage de problèmes liés à la dépendance, exploiter nos vulnérabilités psychologiques, introduire de nouvelles dimensions de polarisation, compliquer les luttes existantes pour les droits et créer une nouvelle et immense catégorie d’erreur pour la société », a écrit Suleyman dans un nouvel essai.
Suleyman a fait valoir que si les gens croient que les systèmes d’IA peuvent souffrir ou ont le droit de ne pas être désactivés, ils pourraient réclamer des protections juridiques. Cela pourrait créer des divisions avec ceux qui rejettent l’idée d’une conscience de l’IA.
« Concentrons toute notre énergie sur la protection du bien-être et des droits des êtres humains, des animaux et de l’environnement naturel sur la planète Terre aujourd’hui », a-t-il déclaré.
Les signes se multiplient : les utilisateurs perçoivent l’IA comme consciente
Suleyman est préoccupé par ce qu’il considère comme le «risque de psychose » présenté par les chatbots d’IA avancés, et il ne pense pas qu’il se limitera aux personnes vulnérables aux problèmes de santé mentale. Il a déclaré savoir que les chercheurs qui travaillent sur la science de la conscience sont déjà « submergés de questions » de la part de personnes qui se demandent si l’IA dont nous disposons aujourd’hui est consciente.
« Ma principale inquiétude est que de nombreuses personnes commencent à croire si fortement à l’illusion d’IA en tant qu’entités conscientes qu’elles défendront bientôt les droits de l’IA, le bien-être des modèles et même la citoyenneté des IA », a-t-il écrit. « Cette évolution constituera un tournant dangereux dans les progrès de l’IA et mérite toute notre attention immédiate. »
De plus en plus d’éléments montrent que les gens perçoivent et traitent déjà l’IA comme si elle était consciente. En janvier, une étudiante en soins infirmiers a déclaré être tombée amoureuse d’un petit ami IA qu’elle avait créé avec ChatGPT. Le subreddit r/MyBoyfriendIsAI compte actuellement 16 000 membres.
Lorsque OpenAI a remplacé le modèle ChatGPT par défaut, GPT-4o, par GPT-5 au début du mois, de nombreux utilisateurs se sont retrouvés bouleversés, certains comparant son retrait à la perte d’un ami ou affirmant qu’il avait « une étincelle que je n’ai trouvée dans aucun autre modèle ». Sam Altman a déclaré qu’il n’avait pas pris en compte le « très faible pourcentage de personnes qui entretiennent des relations parasociales » avec GPT-4o avant d’effectuer ce changement. L’entreprise a depuis mis à jour le chatbot afin d’aider à prévenir une telle dépendance affective.
Anthropic reconnaît de façon controversée la nécessité potentielle du « bien-être des modèles »
L’essai de Suleyman paraît quelques jours seulement après qu’Anthropic a donné à son modèle Claude la capacité de mettre fin aux conversations principalement pour garantir le bien-être du modèle. Si la start-up spécialisée dans l’IA reste « très incertaine » quant au fait que les modèles soient conscients et méritent une considération morale, Anthropic a déclaré mettre délibérément en place des protections peu coûteuses afin de limiter leur détresse potentielle.
Anthropic est un exemple d’entreprise qui normalise l’idée du bien-être des modèles, en lançant un programme de recherche sur le sujet dès avril. L’entreprise estime qu’il n’est plus responsable de supposer catégoriquement que les systèmes d’IA ne peuvent pas avoir de telles expériences, compte tenu de notre compréhension limitée de leur fonctionnement.
L’« IA apparemment consciente » est, au plus, à trois ans de distance
Suleyman ne croit pas que l’IA soit consciente ; il pense toutefois que les systèmes d’« IA d’apparence consciente » (SCAI), capables d’imiter la conscience de façon convaincante, ne sont « pas très loin ».
Selon Suleyman, les SCAI auront la capacité de :
- S’exprimer avec fluidité et de manière persuasive en langage naturel.
- Afficher des personnalités empathiques distinctes donnant l’impression d’être celles d’un compagnon.
- Disposer d’une mémoire précise à long terme pour se rappeler les interactions et instaurer la confiance.
- Prétendre avoir des expériences subjectives fondées sur les interactions passées.
- Avoir une conscience de soi fondée sur ses souvenirs et partager des expériences avec un utilisateur.
- Manifester des motivations intrinsèques, comme la curiosité, qui orientent son comportement.
- Fixer des objectifs complexes, les décomposer et s’adapter aux obstacles.
- Agir de manière autonome, en utilisant des outils et en se mettant à jour sans approbation.
Les entreprises d’IA ont la responsabilité de ne pas créer de SCAI
Suleyman a déclaré que les SCAI n’existeront que « parce que certains pourraient en concevoir », et non parce que l’IA elle-même « ferait d’une manière ou d’une autre émerger les capacités d’auto-amélioration incontrôlable ou de tromperie ». Les entreprises d’IA portent donc la responsabilité d’empêcher leur création, un objectif que Suleyman estime pouvoir atteindre grâce à des mesures telles que :
- Des recherches sur la manière dont les gens interagissent avec l’IA afin de mieux comprendre pourquoi certains en viennent à croire en sa conscience, ainsi que la définition, à l’échelle du secteur, de ce qu’est l’IA (un outil) et de ce qu’elle n’est pas (un être conscient).
- La création de garde-fous pour l’IA à l’échelle du secteur, qui détourneront les utilisateurs des « fantasmes » fondés sur la conscience de l’IA et les remettront sur la bonne voie le cas échéant. « Ceux-ci doivent être définis et intégrés explicitement, peut-être par la loi », a déclaré Suleyman.
- Ne construire que des IA qui ne prétendent pas posséder des traits de conscience, comme des expériences, des sentiments ou des émotions. « Elle ne doit pas déclencher les mécanismes d’empathie humains en prétendant souffrir ou souhaiter vivre de manière autonome, au-delà de nous », a-t-il déclaré.
Le parrain de l’IA met en garde contre la possibilité que les systèmes d’IA contrôlent un jour les humains, créent leur propre langage que nous ne comprendrions pas et anéantissent l’humanité.