Le plus haut responsable de l’IA chez Microsoft, Mustafa Suleyman, a clairement indiqué que les machines pourraient imiter les émotions. Mais elles ne les ressentiront jamais.
S’exprimant auprès de CNBC lors de la conférence AfroTech à Houston, Suleyman a qualifié l’idée d’une IA consciente d’erronée et, selon ses propres termes, de « totalement à côté de la question ».
« Je ne pense pas que ce soit un travail que les gens devraient entreprendre, a-t-il déclaré à CNBC. Si vous posez la mauvaise question, vous obtenez la mauvaise réponse. Je pense que c’est totalement la mauvaise question. »
La conscience, dit-il, est une affaire humaine
Suleyman a soutenu que la véritable conscience — la capacité à ressentir, souffrir ou faire l’expérience des choses –– est indissociable de la biologie. L’IA peut simuler ces réactions, a-t-il expliqué, mais elle ne les ressent pas.
« Notre expérience physique de la douleur nous rend très tristes et nous fait nous sentir mal, mais l’IA ne ressent pas de tristesse lorsqu’elle éprouve la “douleur”, » a déclaré Suleyman à CNBC. « C’est une distinction très, très importante. Elle ne fait véritablement que créer la perception, le récit apparent de l’expérience, d’elle-même et de la conscience, mais ce n’est pas ce qu’elle est réellement en train d’éprouver. »
« Elles ne sont pas conscientes. Il serait donc absurde de poursuivre des recherches qui examinent cette question, puisqu’elles ne le sont pas et ne peuvent pas l’être », a-t-il ajouté.
Son avertissement intervient alors que des concurrents technologiques comme OpenAI, Meta et xAI, l’entreprise d’Elon Musk, se lancent plus avant dans les compagnons IA et les chatbots émotionnels. Suleyman estime toutefois que jouer sur l’illusion des sentiments pourrait induire les utilisateurs en erreur et susciter des revendications en faveur de droits pour l’IA.
« Si nous accordons des droits aux gens aujourd’hui, c’est parce que nous ne voulons pas leur faire de mal, parce qu’ils souffrent, a-t-il déclaré à CNBC. Ces modèles ne connaissent rien de tout cela. Ce n’est qu’une simulation. »
Suleyman s’est souvent exprimé sur cette inquiétude. En août, il a publié un article dans lequel il avertissait que les gens pourraient bientôt croire que les systèmes d’IA sont conscients, un changement qui, selon lui, serait dangereux.
Tracer une ligne rouge
Suleyman a clairement indiqué que Microsoft ne cherche pas à investir le marché de la romance ou de l’empathie artificielles. Il a même insisté sur le fait qu’il fallait éviter de créer des chatbots destinés aux adultes, déclarant lors d’AfroTech qu’il y avait « des territoires où nous n’irons pas », selon CNBC.
Il a cité de nouvelles fonctionnalités du service d’IA Copilot de Microsoft, comme un style de conversation « franc-parler », conçu pour remettre en question les points de vue des utilisateurs plutôt que de simplement leur donner raison. L’accent est mis sur l’utilité et la réactivité, pas sur l’imitation des émotions.
« Tout simplement, nous créons des IA qui sont toujours au service de l’être humain, a déclaré Suleyman. Il appartient à chacun d’essayer de façonner des personnalités d’IA dotées des valeurs qu’il souhaite voir. »
Suleyman a reconnu que le rythme effréné du développement de l’IA appelait à la prudence. « Si cela ne vous fait pas peur, c’est que vous ne le comprenez pas vraiment, a-t-il déclaré, avant d’ajouter : La peur est saine. Le scepticisme est nécessaire. Nous n’avons pas besoin d’un accélérationnisme débridé. »
L’IA ne ressent rien… mais peut-elle paniquer ? Découvrez notre dernier article sur l’« esprit chaotique » d’un aspirateur équipé d’IA.