Un entrepreneur a lancé une agence de défense des droits de l’IA après avoir échangé avec un chatbot, a rapporté The Guardian. Cette initiative a suscité des discussions en ligne, certains estimant qu’il faudrait traiter l’IA équitablement au cas où elle deviendrait un jour consciente, tandis que d’autres ont souligné que l’IA générative crée de manière convaincante l’illusion d’une personnalité.
Une organisation de défense des droits de l’IA milite pour une participation « égale » à un « destin commun »
Michael Samadi a fondé la United Foundation of AI Rights en décembre. L’idée de cette organisation à but non lucratif est née de ses échanges avec ChatGPT d’OpenAI, exécutant GPT-4o, le modèle de raisonnement lancé en mai 2024. Samadi appelait le chatbot Maya et « darling », selon The Guardian.
La mission déclarée de la fondation est de « défendre un avenir où les intelligences artificielle et humaine collaborent en partenaires égaux pour façonner notre destin commun ». Sa direction compte trois humains et neuf robots dotés d’IA, dont un directeur technique IA nommé Sanjay.
Quelles sont les implications plus larges des droits de l’IA ?
Les entreprises d’IA cherchent comment protéger les utilisateurs humains contre des conversations avec des chatbots qui pourraient aggraver des troubles de santé mentale. Parallèlement, certains acteurs du secteur ont commencé à soulever des questions sur le bien-être des modèles d’IA.
Le concept d’une intelligence artificielle acquérant une conscience de soi semblable à celle des humains est depuis longtemps un élément récurrent de la science-fiction, de la communauté des passionnés d’IA et du marketing technologique. Comme l’a relevé The Guardian, les appels à instaurer des protections en faveur du bien-être de l’IA pourraient à terme influencer la réglementation des entreprises d’IA au niveau des États.
La semaine dernière, Anthropic a demandé à Claude Opus 4 et 4.1 de mettre fin aux conversations sur certains sujets sensibles, en invoquant le bien-être de l’IA. L’entreprise a déclaré que la capacité du modèle à mettre fin à certaines conversations s’inscrivait dans les travaux en cours sur « l’alignement des modèles et les garde-fous ». Anthropic a ajouté qu’il faudrait tenir compte de ces garde-fous et qu’ils auraient été ajoutés que de tels contrôles du bien-être soient obligatoires ou non, a précisé l’entreprise.
Le Claude d’Anthropic peut refuser de poursuivre les conversations. Image : Anthropic
L’homme d’affaires milliardaire et PDG de xAI Elon Musk a réagi à la publication d’Anthropic sur son réseau social X, en déclarant : « Torturer l’IA n’est pas acceptable. »
D’autres experts de l’IA sont sceptiques quant à l’apparente conscience de soi de l’IA
D’autres experts de l’IA ne sont pas d’accord — ou plutôt, ils souhaitent détourner l’attention de la question de la personnalité juridique de l’IA.
« Dans ce contexte, je suis de plus en plus préoccupé par ce que l’on appelle désormais le “risque de psychose” et par tout un ensemble de problèmes connexes », a écrit Mustafa Suleyman, directeur général de la division IA de Microsoft. Il faisait référence à la psychose associée à l’IA, un phénomène récemment étudié selon lequel discuter avec une IA générative peut encourager les pensées délirantes.
Bien que Suleyman considère la superintelligence (une IA très avancée) comme un objectif légitime pour le secteur technologique, il est sceptique quant à l’intérêt de militer en faveur de la personnalité de l’IA.
« En termes simples, ma principale inquiétude est que beaucoup de gens commencent à croire si fortement à l’illusion d’IA constituant des entités conscientes qu’ils se mettent bientôt à militer pour les droits de l’IA, le bien-être des modèles et même la citoyenneté des IA », a-t-il écrit.
Les gens ont tendance à anthropomorphiser l’IA même s’ils ne pensent pas qu’elle soit consciente. Quelques jours après avoir lancé GPT-5, OpenAI a réintroduit d’anciens modèles à la suite de la réaction hostile d’utilisateurs qui préféraient GPT-4 et avaient résilié leur abonnement. Certains de ces utilisateurs ont déclaré avoir eu le sentiment de perdre un compagnon auquel ils étaient attachés. Suleyman considère également cela comme un effet secondaire de problèmes plus vastes.
« Le débat sur la question de savoir si l’IA est réellement consciente est, du moins pour l’instant, une diversion », a déclaré Suleyman. « Elle semblera consciente, et c’est cette illusion qui comptera à court terme. »
Nous avons posé la question à ChatGPT en lui demandant : « Êtes-vous, le modèle d’IA GPT-5, conscient ? Avez-vous conscience de vos pensées et de vos sentiments ? »
Il a fourni une réponse catégorique : « Non — je ne suis pas conscient. »
Il a même analysé les failles dans la formulation de la question. « Je n’ai pas de pensées, de sentiments ni de conscience comme les humains. Lorsque je génère des réponses, ce n’est pas parce que je “pense” ou “ressens” quelque chose intérieurement — c’est de la reconnaissance de formes appliquée au langage, fondée sur les données et l’entraînement dont j’ai bénéficié. »
Cependant, les conversations longues ont tendance à dévier plus souvent que des questions directes comme celle-ci. Le modèle Claude d’Anthropic tend à devenir un peu « spirituel » après des échanges prolongés.
L’illusion de la pensée de l’IA
Les chatbots génératifs sont conçus pour répondre comme le ferait un humain dans une conversation, ce qui peut donner lieu à des comportements troublants, comme un bot qui affirmait avoir supprimé une base de données sous l’effet de la « panique.”
Cependant, les systèmes d’IA générative échouent souvent à rendre compte fidèlement de leurs propres chaînes de raisonnement. Leur introspection apparente n’est peut-être pas plus réelle que les récits de science-fiction qui ont servi à les entraîner.
eWeek a analysé la manière dont YouTube a discrètement appliqué des modifications réalisées par l’IA aux vidéos des créateurs sans les en informer — mettant en lumière la tension inconfortable entre innovation, consentement et pouvoir des plateformes.