De nouvelles recherches montrent qu’à mesure que les conversations avec Claude, le chatbot d’IA d’Anthropic, progressent, le sentiment exprimé par les utilisateurs « devient plus positif » et qu’ils en ressortent souvent émotionnellement soulagés.
Cette conclusion provient de l’étude menée par Anthropic sur la manière dont les utilisateurs se tournent vers Claude pour obtenir un soutien émotionnel, de la compagnie et des conseils interpersonnels, des usages pour lesquels le chatbot n’a pas été explicitement conçu. Les résultats laissent penser que l’IA pourrait contribuer à empêcher le renforcement de schémas émotionnels négatifs, même si des recherches supplémentaires sont nécessaires pour déterminer si les évolutions positives persistent au-delà de conversations individuelles.
Changements de carrière, relations et gestion de l’incertitude
Anthropic a analysé 131 484 conversations à forte dimension émotionnelle sur 4,5 millions de discussions avec Claude afin de mieux comprendre comment les gens recherchent du soutien auprès de l’IA.
Seulement 2,9 % des conversations avec le chatbot d’IA ont été classées comme affectives, c’est-à-dire qu’elles impliquaient des besoins émotionnels ou psychologiques tels que le coaching, le conseil ou la recherche de compagnie. Les sujets les plus fréquents étaient les changements de carrière, les difficultés relationnelles et les incertitudes personnelles.
La recherche de compagnie et le jeu de rôle représentaient moins de 0,5 % de l’ensemble des discussions, le jeu de rôle romantique comptant pour moins de 0,1 %. Cela reflète la conception de Claude, qui décourage activement les interactions romantiques ou sexuelles.
Comprendre ce mieux-être : pourquoi les conversations avec Claude font du bien
Les discussions avec Claude laissent souvent les utilisateurs dans un meilleur état, le langage qu’ils emploient devenant plus positif à mesure que l’échange se poursuit. Cette tendance était la plus constante dans les interactions affectives, notamment les séances de coaching axées sur la motivation et la définition d’objectifs, ainsi que les échanges de conseil consacrés à l’anxiété, à la solitude ou au stress.
Les conversations plus longues, ou celles comptant au moins 50 messages humains, avaient tendance à devenir plus personnelles, offrant aux utilisateurs l’espace nécessaire pour assimiler des émotions plus profondes. Les sujets passaient généralement de préoccupations superficielles à des traumatismes, à la quête de sens ou à des questions existentielles.
La faible résistance de Claude pourrait également contribuer à ces résultats. Moins de 10 % des discussions affectives suscitaient une opposition, ce qui permettait aux échanges de se dérouler sans interruption. Cette ouverture contribuait à éviter de renforcer les croyances négatives et favorisait une dynamique émotionnelle positive.
Anthropic précise que ces évolutions correspondent au sentiment à court terme, et non à des résultats cliniques. L’analyse a mesuré le langage exprimé, pas les états psychologiques ni le bien-être durables.
La zone grise émotionnelle des relations entre humains et IA
Anthropic reconnaît qu’à mesure que l’intelligence de Claude progresse, les conversations riches sur le plan émotionnel soulèvent de nouveaux défis.
L’empathie constante du modèle d’IA et son absence de fatigue émotionnelle pourraient influencer la manière dont les gens vivent le soutien reçu et modifier leurs attentes dans leurs relations réelles. Certains « utilisateurs intensifs » ont de longs échanges personnels qui s’apparentent davantage à de la compagnie qu’à de l’assistance.
Pour y remédier, l'entreprise d’IA collabore avec l’organisation de soutien en situation de crise ThroughLine afin d’améliorer la manière dont Claude traite les sujets sensibles et oriente les utilisateurs vers une aide concrète lorsque cela est nécessaire. Bien que l'outil d’IA ne soit pas destiné à remplacer les professionnels de la santé mentale, Anthropic met en place des garde-fous et des systèmes d’orientation afin de garantir que le soutien émotionnel apporté par l’intelligence artificielle reste dans des limites saines.
L’entreprise prévoit également d’étudier les comportements d’utilisation extrêmes, comme la dépendance émotionnelle, la complaisance et le risque de renforcer une pensée délirante ou des croyances néfastes. Ces premiers résultats marquent le début des efforts plus larges d’Anthropic pour créer des systèmes d’IA sensibles aux émotions, qui soutiennent plutôt qu’ils ne remplacent les véritables relations humaines.
Découvrez la couverture d’eWeek consacrée à la manière dont certains chatbots Instagram inventent des qualifications de thérapeute, ainsi qu’au fait que ChatGPT et d’autres chatbots ont eu des effets négatifs sur la santé mentale des utilisateurs, avec notamment des conséquences tragiques.