L’Illinois a interdit l’utilisation de l’IA dans la thérapie de santé mentale, devenant ainsi le dernier État à fixer une limite claire à l’utilisation des chatbots dans les soins cliniques. La nouvelle loi interdit à l’IA de diagnostiquer, traiter ou communiquer avec les patients pendant les séances de thérapie.
Selon The Washington Post, l’Illinois s’aligne désormais sur le Nevada et l’Utah, qui ont tous deux restreint les outils de thérapie par IA face à des préoccupations croissantes en matière de sécurité. La loi interdit de présenter les chatbots comme des substituts aux thérapeutes agréés.
La priorité à la sécurité publique plutôt qu’au déploiement rapide de l’IA
En vertu de la mesure, les entreprises ne peuvent proposer ni promouvoir des services de thérapie reposant sur l’IA, sauf si un professionnel agréé intervient directement. La loi interdit l’utilisation de chatbots pour diagnostiquer, traiter ou communiquer avec les patients.
Les infractions feront l’objet d’enquêtes dans le cadre du système de plaintes de l’État et peuvent entraîner des amendes civiles allant jusqu’à 10 000 dollars américains. L’application de la loi sera dirigée par Mario Treto Jr., secrétaire du département de la Réglementation financière et professionnelle de l’Illinois, qui a déclaré à The Washington Post que ses services appliqueront « la lettre de la loi », tout en « plaçant la sécurité publique au premier plan » et en « assurant un équilibre entre une réglementation réfléchie et la préservation de l’innovation ».
La loi n’interdit pas toutes les utilisations de l’intelligence artificielle dans les soins de santé mentale. Les professionnels agréés peuvent toujours employer l’IA pour des tâches administratives ou non cliniques.
La manière dont la loi sera appliquée est moins évidente. Les plaintes déclencheront des enquêtes, mais la loi laisse en suspens la question des limites de la thérapie, de son commencement à sa fin.
Treto a refusé de détailler des scénarios précis, laissant les entreprises et les régulateurs naviguer dans une zone grise à l’entrée en vigueur de la réglementation.
L’IA n’est pas prête pour la thérapie
De plus en plus d’États commencent à intervenir. En Californie, une proposition créerait un groupe de travail sur l’IA et la santé mentale, tandis que des parlementaires du New Jersey veulent interdire aux développeurs de promouvoir les chatbots comme des professionnels agréés.
Ces discussions interviennent dans un contexte d’études qui mettent en évidence à la fois le potentiel et les risques. Lors d’un essai, le chatbot Therabot de Dartmouth a contribué à atténuer les symptômes de la dépression et de l’anxiété à des taux comparables aux soins ambulatoires traditionnels. Parler à certains outils d’IA, comme Claude, rend également certains utilisateurs plus positifs.
Pourtant, des recherches distinctes menées par OpenAI et le MIT Media Lab ont averti qu’une dépendance prolongée aux agents vocaux, en particulier ceux conçus avec des tons neutres, pourrait accentuer la solitude et favoriser un attachement affectif malsain.
Des recherches du King’s College London avertissent que les chatbots d’IA peuvent valider, voire intensifier, une pensée délirante, des utilisateurs ayant signalé le développement de symptômes psychotiques après des interactions prolongées. Pour les régulateurs, ces risques renforcent l’idée que l’IA, malgré des promesses initiales, n’est pas prête à servir de thérapeute.
Les interdictions ne sont qu’une partie de la réponse
Les interdictions décidées par les États constituent une étape importante, mais le travail ne peut pas s’arrêter à la législation. Les entreprises spécialisées dans l’IA doivent elles aussi prendre leur part de responsabilité pour assurer la sécurité des utilisateurs.
Anthropic travaille avec le groupe de soutien en cas de crise ThroughLine afin de définir la manière dont son chatbot Claude répond aux conversations sensibles, en orientant les utilisateurs vers une aide concrète lorsque cela est nécessaire. L’entreprise affirme que l’outil n’est pas un thérapeute et met en place des garde-fous pour qu’il le reste.
OpenAI a ajouté des garde-fous en matière de santé mentale à ChatGPT,notamment des rappels invitant à faire des pauses, des réponses révisées aux questions d’ordre émotionnel et des messages qui orientent les utilisateurs vers la réflexion plutôt que vers des conseils directs.
Ce qui est en jeu, c’est une vérité qu’on ne peut ignorer : les lois peuvent fixer les limites, mais la sécurité se décidera dans le code.