42 États citent OpenAI à comparaître, quelques jours après son dépôt de dossier d’introduction en Bourse à mille milliards de dollars

ChatGPT vient d’être convoqué chez le proviseur, sauf que le proviseur est cette fois constitué de 42 procureurs généraux d’État réunis.

Vendredi dernier (le 12 juin), la procureure générale de l’État de New York, Letitia James a adressé une citation à comparaître à OpenAI au nom d’une coalition de 42 États. Il s’agit de l’enquête judiciaire la plus vaste jamais lancée par un gouvernement d’État contre une entreprise d’IA, et ce n’est que la dernière pièce en date du dossier judiciaire de plus en plus fourni d’OpenAI.

Voici ce qui s’est passé

• La citation à comparaître exige des documents sur la publicité d’OpenAI, sur la manière dont l’entreprise maintient l’engagement des utilisateurs, et sur sa gestion des données des consommateurs et des données de santé
• Les enquêteurs veulent également savoir comment ChatGPT traite les mineurs et les personnes âgées, ainsi que des détails sur sa « complaisance » (lorsqu’un chatbot vous dit ce que vous voulez entendre au lieu de vous dire ce qui est vrai ou sûr)
• L’enquête intervient environ une semaine après qu’OpenAI a déposé confidentiellement son dossier d’introduction en Bourse qui pourrait valoriser l’entreprise à près de 1 000 milliards de dollars
• Elle s’ajoute à la plainte déposée par la Floride au début du mois, une plainte de 83 pages qui met personnellement en cause le PDG Sam Altman et qui découle d’une enquête pénale menée en avril à la suite d’une fusillade sur le campus de la Florida State University
• OpenAI affirme coopérer « de manière constructive » à la nouvelle enquête

Pourquoi c’est important

L’affaire se prépare depuis des mois.

En décembre dernier, la même coalition de 42 États avait envoyé une lettre d’avertissement commune à OpenAI, Meta, Anthropic, Google et xAI, les exhortant à mettre en place des garde-fous pour les utilisateurs vulnérables de chatbots. Six mois plus tard, OpenAI est la première entreprise visée par une citation à comparaître.

Les fonctionnalités examinées sont précisément celles qui rendent ChatGPT utile au quotidien : les mécanismes qui favorisent l’engagement, la mémoire de vos conversations et le ton conciliant. Si les régulateurs limitent le degré de « complaisance » autorisé pour un chatbot, le produit sur lequel s’appuient 800 millions d’utilisateurs hebdomadaires pourrait sembler sensiblement différent.

Le calendrier est également malvenu. Les enquêtes de cette ampleur doivent être déclarées dans le formulaire S-1 d’une entreprise (le dossier déposé avant son entrée en Bourse), ce qui ajoute un nouveau facteur de risque pour les investisseurs, alors même qu’Anthropic a aussi déposé confidentiellement le dossier de sa propre introduction en Bourse, d’une valeur d’environ 965 milliards de dollars, la semaine dernière.

Notre analyse

La « complaisance » pourrait bien devenir le grand mot à la mode de la réglementation de l’IA en 2026.

C’est la première grande enquête axée sur la façon dont un chatbot se comporte, et pas seulement sur ce qu’il fait de vos données. Cela dit, une citation à comparaître est une demande de documents, pas un verdict, et OpenAI ressemble davantage à une entreprise en pleine gestion de crise qu’à une entreprise se préparant au choc. Dans tous les cas, attendez-vous à ce que beaucoup plus de gens lisent réellement les conditions d’utilisation de ChatGPT cette semaine.

Note de la rédaction : cet article a été publié à l’origine dans notre publication sœur, The Neuron.