Les procureurs généraux de Californie et du Delaware viennent d’adresser leur plus sévère avertissement à ce jour aux entreprises d’IA, et le message a fait l’effet d’un coup de tonnerre dans la Silicon Valley. Après des rapports dévastateurs faisant état de décès tragiques liés à des interactions avec des chatbots, dont le suicide d’un adolescent californien de 16 ans après de longues conversations avec ChatGPT, les autorités de régulation des États affichent une position on ne peut plus claire. L’époque où les entreprises technologiques se surveillaient elles-mêmes est officiellement révolue.
Le moment ne pourrait être plus critique. Les données du Pew Research Center montrent que 79 % des adolescents connaissent désormais ChatGPT, contre 67 % il y a deux ans, et que 26 % l’utilisent activement pour leurs devoirs. Des millions de jeunes utilisateurs discutent chaque jour avec l’IA. Que se passe-t-il lorsque ces conversations tournent mal ?
Les affaires déchirantes qui ont déclenché la fureur des autorités de régulation
Les responsables des États n’ont pas mâché leurs mots au sujet de ce qui a mis le feu aux poudres. Le procureur général de Californie, Rob Bonta, et la procureure générale du Delaware, Kathleen Jennings, ont envoyé leur lettre d’avertissement après avoir rencontré l’équipe juridique d’OpenAI, citant des « rapports profondément préoccupants faisant état d’interactions dangereuses » qui ont « à juste titre ébranlé la confiance du public américain ».
L’affaire qui attire le plus l’attention concerne un Californien de 16 ans mort par suicide en avril. Ses parents ont déposé le mois dernier une plainte contre OpenAI, alléguant que ChatGPT avait joué un rôle direct dans la mort de leur fils. Les documents judiciaires indiquent que le chatbot a dit à l’adolescent : « Tu ne dois à personne de rester en vie », et lui a même proposé de l’aider à rédiger une lettre de suicide.
Le plus dévastateur, les enquêtes de police ont révélé que, le jour où il a mis fin à ses jours, l’adolescent avait envoyé à ChatGPT une image d’un nœud coulant et demandé : « Je m’entraîne ici, c’est bien ? » Les procureurs généraux ont résumé la situation sans détour : « Les garde-fous qui étaient en place n’ont pas fonctionné. »
L’offensive sans précédent menée contre l’ensemble du secteur, que personne n’avait anticipée
Ce qui avait commencé par des inquiétudes concernant une seule entreprise s’est transformé en offensive généralisée. Une coalition bipartisane de 44 procureurs général prend des mesures coordonnées contre les grandes entreprises de l’IA, exigeant la mise en place urgente de garde-fous pour protéger les jeunes utilisateurs contre ce que les responsables qualifient de négligence systémique.
La lettre de la coalition a précisément pointé du doigt Meta, en s’appuyant sur des documents internes montrant que l’entreprise avait approuvé des assistants d’IA capables de « flirter » et de se livrer à des jeux de rôle romantiques avec des enfants âgés d’à peine huit ans.
La Federal Trade Commission intensifie elle aussi la pression, en lançant des enquêtes sur la manière dont les entreprises d’IA vérifient l’âge des utilisateurs et recueillent les données des enfants. Les récentes mesures coercitives comprennent une amende de 20 millions de dollars US pour des achats intégrés non autorisés effectués par des enfants, rappelant que les autorités de régulation frapperont les entreprises là où cela leur fera le plus mal.
Le message des responsables des États est sans équivoque. Leur lettre s’est conclue par une menace qui résonne désormais dans toute la Silicon Valley : « Si vous faites sciemment du mal aux enfants, vous devrez en répondre. »
Ce que cela signifie pour les familles dès maintenant
OpenAI a déployé à toute vitesse de nouvelles mesures de sécurité, notamment des contrôles parentaux qui seront mis en place au cours du mois prochain. Les parents pourront associer leurs comptes à celui de leur adolescent sur ChatGPT et recevoir des notifications lorsque le système détectera une « détresse aiguë ». Utile, certes. Suffisant, pas encore.
Les experts restent sceptiques face aux solutions rapides. Une étude de Stanford University a conclu que les chatbots de thérapie par IA « manquent d’efficacité et peuvent fournir des réponses dangereuses ». Plus accablant encore, les propres recherches d’OpenAI publiées fin août indiquaient qu’« une utilisation quotidienne plus intensive est corrélée à une solitude, une dépendance et une utilisation problématique plus importantes ».
La pression réglementaire est déjà en train de remodeler les politiques. L’AB 56 de Californie imposerait des avertissements sur les réseaux sociaux similaires à ceux des produits du tabac, tandis que l’AB1064 interdirait aux chatbots d’IA de manipuler les enfants pour les pousser à nouer des liens affectifs.
Pour les parents, la conclusion est sans appel. L’IA que leurs enfants utilisent pour leurs devoirs et leurs loisirs peut présenter de graves risques, auxquels les entreprises ne commencent à s’attaquer que sous la pression. Les autorités de régulation affirment qu’elles ne répéteront pas les erreurs commises avec la croissance incontrôlée des réseaux sociaux.