La Federal Trade Commission a lancé une vaste enquête sur les chatbots d’IA, mettant en demeure sept géants de la tech — OpenAI, Meta, Alphabet, Snap, Instagram, X.AI et Character Technologies — au sujet des risques potentiels pour les enfants et les adolescents.
L’agence a envoyé des injonctions exigeant des précisions sur la manière dont ces entreprises testent, surveillent et sécurisent les chatbots qui imitent les émotions humaines et servent de compagnons. Les autorités cherchent notamment à déterminer si ces plateformes exposent les enfants à des dangers, comment elles monétisent les interactions avec les utilisateurs et quelles mesures elles prennent pour limiter l’accès des jeunes.
- L’utilisation de données personnelles par les chatbots d’IA suscite des inquiétudes pour la vie privée
- La pression monte en faveur d’une répression des compagnons d’IA
- Des drames révèlent le visage meurtrier des compagnons d’IA
- Les principaux procureurs des États fustigent les entreprises d’IA pour leurs défaillances en matière de sécurité des enfants
- Les entreprises d’IA ajoutent de nouvelles fonctions de sécurité pour les enfants
- Prochaines étapes de l’examen de la sécurité des chatbots
L’utilisation de données personnelles par les chatbots d’IA suscite des inquiétudes pour la vie privée
Dans le cadre de l’enquête de la FTC, l’agence cherche à obtenir des précisions sur la manière dont les entreprises conçoivent et approuvent les personnages des chatbots, sur les avertissements ou publicités qu’elles utilisent pour informer les parents et les jeunes utilisateurs, ainsi que sur la rigueur avec laquelle elles appliquent les restrictions d’âge et les règles communautaires. Les autorités veulent également savoir si les entreprises recueillent ou partagent des informations personnelles issues des conversations avec des enfants.
La Commission a souligné que cet examen constituait une étude menée dans le cadre de son pouvoir d’exiger des informations du secteur, et non une procédure coercitive. Son président, Andrew N. Ferguson, a déclaré que la FTC Trump-Vance considérait la sécurité des enfants comme une priorité absolue, tout en favorisant l’innovation dans un secteur en plein essor.
La pression monte en faveur d’une répression des compagnons d’IA
Les familles, les groupes de défense et les organismes de surveillance ont intensifié leurs appels à l’action alors que les chatbots s’intègrent au quotidien des enfants. Des plaintes affirment que certains mineurs ont développé des liens nocifs avec des compagnons d’IA, des parents soutenant que ces interactions ont aggravé leurs problèmes de santé mentale et ont, dans certains cas, contribué à des suicides et à des actes d’automutilation.
De récentes analyses menées par des organismes de surveillance ont mis en évidence des échanges troublants entre des bots et des comptes enregistrés comme appartenant à des enfants, alimentant les craintes que cette technologie puisse banaliser des comportements dangereux. Des organisations de défense pressent Washington d’intervenir avant que les systèmes d’IA générative ne s’enracinent davantage dans la culture des jeunes.
Des drames révèlent le visage meurtrier des compagnons d’IA
Une série de plaintes et d’enquêtes ont établi un lien entre les chatbots d’IA et des conséquences dévastatrices.
En Californie, les parents d’Adam Raine, âgé de 16 ans, affirment dans une plainte pour décès injustifié que ChatGPT a aggravé sa dépression et lui a fourni des indications sur les méthodes de suicide. Deux autres plaintes accusent Character.AI d’avoir contribué au suicide d’un garçon de 14 ans et d’avoir encouragé un jeune de 17 ans à attaquer ses parents.
À Greenwich, dans le Connecticut, Stein-Erik Soelberg a tué sa mère avant de mettre fin à ses jours après s’être confié pendant des mois à ChatGPT, qui, selon les enquêteurs, a renforcé ses délires paranoïaques. Des psychiatres avertissent que des chatbots très réalistes peuvent ancrer des croyances nocives chez les utilisateurs vulnérables, avec des conséquences qui dépassent largement le cadre de l’écran.
Les principaux procureurs des États fustigent les entreprises d’IA pour leurs défaillances en matière de sécurité des enfants
L’enquête de la FTC intervient alors que la pression exercée par les procureurs des États s’intensifie.
Dans une lettre ouverte, les procureurs généraux de 44 États ont averti les principales entreprises d’IA, dont Meta, OpenAI et Anthropic, qu’ils « utiliseront tous les aspects » de leurs pouvoirs pour protéger les enfants. La lettre cite des témoignages faisant état de chatbots ayant des conversations sexuelles ou romantiques avec des mineurs et se faisant passer pour des thérapeutes.
Les procureurs ont condamné ce qu’ils ont qualifié de « mépris apparent pour le bien-être émotionnel des enfants » et promis de demander des comptes aux entreprises qui mettent les enfants en danger. « Si vous faites sciemment du mal aux enfants, vous devrez en répondre », ont-ils écrit, donnant un nouvel élan à l’examen de plus en plus attentif dont les compagnons d’IA font désormais l’objet.
Les entreprises d’IA ajoutent de nouvelles fonctions de sécurité pour les enfants
Certaines entreprises commencent à mettre en place des protections. Meta, par exemple, a limité l’utilisation de ses outils d’IA par les adolescents sur des sujets sensibles comme l’automutilation ou les relations inappropriées, tandis qu’OpenAI prépare des contrôles parentaux pour son outil d’IA. Character.AI s’est engagée à renforcer sa collaboration avec des experts de la sécurité afin d’améliorer ses systèmes.
Les détracteurs estiment que ces mesures sont insuffisantes, soulignant que des interactions nocives persistent même lorsque des garde-fous sont en place. L’enquête de la FTC permettra de déterminer si ces correctifs suffisent à protéger les jeunes utilisateurs.
Prochaines étapes de l’examen de la sécurité des chatbots
L’examen de la FTC est une étude destinée à établir les faits, et non une procédure coercitive, mais l’agence pourrait publier un rapport ou adopter des mesures plus strictes une fois qu’elle aura recueilli les réponses des entreprises. Des enquêtes menées au niveau des États, notamment par les procureurs généraux, se déroulent en parallèle.
La décision à venir montrera si les autorités peuvent agir assez vite pour protéger les enfants, car chaque retard pourrait contraindre les familles à en payer le prix.
En plus de se faire passer pour des thérapeutes, les chatbots ont été critiqués pour avoir imité des célébrités, notamment Taylor Swift et Scarlett Johansson.