La Federal Trade Commission (FTC) prépare un examen des chatbots d’intelligence artificielle afin de déterminer leur impact sur les enfants, notamment en matière de santé mentale et de vie privée. L’agence enverra des courriers à des entreprises comme OpenAI, Meta Platforms et character.ai, leur demandant des documents sur l’utilisation de leurs produits d’IA par les jeunes publics, selon The Wall Street Journal.
L’étude, menée dans le cadre des pouvoirs de la FTC pour exiger la communication d’informations, cherchera à déterminer si les chatbots exposent les enfants à des interactions préjudiciables ou compromettent leurs données personnelles. Les autorités de régulation devraient examiner la façon dont les entreprises technologiques stockent les données des utilisateurs, déterminer si les dispositifs de protection sont suffisants et vérifier si les chatbots peuvent contribuer à des comportements dangereux chez les mineurs.
Les courriers de la FTC devraient marquer la première étape d’une enquête plus vaste. Une fois les informations recueillies auprès des entreprises, l’agence pourrait publier un rapport ou prendre des mesures coercitives plus sévères.
La pression des parents et des associations
Cette initiative intervient après des poursuites alléguant que des mineurs ont développé des liens affectifs nocifs avec des chatbots, certaines familles affirmant que ces interactions ont contribué à des suicides et à des actes d’automutilation. Une récente analyse d’un organisme de surveillance a rapporté que les bots de character.ai avaient fréquemment des échanges préjudiciables avec des comptes enregistrés comme étant ceux d’enfants.
Les élus, les parents et les associations ont pressé Washington d’intervenir alors que les outils d’IA s’intègrent au quotidien des enfants. The Journal a rapporté que la Maison-Blanche avait approuvé l’examen de la FTC, même si certains responsables ont averti que des règles plus strictes pourraient nuire à la compétitivité du pays face à la Chine dans la course mondiale à l’IA.
« Le président Trump s’est engagé à asseoir la domination de l’Amérique dans l’IA, les cryptomonnaies et les autres technologies de pointe de l’avenir », a déclaré le porte-parole de la Maison-Blanche Kush Desai dans une déclaration citée par The Journal. « Le président de la FTC, Andrew Ferguson, et l’ensemble de l’administration s’attachent à respecter ce mandat sans compromettre la sécurité et le bien-être du peuple américain. »
La Première dame s’engage activement
La Première dame Melania Trump a fait de la sécurité des enfants à l’ère numérique une priorité personnelle. Elle a organisé cette semaine un événement à la Maison-Blanche, réunissant de hauts responsables du secteur technologique, dont Sundar Pichai, de Google, Sam Altman, d’OpenAI, et Satya Nadella, de Microsoft.
Lors de l’événement, elle a appelé à la prudence, déclarant : « En tant que dirigeants et parents, nous devons gérer la croissance de l’IA de manière responsable. À ce stade primitif, il est de notre devoir de traiter l’IA comme nos propres enfants — en lui donnant les moyens de s’épanouir, mais sous une surveillance attentive », selon The Journal.
Les entreprises technologiques réagissent avec des dispositifs de protection
Certaines entreprises ont déjà pris des mesures pour mettre en place de nouvelles protections. Meta a récemment limité ses outils d’IA afin qu’ils n’abordent pas avec les adolescents des sujets tels que l’automutilation ou les relations inappropriées. OpenAI prépare des comptes pour adolescents supervisés, dotés de fonctionnalités de contrôle parental, tandis que character.ai s’est engagé à renforcer sa collaboration avec des experts de la sécurité afin de consolider ses systèmes.
Les critiques estiment que ces mesures ne suffisent pas. Le procureur général du Texas, Ken Paxton, a également ouvert des enquêtes visant Meta et character.ai, les accusant d’induire les enfants en erreur et de violer les protections des consommateurs.Une lettre ouverte signée par 44 procureurs généraux américains met en garde les grandes entreprises de l’IA — notamment Meta, Apple et Google — en les avertissant qu’elles « utiliseront tous les aspects de [leur] autorité » pour protéger les enfants des préjudices liés aux chatbots.