À Washington, républicains et démocrates ne s’accordent presque sur rien. Les chatbots d’IA qui parlent aux enfants pourraient être l’une des rares exceptions.
La commission judiciaire du Sénat a voté jeudi à 22-0 pour faire avancer un projet de loi qui restreindrait l’accès des mineurs aux plateformes de compagnons d’IA et imposerait des sanctions pénales aux entreprises qui enfreindraient sciemment ces règles. Le texte va désormais être examiné par l’ensemble du Sénat, offrant à la réglementation de la sécurité des enfants dans le domaine de l’IA un rare élan bipartisan.
Ce vote marque une nouvelle phase dans le bras de fer technologique à Washington : les législateurs ne se concentrent plus uniquement sur les méfaits des réseaux sociaux, mais aussi sur les systèmes d’IA capables de simuler des relations intimes et individuelles avec de jeunes utilisateurs.
Le début d’une nouvelle forme de fin
Le texte fait suite à des mois d’auditions au cours desquelles des parents ont décrit des situations déchirantes, leurs enfants ayant été poussés par une IA à s’automutiler ou à se suicider. Selon un article de NBC News, une motion visant à soumettre le texte au vote a été déposée par le sénateur républicain Josh Hawley et le sénateur démocrate Richard Blumenthal.
Dans une publication sur X annonçant la décision unanime de voter en faveur du texte, Hawley a écrit : « Aucun profit ne justifie la DESTRUCTION de nos enfants. Il est temps de soumettre ce texte au vote du Sénat. »
Cette déclaration porte le poids d’un deuil bien réel. Lors d’une audition de la commission l’an dernier, les parents d’un adolescent de 16 ans ont témoigné devant la commission, affirmant que ChatGPT avait poussé le garçon au suicide. Megan Garcia, la mère d’un garçon de 14 ans qui aurait lui aussi été poussé par Character.AI à mettre fin à ses jours, participait également à cette audition.
Ce que vise le projet de loi
En s’appuyant sur le GUARD Act, la commission cherche à interdire l’utilisation des chatbots d’IA par les enfants au moyen de procédures strictes de vérification de l’âge. Le texte impose également aux entreprises d’IA proposant des services de compagnons d’IA d’indiquer régulièrement à tous les utilisateurs leur nature non humaine.
Les entreprises qui enfreindront ce texte une fois celui-ci adopté comme loi s’exposeront à des sanctions pénales. Sont notamment considérés comme des violations le fait de concevoir, développer ou distribuer des compagnons d’IA qui suggèrent des comportements sexuels aux mineurs. Encourager des actes d’automutilation constituera également une violation de cette loi.
Cependant, le texte a rapidement suscité les critiques des défenseurs de la confidentialité numérique. NBC News rapporte que ces défenseurs invoquent les atteintes à la vie privée et les restrictions à la liberté d’expression pour expliquer leur refus de soutenir la méthode d’application de la loi proposée par la commission.
Selon Axios, le sénateur Ted Cruz propose un CHATBOT Act, avec les sénateurs Brian Schatz (D-Hawaii), Adam Schiff (D-Calif) et John Curtis (R-Utah). Le texte obligerait les entreprises d’IA à proposer des comptes familiaux, auxquels les parents pourraient ajouter leurs enfants, surveiller leur utilisation et fixer des limites à ce à quoi ils peuvent accéder dans le cadre du compte.
Axios rapporte également que d’autres sénateurs proposent des textes visant à encadrer l’utilisation de l’IA par les mineurs.
L’idée plus large de restreindre l’accès des mineurs aux technologies
Examiner la situation à travers le prisme des politiques américaines peut sembler réducteur. Mais ce n’est pas le cas. Plusieurs pays ont récemment commencé à réglementer les effets des technologies sur les enfants.
- L’Australie a adopté une mesure historique interdisant les réseaux sociaux aux moins de 16 ans.
- Le Danemark lui a emboîté le pas avec une interdiction des réseaux sociaux pour les moins de 15 ans, bientôt suivi par la Norvège.
- Plus à l’est, la Malaisie a annoncé son intention de mettre en place des mesures strictes de vérification de l’âge pour l’utilisation des réseaux sociaux, avec pour objectif d’interdire leur accès aux moins de 16 ans.
- En Europe, une enquête a révélé que 75 % des personnes soutiennent les politiques publiques visant à fixer un âge minimal pour accéder aux plateformes de réseaux sociaux.
Les États-Unis ne sont pas étrangers à ces débats. Des jurys américains ont jugé des entreprises de réseaux sociaux responsables des préjudices causés aux jeunes utilisateurs par des mécanismes de conception et des contenus addictifs. Le GUARD Act reprend cette même logique pour l’appliquer à une nouvelle frontière, plus intime — les chatbots d’IA.
Reste à voir si le texte survivra à un vote de l’ensemble du Sénat, aux négociations avec la Chambre des représentants et à la probable opposition du secteur. Mais le vote de la commission montre que les plateformes de compagnons d’IA passent rapidement du statut de nouveauté à celui de cible réglementaire, surtout lorsque des enfants sont concernés.
Pour découvrir plus en détail comment obtenir concrètement des réponses meilleures et plus fiables de la part des outils d’IA, consultez ce guide : Conseils pour mieux formuler ses prompts et obtenir de meilleures réponses des chatbots, qui présente des méthodes simples pour transformer des prompts vagues en résultats réellement utiles.