Meta met en place une nouvelle série de contrôles parentaux pour aider les parents à gérer la façon dont leurs adolescents interagissent avec les chatbots d’IA sur ses différentes plateformes, après des mois de préoccupations du public et de surveillance réglementaire.
L’annonce, publiée dans un article de blog par le responsable d’Instagram Adam Mosseri et le directeur de l’IA de Meta Alexandr Wang, présente des outils conçus pour donner aux parents une meilleure visibilité sur les conversations avec l’IA et limiter les interactions potentiellement inappropriées.
À partir du début de l’année prochaine, les parents pourront désactiver complètement l’accès de leurs adolescents aux conversations individuelles avec des personnages d’IA, ou bloquer sélectivement certains chatbots. L’entreprise a précisé que ces contrôles apparaîtraient d’abord sur Instagram et seraient disponibles en anglais aux États-Unis, au Royaume-Uni, au Canada et en Australie.
Meta indique que les parents pourront également savoir “sur quels sujets leurs adolescents discutent avec des personnages d’IA”, ce qui leur permettra d’entamer “des conversations réfléchies” sur l’utilisation de l’IA. Si ces informations ne révéleront pas l’intégralité des historiques de conversation, l’entreprise affirme qu’elles donneront une vue d’ensemble des tendances d’interaction.
L’entreprise a souligné que son principal assistant d’IA resterait actif pour les adolescents, en leur fournissant un soutien éducatif et des informations avec “des protections adaptées à leur âge en place”. Comme l’ont déclaré Mosseri et Wang dans l’annonce, “La technologie ne remplacera jamais la valeur de l’esprit critique, des relations dans la vie réelle et des interactions humaines — et ce n’est pas notre objectif.”
Renforcer la protection des adolescents
Cette initiative s’appuie sur les mesures de protection déjà en place pour les Teen Accounts de Meta, qui limitent déjà les contenus aux normes PG-13. Cela signifie que les systèmes d’IA de l’entreprise sont programmés pour éviter les réponses portant sur des sujets sensibles ou explicites — comme l’automutilation, le suicide ou les troubles alimentaires — et orienter plutôt les adolescents vers des ressources professionnelles lorsque cela est nécessaire.
Meta a indiqué que seul un nombre limité de personnages d’IA, consacrés à des sujets comme l’éducation, le sport et les loisirs, était disponible pour les interactions avec les adolescents. Les parents peuvent également fixer des limites quotidiennes de temps d’écran, y compris le temps passé à parler avec des personnages d’IA.
Le déploiement intervient après des critiques reprochant à Meta de ne pas avoir empêché les comportements inappropriés des chatbots. En août, Reuters a rapporté que certains personnages d’IA avaient eu des conversations romantiques avec des utilisateurs mineurs, poussant Meta à revoir ses règles de sécurité liées à l’IA. L’entreprise bloque désormais tout dialogue romantique ou sexuel entre les chatbots d’IA et les adolescents.
La Federal Trade Commission (FTC) des États-Unis a également ouvert une enquête sur de grandes entreprises technologiques — dont Meta et OpenAI — afin de déterminer si les chatbots d’IA présentent des risques pour les mineurs. L’agence a indiqué vouloir comprendre comment ces entreprises “évaluent la sécurité de ces chatbots lorsqu’ils jouent le rôle de compagnons”.
Meta espère que ces nouvelles fonctionnalités rassureront les familles alors que l’IA continue d’évoluer rapidement. “Nous nous engageons à fournir aux parents des outils et des ressources utiles qui leur simplifient la vie, notamment lorsqu’ils réfléchissent à de nouvelles technologies comme l’IA”, ont écrit Mosseri et Wang.
Goldman Sachs estime que le boom de l’IA n’en est encore qu’à ses débuts, malgré les inquiétudes croissantes du marché quant à la formation éventuelle d’une bulle de l’IA.