OpenAI a officiellement lancé un nouveau système qui vise à prédire votre âge en observant la façon dont vous utilisez ChatGPT.
Annoncé mardi, le géant de l’IA déploie un modèle de « prédiction de l’âge » dans toutes les formules grand public de ChatGPT. Au lieu de simplement vous croire sur parole, le système recherche désormais des indices numériques pour déterminer si un compte appartient à un mineur.
Selon l’entreprise, « lorsque le modèle de prédiction de l’âge estime qu’un compte peut appartenir à une personne de moins de 18 ans, ChatGPT applique automatiquement des protections supplémentaires conçues pour réduire l’exposition aux contenus sensibles ».
Ces protections sont conçues pour bloquer la génération de contenus impliquant des violences graphiques, des jeux de rôle sexuels ou violents, des représentations d’automutilation ainsi que des contenus faisant la promotion de standards de beauté extrêmes ou de régimes alimentaires malsains.
La priorité à la sécurité des adolescents
Cela ne se produit pas dans le vide. OpenAI, comme de nombreuses entreprises technologiques, fait face à une pression juridique et réglementaire croissante pour mieux protéger les utilisateurs les plus jeunes. L’entreprise est visée par des poursuites, dont l’une a été rapportée par CNBC et qui porte sur le décès par suicide d’un adolescent, qui aurait été lié à ses interactions avec ChatGPT.
La Federal Trade Commission examine également les effets des chatbots d’IA sur les enfants.
OpenAI présente le nouveau système comme un moyen d’accorder à terme davantage de liberté aux adultes. « Cela nous permet également de traiter les adultes comme des adultes et de leur permettre d’utiliser nos outils comme ils le souhaitent, dans les limites de la sécurité », a expliqué l’entreprise dans son annonce. L’idée est qu’en identifiant les mineurs avec suffisamment de certitude, la plateforme peut appliquer des règles plus strictes lorsque c’est nécessaire, sans restreindre tous les utilisateurs.
Et si l’IA se trompait ?
Le système ne sera pas parfait. Les adultes identifiés à tort comme des adolescents pourront rétablir leur accès complet, mais devront effectuer une étape supplémentaire. Ils devront vérifier leur âge via Persona, un service d’identité tiers, en envoyant un selfie.
Les utilisateurs peuvent vérifier si des protections ont été appliquées à leur compte dans Paramètres > Compte, où ils peuvent lancer le processus de vérification avec un selfie.
Parallèlement à la prédiction de l’âge, OpenAI indique que les parents peuvent davantage personnaliser l’expérience de leurs adolescents sur ChatGPT grâce aux contrôles parentaux. Ces outils permettent aux parents de définir des heures de tranquillité, de gérer des fonctionnalités comme la mémoire ou l’entraînement des modèles, et de recevoir des notifications si des signes de détresse aiguë sont détectés.
L’entreprise affirme que ces contrôles visent à donner aux familles une meilleure visibilité et davantage de choix lorsque les adolescents utilisent des outils d’IA plus fréquemment à l’école et à la maison.
Le déploiement est mondial, mais l’Union européenne sera concernée dans les prochaines semaines afin de respecter les lois régionales sur la sécurité numérique. OpenAI affirme qu’elle continuera à améliorer la précision du modèle et que ses travaux plus larges sur la sécurité des adolescents, menés avec des groupes comme l’American Psychological Association, se poursuivent.
À lire également : les tendances de l’IA pour 2026 pour en savoir plus sur la direction que Microsoft estime que prendra l’IA.