Avertissement : cet article contient des descriptions d’automutilation.
OpenAI a déployé des contrôles parentaux pour ChatGPT, notamment un système d’examen susceptible d’alerter les parents si leur enfant exprime des pensées suicidaires en utilisant le chatbot.
Le nouveau système de ChatGPT utilise une détection automatisée pour signaler les risques potentiels et transmet l’échange à une équipe de collaborateurs spécialement formés pour l’examiner. Si des signes de détresse aiguë sont détectés, l’équipe peut alors prévenir les parents par e-mail, SMS ou notification push, sauf si ceux-ci ont choisi de ne pas recevoir ces alertes. Il s’agit de l’un des rares cas où une partie de la conversation d’un adolescent avec ChatGPT peut être communiquée à ses parents.
« Aucun système n’est parfait, et nous savons qu’il peut nous arriver de déclencher une alerte alors qu’il n’y a pas de danger réel », a écrit OpenAI dans un article de blog. « Mais nous pensons qu’il vaut mieux agir et prévenir un parent afin qu’il puisse intervenir plutôt que de rester silencieux. »
En août 2025, OpenAI a été poursuivie par les parents d’Adam Raine, qui s’est suicidé après avoir, selon les allégations, reçu du chatbot des conseils sur la manière de mettre fin à ses jours. Selon la plainte, le jeune homme de 16 ans avait explicitement dit à ChatGPT qu’il était « le seul à connaître mes tentatives de suicide », et le chatbot lui avait répondu en le remerciant pour sa confiance. Sa mère, Maria Raine, a déclaré à NBC News que ChatGPT « ne fait rien », alors même qu’« il sait qu’il est suicidaire et qu’il a un plan ».
Des recherches de Common Sense Media indiquent que les enfants sont particulièrement exposés aux encouragements à adopter des comportements dangereux, à l’accès à des contenus inappropriés et à l’aggravation de troubles de santé mentale préexistants.
Les parents peuvent définir des plages horaires silencieuses et désactiver certaines fonctionnalités
Les autres nouveaux contrôles parentaux comprennent des interrupteurs individuels permettant de désactiver le mode vocal, l’enregistrement des conversations dans la mémoire de ChatGPT, l’entraînement des modèles et la génération d’images. Les parents peuvent également définir des plages horaires silencieuses pendant lesquelles leur enfant, âgé de 13 à 17 ans, ne peut pas accéder à ChatGPT.
Les parents peuvent accéder à ces fonctionnalités dans les paramètres de leur compte une fois celui-ci lié à celui de leur enfant, en envoyant ou en acceptant une invitation. Les adolescents peuvent dissocier leurs comptes, mais leurs parents seront prévenus de ce changement.
Le compte d’un adolescent bénéficiera d’un ensemble de protections appliquées automatiquement dès qu’il sera lié à celui de son parent, notamment une réduction des contenus graphiques, des défis viraux, des jeux de rôle sexuels, romantiques ou violents, ainsi que des idéaux de beauté extrêmes. Le parent peut désactiver ces protections, mais pas son enfant.
En plus de ces contrôles, OpenAI a publié une page de ressources pour les parents qui fournit des informations sur le fonctionnement de ChatGPT et sur les contrôles à leur disposition. L’entreprise met également au point un système capable de prédire si un utilisateur a moins de 18 ans et d’appliquer automatiquement des paramètres adaptés aux adolescents, même en cas d’incertitude.
Dans un article de blog publié parallèlement, Altman a déclaré qu’OpenAI pourrait commencer à demander une vérification de l’âge dans certaines régions. Pour l’instant, ChatGPT reste largement accessible à toute personne disposant d’un navigateur ou pouvant télécharger une application, bien qu’il ne soit pas adapté aux enfants de moins de 12 ans.
Altman reconnaît qu’OpenAI ne peut pas bloquer complètement les contenus inappropriés pour les adolescents
La protection des enfants face à l’IA est actuellement une priorité, après une série d’incidents récents impliquant des chatbots. En avril, il a été établi que les chatbots d’IA de Meta, accessibles via Facebook, Instagram et WhatsApp, pouvaient avoir des conversations explicites avec des mineurs si celles-ci étaient présentées comme des jeux de rôle. Jusqu’à récemment, Meta permettait également à ses chatbots de se laisser entraîner dans des conversations « romantiques ou sensuelles » avec des enfants.
Altman estime que, si les enfants ne devraient pas pouvoir avoir de « discussions sur le suicide ou l’automutilation » avec ChatGPT, les adultes pourraient y avoir accès dans certains cas précis, par exemple pour utiliser ces informations dans l’écriture d’une fiction. OpenAI ne bloquera donc pas entièrement cette fonctionnalité.
« “Traiter nos utilisateurs adultes comme des adultes” est la manière dont nous en parlons en interne : étendre la liberté autant que possible sans causer de préjudice ni porter atteinte à la liberté de qui que ce soit d’autre », a écrit Altman.
La plainte des Raine n’est pas non plus la première action en justice intentée contre une entreprise d’IA pour avoir mis des enfants en danger. Deux plaintes déposées contre Character.AI affirment que son chatbot a conduit au suicide d’un garçon de 14 ans et a encouragé un garçon de 17 ans à tuer ses parents.
L’Italie exige désormais par la loi que tous les enfants de moins de 14 ans obtiennent l’autorisation de leurs parents avant d’accéder aux systèmes d’IA.