OpenAI prévoit d’ajouter des contrôles parentaux à ChatGPT et d’orienter les conversations plus sensibles vers ses modèles les plus avancés, apparemment en réaction à plusieurs cas récents où l’IA aurait encouragé le suicide ou d’autres formes de violence.
L’entreprise travaille en coulisses sur des mesures de protection, mais « souhaite présenter de manière proactive nos projets pour les 120 prochains jours, afin que vous n’ayez pas à attendre leur lancement pour voir quelle direction nous prenons », selon un article de blog publié le 2 septembre.
Les contrôles parentaux permettront aux utilisateurs d’accéder au compte de leur adolescent et de désactiver certaines fonctionnalités
Les contrôles parentaux apparaîtront dans ChatGPT sous forme d’option en septembre. Ils permettront aux parents de :
- Associer leur compte à celui de leur adolescent.
- Sélectionner des règles de comportement du modèle conçues pour les adolescents (activées par défaut).
- Désactiver des fonctionnalités comme la mémoire et l’historique des conversations.
- Recevoir des alertes si le système signale une « détresse aiguë » sur le compte de leur adolescent.
OpenAI a déclaré avoir consulté des experts afin de s’assurer que ces contrôles préservent la confiance entre parents et adolescents, a déclaré l’entreprise. ChatGPT n’est pas recommandé aux utilisateurs de moins de 13 ans.
« Des fonctionnalités de sécurité comme celles-ci ne protègent pas seulement les utilisateurs vulnérables : elles établissent également un précédent important en matière de gouvernance responsable de l’IA, a déclaré par e-mail à TechRepublic Alon Yamin, cofondateur et PDG du service de vérification de contenu basé sur l’IA Copyleaks.
« La transparence, le contrôle et la responsabilité doivent devenir des exigences fondamentales, et non des considérations secondaires. Si les entreprises veulent que l’IA soit largement adoptée à grande échelle, que ce soit dans les salles de classe, les lieux de travail ou les foyers, elles doivent démontrer que la protection du bien-être humain est tout aussi importante que le progrès technologique. »
Les conversations difficiles pourraient automatiquement amener ChatGPT à sélectionner un modèle de raisonnement
OpenAI étudie également des modifications de la manière dont ChatGPT sélectionne le modèle à utiliser lorsqu’il traite des crises de santé mentale ou des sujets émotionnellement complexes.
Les modèles de raisonnement, comme GPT‑5-thinking et o3, sont conçus pour consacrer davantage de temps au traitement des messages des utilisateurs et pour appliquer un contexte supplémentaire avant de générer une réponse. Pour cette raison, OpenAI a déclaré que certaines conversations portant sur des sujets « sensibles » ou présentant des signes de « détresse aiguë » seraient « bientôt » automatiquement orientées vers ces modèles plus délibératifs.
Les décisions d’OpenAI en matière de santé et de sécurité seront guidées par l’Expert Council on Well-Being and AI ainsi que par le Global Physician Network, a déclaré l’entreprise. Le conseil est composé de professionnels du développement de la jeunesse, de la santé mentale et de l’interaction humain-machine, qui fournissent des recommandations sur la manière dont l’IA peut améliorer la vie des gens. Les futures versions des contrôles parentaux seront en partie développées à partir des retours de ce groupe.
De son côté, le Global Physician Network compte 250 médecins répartis dans 60 pays. OpenAI a déclaré que 90 de ces experts, issus de 30 pays, avaient déjà contribué à des recherches visant à déterminer le comportement de ses modèles dans les conversations sur la santé mentale. OpenAI a également intégré des spécialistes des troubles alimentaires, de la consommation de substances, de la santé des adolescents et d’autres domaines.
Dans l’actualité de la Big Tech, Meta a récemment supprimé des comptes qui inondaient Facebook d’images générées par l’IAreprésentant l’Holocauste.