Les chatbots d’IA font désormais partie du quotidien des adolescents. Cette évolution exerce une nouvelle pression sur la manière dont la sécurité et la responsabilité sont intégrées.
Dans ce contexte, OpenAI s’est engagée à faire de la sécurité des enfants une priorité avec la sortie de son dernier modèle, GPT-5.2, en introduisant une spécification de modèle mise à jour pour les moins de 18 ans, ainsi que de nouvelles ressources d’éducation au numérique pour aider les adolescents et leurs parents à utiliser le chatbot de manière responsable.
Cette décision intervient alors que la pression s’intensifie de la part des législateurs et des parents endeuillés. ChatGPT est au cœur de plusieurs poursuites qui affirment que son utilisation a contribué à des suicides et à des épisodes de psychose, les plaignants soutenant qu’OpenAI n’a pas mis en place de garde-fous préventifs adéquats et a influencé des utilisateurs vulnérables pour les amener à prendre des décisions dangereuses.
La spécification de modèle mise à jour est un ensemble écrit de valeurs destiné à guider le chatbot dans les situations difficiles ou à forts enjeux lorsqu’il interagit avec des utilisateurs de moins de 18 ans. ChatGPT est actuellement accessible aux utilisateurs âgés de 13 ans et plus. OpenAI a élaboré ces lignes directrices en collaboration avec l’American Psychological Association.
En résumé, les principes applicables aux moins de 18 ans donnent la priorité à la sécurité des adolescents, même lorsque celle-ci peut entrer en conflit avec les fonctions fondamentales du chatbot, tout en encourageant le recours à un soutien dans le monde réel plutôt qu’à des conseils générés par l’IA. Le chatbot adaptera également son langage aux adolescents et définira plus clairement les attentes concernant ses capacités. Ces mesures s’appuient sur des fonctionnalités déjà axées sur les adolescents, notamment les contrôles parentaux qui avertissent les parents lorsque certains termes sont recherchés.
Se conformer de manière proactive avant l’arrivée des autorités de régulation
Ces mises à jour interviennent un mois après que le gouverneur de Californie Gavin Newsom a promulgué un ensemble de lois visant à protéger les enfants des chatbots d’IA. La législation impose aux entreprises d’IA de mettre en place des garde-fous pour les adolescents sur certains sujets et de les rediriger vers des services d’aide adaptés.
La mise à jour d’OpenAI répond à ces deux exigences, mais elle ne va pas jusqu’à informer les utilisateurs toutes les trois heures qu’ils parlent à une IA, une autre disposition prévue par la loi.
OpenAI et les autres fournisseurs de chatbots devront également rendre publics leurs protocoles de sécurité et de sûreté, ainsi que les incidents de sécurité majeurs, afin d’améliorer la transparence dans l’ensemble du secteur.
Une loi nationale sur l’IA est également en préparation, et pourrait se substituer aux législations adoptées par les États. Certains experts de la sécurité de l’IA craignent qu’un cadre national sous l’administration Trump soit moins contraignant que l’approche californienne, réduisant la quantité d’informations que les entreprises seraient tenues de divulguer.
La sécurité de l’IA face à une concurrence qui s’intensifie
En tant que figure de proue du marché des chatbots, OpenAI fait l’objet d’une surveillance plus étroite que ses rivales Google, Meta et Anthropic.
Si la sécurité ne fait pas intrinsèquement obstacle à l’innovation, être à l’avant-garde de la mise en œuvre de fonctionnalités de sécurité peut être perçu comme une charge inégalement répartie, ce qu’a déjà laissé entendre le PDG d’OpenAI, Sam Altman. Et ce, malgré des tests comme SafetyBench qui montrent que les modèles GPT devancent systématiquement leurs concurrents lors des évaluations liées à la sécurité.
OpenAI a récemment déclaré un « code rouge » en réaction à la montée rapide de la popularité et des capacités des modèles concurrents, notamment Gemini 3 de Google, qui a reçu des critiques très favorables lors de son lancement. Claude, d’Anthropic, s’est également imposé comme une option par défaut pour le développement et les usages professionnels, même si ChatGPT compte toujours davantage de clients professionnels.
Le déploiement de mises à jour plus rapidement que prévu pourrait exposer OpenAI à un regain de surveillance si les fonctionnalités de sécurité s’avèrent insuffisantes. GPT-5.2, lancé la semaine dernière, devait initialement sortir fin décembre ou début janvier. Après plusieurs années de croissance fulgurante, l’entreprise avait, on peut le dire, relâché son attention en lançant des outils annexes comme Sora, mais elle s’est depuis recentrée sur l’objectif de faire à nouveau de ChatGPT le meilleur de sa catégorie.
Également dans l’actualité de l’IA : OpenAI vient de remanier en profondeur sa fonctionnalité ChatGPT Images pour s’attaquer à l’outil de génération d’images Nano Banana de Google, devenu viral, en proposant aux utilisateurs du monde entier une création et une retouche d’images plus rapides et plus conversationnelles.