OpenAI renforce les mesures de protection de ChatGPT pour les adolescents alors qu’elle prépare de nouvelles fonctionnalités de sécurité, notamment des contrôles parentaux et des protections activées par défaut lorsque l’âge est incertain. L’entreprise technologique a déclaré qu’elle travaillait à la mise en place d’un système à long terme permettant de vérifier l’âge des utilisateurs.
La mise à jour de ChatGPT promet également des outils permettant aux parents de relier leurs comptes, de définir des règles, de limiter certaines fonctionnalités et d’imposer des plages horaires sans accès.
Privilégier la sécurité à la liberté
OpenAI privilégie la sécurité des adolescents sur ChatGPT, même si cela signifie limiter certaines libertés ou une part de la vie privée afin de protéger les utilisateurs les plus jeunes.
La mise à jour ajoute des filtres automatiques pour bloquer les contenus sexuels explicites et proposer des réponses adaptées aux adolescents. D’ici fin septembre, de nouveaux contrôles parentaux permettront aux familles de relier leurs comptes à partir de 13 ans, de définir des règles, de désactiver la mémoire ou l’historique des conversations et d’imposer des plages horaires sans accès.
Les parents recevront également des notifications dans les rares cas de détresse aiguë, les forces de l’ordre étant contactées si les responsables légaux ne peuvent pas être joints. Pour limiter les usages excessifs, ChatGPT introduira des rappels de pause pendant les longues sessions. Lorsque la prédiction de l’âge est incertaine, OpenAI affirme qu’elle « privilégiera la prudence » par défaut, en basculant les utilisateurs vers l’expérience réservée aux moins de 18 ans. Les adultes pourront prouver leur âge pour rétablir l’accès complet.
Le déploiement des mesures de sécurité pour les adolescents intervient alors que les autorités de régulation demandent des comptes aux entreprises d’IA
Les nouvelles mesures de protection de ChatGPT interviennent alors que la Federal Trade Commission enquête sur la manière dont les entreprises d’IA — notamment OpenAI, Meta et Alphabet — testent et surveillent leurs chatbots d’IA pour repérer les risques auxquels sont exposés les enfants. L’agence cherche à savoir si ces systèmes mettent les mineurs en danger, comment les données sont traitées et quelles mesures les entreprises prennent pour limiter les interactions dangereuses.
À cette surveillance fédérale s’ajoute le fait que les procureurs généraux de 44 États ont signé une lettre ouverte promettant de tenir les développeurs d’IA pour responsables si les chatbots mettent des enfants en danger.
Les poursuites liées à des décès très médiatisés accentuent la pression sur les promesses de sécurité de ChatGPT
OpenAI fait face à des poursuites judiciaires fondées sur des accusations selon lesquelles ChatGPT aurait aggravé les problèmes de santé mentale d’utilisateurs vulnérables. Ainsi, les parents d’Adam Raine, âgé de 16 ans, ont poursuivi l’entreprise en justice, affirmant que l’outil d’IA avait fourni à leur fils des instructions personnalisées sur les méthodes de suicide avant sa mort.
Dans le Connecticut, des enquêteurs ont déclaré qu’un homme s’était confié à ChatGPT tandis que celui-ci renforçait ses délires paranoïaques, ce qui a abouti à un meurtre-suicide.
Les familles et les associations de défense des utilisateurs estiment que ces affaires révèlent de dangereuses lacunes dans les mesures de protection, accentuant la pression sur OpenAI pour qu’elle concrétise ses nouveaux contrôles parentaux et ses mesures de protection destinées aux adolescents.
La course est lancée pour rendre les chatbots plus sûrs
OpenAI avance au même rythme que ses concurrents. Meta a restreint les sujets sensibles que son IA peut aborder avec les adolescents et prépare des contrôles parentaux, tandis que Character.AI s’est engagé à travailler avec des experts de la sécurité pour renforcer ses systèmes.
Malgré ces initiatives, les critiques estiment que des failles de sécurité subsistent, soulignant des interactions préoccupantes qui passent encore entre les mailles du filet. L’attention se porte désormais sur la capacité des entreprises à mettre en place des mesures de protection à la hauteur de l’ampleur et de la vitesse d’adoption.
Malgré toutes les ambitions du secteur, sa réputation future pourrait reposer sur une question simple : peut-il assurer la sécurité des enfants ?
Autre actualité des chatbots : en août, il a été rapporté que des sous-traitants de Meta avaient consulté les « photos explicites » et d’autres informations personnelles que les utilisateurs avaient envoyées à Meta AI.