OpenAI autorisera l’érotisme dans ChatGPT pour les adultes dont l’âge aura été vérifié à partir de décembre, a déclaré le CEO Sam Altman sur X.
Altman a présenté ce changement comme le fait de « traiter les utilisateurs adultes comme des adultes », parallèlement à un renforcement des vérifications d’âge et des mesures de protection. Il a ajouté qu’une mise à jour de ChatGPT arriverait « dans quelques semaines » pour permettre aux utilisateurs d’opter pour des personnalités plus humaines..
Pourquoi maintenant et qu’est-ce qui change
Altman a déclaré que ChatGPT était « plutôt restrictif » au départ, afin de gérer les risques liés à la santé mentale. De nouveaux outils ont atténué les problèmes, si bien qu’OpenAI va assouplir les règles « dans la plupart des cas ». L’accès à l’érotisme sera limité aux adultes dont l’âge aura été vérifié, avec les paramètres par défaut destinés aux adolescents lorsque l’âge ne pourra pas être confirmé.
Les mesures de protection pour les adolescents se poursuivent en parallèle
OpenAI a mis en avant les contrôles parentaux, les heures silencieuses, la liaison des comptes et les filtres appliqués par défaut aux thèmes sexuels ou violents. Lorsque la prédiction de l’âge est incertaine, le service adoptera par défaut l’expérience destinée aux moins de 18 ans.
Altman a également souligné que certains usages adultes, comme certaines œuvres de fiction, ne devraient pas être bloqués pour les adultes dont l’âge a été vérifié, tandis que les mineurs sont soumis à des limites plus strictes.
Ce qui a relevé le niveau d’exigence en matière de sécurité
Les procès et les enquêtes menés après des incidents tragiques ont accentué les inquiétudes, notamment une plainte déposée par les parents d’Adam Raine, âgé de 16 ans qui affirment que ChatGPT a fourni des conseils sur des méthodes de suicide.
À Greenwich, dans le Connecticut, les enquêteurs ont affirmé qu’un homme s’était appuyé sur ChatGPT, qui avait renforcé ses délires paranoïaques avant qu’il ne tue sa mère puis ne se suicide.
OpenAI cite ses mesures de sécurité comme fondement de sa réponse.
Le Grok d’Elon Musk montre où les garde-fous peuvent céder
Alors qu’OpenAI renforce la vérification de l’âge, sa rivale xAI a pris la direction opposée. Le mode « Spicy » de Grok Imagine a suscité une levée de boucliers en produisant des deepfakes sexualisés de célébrités, avec une modération limitée.
xAI a également misé sur des personas d’assistants aguicheurs, dont un avatar anime séducteur, signe d’une position plus permissive sur le ton et les limites.
Ces épisodes montrent à quelle vitesse des contenus sexualisés peuvent se propager en l’absence de contrôles stricts, et pourquoi l’équité et les biais doivent être pris en compte dans les règles relatives aux contenus pour adultes.
La pression en matière de sécurité et les objectifs d’OpenAI
La surveillance fédérale de l’impact des chatbots d’IA sur les mineurs se poursuit, la FTC demandant aux grandes plateformes des informations détaillées sur les tests, les mesures de protection et la gestion des données. Les procureurs généraux des États ont averti qu’ils utiliseraient tous les moyens à leur disposition pour protéger les enfants.
Les organismes de surveillance et les procès continuent de faire pression sur les fournisseurs afin qu’ils prouvent que les contrôles parentaux et les paramètres par défaut destinés aux adolescents fonctionnent réellement.
Le pari d’OpenAI repose sur un modèle à deux vitesses : davantage de latitude pour les adultes dont l’âge a été vérifié, des paramètres par défaut plus stricts pour les adolescents et une approche plus souple pour les utilisateurs dont l’âge est inconnu.
Décembre servira de test décisif, en mettant à l’épreuve la politique, la vérification et la conception du produit afin de s’assurer qu’elles tiennent leurs promesses sans accroître l’exposition des mineurs.
Les dernières remarques d’Altman offrent un point de vue sceptique sur ce que nous considérons aujourd’hui comme un véritable travail.