La progression rapide des abus générés par l’IA contraint les entreprises technologiques à faire face à une réalité nouvelle et profondément inquiétante.
OpenAI a présenté un nouveau « Child Safety Blueprint », un cadre de politique publique visant à lutter contre la menace croissante de l’exploitation sexuelle des enfants rendue possible par l’IA. Cette initiative intervient alors que les inquiétudes s’intensifient dans l’ensemble du secteur technologique, les autorités de régulation, les associations et les forces de l’ordre avertissant que l’IA générative accélère les comportements nuisibles en ligne.
« L’exploitation sexuelle des enfants est l’un des défis les plus urgents de l’ère numérique », a écrit OpenAI dans un billet de blog. « L’IA transforme rapidement à la fois la manière dont ces préjudices apparaissent dans l’ensemble du secteur et la façon dont ils peuvent être combattus à grande échelle. »
L’entreprise affirme que ce plan vise à renforcer les efforts de protection des enfants aux États-Unis en améliorant les systèmes de détection, les normes de signalement et les cadres juridiques.
Élaboré avec la contribution du National Center for Missing & Exploited Children (NCMEC) et de l’Attorney General Alliance, ce cadre intervient alors que les forces de l’ordre signalent des augmentations des contenus synthétiques à caractère abusif qui inondent Internet.
Pourquoi maintenant ?
Selon l’Internet Watch Foundation, plus de 8 000 signalements de contenus d’abus sexuels sur enfants générés par l’IA ont été détectés au cours du seul premier semestre 2025, soit une hausse de 14 % par rapport à l’année précédente, a rapporté TechCrunch. Les criminels utilisent des outils d’IA pour fabriquer des images explicites d’enfants à des fins d’extorsion sexuelle et générer à grande échelle des messages de manipulation crédibles.
Le plan fait également suite à des batailles judiciaires très médiatisées qui ont rappelé les entreprises technologiques à leurs responsabilités. Meta et Google ont récemment essuyé de lourdes défaites judiciaires en raison de lacunes dans leurs dispositifs de protection des enfants. OpenAI fait elle-même l’objet de poursuites alléguant que la nature psychologiquement manipulatrice de son produit GPT-4o a contribué à des décès par suicide, selon des documents judiciaires cités par TechCrunch.
Ce que propose le plan
Le plan ne cherche pas à tout régler d’un coup. Il se concentre plutôt sur trois « domaines prioritaires » précis pour assainir l’espace numérique :
- Modernisation des lois des États : Le plan appelle à moderniser la législation afin qu’elle couvre clairement les contenus d’abus générés par l’IA et ceux qui ont été modifiés numériquement, pour empêcher les auteurs d’infractions d’exploiter les zones grises du droit.
- Réparer la chaîne de signalement : OpenAI veut rendre les signalements adressés au National Center for Missing & Exploited Children (NCMEC) beaucoup plus détaillés, notamment en y incluant les « prompts » précis utilisés pour générer les contenus.
- Sécurité dès la conception : L’entreprise met l’accent sur la « sécurité dès la conception », ce qui signifie que les systèmes d’IA doivent intégrer des garde-fous capables de détecter et de bloquer rapidement les comportements nuisibles, avant que les abus ne se produisent.
Ensemble, ces mesures visent à identifier plus tôt les risques, à accélérer les enquêtes et à améliorer la responsabilisation dans l’ensemble de l’écosystème.
OpenAI n’a pas élaboré ce plan seule ; l’entreprise s’est associée à des responsables publics des États et à des défenseurs de la protection de l’enfance pour s’assurer qu’il fonctionne réellement.
Michelle DeLaune, President & CEO de NCMEC, a replacé la menace dans son contexte : « L’IA générative accélère le crime que constitue l’exploitation sexuelle des enfants en ligne d’une manière profondément inquiétante : elle abaisse les barrières, augmente l’ampleur du phénomène et permet de nouvelles formes de préjudice. »
Les State Attorneys General Jeff Jackson (Caroline du Nord) et Derek Brown (Utah), qui coprésident l’AI Task Force, ont également insisté sur la nécessité de mises à jour constantes :
« Nous sommes particulièrement encouragés par le fait que le cadre reconnaisse que des garde-fous efficaces pour l’IA générative nécessitent des défenses à plusieurs niveaux — et non un unique contrôle technique, mais une combinaison de mécanismes de détection et de refus, de supervision humaine et d’adaptation continue aux nouveaux schémas de détournement. »
La capacité du plan à entraîner des changements significatifs dépendra de sa mise en œuvre. S’il définit un cadre complet, des questions subsistent concernant son application, la responsabilisation et la possibilité que les autres grands acteurs de l’IA lui emboîtent le pas.
Pour en savoir plus sur OpenAI, découvrez comment son tour de financement record de 122 milliards de dollars a porté sa valorisation à 852 milliards de dollars.