OpenAI intensifie ses efforts en matière de cybersécurité et propose désormais jusqu’à 100 000 dollars US pour la découverte de bugs à fort impact — une multiplication par cinq par rapport à sa précédente prime maximale de 20 000 dollars US. Cette initiative souligne l’importance croissante qu’accorde le géant de l’IA à la protection de ses systèmes, alors qu’il progresse vers l’intelligence artificielle générale (AGI).
L’entreprise a annoncé cette mise à jour le 26 mars dans le cadre d’une initiative plus vaste visant à renforcer ses systèmes d’IA contre les menaces émergentes. Cette hausse substantielle des primes de chasse aux bugs souligne l’engagement d’OpenAI en faveur de la sécurité et sa volonté proactive de détecter et de corriger les vulnérabilités.
Le programme de chasse aux bugs, mené en collaboration avec Bugcrowd, a déjà récompensé 209 signalements depuis son lancement en avril 2023.
Des primes supplémentaires pour les chasseurs de bugs
Outre l’augmentation des primes, OpenAI déploie un programme d’incitation à durée limitée pour les chercheurs en sécurité qui soumettent des signalements répondant aux critères. Cette période promotionnelle s’étend du 26 mars au 30 avril 2025 et se concentre sur les vulnérabilités liées au contrôle des accès, comme l’Insecure Direct Object Reference (IDOR), avec des primes désormais comprises entre 400 et 13 000 dollars US.
Élargir la recherche et la défense en matière de cybersécurité
La mise à niveau du programme de primes ne constitue qu’un volet de la stratégie plus vaste d’OpenAI en matière de cybersécurité. L’entreprise élargit également son Cybersecurity Grant Program, qui finance la recherche sur la sécurité de l’IA. Depuis sa création il y a deux ans, ce programme a soutenu 28 projets de recherche portant sur des domaines clés tels que la génération sécurisée de code, les vulnérabilités liées à l’injection de prompts et les défenses autonomes en matière de cybersécurité.
OpenAI élargit désormais le champ des candidatures aux subventions pour inclure :
- Correctifs logiciels : Utiliser l’IA pour détecter et corriger les vulnérabilités.
- Confidentialité des modèles : Renforcer les protections contre l’exposition involontaire de données.
- Détection et réponse aux menaces : Améliorer les défenses contre les cybermenaces avancées.
- Intégration de la sécurité : Renforcer le rôle de l’IA dans les cadres de sécurité.
- Sécurité agentique : Accroître la résilience de l’IA face aux attaques sophistiquées.
En outre, OpenAI met en place des micro-subventions sous forme de crédits API. Ces subventions aideront les chercheurs en sécurité à prototyper rapidement de nouvelles solutions de cybersécurité.
Cybersécurité dopée à l’IA et red teaming
OpenAI ne s’appuie pas uniquement sur des chercheurs externes pour tester ses systèmes ; l’entreprise exploite également sa technologie d’IA pour détecter les cybermenaces et y répondre en temps réel.
Pour renforcer davantage son niveau de sécurité, OpenAI s’est associé à SpecterOps, une société de recherche en cybersécurité spécialisée dans les tests adversariaux. Grâce à un « red teaming adversarial continu », OpenAI simule des attaques réelles contre ses environnements d’entreprise, cloud et de production afin d’identifier et de corriger les vulnérabilités avant qu’elles ne puissent être exploitées.
Avec 400 millions d’utilisateurs actifs chaque semaine, l’engagement d’OpenAI en matière de cybersécurité est essentiel pour garantir la sécurité et la fiabilité de sa technologie. En faisant appel à des hackers éthiques, à des chercheurs et à des défenses pilotées par l’IA, tout en proposant des primes plus élevées pour les bugs, OpenAI prend des mesures importantes pour garder une longueur d’avance sur les menaces émergentes.