OpenAI verstärkt seine Cybersicherheitsmaßnahmen und bietet nun bis zu 100.000 US-Dollar für die Entdeckung von Schwachstellen mit hoher Auswirkung – eine Verfünffachung gegenüber der bisherigen Höchstprämie von 20.000 US-Dollar. Der Schritt unterstreicht den wachsenden Fokus des KI-Giganten auf den Schutz seiner Systeme, während das Unternehmen auf künstliche allgemeine Intelligenz (AGI) hinarbeitet.
Das Unternehmen gab die Aktualisierung am 26. März als Teil einer umfassenderen Initiative bekannt, seine KI-Systeme gegen neue Bedrohungen zu stärken. Die deutliche Erhöhung der Bug-Bounty-Prämien unterstreicht OpenAIs Engagement für Sicherheit und seine proaktive Haltung, Schwachstellen zu identifizieren und zu beheben.
Das in Zusammenarbeit mit Bugcrowd betriebene Bug-Bounty-Programm hat seit seinem Start im April 2023 bereits 209 Einreichungen prämiert.
Bonusprämien für Bug Hunter
Zusätzlich zu den erhöhten Prämien führt OpenAI ein zeitlich begrenztes Anreizprogramm für Sicherheitsforscher ein, die qualifizierende Berichte einreichen. Dieser Aktionszeitraum läuft vom 26. März bis zum 30. April 2025 und konzentriert sich auf Schwachstellen bei der Zugriffskontrolle, etwa Insecure Direct Object Reference (IDOR). Die Prämien reichen nun von 400 US-Dollar bis 13.000 US-Dollar.
Ausweitung der Cybersicherheitsforschung und -abwehr
Die Aufwertung des Bug-Bounty-Programms ist nur ein Teil der umfassenderen Cybersicherheitsstrategie von OpenAI. Das Unternehmen weitet außerdem sein Cybersecurity Grant Program aus, das Forschung zur KI-Sicherheit finanziert. Seit seiner Einführung vor zwei Jahren hat dieses Programm 28 Forschungsprojekte unterstützt, die sich mit zentralen Bereichen wie der sicheren Codegenerierung, Schwachstellen durch Prompt-Injection und autonomen Cybersicherheitsmaßnahmen befassen.
OpenAI erweitert nun den Anwendungsbereich der Förderanträge um folgende Themen:
- Software-Patching: Einsatz von KI zur Erkennung und Behebung von Schwachstellen.
- Datenschutz von Modellen: Verbesserung von Schutzmaßnahmen gegen die unbeabsichtigte Offenlegung von Daten.
- Bedrohungserkennung und -abwehr: Verbesserung des Schutzes gegen fortschrittliche Cyberbedrohungen.
- Sicherheitsintegration: Stärkung der Rolle von KI in Sicherheits-Frameworks.
- Agentische Sicherheit: Erhöhung der Widerstandsfähigkeit von KI gegenüber hochentwickelten Angriffen.
Darüber hinaus führt OpenAI Mikroförderungen in Form von API-Guthaben ein. Diese Förderungen sollen Sicherheitsforschern helfen, schnell neue Cybersicherheitslösungen.
KI-gestützte Cybersicherheit und Red Teaming
OpenAI verlässt sich nicht ausschließlich auf externe Forscher, um seine Systeme zu testen. Das Unternehmen nutzt auch seine KI-Technologie, um Cyberbedrohungen in Echtzeit zu erkennen und darauf zu reagieren.
Um seine Sicherheitslage weiter zu stärken, arbeitet OpenAI mit SpecterOps zusammen, einem auf adversariales Testen spezialisierten Cybersicherheitsforschungsunternehmen. Durch „kontinuierliches adversariales Red Teaming“ simuliert OpenAI Angriffe aus der realen Welt auf seine Unternehmens-, Cloud- und Produktionsumgebungen, um Schwachstellen zu identifizieren und zu beheben, bevor sie ausgenutzt werden können.
Mit 400 Millionen wöchentlich aktiven Nutzern ist OpenAIs Engagement für Cybersicherheit entscheidend, um die Sicherheit und Vertrauenswürdigkeit seiner Technologie zu gewährleisten. Durch die Einbindung ethischer Hacker und Forscher, den Einsatz KI-gestützter Abwehrmaßnahmen und höhere Bug-Bounty-Prämien unternimmt OpenAI wichtige Schritte, um neuen Bedrohungen einen Schritt voraus zu sein.