Microsoft bietet Entwicklern bis zu 5.000 US-Dollar, wenn sie mittelschwere Schwachstellen in seinem KI-Chatbot Copilot aufdecken – ein Schritt, mit dem das Unternehmen sein Sicherheits-Bounty-Programm erweitert. Entwickler erhalten nun Prämien für das Aufspüren von Fehlern, die Exploits wie Manipulationen von Schlussfolgerungen, Code-Injektionen und eine fehlerhafte Zugriffskontrolle ermöglichen.
Das Copilot-Bug-Bounty-Programm wurde im Oktober 2023 eingeführt, um die KI-Funktionen von Bing abzudecken, und im April 2024 auf Copilot ausgeweitet. Das Programm lädt Sicherheitsforscher dazu ein, Schwachstellen in den KI-Produkten von Microsoft zu identifizieren – dafür winken je nach Kritikalität Prämien von bis zu 30.000 US-Dollar. Vor dem 7. Feb. 2025 hatten mittelschwere Schwachstellen keinen Anspruch auf eine Prämie.
„Wir erkennen an, dass selbst mittelschwere Schwachstellen erhebliche Auswirkungen auf die Sicherheit und Zuverlässigkeit unserer Copilot-Produkte für Verbraucher haben können“, schrieb das Microsoft Bounty Team in einem Blogbeitrag.
„Die Erweiterung unseres Bounty-Programms um Copilot spiegelt unser fortwährendes Engagement für die Sicherheit aller Produkte und Dienste von Microsoft wider. Wir ermutigen Forscher, uns dabei zu helfen, Schwachstellen zu identifizieren und zu beheben.“
Zu den Beispielen für mittelschwere Schwachstellen gehören die Möglichkeit, abzuleiten, ob bestimmte Datensätze zu den Trainingsdaten eines Modells gehörten, oder welcher Anteil der Trainingsdatensätze einer sensiblen Kategorie angehört, laut Microsoft.
Obwohl die maximale Prämie 5.000 US-Dollar beträgt, bietet Microsoft Entwicklern für manche mittelschweren Schwachstellen möglicherweise nur 250 US-Dollar, wenn die Qualität der Einreichung gering ist. Für Schwachstellen mit geringem Schweregrad gibt es keine finanziellen Anreize.
Zusätzlich zur neuen Prämienstruktur hat Microsoft den Umfang des Copilot-Bug-Bounty-Programms auf Copilot für WhatsApp, Copilot für Telegram, copilot.microsoft.com und copilot.ai ausgeweitet. Bereits zuvor wurden Einreichungen zu Schwachstellen in Copilot für Edge, Copilot für iOS, Android- und Desktop-Apps sowie in der generativen Suche von Bing akzeptiert.
Das Unternehmen hat außerdem seine Schweregradklassifikationen für Schwachstellen aktualisiert und das Programm von Microsoft AI Bounty Program in Microsoft Copilot Bounty Program umbenannt. Zudem hat es neue Ressourcen für angehende KI-Fachkräfte eingeführt, die an seinem Hacking-Event Zero Day Quest teilnehmen möchten, das Tools, Workshops und Zugang zu Microsoft-KI-Ingenieuren bietet.
„Indem wir in die Entwicklung und Ausbildung von KI-Forschern investieren, wollen wir eine Gemeinschaft qualifizierter Fachleute fördern, die zum Fortschritt der KI-Technologie beitragen und die höchsten Standards für Sicherheit und Innovation wahren können“, schrieb das Microsoft Bounty Team.
Microsoft ist möglicherweise besonders besorgt über die Sicherheit seiner KI-Produkte nach der Kritik an seiner umstrittenen Recall-Funktion, die ursprünglich dazu entwickelt wurde, Nutzern dabei zu helfen, frühere Aktivitäten wiederzufinden, aber wegen ihrer Fähigkeit, automatisch Screenshots von ihren Geräten aufzunehmen, Datenschutzbedenken auslöste. Das Unternehmen sah sich wegen potenzieller Sicherheitsrisiken erheblichem Gegenwind ausgesetzt und verzögerte daraufhin die Einführung der Funktion, wobei es zusätzliche Datenschutzkontrollen implementierte und Nutzern einen einfacheren Verzicht ermöglichte.