Microsoft bietet Entwicklern bis zu 5.000 US-Dollar, wenn sie Schwachstellen mittleren Schweregrads in seinem KI-Chatbot Copilot aufdecken – ein Schritt, mit dem das Unternehmen sein Sicherheits-Bounty-Programm erweitert. Entwickler erhalten nun Prämien für das Aufspüren von Schwachstellen, die Angriffe wie die Manipulation von Inferenzprozessen, Code-Injektionen und eine unsachgemäße Zugriffskontrolle ermöglichen.
Das Copilot-Bug-Bounty-Programm wurde im Oktober 2023 eingeführt, um die KI-Funktionen von Bing abzudecken, und im April 2024 auf Copilot ausgeweitet. Das Programm lädt Sicherheitsforscher dazu ein, Schwachstellen in den KI-Produkten von Microsoft zu identifizieren und dafür je nach Schweregrad Prämien von bis zu 30.000 US-Dollar zu erhalten. Vor dem 7. Februar 2025 waren Schwachstellen mittleren Schweregrads nicht prämienberechtigt.
„Wir erkennen an, dass selbst Schwachstellen mittleren Schweregrads erhebliche Auswirkungen auf die Sicherheit und Zuverlässigkeit unserer Copilot-Produkte für Endverbraucher haben können“, schrieb das Microsoft Bounty Team in einem Blogbeitrag.
„Die Erweiterung unseres Bounty-Programms um Copilot spiegelt unser fortwährendes Engagement für die Sicherheit aller Microsoft-Produkte und -Dienste wider. Wir ermutigen Forscher, uns dabei zu helfen, Schwachstellen zu identifizieren und zu beheben.“
Zu den Schwachstellen mittleren Schweregrads zählen laut Microsoft beispielsweise die Möglichkeit, abzuleiten, ob bestimmte Datensätze Teil der Trainingsdaten eines Modells waren, oder welcher Anteil der Datensätze in den Trainingsdaten einer sensiblen Klasse angehört, laut Microsoft.
Während die maximale Prämie 5.000 US-Dollar beträgt, bietet Microsoft Entwicklern bei einigen Schwachstellen mittleren Schweregrads möglicherweise nur 250 US-Dollar, wenn die Qualität der Einreichung gering ist. Schwachstellen niedrigen Schweregrads sind nicht für finanzielle Prämien qualifiziert.
Zusätzlich zur neuen Prämienstruktur hat Microsoft den Umfang des Copilot-Bug-Bounty-Programms auf Copilot für WhatsApp, Copilot für Telegram, copilot.microsoft.com und copilot.ai ausgeweitet. Zuvor wurden bereits Einreichungen zu Schwachstellen in Copilot für Edge, Copilot für iOS, Android- und Desktop-Apps sowie in der generativen Bing-Suche akzeptiert.
Das Unternehmen hat außerdem seine Einstufungen des Schweregrads von Schwachstellen aktualisiert und das Programm von Microsoft AI Bounty Program in Microsoft Copilot Bounty Program umbenannt. Zudem hat es neue Ressourcen für angehende KI-Fachleute eingeführt, die an seinem Hacking-Event Zero Day Quest teilnehmen möchten. Dieses bietet Tools, Workshops und Zugang zu Microsoft-KI-Ingenieuren.
„Indem wir in das Wachstum und die Ausbildung von KI-Forschern investieren, möchten wir eine Gemeinschaft qualifizierter Fachleute aufbauen, die zur Weiterentwicklung der KI-Technologie beitragen und höchste Standards bei Sicherheit und Innovation wahren können“, schrieb das Microsoft Bounty Team.
Microsoft ist möglicherweise besonders besorgt über die Sicherheit seiner KI-Produkte nach der Kritik an seiner umstrittenen Recall-Funktion. Diese wurde ursprünglich entwickelt, um Nutzern den Abruf vergangener Aktivitäten zu erleichtern, rief jedoch wegen ihrer Fähigkeit, automatisch Screenshots von deren Geräten anzufertigen, Datenschutzbedenken hervor. Das Unternehmen sah sich wegen potenzieller Sicherheitsrisiken erheblichem Gegenwind ausgesetzt und verschob daraufhin die Einführung, führte zusätzliche Datenschutzkontrollen ein und ermöglichte es den Nutzern, sich leichter dagegen zu entscheiden.