Seit der Veröffentlichung der kostenlosen DeepSeek-R1-Chatbot-App am 20. Januar haben Cybersicherheitsforscher zahlreiche Schwachstellen in DeepSeek aufgedeckt, die zu Verboten in Australien, Italien und Taiwan geführt haben. Viele davon stehen im Zusammenhang mit KI-Jailbreak-Angriffen, bei denen Modelle angewiesen werden, ihre integrierten Sicherheitsvorkehrungen zu umgehen.
Anfälligkeit für Jailbreaking
Forscher der Unit 42 von Palo Alto Networks testeten die Modelle von DeepSeek mit drei Jailbreaking-Techniken und stellten fest, dass diese Methoden die Sicherheitsmaßnahmen der App effektiv umgingen und es ihr ermöglichten, schädliche Inhalte zu generieren, etwa Anleitungen zur Herstellung von Molotowcocktails.
Eine separate Studie von KELA ergab, dass DeepSeek-R1 äußerst anfällig für die Jailbreaks „Evil“ und „Leo“ ist, die das Modell dazu bringen, bösartige oder uneingeschränkte Personas anzunehmen. Die Forscher konnten das Modell erfolgreich dazu auffordern, detaillierte Anleitungen zur Erstellung von Infostealer-Malware.
Im Vergleich zu OpenAIs o1, ist DeepSeek laut einem Bericht von Enkrypt 11-mal wahrscheinlicher in der Lage, schädliche Ausgaben zu generieren, viermal anfälliger für die Generierung unsicheren Codes und 3,5-mal wahrscheinlicher, chemische, biologische, radiologische und nukleare Inhalte zu erzeugen. Eine separate Untersuchung von Cisco ergab, dass DeepSeek eine Angriffserfolgsrate von 100 % hatte und keine schädlichen Prompts blockierte.
Das Modell ist von Grund auf unsicher
Zunehmende Belege deuten darauf hin, dass das DeepSeek-Modell von Grund auf unsicher ist. NowSecure stellte fest, dass die DeepSeek-iOS-App bestimmte Registrierungs- und Gerätedaten über das Internet unverschlüsselt überträgt und dadurch sensible Informationen potenziell abfangen lässt. Unterdessen umging Wallarm erfolgreich die integrierten Einschränkungen des Modells und extrahierte seine verborgenen System-Prompts.
Auch die Cybersicherheitspraktiken von DeepSeek wurden infrage gestellt. Wiz Research identifizierte eine nicht authentifizierte, öffentlich zugängliche Datenbank, die DeepSeek gehört und mehr als eine Million Zeilen sensibler Daten offenlegte, darunter Chatverläufe, geheime Schlüssel, Backend-Details und andere hochsensible Informationen.
Die zahlreichen Schwachstellen von DeepSeek könnten laut der Statusseite der App zu den „groß angelegten bösartigen Angriffen“ am 27. Januar beigetragen haben. Der Vorfall zwang das Unternehmen, die Registrierung neuer Nutzer vorübergehend zu begrenzen, um „den fortgesetzten Dienstbetrieb sicherzustellen“.
Nähe zur chinesischen Regierung
Forscher haben Verbindungen zwischen DeepSeek und der chinesischen Regierung aufgedeckt, was Bedenken hinsichtlich der nationalen Sicherheit aufwirft.
NowSecure stellte fest, dass die DeepSeek-iOS-App unverschlüsselte Nutzer- und Gerätedaten an chinesische Unternehmen überträgt, während Feroot Security versteckten Code entdeckte, der in der Lage ist, Nutzerdaten an ein staatlich kontrolliertes Telekommunikationsunternehmen zu übertragen – China Mobile.
China Mobile wurde 2019 der Betrieb in den USA untersagt – aufgrund „erheblicher und schwerwiegender Risiken für die nationale Sicherheit und die Strafverfolgung“.
Darüber hinaus heißt es in der Datenschutzrichtlinie von DeepSeek, dass Nutzerdaten auf „sicheren Servern in der Volksrepublik China“ gespeichert werden, wodurch sie den chinesischen Datenschutzgesetzen unterliegen. Dies gewährt der chinesischen Regierung auf Anfrage Zugriff auf die Daten.