Depuis la sortie, le 20 janvier, de l’application gratuite de chatbot DeepSeek-R1, des chercheurs en cybersécurité ont découvert de nombreuses vulnérabilités dans DeepSeek, ce qui a conduit à des interdictions en Australie, en Italie et à Taïwan. Beaucoup sont liées à des attaques de jailbreak de l’IA, lors desquelles les modèles reçoivent pour instruction de contourner leurs garde-fous intégrés.
Vulnérabilité au jailbreak
Des chercheurs de l’Unit 42 de Palo Alto Networks ont testé les modèles de DeepSeek à l’aide de trois techniques de jailbreak et ont constaté que ces méthodes contournaient efficacement les mesures de sécurité de l’application, lui permettant de générer des contenus dangereux, comme des instructions pour fabriquer des cocktails Molotov.
Une étude distincte de KELA a révélé que DeepSeek-R1 était très vulnérable aux jailbreaks « Evil » et « Leo », qui incitent le modèle à adopter des personnalités malveillantes ou dépourvues de restrictions. Les chercheurs ont réussi à inciter le modèle à générer des instructions détaillées pour créer un logiciel malveillant voleur d’informations.
Comparé à o1 d’OpenAI, DeepSeek est 11 fois plus susceptible de produire des résultats dangereux, quatre fois plus vulnérable à la génération de code non sécurisé et 3,5 fois plus susceptible de produire des contenus chimiques, biologiques, radiologiques et nucléaires, selon un rapport d’Enkrypt. Une étude distincte de Cisco a révélé que DeepSeek affichait un taux de réussite des attaques de 100 %, en ne bloquant aucune invite dangereuse.
Un modèle non sécurisé par conception
Les éléments de preuve s’accumulent et suggèrent que le modèle DeepSeek est intrinsèquement peu sécurisé. NowSecure a constaté que l’application DeepSeek pour iOS transmettait certaines données d’inscription et de l’appareil sur Internet sans chiffrement, exposant des informations sensibles à une interception potentielle. Parallèlement, Wallarm a réussi à contourner les restrictions intégrées au modèle et à extraire ses invites système cachées.
Les pratiques de DeepSeek en matière de cybersécurité ont également été remises en question. Wiz Research a identifié une base de données non authentifiée et accessible au public appartenant à DeepSeek, exposant plus d’un million de lignes de données sensibles, notamment des historiques de conversations, des clés secrètes, des détails du système dorsal et d’autres informations extrêmement sensibles.
Les nombreuses vulnérabilités de DeepSeek pourraient avoir contribué aux « attaques malveillantes à grande échelle » du 27 janvier, selon la page d’état de l’application. L’incident a contraint l’entreprise à limiter temporairement les nouvelles inscriptions d’utilisateurs afin de « garantir la continuité du service ».
Proximité avec le gouvernement chinois
Des chercheurs ont découvert des liens entre DeepSeek et le gouvernement chinois, ce qui soulève des préoccupations en matière de sécurité nationale.
NowSecure a constaté que l’application DeepSeek pour iOS transmettait des données non chiffrées sur les utilisateurs et les appareils à des entreprises chinoises, tandis que Feroot Security a repéré du code caché capable de transmettre des données utilisateur à l’opérateur télécom contrôlé par l’État China Mobile.
China Mobile s’est vu interdire d’exercer ses activités aux États-Unis en 2019 en raison de « risques substantiels et graves pour la sécurité nationale et l’application de la loi ».
En outre, la politique de confidentialité de DeepSeek précise que les données des utilisateurs sont stockées sur des « serveurs sécurisés situés en République populaire de Chine », ce qui signifie qu’elles sont soumises aux lois chinoises sur la protection des données. Cela permet au gouvernement chinois d’accéder aux données sur demande.