Google a conçu Gemini pour répondre aux questions. Désormais, les attaquants utilisent les questions comme des outils de crochetage.
Lors d’une vague de plus de 100 000 requêtes soigneusement élaborées, des acteurs malveillants ont bombardé le chatbot Gemini de Google dans le cadre de ce que l’entreprise appelle des attaques d’« extraction de modèle » ou de « distillation ». En sondant systématiquement le système, les adversaires tentent de rétroconcevoir la logique sous-jacente du modèle, ses schémas de raisonnement et sa chaîne de pensée, afin de créer des systèmes d’IA concurrents sans avoir à supporter le coût exorbitant de leur entraînement à partir de zéro.
Google affirme que cette activité semble être liée à des acteurs situés notamment en Corée du Nord, en Russie et en Chine. L’entreprise considère cette opération comme un vol de propriété intellectuelle et une violation manifeste de ses conditions d’utilisation.
D’autres entreprises pourraient subir des attaques similaires
Mais Gemini pourrait n’être que le lever de rideau.
John Hultquist, analyste en chef du Google Threat Intelligence Group, a déclaré à NBC News que, si Gemini pourrait être l’une des premières cibles, les outils d’IA personnalisés d’autres entreprises sont eux aussi susceptibles de subir ce type d’attaque.
« Nous allons être le canari dans la mine de charbon avant bien d’autres incidents », a déclaré Hultquist.
Les experts prévoient une accélération de cette tendance. « Étant donné le coût d’entraînement de nouveaux modèles, il n’est pas surprenant de voir des attaques d’extraction de modèle utilisées comme moyen illégal de tenter de prendre de l’avance dans le développement d’un nouveau modèle », a déclaré Melissa Ruzzi, directrice de l’IA chez AppOmni, à TechRepublic dans un communiqué. « Nous pouvons nous attendre à ce que l’IA soit de plus en plus utilisée dans les attaques. »
La logique propriétaire et l’entraînement spécialisé des grands modèles de langage en font des cibles de grande valeur, affirme Google. Alors qu’autrefois les adversaires s’appuyaient sur des opérations d’intrusion classiques pour voler des secrets industriels, les acteurs peuvent désormais utiliser un accès légitime à des API pour tenter de « cloner » certaines capacités de modèles d’IA.
L’IA agentique introduit des risques liés aux données internes
Le cabinet d’avocats Shumaker, Loop & Kendrick ajoute que les systèmes d’IA agentique présentent des risques supplémentaires. Lorsque les organisations accordent aux agents d’IA un accès étendu à des systèmes sensibles, les fuites de données peuvent éroder discrètement les secrets industriels, les brevets, les marques et les droits d’auteur.
« En faisant fuiter des données, l’IA agentique peut éroder discrètement les droits de propriété intellectuelle, à moins que vous ne modifiiez les paramètres par défaut », a écrit le cabinet dans un récent article de blog. « Ces fuites peuvent nuire aux secrets industriels, aux brevets, aux marques et aux droits d’auteur. »
Le cabinet conseille aux organisations de n’accorder aux agents des identifiants que pour les tâches qu’ils exécutent.
À lire également : Google teste aussi des défenses contre l’IA dans Chrome, en offrant jusqu’à 20 000 dollars aux chercheurs capables de révéler des failles de sécurité dans ses fonctionnalités d’IA.