-10.png?w=1024)
Des identifiants d’IA d’entreprise volés alimentent un marché clandestin où des cybercriminels revendent l’accès à des modèles d’IA premium, tout en laissant les titulaires légitimes des comptes régler la facture.
Des chercheurs du Google Threat Intelligence Group (GTIG) et de Mandiant ont identifié des services appelés LLM Mixers, qui regroupent des identifiants d’API compromis et acheminent les requêtes d’IA via les comptes des victimes. Ces opérations permettent à des clients payants d’accéder à des modèles d’IA coûteux sans souscrire eux-mêmes d’abonnements légitimes.
Selon l’enquête de Google, certaines organisations ont subi plus de 100 000 dollars de frais d’IA non autorisés en une seule journée, les coûts signalés pouvant atteindre 1 million de dollars dans certains cas avant que les attaquants ne soient évincés.
Les résultats montrent que le détournement de jetons d’IA évolue : d’un simple vol d’identifiants opportuniste, il devient un modèle économique criminel pour les acteurs malveillants.
Comment les attaquants transforment des identifiants d’IA volés en activité lucrative
Cette technique, connue sous le nom de LLMjacking, a touché des organisations en Amérique du Nord, en Amérique du Sud et dans la région Asie-Pacifique, selon Google.
Au lieu de s’introduire dans des modèles d’IA, les criminels ciblent les identifiants que les entreprises utilisent pour y accéder. Il peut s’agir de clés d’API exposées dans des dépôts de code publics ou d’identifiants obtenus via des comptes compromis.
Une fois qu’ils ont obtenu l’accès, les attaquants peuvent envoyer des requêtes à des modèles d’IA commerciaux via le compte de la victime, générant des frais d’utilisation que le titulaire légitime peut ne pas remarquer immédiatement.
Certains opérateurs sont allés plus loin en créant des LLM Mixers, des services qui combinent l’accès de plusieurs comptes compromis et le revendent à des clients payants.
L’enquête cite notamment Jet Night, qui proposait un accès illimité à l’IA pour environ 60 dollars par mois.
Le résultat est un modèle économique criminel dans lequel les attaquants monétisent des identifiants volés tout en transférant le coût de l’utilisation de l’IA aux organisations dont les comptes ont été compromis.
Ce qu’a constaté eWEEK : l’accès volé à l’IA crée un nouveau type de risque financier
Les conclusions de Google révèlent une différence entre le vol d’identifiants classique et le LLMjacking : les attaquants peuvent transformer un accès volé à l’IA en source de revenus récurrents sans nécessairement dérober de données ni perturber les systèmes de la victime. Chaque requête non autorisée consomme des ressources facturées sur le compte compromis, ce qui permet aux coûts de s’accumuler tandis que le service continue de fonctionner.
L’apparition des LLM Mixers ajoute un niveau de menace supplémentaire. Plutôt que d’utiliser eux-mêmes les identifiants volés, les opérateurs peuvent regrouper l’accès de plusieurs comptes compromis et le revendre à des clients. Cela sépare les personnes qui dérobent les identifiants de celles qui consomment les services d’IA, ce qui peut rendre les activités non autorisées plus difficiles à repérer pour les titulaires des comptes.
Problème de sécurité | Compromission classique de compte | Activité propre au LLMjacking |
|---|---|---|
| Cible principale | Comptes utilisateurs, identifiants, systèmes ou données | Identifiants cloud, clés d’API d’IA ou points d’accès à des modèles exposés |
| Bénéfice criminel | Accès non autorisé, vol de données ou détournement de ressources | Consommation d’IA non autorisée et revente de l’accès aux modèles |
| Impact sur l’entreprise | Exposition de données, perturbations ou coûts d’infrastructure | Frais d’IA frauduleux, potentiellement associés à un vol de données ou à une compromission plus vaste du cloud |
| Difficulté de détection | Identifier les accès non autorisés et les activités suspectes sur les comptes | Détecter les requêtes anormales adressées aux modèles, l’utilisation abusive d’identifiants et les dépenses d’IA inattendues |
Cette comparaison met en évidence une lacune dans la manière dont les entreprises peuvent aborder la sécurité de l’IA. Les contrôles d’identité traditionnels restent essentiels, mais des identifiants d’API valides peuvent faire passer des requêtes non autorisées pour du trafic applicatif ordinaire. La surveillance des accès seule peut donc s’avérer insuffisante sans visibilité sur les habitudes d’utilisation et les dépenses.
Les conclusions n’établissent pas que des criminels utilisent des comptes d’IA compromis pour lancer des attaques contre les mêmes organisations qui paient ces ressources. Elles démontrent toutefois un modèle économique dans lequel des identifiants volés peuvent être monétisés à répétition, transformant la consommation d’IA elle-même en risque de sécurité et financier.
Ce que les entreprises doivent retenir
L’essor du LLMjacking ne signale pas nécessairement une nouvelle catégorie de failles de sécurité. Il montre comment les attaquants appliquent des tactiques familières, comme le vol d’identifiants et la compromission de comptes, à une nouvelle cible : les services d’IA d’entreprise. À mesure que les entreprises adoptent davantage d’outils d’IA, elles créent aussi davantage de comptes, de clés d’API et de connexions que les attaquants peuvent exploiter s’ils ne sont pas correctement protégés.
Cela rend les pratiques fondamentales de cybersécurité tout aussi pertinentes pour l’adoption de l’IA. Les entreprises doivent limiter les personnes et les systèmes pouvant accéder à leurs services d’IA, éviter de stocker les clés d’API dans des dépôts de code publics, protéger les comptes des employés avec l’authentification multifacteur et vérifier régulièrement les autorisations d’accès.
Elles doivent également surveiller l’utilisation de l’IA et la facturation afin de repérer les hausses inhabituelles, définir des plafonds de dépenses lorsque cette option est disponible et révoquer immédiatement les identifiants lorsqu’elles soupçonnent une compromission.
Mais sécuriser les accès ne représente qu’une partie du travail. L’adoption de l’IA implique aussi de comprendre à quels systèmes de l’entreprise ces outils sont connectés, quelles informations ils peuvent consulter et quelle quantité de ressources ils sont autorisés à consommer. Un outil d’IA autorisé à accéder aux données de l’entreprise ou à effectuer des tâches peut devenir un grave facteur de risque si son compte ou ses identifiants tombent entre de mauvaises mains.
Pour les entreprises qui adoptent l’IA, la leçon est que les identifiants d’API doivent être traités avec le même soin que les autres clés d’accès sensibles au cloud. Un compte compromis peut exposer davantage que les données de l’entreprise ou des ressources informatiques ; il peut également générer des frais considérables avant que les équipes de sécurité ne comprennent qu’un problème est survenu.
À mesure que les services d’IA s’intègrent plus profondément aux activités des entreprises, celles-ci devront surveiller non seulement qui peut accéder à leurs modèles, mais aussi la manière dont ces modèles sont utilisés et le coût de cette utilisation.
Autre actualité de la sécurité de l’IA : Anthropic a indiqué qu’un modèle Claude non publié avait conçu cinq chaînes d’exploitation fonctionnelles visant Chrome, Safari, Android, Windows et Linux, démontrant comment l’IA peut combiner des vulnérabilités logicielles pour mener des attaques capables de contourner les protections de sécurité, d’accéder à des données sensibles et de compromettre des systèmes.