La baisse du prix des modèles d’IA n’entraîne pas toujours une baisse des coûts d’infrastructure. Découvrez comment l’activité des agents, les mouvements de données et le placement des charges de travail influent sur les dépenses d’IA des entreprises.
Anant Dadu, cofondateur de Zingle AI, s’attendait à une baisse des coûts lorsque son équipe est passée à un modèle d’IA 80 % moins cher par jeton. Au lieu de cela, les dépenses de l’entrepôt de données Snowflake de l’équipe seraient passées d’environ 14 000 dollars US à 26 300 dollars US le lendemain, selon une publication LinkedIn qu’il a partagée. Dadu a déclaré que les utilisateurs, les questions et les données sous-jacentes étaient restés les mêmes.
Au moment de la publication, l’équipe n’avait pas déterminé la cause de cette hausse. Un plus grand nombre de requêtes sur la base de données, du SQL inefficace ou davantage de nouvelles tentatives auraient pu jouer un rôle, mais rien n’avait été confirmé.
Cette anecdote met en évidence un coût potentiel de l’IA agentique : le travail généré par les agents dans les bases de données et autres systèmes peut entraîner des dépenses que le seul prix des jetons ne reflète pas.
- Pourquoi les agents d’IA augmentent le volume des requêtes de données
- La facture de données cachée derrière une IA moins chère
- Comment l’emplacement des données influe sur les coûts d’infrastructure de l’IA
- Choisir le placement des charges de travail en fonction des coûts
- Mesurer le ROI de l’IA en fonction des tâches accomplies
- Améliorer l’efficacité de l’ensemble du système d’IA
Pourquoi les agents d’IA augmentent le volume des requêtes de données
Les agents d’IA peuvent décomposer une seule demande en plusieurs étapes et générer des requêtes ainsi que des appels d’outils au fil de leur travail.
Imaginons qu’un salarié demande à un agent pourquoi les ventes régionales ont diminué. L’agent peut examiner les relevés de transactions, comparer les niveaux de stocks, analyser les tendances historiques et étudier les explications possibles. Si les résultats ne sont pas concluants, il peut modifier ses requêtes ou récupérer des informations supplémentaires.
Chaque étape consomme des ressources d’infrastructure, même lorsque le salarié ne voit que la réponse finale. Cloudera a utilisé l’expérience de l’équipe analytique dans une vidéo pour illustrer comment les coûts de l’infrastructure de données peuvent augmenter malgré la baisse du prix des modèles.
Gartner a prévu en août 2026 que les coûts d’inférence par workflow agentique augmenteraient de plus de cinq fois d’ici à 2028, à mesure que les applications d’IA gagneraient en sophistication. Cette prévision concerne les coûts d’inférence, mais elle illustre comment des workflows complexes peuvent annuler les économies réalisées grâce à des jetons moins chers.
La facture de données cachée derrière une IA moins chère
Les prix des modèles sont faciles à comparer, mais l’activité des agents génère des dépenses dans plusieurs systèmes d’entreprise. Le tableau ci-dessous présente les principales catégories de coûts et les éléments que les organisations doivent surveiller.
Catégorie de coûts | Comment les agents d’IA génèrent des dépenses | Éléments à surveiller |
Utilisation des modèles et des outils | Inférence, invites répétées, orchestration et appels d’API | Dépenses liées aux jetons et appels d’outils |
Traitement des données | Requêtes SQL, recherche vectorielle, transformations et calcul dans l’entrepôt de données | Volume de requêtes, quantité de données analysées et utilisation des ressources de calcul |
Frais généraux d’infrastructure | Stockage, transferts de données, synchronisation et services auxiliaires | Frais de transfert, coûts de stockage et nouvelles tentatives |
Une requête qui produit une réponse inutilisable consomme tout de même des ressources de traitement. Les recherches répétées peuvent devenir particulièrement coûteuses lorsque les agents analysent de grands ensembles de données ou exécutent du SQL inefficace.
Les recommandations de la FinOps Foundation publiées en octobre 2026 ont également identifié l’observabilité, les outils d’évaluation, les plateformes d’orchestration et les bases de données vectorielles comme des sources potentielles de dépenses d’IA imprévues.
Comme ces services peuvent être achetés et facturés séparément, les organisations peuvent avoir du mal à mesurer le coût total d’exploitation d’une application d’IA.
La visibilité des coûts dépend également de la connaissance des applications à l’origine de l’activité. Le suivi des requêtes et de la consommation d’infrastructure par agent ou par workflow peut aider les équipes à repérer les opérations coûteuses et à attribuer la responsabilité des dépenses avant que l’utilisation n’augmente.
Les recherches d’EY publiées en septembre 2026 ont estimé que le coût total de l’IA pour l’entreprise pourrait atteindre environ trois fois le montant facturé pour les jetons, après prise en compte de l’infrastructure, des logiciels, de la gouvernance, des changements organisationnels et d’autres dépenses. Cette estimation est modélisée et ne doit pas être considérée comme un multiplicateur universel.
Comment l’emplacement des données influe sur les coûts d’infrastructure de l’IA
Lorsque les agents accèdent à des données réparties entre des environnements cloud et privés, la copie ou le transfert de ces informations peut accroître les coûts de stockage et de traitement.
Le déplacement de données clients vers un environnement d’IA distinct, par exemple, peut simplifier l’accès, mais crée des besoins permanents en matière de stockage et de synchronisation. Les transferts entre plateformes cloud ou entre régions peuvent entraîner des frais supplémentaires.
Les organisations doivent déterminer si les agents peuvent interroger les données gouvernées là où elles se trouvent. Le volume de données, la fréquence d’accès et le prix de l’infrastructure détermineront si l’accès local ou le déplacement des données est le plus économique.
Choisir le placement des charges de travail en fonction des coûts
L’infrastructure de cloud public offre une certaine flexibilité pour répondre à une demande variable, tandis que les environnements privés peuvent convenir aux charges de travail soutenues ou aux données sensibles. Les coûts dépendent de l’utilisation, de la capacité disponible et du prix de l’infrastructure, ainsi que des éventuelles exigences de résidence des données.
Les recherches de McKinsey publiées en octobre 2026 sur le passage à l’échelle de l’inférence d’IA ont souligné l’importance d’adapter les décisions de déploiement aux exigences des charges de travail.
« Le calcul nécessaire à l’inférence sera réparti entre le cloud, l’entreprise, la périphérie et les appareils, l’emplacement étant dicté par les considérations économiques, la latence et le contrôle des données », indiquait l’étude.
La solution de Cloudera Anywhere Cloud prend en charge les charges de travail liées aux données et à l’IA dans les clouds publics, les centres de données privés et les environnements souverains. Son architecture lakehouse ouverte permet à des moteurs de traitement compatibles d’accéder aux données d’entreprise partagées, réduisant ainsi la nécessité de conserver des copies distinctes pour différents workloads. Les organisations disposent ainsi de davantage d’options pour rapprocher les charges de travail d’IA des données gouvernées et gérer les coûts d’infrastructure générés par ces applications.
L’optimisation des requêtes et la mise en cache peuvent réduire les traitements répétés déclenchés par les agents d’IA. La gestion des tables et la limitation des opérations répétées peuvent également améliorer l’efficacité. Les équipes doivent tenir compte de ces facteurs lorsqu’elles comparent les coûts de déploiement.
Mesurer le ROI de l’IA en fonction des tâches accomplies
Des modèles aux capacités similaires peuvent générer des coûts d’infrastructure différents selon le nombre de requêtes et de nouvelles tentatives nécessaires pour accomplir une tâche. Les recommandations d’IBM sur la gestion des dépenses en jetons des agents encouragent les organisations à se demander : « Combien avons-nous dépensé pour accomplir cette tâche ? »
Calculez le coût total d’un workflow, en incluant les tentatives échouées et la vérification humaine, puis divisez-le par le nombre de tâches accomplies avec succès. Vous obtiendrez ainsi une mesure plus utile des coûts d’exploitation de l’IA.
Les équipes peuvent comparer le coût par tâche accomplie à la valeur qu’elle apporte. Un agent plus coûteux à exploiter peut tout de même offrir un meilleur retour s’il réduit le travail manuel ou améliore le service client. L’automatisation de tâches répétitives d’ingénierie des données ou de sécurité, par exemple, peut permettre aux salariés de se concentrer sur des problèmes plus complexes.
Améliorer l’efficacité de l’ensemble du système d’IA
Avant de faire passer un agent d’IA du stade de projet pilote à celui de la production, les organisations doivent examiner trois questions :
- Où résident les données nécessaires ? Identifiez les jeux de données dont les agents ont besoin et déterminez si leur accès implique des déplacements ou des duplications inutiles.
- Quelle quantité de travail chaque tâche génère-t-elle ? Mesurez les requêtes, les transferts, les nouvelles tentatives et le traitement nécessaires pour produire un résultat satisfaisant.
- Les charges de travail s’exécutent-elles dans le bon environnement ? Comparez les coûts d’infrastructure, les performances et les exigences de gouvernance afin de déterminer le placement le plus économique.
Le suivi de l’activité des charges de travail peut aider les équipes à repérer les opérations coûteuses avant qu’elles ne prennent de l’ampleur. À mesure que le prix des modèles baisse, les entreprises peuvent étendre l’adoption de l’IA tout en maîtrisant la consommation d’infrastructure.
Pour découvrir plus en détail comment les entreprises adaptent leur infrastructure de données afin de prendre en charge l’IA, consultez l’étude de Cloudera, The Great AI Re-Architecture.