Les clés de la transformation des assistants de connaissances en systèmes de production

Points clés à retenir

• Un assistant de connaissances d'entreprise n'est prêt pour la production que lorsqu'il peut extraire des informations précises et à jour provenant de sources approuvées par l'entreprise.
• La confiance repose sur la citation des sources, la traçabilité des réponses, les contrôles d'accès basés sur les rôles et une définition claire de la propriété du contenu.
• Le déploiement auprès des employés doit commencer par un cas d'utilisation ciblé, un projet pilote contrôlé, la mise en place de boucles de rétroaction et des critères d'adoption mesurables.
• Les coûts de production ne se limitent pas au modèle lui-même. La préparation des données, l'infrastructure, les intégrations, la gouvernance, la surveillance et l'assistance influent toutes sur le coût total.

Les assistants de connaissances d'entreprise peuvent aider les employés à trouver plus rapidement des informations internes et à les utiliser, surtout lorsqu'ils se basent sur les connaissances approuvées de l'entreprise. Les entreprises du classement Fortune 500 gaspillent collectivement 2,4 milliards d'heures par an en recherche d'informations, ce qui illustre les raisons pour lesquelles un accès plus rapide aux connaissances internes fiables est devenu une priorité métier concrète. La prochaine question que doivent se poser les équipes qui explorent le fonctionnement des assistants de connaissances est la suivante : quels sont les éléments qui permettent de créer un assistant suffisamment fiable pour sa mise en production ?

Bien que la génération augmentée par récupération (RAG) fasse toujours partie des fondements de nombreux assistants de connaissances d'entreprise, elle n'est plus l'élément le plus important. Les systèmes de production combinent la récupération avec le classement tenant compte des accès, les citations, l'orchestration et l'intégration des flux de travail afin de pouvoir extraire le contexte d'entreprise approprié, respecter les autorisations existantes et renvoyer des réponses traçables que les employés peuvent utiliser dans leur travail quotidien.

Pour la plupart des équipes, la question n'est pas de savoir s'il faut utiliser la RAG, mais comment opérationnaliser une récupération pertinente au sein d'un système gouverné et observable qui puisse dépasser le stade du projet pilote.

Qu'est-ce qu'un assistant de connaissances d'entreprise ?

Un assistant de connaissances d'entreprise est un outil pour le lieu de travail basé sur l'IA qui aide les employés à trouver, à résumer et à appliquer des informations provenant de sources internes approuvées telles que des wikis, des documents de politique, des tickets, des bases de connaissances, des intranets et des systèmes d'entreprise. Dell AI Factory with NVIDIA décrit ce type de fonctionnalité comme des chatbots sécurisés de niveau entreprise capables de récupérer, d'analyser et de citer des données d'entreprise pour fournir des réponses et des informations fiables.

Contrairement à un chatbot général, un assistant de connaissances d'entreprise est conçu pour fonctionner dans le contexte spécifique d'une entreprise donnée. Il doit savoir quelles sources sont approuvées, quels employés sont autorisés à accéder à certaines informations et d'où proviennent ses réponses.

Comment créer un assistant de connaissances d'entreprise sécurisé avec la RAG

Un assistant de connaissances d'entreprise sécurisé commence par connecter des modèles aux connaissances d'entreprise approuvées via une couche d'ancrage gouvernée qui peut récupérer, classer, filtrer et transmettre un contexte pertinent dans son flux de réponse. Ce fondement peut inclure la récupération, les citations, l'application des politiques et l'orchestration des outils ou des flux de travail, permettant à l'assistant d'aider les employés au sein des systèmes réels tout en restant ancré dans le contenu approuvé et les règles d'accès existantes.

Pour les déploiements sur site ou privés, l'architecture doit maintenir les connaissances d'entreprise approuvées à proximité des modèles et des flux de travail qui les utilisent, tout en appliquant des contrôles d'accès, une traçabilité des sources, une surveillance et un examen humain pour les cas d'utilisation à haut risque. L'objectif est d'aider les employés à utiliser les connaissances de l'entreprise en toute sécurité sans exposer du contenu confidentiel, des informations obsolètes ou des données sensibles en dehors des environnements approuvés.

Pourquoi les assistants de connaissances d'entreprise échouent-ils lorsqu'ils n'ont pas de données fiables ?

Les assistants de connaissances d'entreprise ne sont fiables que dans la mesure où les données qu'ils extraient sont de qualité. L'efficacité de l'IA dépend du contexte qui la sous-tend, ce qui fait de la préparation des données une exigence fondamentale dans tout déploiement. Une démonstration soignée peut fonctionner à merveille avec un ensemble de données soigneusement sélectionnées, mais une utilisation en conditions réelles révèlera rapidement si les connaissances de l'entreprise sont exactes, à jour, bien structurées et faciles à récupérer.

Dans la plupart des organisations, les connaissances de l'entreprise sont réparties entre de nombreux systèmes et équipes. Les politiques peuvent être obsolètes, les pages wiki peuvent se contredire, les informations sur les produits peuvent être dispersées dans plusieurs endroits et les articles du service d'assistance peuvent exister en plusieurs exemplaires ou être incomplets. Un modèle plus robuste ne peut pas compenser entièrement la faiblesse des sources, la piètre qualité des métadonnées ou du contenu non géré, ce qui fait que la préparation des données est une exigence de déploiement fondamentale plutôt qu'une tâche de nettoyage du système.

Préparation des données éparses et non étiquetées

Lorsque les données d'entreprise sont dispersées entre wikis, tickets, disques partagés, intranets et applications métier, les équipes doivent déterminer quelles sources font autorité avant de les connecter à un assistant de connaissances. Un contenu non ou mal étiqueté peut également nécessiter des métadonnées, un dédoublonnage, des informations sur sa propriété et des politiques d'actualisation afin que l'assistant puisse récupérer les informations pertinentes et éviter les réponses obsolètes ou contradictoires. Les plateformes d'IA d'entreprise, telles que la plateforme de données d'IA de Dell avec NVIDIA, peuvent aider les organisations à préparer, à gouverner, à indexer et à diffuser des données d'entreprise à grande échelle, améliorant ainsi la qualité de la récupération et aidant les assistants de connaissances à fournir des réponses plus précises et plus fiables.

Comment créer un assistant de connaissances dans lequel les employés peuvent avoir confiance ?

Un assistant de connaissances gagne la confiance des employés lorsque ces derniers peuvent vérifier ses réponses, comprendre d'où proviennent les informations et compter sur lui pour respecter les règles d'accès. Les citations des sources doivent être faciles à vérifier, notamment lorsque l'assistant résume les politiques RH, recommande des solutions de dépannage ou répond à des questions de service client.

Un assistant de connaissances en production doit également éviter de montrer des informations provenant de documents, de tickets, d'enregistrements ou de référentiels auxquels l'employé n'a pas accès directement. Les contrôles d'accès basés sur les rôles doivent être validés avant leur déploiement et non ajoutés après l'indexation ou l'exposition des données sensibles.

La confiance dépend également de l'actualisation. Les organisations doivent définir quelles équipes sont propriétaires des sources à forte valeur ajoutée, la fréquence de révision de ces sources et les mesures à prendre lorsque le contenu devient obsolète. Sans cette discipline, l'assistant risque de renvoyer avec assurance des informations obsolètes, ce qui peut entraîner des retards dans l'assistance reçue, de la confusion chez le client ou des risques de non-conformité.

Les clés du déploiement d'un assistant de connaissances auprès des employés

Les organisations doivent déployer un assistant de connaissances par phases, en commençant par un cas d'utilisation ciblé, avec des sources de données approuvées, un groupe d'utilisateurs limité, des canaux de retour des utilisateurs clairs et des critères mesurables qui permettront d'étendre le déploiement.

Un déploiement pratique doit inclure :

• Un flux de travail ciblé : commencez par un cas d'utilisation tel que le dépannage informatique, la recherche de politiques RH, le service client ou l'aide à la vente.
• Un ensemble de sources limité : prouvez que l'assistant peut répondre à un ensemble défini de questions avant de connecter chaque système.
• Des utilisateurs pilotes représentatifs : testez de vraies questions et signalez les réponses manquantes, peu claires ou incorrectes.
• Une formation des employés : expliquez dans quels cas l'assistant est utile et quand l'avis d'un expert est encore nécessaire.
• Des critères d'expansion : un déploiement plus large doit dépendre de la qualité des réponses, de l'exactitude des citations, de l'application des autorisations, de l'adoption et de la préparation du soutien.

Comment les assistants de connaissances s'intègrent aux outils de service d'assistance et de flux de travail

Un assistant de connaissances d'entreprise en production peut s'intégrer aux outils de service d'assistance et de flux de travail via des API approuvées, des connecteurs, des pipelines de récupération et une orchestration de la couche application liés aux systèmes de tickets, aux plateformes de gestion informatique, aux outils de collaboration, aux bases de connaissances, aux systèmes CRM et aux portails RH. Ceci est important car l'assistant se situe de plus en plus entre la recherche et l'action : on attend de lui non seulement qu'il trouve la bonne réponse, mais également qu'il fasse apparaître l'étape suivante approuvée au sein du flux de travail.

Dans les environnements de service d'assistance et de service client, cela peut se traduire par la suggestion d'étapes de dépannage, un résumé des tickets précédents, une récupération des réponses approuvées, une recommandation quant à la prochaine voie de remontée ou une aide fournie à un agent du support pour rédiger une réponse dans le système qu'il utilise déjà. À mesure que les assistants s'intègrent davantage aux flux de travail, la logique d'approbation, les pistes d'audit et les points de contrôle avec un examen humain font partie intégrante de la préparation à la production et ne constituent plus des modules complémentaires.

Quel est le coût d'un assistant de connaissances d'entreprise ?

Les coûts des assistants de connaissances d'entreprise sont plus faciles à contrôler lorsque les équipes commencent par un cas d'utilisation précis, préparent d'abord le contenu prioritaire, surveillent l'utilisation de l'inférence et de la récupération, et qu'ils sont déployés à plus grande échelle uniquement une fois que les critères de qualité des réponses et d'adoption ont été atteints.

Le coût de la mise en place d'un assistant de connaissances d'entreprise dépend de l'étendue du déploiement, notamment de la préparation des données, de l'infrastructure, des exigences en matière de modèles ou d'inférence, des intégrations, de la gouvernance, des contrôles de sécurité, de la surveillance et de l'assistance.

Les organisations doivent éviter de considérer l'accès aux modèles comme étant la seule dépense. Moins l'environnement de connaissances est préparé, plus le travail nécessaire avant que l'assistant puisse fournir des réponses fiables sera important. 

Les assistants de connaissances d'entreprise sont-ils sûrs pour les secteurs réglementés ?

Dans les secteurs réglementés, les assistants de connaissances d'entreprise doivent être évalués conjointement par les responsables informatiques, de la sécurité, de la conformité, ainsi que par les dirigeants d'entreprise, au lieu d'être traités comme des fonctionnalités d'IA autonomes. Un assistant peut prendre en charge des flux de travail réglementés lorsqu'il est conçu avec des mesures de protection telles que des contrôles d'accès basés sur les rôles, des journaux d'audit, un chiffrement, des contrôles de localisation des données, une traçabilité des sources, un examen humain et des processus de gouvernance documentés.

L'utilisation de données d'entreprise ne rend pas le système conforme par défaut. Pour les flux de travail à haut risque, les organisations doivent définir les domaines dans lesquels l'assistant peut fournir une réponse informative, ceux dans lesquels il peut appuyer une décision humaine et ceux dans lesquels un examinateur qualifié doit approuver la réponse finale.

Quel rôle joue Dell AI Factory with NVIDIA dans le modèle de déploiement ?

Dell AI Factory with NVIDIA fournit un parcours modulaire de la phase de projet pilote à celle de la production pour les assistants de connaissances d'entreprise, ce qui permet aux organisations de ne pas avoir à assembler chaque couche elles-mêmes. Son architecture modulaire est conçue pour simplifier le déploiement, gérer plusieurs charges de travail d'IA, évoluer en fonction de la demande et rationaliser les opérations sur l'ensemble de l'infrastructure, des logiciels, de l'automatisation et des services.

Cette modularité est importante, car les assistants de connaissances d'entreprise en production nécessitent plus qu'un simple accès aux modèles. Les équipes ont besoin d'un accès sécurisé aux données, de performances, d'une capacité de mise à l'échelle, d'une intégration, d'opérations de cycle de vie et d'une méthode reproductible pour passer de l'expérimentation au déploiement continu. Un contexte d'entreprise fiable est tout aussi important que la qualité du modèle. Par conséquent, les organisations doivent également préparer, gouverner, récupérer et diffuser à grande échelle les connaissances d'entreprise approuvées.

Dell AI Factory with NVIDIA répond à ces exigences grâce à une infrastructure d'IA, à des options de déploiement sécurisées et à la plateforme de données d'IA de Dell avec NVIDIA, qui aide les organisations à préparer, à gouverner, à récupérer et à diffuser les données d'entreprise pour les charges de travail RAG et d'assistant de connaissances. Le plan directeur Enterprise RAG de NVIDIA ajoute un autre point de référence utile : une architecture modulaire optimisée pour les GPU permettant de créer des assistants de recherche et de connaissances d'entreprise hautes performances.

L'écosystème élargi renforce également le modèle de déploiement. Des solutions validées de partenaires tels que Cohere et Aible peuvent prendre en charge des cas d'utilisation d'assistants de connaissances d'entreprise et d'IA agentique, tandis que les solutions de cybersécurité de CrowdStrike et Fortanix, ainsi que les services Dell Managed Detection and Response, contribuent à protéger les charges de travail d'IA sensibles et à renforcer la résilience opérationnelle.

Les services d'infrastructure et de sécurité ne représentent encore qu'une partie de la préparation à la production. Ils ne remplacent ni la gouvernance des données, ni la propriété du contenu, ni la conception des autorisations, ni la formation des utilisateurs, ni la planification de la conformité. Un déploiement fiable dépend à la fois de la plateforme d'IA et des processus d'entreprise qui garantissent la précision, la sécurité et l'utilité de l'assistant.

Liste de contrôle pour la mise en œuvre d'un assistant de connaissances

Avant de déployer un assistant de connaissances au-delà de sa phase de projet pilote, les organisations doivent s'assurer que le système peut répondre aux exigences pratiques de production :

• Définir le premier cas d'utilisation en production et les systèmes sources approuvés.
• Nettoyer, dédoublonner et attribuer des propriétaires au contenu prioritaire.
• Valider les autorisations basées sur les rôles.
• Exiger des citations des sources pour les réponses à fort impact.
• Tester la qualité des récupérations à l'aide de questions formulées par de vrais employés.
• Intégrer aux flux de travail prioritaires.
• Surveiller l'utilisation, la latence, le coût et la qualité des réponses.
• Documenter les exigences en matière de conformité et d'audit.

FAQ