Was erforderlich ist, um Wissensassistenten in Produktionssysteme zu verwandeln

Wichtigste Erkenntnisse

• Ein Enterprise-Wissensassistent ist erst dann produktionsreif, wenn er genaue und aktuelle Informationen aus genehmigten Unternehmensquellen abrufen kann.
• Vertrauen hängt von Quellenangaben, der Rückverfolgbarkeit von Antworten, rollenbasierten Zugriffskontrollen und einer klaren Zuständigkeit für Inhalte ab.
• Die Einführung bei den Mitarbeitenden sollte mit einem konkreten Anwendungsfall, einem kontrollierten Pilotprojekt, Feedbackschleifen und messbaren Akzeptanzkriterien beginnen.
• Die Produktionskosten gehen über das Modell selbst hinaus. Datenaufbereitung, Infrastruktur, Integrationen, Governance, Überwachung und Support – alles wirkt sich auf die Gesamtkosten aus.

Enterprise-Wissensassistenten können Mitarbeitenden dabei helfen, interne Informationen schneller zu finden und zu nutzen, insbesondere wenn diese auf genehmigtem Unternehmenswissen basieren. Die Fortune 500-Unternehmen verschwenden insgesamt 2,4 Milliarden Stunden pro Jahr mit der Suche nach Informationen. Das verdeutlicht, warum ein schnellerer Zugriff auf vertrauenswürdiges internes Wissen zu einer konkreten geschäftlichen Priorität geworden ist. Für Teams, die sich mit der Funktionsweise von Wissensassistenten befassen, stellt sich nun die Frage: Was ist erforderlich, um einen solchen Assistenten zuverlässig genug für den produktiven Einsatz zu gestalten?

Retrieval-Augmented Generation (RAG) bildet nach wie vor einen Teil der Grundlage für viele Wissensassistenten in Unternehmen, stellt jedoch nicht mehr die gesamte Lösung dar. Produktionssysteme kombinieren den Informationsabruf mit einer zugriffsorientierten Rangfolge, Quellenangaben, Orchestrierung und Workflow-Integration, damit sie den richtigen Unternehmenskontext abrufen, bestehende Berechtigungen berücksichtigen und nachvollziehbare Antworten liefern, die Mitarbeitende in ihrer täglichen Arbeit nutzen können.

Für die meisten Teams stellt sich nicht die Frage, ob sie RAG einsetzen sollen, sondern wie sie das fundierte Abrufen von Informationen innerhalb eines geregelten, beobachtbaren Systems operationalisieren können, das auch über die Pilotphase hinaus Bestand hat.

Was ist ein Enterprise-Wissensassistent?

Ein Enterprise-Wissensassistent ist ein KI-gestütztes Arbeitsplatztool, das Mitarbeitenden dabei hilft, Informationen aus genehmigten internen Quellen wie Wikis, Richtliniendokumenten, Tickets, Wissensdatenbanken, Intranets und Unternehmenssystemen zu finden, zusammenzufassen und zu nutzen. Dell AI Factory with NVIDIA definiert diese Art von Funktion als sichere Chatbots der Enterprise-Klasse, die Unternehmensdaten abrufen, auswerten und zitieren können, um vertrauenswürdige Antworten und Erkenntnisse zu liefern.

Im Gegensatz zu einem allgemeinen Chatbot ist ein Enterprise-Wissensassistent darauf ausgelegt, im unternehmensspezifischen Kontext zu arbeiten. Er sollte wissen, welche Quellen genehmigt sind, welche Mitarbeitenden auf bestimmte Informationen zugreifen dürfen und woher seine Antworten stammen.

Entwickeln eines sicheren Enterprise-Wissensassistenten mit RAG

Ein sicherer Wissensassistent für Unternehmen beginnt damit, Modelle mit genehmigtem Unternehmenswissen zu verbinden. Dies erfolgt über eine kontrollierte Grounding-Ebene, die relevanten Kontext abrufen, bewerten, filtern und in den Antwortfluss übertragen kann. Diese Grundlage kann Funktionen wie den Informationsabruf, Quellenangaben, das Durchsetzen von Richtlinien sowie die Orchestrierung von Tools oder Workflows umfassen. Damit kann der Assistent Mitarbeitende in realen Systemen unterstützen und bleibt gleichzeitig an genehmigte Inhalte und bestehende Zugriffsregeln gebunden.

Bei On-Premise- oder privaten Bereitstellungen sollte über die Architektur sichergestellt werden, dass genehmigtes Unternehmenswissen nah an den Modellen und Workflows bleibt, die es nutzen. Gleichzeitig müssen bei Anwendungsfällen mit hohem Risiko Zugriffskontrollen, Rückverfolgbarkeit der Quellen, Überwachung und manuelle Überprüfung gewährleistet sein. Ziel ist, dass Mitarbeitende Unternehmenswissen auf sichere Weise nutzen können, ohne eingeschränkte Inhalte, veraltete Informationen oder sensible Daten außerhalb genehmigter Umgebungen offenzulegen.

Warum Enterprise-Wissensassistenten ohne vertrauenswürdige Daten scheitern

Enterprise-Wissensassistenten sind nur so zuverlässig wie die Daten, auf die sie zurückgreifen. KI ist nur so effektiv wie der Kontext, der ihr zugrunde liegt. Daher ist die Datenbereitschaft eine zentrale Voraussetzung für die Bereitstellung. Mit einem sorgfältig zusammengestellten Datensatz lässt sich zwar ein überzeugendes Demo erstellen, doch der Einsatz in der Praxis zeigt schnell, ob das Unternehmenswissen korrekt, aktuell, gut strukturiert und leicht abrufbar ist.

In den meisten Unternehmen ist das Unternehmenswissen über zahlreiche Systeme und Teams verteilt. Möglicherweise sind Richtlinien veraltet, Wiki-Seiten widersprechen sich, Produktinformationen sind an mehreren Orten gespeichert und Helpdesk-Artikel sind doppelt vorhanden oder unvollständig. Selbst ein leistungsfähiges Modell kann schwache Quellmaterialien, mangelhafte Metadaten oder nicht verwaltete Inhalte nicht vollständig kompensieren. Deshalb ist die Datenbereitschaft eine zentrale Voraussetzung für die Bereitstellung und nicht nur eine nachgelagerte Bereinigungsaufgabe.

Aufbereiten von verteilten und nicht gekennzeichneten Daten

Wenn Unternehmensdaten über Wikis, Tickets, gemeinsam genutzte Laufwerke, Intranets und Unternehmensanwendungen verteilt sind, müssen Teams zuerst entscheiden, welche Quellen maßgeblich sind, bevor sie diese mit einem Wissensassistenten verbinden. Nicht gekennzeichnete oder unzureichend getaggte Inhalte erfordern möglicherweise zudem Richtlinien für Metadaten, Deduplizierung, Eigentumsrechte und Aktualisierung, damit der Assistent die richtigen Informationen abrufen und veraltete oder widersprüchliche Antworten vermeiden kann. Enterprise-KI-Plattformen wie Dell AI Data Platform with NVIDIA können Unternehmen dabei unterstützen, Unternehmensdaten in großem Maßstab aufzubereiten, zu kontrollieren, zu indexieren und bereitzustellen. Dadurch wird die Qualität der Suchergebnisse verbessert und Wissensassistenten können genauere, vertrauenswürdigere Antworten liefern.

Entwickeln eines Wissensassistenten, dem Mitarbeitende vertrauen können

Ein Wissensassistent gewinnt das Vertrauen von Mitarbeitenden, wenn diese seine Antworten verifizieren können, verstehen, woher die Informationen stammen, und darauf vertrauen können, dass die Zugriffsregeln eingehalten werden. Quellenangaben sollten leicht zu überprüfen sein, insbesondere wenn der Assistent Personalrichtlinien zusammenfasst, Schritte zur Fehlerbehebung empfiehlt oder Fragen des Kundensupports beantwortet.

Ein in der Produktion eingesetzter Wissensassistent sollte außerdem keine Informationen aus Dokumenten, Tickets, Aufzeichnungen oder Archiven anzeigen, auf die Mitarbeitende keinen direkten Zugriff haben. Rollenbasierte Zugriffskontrollen sollten vor der Einführung validiert und nicht erst hinzugefügt werden, nachdem sensible Daten bereits indexiert oder offengelegt wurden.

Vertrauen hängt auch von der Aktualität ab. Unternehmen sollten festlegen, welche Teams für hochwertige Quellen verantwortlich sind, wie oft diese Quellen überprüft werden und was geschieht, wenn Inhalte veraltet sind. Ohne solche Vorgaben gibt der Assistent möglicherweise ohne Bedenken veraltete Informationen zurück, was zu Verzögerungen im Support, Verwirrung bei den Kunden oder Compliance-Risiken führen kann.

Einführen eines Wissensassistenten für Mitarbeitende

Unternehmen sollten einen Wissensassistenten schrittweise einführen, beginnend mit einem fokussierten Anwendungsfall, genehmigten Datenquellen, einer begrenzten Nutzergruppe, klaren Feedbackkanälen und messbaren Kriterien für die Ausweitung der Bereitstellung.

Eine praxisorientierte Einführung sollte Folgendes umfassen:

• Fokussierter Workflow: Beginnen Sie mit einem Anwendungsfall wie der IT-Fehlerbehebung, der Suche nach HR-Richtlinien, dem Kundensupport oder der Vertriebsunterstützung.
• Begrenzte Datenquellen: Stellen Sie sicher, dass der Assistent eine definierte Reihe von Fragen beantworten kann, bevor Sie alle Systeme verbinden.
• Repräsentative Benutzende für das Pilotprojekt: Testen Sie reale Fragen und kennzeichnen Sie fehlende, unklare oder falsche Antworten.
• Mitarbeiterschulung: Erklären Sie, wo der Assistent nützlich ist und wo weiterhin eine Expertenprüfung erforderlich ist.
• Kriterien für die Ausweitung: Eine umfassendere Einführung sollte von der Antwortqualität, der Genauigkeit der Quellenangaben, der Durchsetzung von Berechtigungen, der Akzeptanz sowie der Supportbereitschaft abhängen.

Wie Wissensassistenten in Helpdesk- und Workflow-Tools integriert werden

Ein Enterprise-Wissensassistent für Produktionsumgebungen lässt sich über zugelassene APIs, Konnektoren, Abrufpipelines und eine Orchestrierung auf Anwendungsebene in Helpdesk- und Workflow-Tools integrieren, die mit Ticketing-Systemen, ITSM-Plattformen, Tools für die Zusammenarbeit, Wissensdatenbanken, CRM-Systemen und HR-Portalen verknüpft sind. Das ist wichtig, da der Assistent zunehmend zwischen Suche und Aktion angesiedelt ist: Von ihm wird erwartet, dass er nicht nur die richtige Antwort findet, sondern auch den nächsten genehmigten Schritt innerhalb des Workflows aufzeigt.

In Helpdesk- und Kundenserviceumgebungen kann dies bedeuten, Schritte zur Fehlerbehebung vorzuschlagen, frühere Tickets zusammenzufassen, genehmigte Antworten abzurufen, den nächsten Eskalationspfad zu empfehlen oder dem Supportteam dabei zu helfen, eine Antwort innerhalb des bereits genutzten Systems zu verfassen. Je weiter Assistenten in die Workflows eingebunden werden, desto mehr werden Genehmigungslogik, Prüfpfade und Kontrollpunkte für die Überprüfung durch Menschen zu einem festen Bestandteil der Produktionsreife statt nur Add-ons zu sein.

Wie viel kostet ein Enterprise-Wissensassistent?

Die Kosten für einen Enterprise-Wissensassistenten lassen sich am einfachsten kontrollieren, wenn Teams mit einem eng begrenzten Anwendungsfall beginnen, zunächst bevorzugte Inhalte aufbereiten, die Nutzung von Inferenz und Abruf überwachen und erst dann erweitern, wenn die Kriterien hinsichtlich Antwortqualität und Akzeptanz erfüllt sind.

Die Kosten für die Entwicklung eines Enterprise-Wissensassistenten hängen vom Umfang der Bereitstellung ab und umfassen unter anderem Datenaufbereitung, Infrastruktur, Anforderungen an Modelle oder Inferenz, Integrationen, Governance, Sicherheitskontrollen, Überwachung und Support.

Unternehmen sollten vermeiden, den Zugriff auf Modelle als einzigen Kostenfaktor zu betrachten. Je weniger gut die Wissensumgebung vorbereitet ist, desto mehr Arbeit kann erforderlich sein, bevor der Assistent zuverlässige Antworten liefert. 

Sind Enterprise-Wissensassistenten für regulierte Branchen geeignet?

In regulierten Branchen sollten Enterprise-Wissensassistenten gemeinsam von den Bereichen IT, Sicherheit und Compliance sowie von den Geschäftsverantwortlichen bewertet und nicht als eigenständige KI-Funktionen behandelt werden. Ein Assistent kann regulierte Workflows unterstützen, wenn er mit Sicherheitsvorkehrungen wie rollenbasierten Zugriffskontrollen, Prüfprotokollen, Verschlüsselung, Datenlokalitätskontrollen, Rückverfolgbarkeit der Quellen, menschlicher Überprüfung und dokumentierten Governance-Prozessen ausgestattet ist.

Die Verwendung von Unternehmensdaten führt nicht automatisch zur System-Compliance. Bei Workflows mit hohem Risiko sollten Unternehmen festlegen, in welchen Fällen der Assistent eine informative Antwort geben darf, in welchen Fällen er eine menschliche Entscheidung unterstützen kann und in welchen Fällen qualifizierte Prüfende die endgültige Antwort genehmigen müssen.

Wo sich Dell AI Factory with NVIDIA in das Bereitstellungsmodell einfügt

Dell AI Factory with NVIDIA bietet einen modularen Ansatz vom Pilotprojekt bis zur Produktionsreife für Enterprise-Wissensassistenten und erspart es Unternehmen, jede Ebene selbst zusammenstellen zu müssen. Die modulare Architektur ist darauf ausgelegt, die Bereitstellung zu vereinfachen, verschiedene KI-Workloads zu unterstützen, mit der Nachfrage skaliert zu werden und die Abläufe in den Bereichen Infrastruktur, Software, Automatisierung und Services zu optimieren.

Diese Modularität ist wichtig, da Enterprise-Wissensassistenten in Produktionsumgebungen mehr als nur Zugriff auf Modelle benötigen. Teams benötigen sicheren Datenzugriff, Performance, Skalierbarkeit, Integration, Lebenszyklusabläufe und einen wiederholbaren Weg, um vom Experimentierstadium zur kontinuierlichen Bereitstellung überzugehen. Ein vertrauenswürdiger Unternehmenskontext ist ebenso wichtig wie die Modellqualität. Deshalb müssen Unternehmen genehmigtes Unternehmenswissen in großem Maßstab aufbereiten, kontrollieren, abrufen und bereitstellen.

Dell AI Factory with NVIDIA vereint diese Anforderungen durch eine KI-Infrastruktur, sichere Bereitstellungsoptionen und die Dell AI Data Platform with NVIDIA, die Unternehmen dabei unterstützt, Unternehmensdaten für RAG- und Wissensassistenten-Workloads aufzubereiten, zu kontrollieren, abzurufen und bereitzustellen. Der Enterprise RAG-Blueprint von NVIDIA bietet einen weiteren hilfreichen Bezugspunkt: eine modulare, GPU-optimierte Architektur für die Entwicklung leistungsstarker Lösungen für die Unternehmenssuche und Enterprise-Wissensassistenten.

Das umfassendere Ökosystem stärkt das Bereitstellungsmodell ebenfalls. Validierte Lösungen von Partnern wie Cohere und Aible können Anwendungsfälle im Bereich der Enterprise-Wissensassistenten und agentenbasierten KI unterstützen. Gleichzeitig tragen Cybersicherheitslösungen von CrowdStrike und Fortanix sowie die Dell Managed Detection and Response Services dazu bei, sensible KI-Workloads zu schützen und die operative Resilienz zu stärken.

Infrastruktur- und Sicherheitsservices sind nach wie vor nur ein Teil der Produktionsbereitschaft. Sie ersetzen weder Daten-Governance noch die Zuständigkeit für Inhalte, die Gestaltung von Berechtigungen, Nutzerschulungen oder die Compliance-Planung. Eine zuverlässige Bereitstellung hängt sowohl von der KI-Plattform als auch von den Unternehmensprozessen ab, die dafür sorgen, dass der Assistent präzise, sicher und nützlich bleibt.

Checkliste für die Implementierung von Wissensassistenten

Bevor Unternehmen einen Wissensassistenten über die Pilotphase hinaus ausweiten, sollten sie sicherstellen, dass das System die konkreten Anforderungen im Produktivbetrieb erfüllen kann:

• Definieren Sie den ersten Produktionsanwendungsfall und die zugelassenen Quellsysteme.
• Bereinigen und deduplizieren Sie Inhalte und weisen Sie Verantwortliche für wichtige Inhalte zu.
• Überprüfen Sie die rollenbasierten Berechtigungen.
• Verlangen Sie Quellenangaben für besonders wichtige Antworten.
• Testen Sie die Qualität der Suchergebnisse anhand realer Mitarbeiterfragen.
• Integrieren Sie das System in wichtige Workflows.
• Überwachen Sie die Nutzung, Latenz, Kosten und Antwortqualität.
• Dokumentieren Sie Compliance- und Audit-Anforderungen.

Häufig gestellte Fragen