Ein Mitarbeiter fragt die KI nach einer internen Regelung, einer technischen Anleitung oder einem Produktdetail. Die Antwort klingt überzeugend – basiert aber möglicherweise gar nicht auf den aktuellen Informationen des Unternehmens. Genau hier beginnt eine wichtige Aufgabe für Unternehmen: Wie bekommt eine KI kontrollierten Zugriff auf das eigene Wissen, ohne dass Mitarbeiter jedes Dokument bei jeder Frage erneut hochladen müssen? Je nach Umfang reichen dafür einzelne Dateien oder verbundene Wissensquellen. Bei größeren, wiederkehrenden Anwendungen kann eine zentrale Wissenslösung mit Retrieval-Augmented Generation, kurz RAG, sinnvoll werden.
1. Warum kennt eine KI Ihr Unternehmen nicht automatisch?
Generative KI kann umfangreiches allgemeines Wissen besitzen. Das bedeutet aber nicht, dass sie automatisch die aktuellen internen Informationen Ihres Unternehmens kennt.
Typisches Unternehmenswissen liegt beispielsweise in:
- PDF-Dokumenten
- Arbeitsanweisungen
- Produktunterlagen
- Preis- und Leistungstabellen
- internen Wikis
- Cloud-Ordnern
- Support-Dokumentationen
- CRM-Notizen
- E-Mails
- Projektunterlagen
Häufig existieren mehrere Versionen derselben Information gleichzeitig.
Ein Mitarbeiter kennt vielleicht die aktuelle Regelung. Ein anderer findet über die Suche noch eine PDF-Datei aus dem Vorjahr. Ein neuer Mitarbeiter weiß möglicherweise gar nicht, wo die richtige Information gespeichert ist.
Eine KI löst dieses organisatorische Problem nicht automatisch.
Wenn die Quellen unklar, veraltet oder widersprüchlich sind, kann auch ein technisch guter KI-Assistent auf der falschen Grundlage arbeiten.
Die eigentliche Aufgabe lautet deshalb nicht:
„Wie bringen wir der KI alles über unser Unternehmen bei?“
Sondern:
„Wie findet die KI für eine konkrete Frage die richtige, aktuelle und für diesen Nutzer erlaubte Information?“
2. Welche Möglichkeiten gibt es, KI mit Unternehmenswissen zu verbinden?
Nicht jedes Unternehmen benötigt sofort eine eigene Wissensplattform oder eine individuell entwickelte RAG-Lösung.
Es gibt mehrere Stufen.
| Ansatz | Geeignet für | Typische Grenze |
|---|---|---|
| Datei direkt bereitstellen | Einzelne oder gelegentliche Aufgaben | Manuelle Auswahl und Pflege |
| Projekt- oder Tool-Wissensbereich | Begrenzte, wiederkehrende Arbeit mit einer überschaubaren Dokumentensammlung | Abhängig von Funktionen, Limits und Berechtigungen des jeweiligen Tools |
| Verbundene Unternehmensquellen | Wissen liegt bereits in unterstützten Dokumentenplattformen, Apps oder internen Systemen | Abhängig von verfügbaren Integrationen und Zugriffsrechten |
| Zentrale Wissenslösung mit Retrieval oder RAG | Viele Dokumente, wiederkehrende Fragen, mehrere Nutzer und kontrollierte Quellen | Benötigt Pflege, Berechtigungskonzept und Qualitätskontrolle |
| Direkte Systemintegration über Schnittstellen | Aktuelle operative Daten oder Aktionen in CRM, ERP, Shop und anderen Systemen | Technisch und organisatorisch anspruchsvoller |
Die richtige Lösung hängt deshalb nicht davon ab, welche Technologie gerade am häufigsten diskutiert wird.
Sie hängt davon ab, welche Frage beantwortet oder welcher Geschäftsprozess verbessert werden soll.
3. Was ist RAG – einfach erklärt?
RAG steht für Retrieval-Augmented Generation.
Der Begriff beschreibt ein Muster, bei dem ein System vor der Antwort relevante Informationen aus definierten Wissensquellen abruft und diese Informationen anschließend dem Sprachmodell als zusätzlichen Kontext zur Verfügung stellt.
Vereinfacht läuft der Prozess so:
- Frage: Ein Mitarbeiter stellt eine Frage.
- Suche: Das System sucht in den freigegebenen Wissensquellen nach relevanten Informationen.
- Auswahl: Passende Abschnitte werden als Kontext zusammengestellt.
- Antwort: Das Sprachmodell formuliert auf Grundlage dieses Kontextes eine Antwort.
- Quelle: Eine gut aufgebaute Lösung kann zusätzlich anzeigen, auf welchen Dokumenten oder Abschnitten die Antwort basiert.
Microsoft beschreibt RAG entsprechend als Verbindung von Informationsabruf und Sprachmodell, mit der Antworten auf eigenen Unternehmensinhalten aufgebaut werden können.
Microsoft Learn: Retrieval-Augmented Generation
Auch Google beschreibt Grounding als Möglichkeit, generierte Antworten mit bereitgestellten Referenzinformationen abzugleichen und deren Unterstützung durch Quellen zu prüfen.
Google Cloud: Grounding mit RAG prüfen
Ein einfaches Beispiel
Ein Mitarbeiter fragt:
„Welche Unterlagen benötigen wir aktuell für die Übergabe eines neuen Kundenprojekts?“
Ohne Zugriff auf Unternehmenswissen könnte ein allgemeines Sprachmodell eine plausible allgemeine Antwort formulieren.
Eine Wissenslösung kann stattdessen zuerst die aktuelle interne Prozessbeschreibung suchen, die relevanten Abschnitte bereitstellen und daraus eine Antwort erzeugen.
Der Unterschied liegt nicht nur im Sprachmodell.
Der Unterschied liegt darin, welche Informationen dem Modell für diese konkrete Antwort zur Verfügung gestellt werden.
4. Wann kann sich RAG für ein Unternehmen lohnen?
Eine zentrale Wissenslösung wird besonders interessant, wenn mehrere der folgenden Situationen gleichzeitig auftreten.
Wissen ist auf viele Dokumente verteilt
Mitarbeiter müssen regelmäßig mehrere Ordner, Wikis oder Dokumentationen durchsuchen, um eine Antwort zu finden.
Dieselben Fragen werden immer wieder gestellt
Neue Mitarbeiter, Vertrieb, Support oder Projektteams fragen regelmäßig nach denselben Abläufen, Produktdetails oder internen Regeln.
Informationen ändern sich
Produkte, Prozesse, Anleitungen oder interne Vorgaben werden aktualisiert und die KI soll möglichst auf die aktuelle freigegebene Version zugreifen.
Quellen sollen nachvollziehbar bleiben
Ein Mitarbeiter soll nicht nur eine Antwort erhalten, sondern möglichst prüfen können, aus welchem Dokument die Information stammt.
Mehrere Mitarbeiter benötigen denselben Wissenszugang
Statt jeder Person eigene Dateien, Prompts und individuelle KI-Projekte aufzubauen, soll ein kontrollierter gemeinsamer Wissensbestand genutzt werden.
Berechtigungen müssen berücksichtigt werden
Nicht jeder Mitarbeiter darf jedes Dokument sehen. Dann muss die Wissensarchitektur Zugriffsrechte berücksichtigen und verhindern, dass ein Assistent Informationen aus Quellen abruft, für die der jeweilige Nutzer keine Berechtigung besitzt.
Gerade dieser Punkt ist bei Unternehmenslösungen wesentlich. Zugriffskontrolle, Datenumfang und Governance sollten deshalb bereits beim Architekturentwurf berücksichtigt werden.
5. Wann brauchen Sie wahrscheinlich kein RAG?
RAG klingt technisch interessant. Trotzdem wäre es ein Fehler, jede KI-Anwendung automatisch damit auszustatten.
Eine eigene RAG-Lösung kann unnötig sein, wenn:
- nur wenige Dokumente benötigt werden
- die Aufgabe nur gelegentlich ausgeführt wird
- ein Mitarbeiter die benötigten Dateien problemlos direkt bereitstellen kann
- ein vorhandenes KI-Produkt die benötigten Wissensquellen bereits sinnvoll verbinden kann
- die Informationen hauptsächlich strukturierte Live-Daten aus einem Geschäftssystem sind
- die zugrunde liegenden Dokumente noch ungeordnet oder widersprüchlich sind
Beispiel: Fünf stabile Dokumente
Ein kleines Unternehmen hat fünf aktuelle interne Anleitungen, die nur zwei Mitarbeiter regelmäßig mit KI auswerten.
Hier kann ein geeigneter Wissensbereich innerhalb eines vorhandenen KI-Produkts bereits ausreichend sein.
Eine eigene Retrieval-Infrastruktur mit zusätzlichem Index, Synchronisierung und Administration würde möglicherweise mehr Aufwand erzeugen als Nutzen.
Beispiel: Live-Bestand aus dem ERP
Ein Mitarbeiter fragt:
„Wie viele Stück von Artikel X sind gerade verfügbar?“
Wenn die Antwort aus dem aktuellen ERP-Bestand kommen muss, ist eine Dokumentensuche möglicherweise der falsche Ansatz.
Dann kann ein kontrollierter direkter Zugriff auf das entsprechende operative System über eine Schnittstelle sinnvoller sein.
6. Welche Quellen können für einen KI-Wissensassistenten verwendet werden?
Grundsätzlich können sehr unterschiedliche Unternehmensquellen relevant sein.
Zum Beispiel:
- PDF-Handbücher
- Word-Dokumente
- interne Wikis
- SharePoint-Inhalte
- Google-Drive-Dokumente
- Support-Artikel
- Produktdokumentationen
- Prozessbeschreibungen
- Onboarding-Unterlagen
- freigegebene Vertrags- oder Vorlagentexte
Je nach Plattform können solche Quellen direkt verbunden oder zunächst in einen durchsuchbaren Wissensbestand überführt werden.
Aktuelle Unternehmens-KI-Produkte bieten teilweise bereits eigene Mechanismen für solche Wissenszugriffe.
ChatGPT Company Knowledge kann beispielsweise unterstützte Wissensquellen nutzen, die dem jeweiligen Nutzer in ChatGPT zur Verfügung stehen. Dazu können verbundene Apps sowie unterstützte unternehmenseigene Integrationen gehören. OpenAI gibt aktuell an, dass Company Knowledge für berechtigte ChatGPT Business-, Enterprise- und Edu-Workspaces verfügbar ist. Die tatsächliche Verfügbarkeit hängt von Workspace-Einstellungen, unterstützten Quellen und Berechtigungen ab.
OpenAI: Unternehmenswissen in ChatGPT
Das zeigt einen wichtigen Punkt:
„KI mit Unternehmenswissen verbinden“ bedeutet heute nicht automatisch, dass ein Unternehmen seine komplette technische Infrastruktur selbst entwickeln muss.
Vor einer Eigenentwicklung sollte geprüft werden, welche Funktionen bereits in den eingesetzten Unternehmensplattformen vorhanden sind.
7. Die größte Schwachstelle ist oft nicht die KI, sondern das Wissen
Ein technisch guter Retrieval-Prozess kann nur Informationen finden, die vorhanden und ausreichend verständlich sind.
Typische Probleme in Unternehmen sind:
- mehrere Versionen desselben Dokuments
- veraltete Preislisten
- fehlende Versionsstände
- widersprüchliche Prozessbeschreibungen
- nicht dokumentiertes Wissen einzelner Mitarbeiter
- schlecht benannte Dateien
- gescannte Dokumente mit schwacher Texterkennung
- fehlende Verantwortlichkeit für Aktualisierungen
Ein praktisches Beispiel
In einem Ordner liegen drei Dokumente:
- „Preise.pdf“
- „Preise_neu.pdf“
- „Preise_final_2025_neu2.pdf“
Ein Mensch erkennt bereits, dass hier ein Governance-Problem besteht.
Eine KI kann dieses Problem nicht zuverlässig dadurch lösen, dass alle drei Dateien einfach indexiert werden.
Vor dem Aufbau eines Wissensassistenten sollte deshalb geklärt werden:
- Welche Quelle ist verbindlich?
- Wer ist für sie verantwortlich?
- Wie wird ihre Aktualität erkennbar?
- Was passiert mit einer alten Version?
- Welche Informationen dürfen überhaupt in den Wissensbestand?
Eine KI-Wissenslösung ist deshalb häufig auch ein Informationsmanagement-Projekt.
8. Wer darf welches Wissen sehen?
Eine zentrale KI-Suche darf nicht dazu führen, dass bestehende Zugriffsbeschränkungen verschwinden.
Ein Vertriebsmitarbeiter darf beispielsweise auf Produktinformationen zugreifen, aber möglicherweise nicht auf Personalunterlagen.
Ein externer Dienstleister benötigt eventuell Projektdokumentation, aber keinen Zugriff auf andere Kundenprojekte.
Deshalb sollte bereits vor der technischen Umsetzung geklärt werden:
- Welche Quellen dürfen grundsätzlich eingebunden werden?
- Wer darf welche Quelle lesen?
- Wer darf neue Dokumente freigeben?
- Wer darf Inhalte ändern?
- Werden bestehende Berechtigungen der Quellsysteme übernommen?
- Was passiert, wenn ein Mitarbeiter die Abteilung verlässt?
- Wie werden sensible Informationen behandelt?
Das ist keine theoretische Zusatzfunktion.
Unternehmenslösungen sollten sicherstellen, dass Nutzer nur Informationen abrufen können, für die sie tatsächlich autorisiert sind.
ChatGPT Company Knowledge berücksichtigt laut OpenAI die bestehenden Berechtigungen der verbundenen Quellen. Ein Nutzer kann darüber nur Inhalte abrufen, auf die er über die jeweilige autorisierte Quelle bereits zugreifen darf.
9. Verhindert RAG Halluzinationen?
Nein.
Eine gut aufgebaute Wissenslösung kann Antworten stärker auf ausgewählte Quellen stützen und deren Überprüfung erleichtern. Sie macht ein Sprachmodell aber nicht grundsätzlich fehlerfrei.
Fehler können beispielsweise entstehen, wenn:
- die relevante Quelle nicht gefunden wird
- ein falscher Dokumentabschnitt abgerufen wird
- die Quelle selbst veraltet oder falsch ist
- mehrere Quellen widersprüchlich sind
- die Frage mehrdeutig ist
- das Sprachmodell den bereitgestellten Kontext falsch interpretiert
Für geschäftlich relevante Anwendungen sollte eine Wissenslösung deshalb zusätzlich Regeln für Unsicherheit und fehlende Quellen besitzen.
Eine sinnvolle Antwort kann beispielsweise lauten:
„In den freigegebenen Quellen finde ich dazu keine eindeutige Information. Bitte prüfen Sie dies mit der zuständigen Person.“
Das kann für ein Unternehmen wertvoller sein als eine sprachlich perfekte, aber erfundene Antwort.
Quellenanzeige hilft bei der Kontrolle
Wenn eine Antwort auf interne Informationen gestützt wird, sollte ein Mitarbeiter möglichst nachvollziehen können:
- welches Dokument verwendet wurde
- welcher Abschnitt relevant war
- wie aktuell die Quelle ist
- ob mehrere Quellen verwendet wurden
Das erleichtert Human Review, ersetzt ihn bei kritischen Entscheidungen aber nicht.
10. Praxisbeispiel: Interner Assistent für Service- und Prozesswissen
Fiktives Beispiel: Ein technisches B2B-Unternehmen hat rund 300 interne Dokumente.
Darin befinden sich:
- Produktinformationen
- Montagehinweise
- Serviceabläufe
- interne Checklisten
- Onboarding-Unterlagen
- häufige Kundenfragen
Die Dokumente liegen in mehreren Ordnern. Erfahrene Mitarbeiter finden Informationen meistens schnell. Neue Mitarbeiter fragen dagegen regelmäßig Kollegen.
Das Unternehmen möchte einen internen KI-Assistenten aufbauen.
Schritt 1: Nicht sofort alle Dateien indexieren
Zuerst werden die Dokumente geprüft.
Dabei stellt sich heraus:
- 40 Dokumente sind veraltet
- mehrere Anleitungen existieren doppelt
- ein Teil enthält Informationen, die nicht für alle Mitarbeiter bestimmt sind
- bei einigen Prozessen fehlt eine eindeutig verantwortliche Quelle
Diese Probleme werden zuerst bereinigt.
Schritt 2: Einen begrenzten Anwendungsfall wählen
Der erste Assistent soll nicht „alles über das Unternehmen wissen“.
Er soll zunächst nur Fragen zu freigegebenen Serviceabläufen beantworten.
Schritt 3: Antworten mit Quellen verbinden
Wenn ein Mitarbeiter fragt:
„Welche Schritte müssen vor einer Serviceübergabe geprüft werden?“
sucht das System die passenden Abschnitte aus den freigegebenen Serviceunterlagen und erzeugt daraus eine Antwort.
Zusätzlich erhält der Mitarbeiter einen Verweis auf die zugrunde liegende Quelle.
Schritt 4: Fehlende Antworten messen
Wenn der Assistent keine ausreichende Quelle findet, soll er nicht improvisieren.
Die unbeantwortete Frage wird stattdessen als Wissenslücke erfasst.
Dadurch erkennt das Unternehmen nach einigen Wochen beispielsweise:
- welche Fragen besonders häufig auftreten
- für welche Themen Dokumentation fehlt
- welche Quellen häufig nicht gefunden werden
- wo Mitarbeiter weiterhin menschliche Unterstützung benötigen
Damit verbessert die Lösung nicht nur die Informationssuche.
Sie kann sichtbar machen, wo das Unternehmenswissen selbst verbessert werden muss.
Das Beispiel ist fiktiv und stellt weder ein Kubertino-Kundenprojekt noch ein garantiertes Ergebnis einer RAG-Lösung dar.
11. Wie sollte eine KI-Wissenslösung praktisch aufgebaut werden?
Ein sinnvoller Prozess beginnt nicht mit der Auswahl einer Vektordatenbank oder eines bestimmten Sprachmodells.
Er beginnt mit der Geschäftsaufgabe.
- Fragen definieren: Welche konkreten Fragen soll die KI beantworten?
- Nutzer bestimmen: Wer soll den Assistenten verwenden?
- Quellen festlegen: Welche Informationen gelten als verbindlich?
- Dokumente bereinigen: Veraltete, doppelte und widersprüchliche Inhalte prüfen.
- Berechtigungen definieren: Wer darf welche Informationen abrufen?
- Technischen Ansatz wählen: Dateien, vorhandene Unternehmensintegration, Retrieval-Lösung oder direkte Schnittstelle.
- Antwortregeln definieren: Was soll passieren, wenn keine ausreichende Quelle gefunden wird?
- Quellen sichtbar machen: Wo möglich, Antworten mit nachvollziehbaren Referenzen verbinden.
- Mit echten Fragen testen: Nicht nur Demo-Fragen verwenden, sondern reale Fragen der späteren Nutzer.
- Fehler systematisch auswerten: Falsche Antwort, falsche Quelle und fehlende Quelle getrennt untersuchen.
- Klein starten: Erst einen klaren Wissensbereich stabilisieren und danach erweitern.
Was sollte vor dem Rollout getestet werden?
Ein einfacher Testkatalog kann beispielsweise 30 bis 50 reale Fragen enthalten.
Für jede Frage wird geprüft:
| Prüfung | Frage |
|---|---|
| Retrieval | Wurde die richtige Quelle gefunden? |
| Antwort | Entspricht die Aussage tatsächlich der Quelle? |
| Aktualität | Wurde die gültige Version verwendet? |
| Berechtigung | Darf dieser Nutzer diese Information sehen? |
| Quellenbezug | Kann der Mitarbeiter nachvollziehen, woher die Information stammt? |
| Fallback | Reagiert das System vernünftig, wenn keine ausreichende Quelle vorhanden ist? |
Diese Trennung ist wichtig.
Wenn eine Antwort falsch ist, muss zuerst festgestellt werden, ob die falsche Information gefunden wurde oder ob die richtige Information falsch verarbeitet wurde.
Erst dann lässt sich das eigentliche Problem gezielt verbessern.
12. Checkliste: Braucht Ihr Unternehmen eine KI-Wissenslösung?
- Suchen Mitarbeiter regelmäßig lange nach internen Informationen?
- Werden dieselben internen Fragen immer wieder gestellt?
- Liegt relevantes Wissen in vielen verschiedenen Dokumenten oder Systemen?
- Gibt es eine klar definierte aktuelle Quelle für wichtige Informationen?
- Müssen verschiedene Nutzer unterschiedliche Zugriffsrechte haben?
- Sollen Antworten auf ihre Quellen zurückgeführt werden können?
- Ändern sich die Informationen regelmäßig?
- Gibt es genug wiederkehrende Nutzung, um Aufbau und Pflege zu rechtfertigen?
- Kann die Aufgabe zunächst auf einen klaren Wissensbereich begrenzt werden?
- Ist festgelegt, wer die zugrunde liegenden Informationen aktuell hält?
Wenn mehrere dieser Fragen mit Ja beantwortet werden, kann eine strukturierte Wissenslösung sinnvoll sein.
Das bedeutet aber noch nicht automatisch, dass eine individuelle RAG-Plattform gebaut werden muss.
Zuerst sollte geprüft werden, welche vorhandenen Systeme und Integrationen die Aufgabe bereits abdecken können.
Nicht die größte Wissensdatenbank gewinnt, sondern die verlässlichere Antwort
Unternehmenswissen mit KI nutzbar zu machen, bedeutet nicht, möglichst viele Dateien in ein System zu laden.
Eine brauchbare Lösung muss für eine konkrete Frage:
die richtige Quelle finden → Berechtigungen beachten → relevante Informationen bereitstellen → eine nachvollziehbare Antwort erzeugen → bei Unsicherheit sinnvoll reagieren.
Manchmal reichen dafür wenige Dateien oder bereits vorhandene Unternehmensintegrationen.
Bei größeren, wiederkehrenden Wissensaufgaben kann RAG eine geeignete Architektur sein.
Und wenn die Antwort aus aktuellen Beständen, Aufträgen oder CRM-Daten kommen muss, kann statt einer Dokumentensuche eine direkte Systemintegration erforderlich sein.
Deshalb sollte die erste Entscheidung nicht lauten:
„Welche RAG-Technologie kaufen wir?“
Sondern:
„Welche Information brauchen unsere Mitarbeiter regelmäßig, wo liegt die verbindliche Quelle und wie soll eine KI kontrolliert darauf zugreifen?“
Häufige Fragen zu RAG und Unternehmenswissen
Was bedeutet RAG bei künstlicher Intelligenz?
RAG steht für Retrieval-Augmented Generation. Dabei sucht ein System zunächst relevante Informationen in definierten Wissensquellen und stellt diese einem Sprachmodell als Kontext für die Antwort bereit. Dadurch können Antworten stärker auf eigenen Unternehmensinformationen basieren.
Kann ChatGPT auf unsere Unternehmensdokumente zugreifen?
Je nach ChatGPT-Workspace, freigegebenen Quellen und Administrationseinstellungen können Unternehmensinformationen in ChatGPT genutzt werden. OpenAI bietet Company Knowledge aktuell für berechtigte Business-, Enterprise- und Edu-Workspaces an. Das Plug-In kann unterstützte Quellen verwenden, die dem jeweiligen Nutzer zur Verfügung stehen. Bestehende Zugriffsrechte der verbundenen Quellen bleiben dabei relevant.
Brauchen wir RAG, wenn wir nur wenige Dokumente haben?
Nicht unbedingt. Für wenige überschaubare Dokumente kann ein vorhandener Wissensbereich oder eine direkte Bereitstellung der Dateien ausreichend sein. Eine eigene Retrieval-Infrastruktur lohnt sich eher, wenn viele Quellen, mehrere Nutzer, häufige Aktualisierungen oder komplexe Berechtigungen hinzukommen.
Verhindert RAG falsche KI-Antworten?
Nein. RAG kann Antworten auf ausgewählte Quellen stützen und die Überprüfung erleichtern, verhindert Fehler aber nicht vollständig. Falsche oder veraltete Quellen, ungeeignete Suchergebnisse und Fehler des Sprachmodells können weiterhin zu falschen Antworten führen.
Müssen unsere Dokumente vor einer RAG-Lösung aufbereitet werden?
Häufig ja. Besonders wichtig sind eindeutige aktuelle Versionen, klare Verantwortlichkeiten und die Entfernung beziehungsweise Kennzeichnung veralteter oder widersprüchlicher Informationen. Die technische Aufbereitung hängt anschließend von den verwendeten Dateiformaten und der gewählten Retrieval-Lösung ab.
Kann eine KI unterschiedliche Zugriffsrechte berücksichtigen?
Ja, geeignete Unternehmenslösungen können Berechtigungen in den Retrieval-Prozess einbeziehen. Das muss jedoch bewusst geplant und getestet werden. Ein Nutzer sollte über den KI-Assistenten keine Informationen erhalten, auf die er im zugrunde liegenden System nicht zugreifen darf.
Was ist der Unterschied zwischen RAG und einer API-Integration?
RAG wird häufig eingesetzt, um relevante Informationen aus Wissensquellen wie Dokumenten zu finden und für eine Antwort bereitzustellen. Eine API-Integration kann dagegen direkt aktuelle Daten aus einem operativen System abrufen oder dort Aktionen ausführen. Je nach Aufgabe können beide Ansätze auch kombiniert werden.
Wie startet man ein RAG-Projekt sinnvoll?
Starten Sie mit einem klar begrenzten Geschäftsproblem und echten Nutzerfragen. Legen Sie anschließend verbindliche Quellen, Nutzer, Berechtigungen und Prüfkriterien fest. Erst danach sollte entschieden werden, welche technische Retrieval- oder Wissensarchitektur dafür geeignet ist.