Sie möchten ChatGPT nicht nur allgemeine Fragen stellen, sondern mit Ihren eigenen Informationen arbeiten: Angeboten, Produktunterlagen, internen Richtlinien, Projektdateien oder Dokumenten aus Google Drive. Dann stellt sich schnell die Frage: Sollten Sie einzelne Dateien hochladen, ein Projekt anlegen, Unternehmensquellen verbinden oder gleich ein eigenes Wissenssystem aufbauen? Die richtige Lösung hängt weniger von der Menge an KI ab als davon, welche Informationen benötigt werden, wie aktuell sie sein müssen und wer darauf zugreifen darf.
1. Warum allgemeines ChatGPT-Wissen für interne Aufgaben nicht reicht
Ein KI-Modell kann allgemeine Texte schreiben, Informationen erklären oder bei vielen Aufgaben unterstützen. Es kennt dadurch aber nicht automatisch Ihre aktuellen internen Informationen.
Beispielsweise weiß ein allgemeiner KI-Assistent nicht zuverlässig:
- welche Leistungen Ihr Unternehmen aktuell anbietet
- welche interne Richtlinie gerade gültig ist
- welche Produktversion ein Kunde gekauft hat
- welche Vorlage Ihr Vertrieb verwenden soll
- welche Entscheidung in einem Projekt getroffen wurde
- welche Preise oder Bedingungen aktuell freigegeben sind
- welche Informationen ein bestimmter Mitarbeiter sehen darf
Für solche Aufgaben benötigt die KI zusätzlichen Kontext aus Ihrem Unternehmen.
Die technische Frage lautet deshalb nicht zuerst:
„Wie bauen wir eine KI-Wissensdatenbank?“
Sondern:
„Welche Informationen braucht die KI für diese konkrete Aufgabe – und wo befindet sich heute die verlässliche Quelle dafür?“
2. Vier Wege, Unternehmenswissen für KI bereitzustellen
Für viele Unternehmen lassen sich vier grundsätzlich unterschiedliche Situationen unterscheiden.
| Situation | Möglicher Ansatz | Typischer Nutzen |
|---|---|---|
| Einzelne Aufgabe | Dateien bereitstellen | Dokument analysieren, vergleichen oder bearbeiten |
| Wiederkehrendes Thema | Projekt mit Dateien und Anweisungen | Gemeinsamen Arbeitskontext über mehrere Aufgaben nutzen |
| Informationen liegen bereits in Geschäftssystemen | Verbundene Apps beziehungsweise Wissensquellen | Vorhandene Informationen bei Bedarf suchen und verwenden |
| Eigener Prozess mit vielen Quellen und Anforderungen | Eigenes Wissenssystem, RAG oder API-Integration | Kontrollierte Integration in definierte Geschäftsprozesse |
Diese Ansätze schließen sich nicht gegenseitig aus.
Ein Unternehmen kann beispielsweise einzelne Dokumente in einem Projekt verwenden und zusätzlich für bestimmte Aufgaben eine freigegebene Unternehmensquelle anbinden.
Entscheidend ist, nicht mit der technisch größten Lösung zu beginnen, wenn eine kleinere Lösung die Aufgabe bereits zuverlässig erfüllt.
3. Wann einzelne Dateien vollkommen ausreichen
Wenn Sie eine klar abgegrenzte Aufgabe bearbeiten möchten, ist das direkte Bereitstellen der relevanten Unterlagen häufig der einfachste Einstieg.
Beispiele:
- zwei Angebote vergleichen
- eine interne Anleitung zusammenfassen
- Informationen aus einer Produktunterlage extrahieren
- einen bestehenden Text anhand einer aktuellen Richtlinie überarbeiten
- eine Tabelle analysieren
- Fragen zu einem konkreten Dokument beantworten
Der Vorteil ist die klare Abgrenzung: Sie entscheiden bewusst, welche Unterlagen für die Aufgabe bereitgestellt werden.
Problematisch wird dieser Ansatz, wenn Mitarbeiter immer wieder dieselben Dateien suchen und neu bereitstellen müssen oder wenn unklar wird, welche Version aktuell ist.
Typisches Warnsignal
Wenn ein Mitarbeiter vor fast jeder KI-Aufgabe erst fünf Ordner durchsuchen, Dokumente herunterladen und anschließend wieder hochladen muss, ist nicht unbedingt die KI das Problem.
Dann sollte geprüft werden, ob der benötigte Wissensbestand strukturierter verfügbar gemacht werden kann.
4. Wann ein Projekt sinnvoller ist als ein einzelner Chat
Für wiederkehrende Arbeit kann ein Projekt sinnvoll sein. In ChatGPT können Projects zusammengehörige Chats, Dateien und Anweisungen in einem gemeinsamen Arbeitskontext organisieren.
Das kann beispielsweise passen für:
- ein länger laufendes Kundenprojekt
- regelmäßige Content-Arbeit
- eine Produktlinie
- interne Recherche zu einem abgegrenzten Thema
- wiederkehrende Auswertungen mit denselben Grundlagen
Der Unterschied zum spontanen Einzelchat liegt vor allem in der Organisation: Relevante Arbeitsgrundlagen müssen nicht für jede Unterhaltung von vorn erklärt werden.
Ein Projekt ist aber noch keine vollständige zentrale Wissensarchitektur für das gesamte Unternehmen.
Wenn Informationen laufend in anderen Systemen geändert werden, entsteht sonst schnell eine zweite Kopie, deren Aktualität gepflegt werden muss.
5. Wann verbundene Unternehmensquellen interessanter werden
Viele Unternehmensinformationen existieren bereits an einem festen Ort: beispielsweise in Google Drive, Slack oder anderen unterstützten Geschäftsanwendungen.
ChatGPT kann über verfügbare Apps auf unterstützte externe Dienste zugreifen. Welche Apps und Funktionen verfügbar sind, hängt unter anderem von Tarif, Region, Workspace-Einstellungen, Rolle und der jeweiligen Anwendung ab.
OpenAI: Verbundene Apps in ChatGPT
Der praktische Vorteil: Informationen müssen für geeignete Aufgaben nicht jedes Mal manuell kopiert oder hochgeladen werden.
Beispielsweise könnte ein Mitarbeiter fragen:
- Wo liegt die aktuelle Projektbeschreibung?
- Welche Entscheidung wurde zuletzt zu diesem Thema dokumentiert?
- Fasse die verfügbaren Unterlagen zu diesem Projekt zusammen.
- Welche Informationen gibt es zu einem bestimmten Vorgang?
Eine Verbindung bedeutet dabei nicht automatisch, dass ChatGPT beliebig auf alle Unternehmensdaten zugreifen kann. Zugriff hängt von der jeweiligen Verbindung, den Berechtigungen des Quellsystems und den Workspace-Einstellungen ab.
6. Was Company Knowledge verändert
Für ChatGPT Business, Enterprise und Edu steht Company Knowledge als Plug-In zur Verfügung. Es kann unternehmensspezifische Fragen anhand der Wissensquellen beantworten, die dem jeweiligen Nutzer in ChatGPT zur Verfügung stehen.
Als Wissensquellen können unterstützte verbundene Apps sowie geeignete benutzerdefinierte Apps auf MCP-Basis dienen. Welche Quellen tatsächlich verfügbar sind, hängt unter anderem vom Workspace, den administrativen Einstellungen, der jeweiligen App und den Berechtigungen des Nutzers ab.
Wichtig für Unternehmen: Die Installation von Company Knowledge allein verbindet noch keine App-Konten und gewährt keinen Zugriff auf Quelldaten. Die benötigten Quellen müssen für den Workspace beziehungsweise Nutzer verfügbar und – sofern erforderlich – entsprechend autorisiert sein.
Company Knowledge berücksichtigt nach Angaben von OpenAI die bestehenden Berechtigungen der verbundenen Quellen. Nutzer können damit nur Informationen abrufen, auf die sie über ihr autorisiertes Konto oder eine unterstützte administrierte Verbindung bereits zugreifen dürfen.
Wenn eine Antwort Quellenangaben oder Links zu den verwendeten Quellen enthält, können Mitarbeiter diese nutzen, um die zugrunde liegenden Informationen zu überprüfen.
Wann ist das interessanter als Datei-Uploads?
Vor allem dann, wenn Mitarbeiter regelmäßig Informationen benötigen, die bereits über mehrere freigegebene Unternehmensquellen verteilt sind.
Dann lautet die Aufgabe nicht mehr:
„Analysiere diese drei Dateien.“
Sondern beispielsweise:
„Was ist der aktuelle Stand dieses Projekts und auf welchen internen Quellen basiert diese Information?“
7. Wann ein eigenes Wissenssystem sinnvoll wird
Eine Standardfunktion reicht nicht für jeden Geschäftsprozess.
Ein eigenes Wissenssystem oder eine RAG-basierte Lösung wird interessanter, wenn das Unternehmen beispielsweise:
- Wissen in eine eigene Anwendung integrieren möchte
- bestimmte Quellen gezielt ein- oder ausschließen muss
- eigene Rollen- und Berechtigungslogiken benötigt
- sehr viele oder spezialisierte Dokumente verarbeitet
- automatisierte Prozesse auf das Wissen zugreifen lassen möchte
- Antworten nach eigenen Regeln protokollieren oder prüfen muss
- mehrere interne Systeme in einem definierten Prozess verbinden möchte
Bei Retrieval-Augmented Generation – kurz RAG – werden zur konkreten Anfrage passende Informationen aus einer Wissensquelle gesucht und dem Sprachmodell als zusätzlicher Kontext bereitgestellt.
Das Modell muss dadurch nicht das gesamte Unternehmenswissen „auswendig lernen“.
Ein RAG-System löst aber nicht automatisch die Qualität des Unternehmenswissens.
Wenn veraltete Preislisten, widersprüchliche Anleitungen und doppelte Dokumentversionen in der Quelle liegen, kann auch ein technisch gutes Retrieval-System widersprüchliche Grundlagen finden.
KI mit Unternehmenswissen: Wann RAG und eine Wissensdatenbank sinnvoll sind
8. Das eigentliche Problem ist häufig nicht die KI, sondern das Wissen
Bevor Unternehmensdaten technisch angebunden werden, lohnt sich eine einfache Bestandsaufnahme.
Nehmen Sie zehn typische Fragen, die ein Mitarbeiter oder Kunde regelmäßig stellt.
Prüfen Sie anschließend für jede Frage:
- Wo befindet sich heute die richtige Antwort?
- Gibt es genau eine verlässliche Quelle?
- Ist klar, welche Version aktuell ist?
- Wer ist für die Pflege verantwortlich?
- Kann ein Mitarbeiter die Information heute selbst schnell finden?
Wenn bereits Menschen nicht erkennen können, welche von drei Dateien die gültige Version enthält, sollte diese Frage vor der KI-Integration geklärt werden.
Typische Wissensprobleme
- mehrere Dateien mit fast gleichem Namen
- alte Preislisten bleiben im gleichen Ordner wie aktuelle
- Prozesse werden geändert, aber Dokumentationen nicht
- wichtige Informationen existieren nur in E-Mails einzelner Mitarbeiter
- Verantwortlichkeiten für Inhalte fehlen
- Dokumente widersprechen sich
- Informationen sind vorhanden, aber nicht sinnvoll auffindbar
KI macht vorhandenes Wissen leichter nutzbar. Sie ersetzt nicht die Verantwortung für dessen Qualität.
9. Welche Unternehmensdaten darf die KI überhaupt sehen?
Bevor Sie interne Quellen verbinden oder Dokumente hochladen, sollten Sie Daten und Berechtigungen bewusst prüfen.
Unterscheiden Sie beispielsweise:
- öffentlich verfügbare Informationen
- interne Arbeitsunterlagen
- Kundendaten
- personenbezogene Daten
- Vertrags- und Preisinformationen
- Geschäftsgeheimnisse
- Informationen mit eingeschränktem internem Zugriff
Die Aussage „Wir nutzen ChatGPT“ reicht für diese Bewertung nicht aus. Entscheidend sind unter anderem der konkrete Tarif beziehungsweise Workspace, die aktivierten Funktionen, die angebundenen Anwendungen, deren Berechtigungen und die Art der verarbeiteten Daten.
Für ChatGPT Business gibt OpenAI aktuell an, Workspace-Daten standardmäßig nicht zum Training seiner Modelle zu verwenden. Dasselbe gilt standardmäßig für Business-, Enterprise- und Edu-Daten, die über verbundene Apps abgerufen werden.
OpenAI: Daten und Datenschutz in ChatGPT Business
Das bedeutet jedoch nicht automatisch, dass jeder denkbare Umgang mit Unternehmens- oder personenbezogenen Daten damit rechtlich und organisatorisch geklärt ist.
10. Fiktives Beispiel: 200 Dokumente, aber nicht sofort RAG
Fiktives Beispiel: Ein Dienstleistungsunternehmen möchte KI einsetzen, damit Mitarbeiter schneller Informationen zu Leistungen, internen Abläufen und laufenden Projekten finden.
Im ersten Gespräch entsteht der Eindruck, dass dafür eine zentrale KI-Wissensdatenbank entwickelt werden muss.
Bei der Bestandsaufnahme zeigt sich jedoch:
- rund 200 relevante Dokumente sind vorhanden
- ein großer Teil liegt bereits strukturiert in einer gemeinsamen Cloud-Ablage
- mehrere alte Dokumentversionen sind noch vorhanden
- Projektinformationen liegen teilweise getrennt von den Prozessunterlagen
- nicht jeder Mitarbeiter darf auf alle Informationen zugreifen
- zunächst sollen nur interne Mitarbeiter Fragen stellen
Die erste Aufgabe ist deshalb nicht die Programmierung
Zuerst werden die wichtigsten Anwendungsfälle definiert und die dafür benötigten Quellen geprüft.
Das Unternehmen könnte anschließend beispielsweise mit einem abgegrenzten Bereich und vorhandenen Funktionen testen:
- 20 typische Mitarbeiterfragen definieren.
- Die dafür maßgeblichen Dokumente festlegen.
- Veraltete oder widersprüchliche Unterlagen bereinigen.
- Zugriffsrechte kontrollieren.
- Einen begrenzten Nutzerkreis testen lassen.
- Antworten auf Richtigkeit und Quellenbezug prüfen.
- Fehlende Funktionen und tatsächliche Engpässe dokumentieren.
Erst wenn dieser Test zeigt, dass vorhandene Funktionen für den gewünschten Prozess nicht ausreichen, wird bewertet, ob eine eigene RAG- oder API-Lösung den zusätzlichen Aufwand rechtfertigt.
Dieses Beispiel ist fiktiv. Die Zahl der Dokumente ist kein Schwellenwert dafür, ab wann ein Unternehmen RAG benötigt. Entscheidend sind Aufgabe, Aktualität, Berechtigungen, Datenstruktur und Integrationsbedarf.
11. Welche Lösung passt zu welcher Aufgabe?
| Anforderung | Zuerst prüfen |
|---|---|
| Ein Dokument einmal analysieren | Datei direkt bereitstellen |
| Wiederholt mit denselben Arbeitsunterlagen arbeiten | Projekt |
| Aktuelle Informationen aus bestehenden Geschäftsanwendungen suchen | Verfügbare verbundene Apps beziehungsweise Company Knowledge |
| Eigenen KI-Assistenten in einen Geschäftsprozess integrieren | API-Integration und gegebenenfalls RAG |
| Komplexe eigene Berechtigungs- und Retrieval-Logik | Individuelle Wissensarchitektur prüfen |
| Unklare oder widersprüchliche Dokumente | Zuerst Informationsbestand bereinigen |
Diese Tabelle ist keine technische Produktentscheidung.
Sie hilft lediglich dabei, den Ausgangspunkt einzugrenzen.
Ein Unternehmen sollte nicht deshalb eine individuelle KI-Anwendung entwickeln, weil sie technisch möglich ist. Umgekehrt sollte ein einfacher Datei-Upload nicht künstlich auf Prozesse ausgedehnt werden, für die Aktualität, Rechteverwaltung und Systemintegration entscheidend sind.
12. Checkliste vor der Anbindung von Unternehmenswissen
Beantworten Sie vor der technischen Entscheidung diese Fragen:
- Aufgabe: Welche konkrete Arbeit soll mit Unternehmenswissen besser werden?
- Nutzer: Wer soll die Lösung verwenden?
- Fragen: Welche typischen Fragen soll sie beantworten können?
- Quellen: Wo liegen die richtigen Antworten heute?
- Aktualität: Wie häufig ändern sich diese Informationen?
- Qualität: Gibt es widersprüchliche oder veraltete Dokumente?
- Berechtigungen: Darf jeder Nutzer alle Quellen sehen?
- Daten: Sind personenbezogene, vertrauliche oder besonders schützenswerte Informationen enthalten?
- Nachweise: Muss die Antwort ihre Quelle nachvollziehbar zeigen?
- Integration: Soll nur ein Mitarbeiter fragen oder soll ein Geschäftsprozess automatisch auf das Wissen zugreifen?
- Kontrolle: Wer prüft falsche oder unvollständige Antworten?
- Pflege: Wer ist für die Aktualität der Wissensquellen verantwortlich?
Die beste Wissenslösung ist nicht automatisch die technisch größte
Unternehmen müssen heute nicht mehr für jede Nutzung interner Dokumente sofort eine eigene KI-Plattform entwickeln.
Für eine einzelne Aufgabe können Dateien ausreichen. Für wiederkehrende Arbeit kann ein Projekt sinnvoll sein. Wenn Informationen bereits in unterstützten Geschäftssystemen liegen, können verbundene Quellen den manuellen Aufwand reduzieren. Und wenn eigene Prozesse, Berechtigungen oder Integrationen notwendig werden, kann ein individuelles Wissenssystem der richtige nächste Schritt sein.
Die Reihenfolge sollte deshalb lauten:
Aufgabe verstehen → verlässliche Quelle bestimmen → Berechtigungen prüfen → kleinste passende Lösung testen → Ergebnis messen → erst bei Bedarf erweitern.
So wird KI nicht zum zusätzlichen Dokumentenprojekt, sondern zu einem Werkzeug, das vorhandenes Unternehmenswissen tatsächlich besser nutzbar machen kann.
Häufige Fragen zu ChatGPT und Unternehmenswissen
Kann ChatGPT auf unsere internen Dokumente zugreifen?
Ja, wenn die benötigten Informationen auf einem unterstützten Weg bereitgestellt werden. Das kann beispielsweise durch Dateien, einen Projektkontext oder verfügbare verbundene Unternehmensquellen erfolgen. Welche Variante möglich und sinnvoll ist, hängt vom verwendeten Tarif, Workspace, der Quelle und den erforderlichen Berechtigungen ab.
Brauchen wir für Unternehmenswissen sofort RAG?
Nein. Für einzelne oder klar abgegrenzte Aufgaben können Dateien oder vorhandene Produktfunktionen ausreichen. RAG wird besonders dann interessant, wenn ein eigener Prozess regelmäßig gezielt Informationen aus größeren oder spezialisierten Wissensbeständen abrufen soll.
Was ist besser: Dateien hochladen oder Google Drive verbinden?
Für eine einzelne Aufgabe kann ein gezielter Datei-Upload einfacher sein. Wenn aktuelle Dokumente regelmäßig in einer bestehenden Quelle benötigt werden, kann eine unterstützte Verbindung praktischer sein. Entscheidend sind Aktualität, Berechtigungen, Datenart und der konkrete Arbeitsablauf.
Was ist Company Knowledge in ChatGPT?
Company Knowledge ist ein Plug-In für ChatGPT Business, Enterprise und Edu, das unternehmensspezifische Antworten anhand verfügbarer Wissensquellen ermöglichen kann. Dazu können unterstützte verbundene Apps und geeignete benutzerdefinierte Apps gehören. Welche Quellen tatsächlich genutzt werden können, hängt von Workspace-Konfiguration, App-Verfügbarkeit, Autorisierung und den jeweiligen Zugriffsrechten ab.
Kann ein Mitarbeiter über Company Knowledge Dokumente sehen, für die er normalerweise keine Berechtigung hat?
Nach Angaben von OpenAI respektiert Company Knowledge die bestehenden Berechtigungen der verbundenen Quellen. Nutzer sollen nur Informationen abrufen können, auf die sie über die entsprechende Quelle bereits Zugriff haben. Die konkrete Konfiguration und die Berechtigungen der angebundenen Systeme sollten Unternehmen trotzdem vor dem Einsatz prüfen.
Werden Daten aus ChatGPT Business für das Modelltraining verwendet?
OpenAI gibt aktuell an, Daten aus ChatGPT-Business-Workspaces standardmäßig nicht zum Training seiner Modelle zu verwenden. Diese Aussage ersetzt jedoch keine Prüfung des konkreten Datenflusses, der verbundenen Anwendungen und der rechtlichen Anforderungen an den jeweiligen Geschäftsprozess.
Was passiert, wenn unsere internen Dokumente veraltet sind?
Dann kann auch eine technisch gute KI-Lösung auf veralteten Grundlagen arbeiten. Deshalb sollten Unternehmen vor einer größeren Wissensintegration festlegen, welche Quellen maßgeblich sind, wer sie pflegt und wie alte Versionen behandelt werden.
Wie testen wir, ob eine KI-Wissenslösung funktioniert?
Definieren Sie zunächst echte Fragen aus dem Arbeitsalltag und die erwarteten verlässlichen Quellen. Testen Sie anschließend Richtigkeit, Vollständigkeit, Quellenbezug, Berechtigungen und den Umgang mit Fragen, für die keine ausreichende Information vorhanden ist. Erst danach sollte die Lösung auf weitere Nutzer oder Prozesse ausgeweitet werden.