Welche Unternehmensdaten darf ich in ChatGPT eingeben? 8 Fragen vor der Nutzung

Das Problem beginnt oft mit einer ganz normalen Arbeitsaufgabe

Ein Mitarbeiter möchte keine neue KI-Infrastruktur aufbauen. Er möchte nur schneller arbeiten.

Also kopiert er eine E-Mail in ChatGPT und schreibt: „Fasse das zusammen und formuliere eine Antwort.“ Oder er lädt eine Tabelle hoch und bittet um eine Auswertung.

Erst danach stellt sich die Frage, welche Informationen gerade übertragen wurden.

In einer einzigen Kundenmail können beispielsweise enthalten sein:

• Name und Kontaktdaten einer Person
• Kundennummer oder Auftragsnummer
• Informationen über ein konkretes Projekt
• Preise oder individuelle Konditionen
• interne Kommentare aus einem weitergeleiteten E-Mail-Verlauf
• Informationen, die für die eigentliche KI-Aufgabe überhaupt nicht benötigt werden

Deshalb ist eine einfache Gewohnheit hilfreich: Nicht zuerst alles einfügen und danach überlegen, sondern vor der Eingabe kurz prüfen, welche Informationen die KI für diese konkrete Aufgabe tatsächlich braucht.

1. Welches ChatGPT-Konto wird verwendet?

Eine der wichtigsten Unterscheidungen wird im Unternehmensalltag leicht übersehen: „ChatGPT“ ist nicht automatisch dieselbe Datenumgebung für jeden Nutzer.

OpenAI gibt aktuell an, dass Inhalte aus ChatGPT Business, Enterprise und anderen Business-Angeboten standardmäßig nicht zum Training seiner Modelle verwendet werden. Für persönliche ChatGPT-Workspaces gelten andere Einstellungen; dort können Nutzer über die Data Controls steuern, ob neue Gespräche zur Modellverbesserung verwendet werden dürfen.

Deshalb sollte ein Unternehmen nicht nur festlegen, welches KI-Tool genutzt werden darf, sondern auch über welche freigegebene Unternehmensumgebung.

OpenAI: Daten und Datenschutz in ChatGPT Business

OpenAI: Data Controls in ChatGPT

2. Welche Daten werden für die Aufgabe wirklich benötigt?

Viele KI-Aufgaben benötigen weniger Informationen, als zunächst angenommen wird.

Wenn ChatGPT beispielsweise nur eine Kundenmail sprachlich verbessern soll, muss dafür möglicherweise weder der vollständige Name des Kunden noch seine Telefonnummer, Kundennummer oder komplette E-Mail-Signatur enthalten sein.

Das Ziel ist nicht, jede Information mühsam zu anonymisieren, obwohl sie für eine zulässige Aufgabe benötigt wird. Es geht darum, unnötige Daten gar nicht erst mitzugeben.

3. Sind personenbezogene Daten enthalten?

Sobald Informationen einer identifizierten oder identifizierbaren Person zugeordnet werden können, sollte die Nutzung nicht mehr nur als allgemeine Produktivitätsfrage betrachtet werden.

Typische Beispiele im Unternehmensalltag sind:

• Name und E-Mail-Adresse eines Kunden
• Telefonnummern
• Bewerbungsunterlagen
• Mitarbeiterinformationen
• Kundenhistorien
• Supportfälle mit personenbezogenen Angaben
• Informationen aus CRM-Systemen

Dann sollte das Unternehmen unter anderem klären, ob und auf welcher Grundlage diese Daten für den konkreten Zweck verarbeitet werden dürfen, welche Vereinbarungen mit dem eingesetzten Anbieter gelten und welche internen Datenschutzvorgaben einzuhalten sind.

4. Sind vertrauliche Informationen enthalten?

Nicht jede sensible Unternehmensinformation ist personenbezogen. Auch rein geschäftliche Daten können vertraulich oder vertraglich geschützt sein.

Dazu können beispielsweise gehören:

• nicht veröffentlichte Preise und Kalkulationen
• interne Margen
• Angebote und Vertragsentwürfe
• Geschäftsstrategien
• Zugangsdaten und API-Schlüssel
• interner Quellcode
• technische Sicherheitsinformationen
• vertrauliche Kundenunterlagen
• Informationen aus Geheimhaltungsvereinbarungen

Hier reicht die Frage „Verwendet der Anbieter meine Daten zum Training?“ nicht aus. Auch interne Sicherheitsrichtlinien, Kundenverträge, Geheimhaltungsverpflichtungen und Zugriffsrechte können bestimmen, welche Informationen in welchem System verarbeitet werden dürfen.

Passwörter, private Schlüssel oder andere produktive Zugangsdaten sollten nicht wie gewöhnlicher Arbeitsinhalt behandelt werden. Wenn eine Aufgabe mit Platzhaltern oder Testdaten lösbar ist, besteht häufig kein Grund, echte Zugangsinformationen einzusetzen.

5. Was steckt zusätzlich in hochgeladenen Dateien?

Bei Copy-and-paste sieht der Mitarbeiter meist unmittelbar, welchen Text er überträgt. Bei Dateien ist das weniger offensichtlich.

Eine Tabelle kann neben den relevanten Zahlen weitere Spalten mit Kundennamen enthalten. Ein Dokument kann Kommentare, interne Notizen oder zusätzliche Seiten enthalten. Ein exportierter Datensatz kann wesentlich mehr Informationen umfassen als für die geplante Analyse benötigt werden.

Vor einem Upload lohnt sich deshalb ein kurzer Datei-Check

• Welche Tabellenblätter oder Seiten sind enthalten?
• Gibt es ausgeblendete oder zusätzliche Datenbereiche?
• Sind personenbezogene Informationen enthalten?
• Enthält die Datei vertrauliche Kommentare oder interne Hinweise?
• Werden alle enthaltenen Informationen für die Aufgabe benötigt?
• Kann stattdessen eine reduzierte Kopie erstellt werden?

Gerade bei regelmäßig wiederkehrenden Analysen ist es sinnvoller, einen sauberen Exportprozess zu definieren, als Mitarbeiter jedes Mal manuell entscheiden zu lassen, welche Teile einer großen Datei relevant sind.

6. Auf welche Systeme darf ChatGPT zugreifen?

Die nächste Stufe der KI-Nutzung besteht nicht mehr darin, Informationen manuell in einen Chat zu kopieren. Moderne Business-Lösungen können – abhängig von Produkt, Konfiguration und Berechtigungen – mit Unternehmenswerkzeugen und Datenquellen verbunden werden.

Das kann praktisch sein: Informationen müssen nicht ständig kopiert werden und wiederkehrende Prozesse lassen sich besser strukturieren. Gleichzeitig wird die Frage nach den Zugriffsrechten wichtiger.

Vor einer Verbindung sollten Sie klären

• Welche Anwendung wird verbunden?
• Welche Daten kann die Verbindung lesen?
• Kann sie auch Daten verändern oder Aktionen auslösen?
• Welche Mitarbeiter dürfen diese Verbindung verwenden?
• Wer richtet Berechtigungen ein?
• Was passiert, wenn die Verbindung nicht mehr benötigt wird?

OpenAI beschreibt für seine Business-Angebote unter anderem Verbindungen zu Unternehmenswerkzeugen sowie administrative Kontrollen und Berechtigungen. Das bedeutet jedoch nicht, dass jede verfügbare Verbindung automatisch für jeden Geschäftsprozess aktiviert werden sollte.

OpenAI Business: Unternehmensfunktionen

7. Wissen Mitarbeiter, was sie eingeben dürfen?

Ein Unternehmen kann technisch eine gute KI-Umgebung bereitstellen und trotzdem unnötige Risiken erzeugen, wenn jeder Mitarbeiter eigene Regeln erfinden muss.

Eine interne KI-Richtlinie muss für den Einstieg kein umfangreiches Handbuch sein. Sie sollte vor allem konkrete Alltagssituationen beantworten.

Zum Beispiel

• Welche KI-Dienste und Konten dürfen geschäftlich verwendet werden?
• Welche Daten dürfen nicht ohne zusätzliche Prüfung eingegeben werden?
• Wie sollen personenbezogene Daten behandelt werden?
• Wie wird mit vertraulichen Kundeninformationen umgegangen?
• Dürfen Dateien hochgeladen werden?
• Welche verbundenen Systeme sind freigegeben?
• Welche Ergebnisse müssen vor Verwendung von einem Menschen geprüft werden?
• An wen wenden sich Mitarbeiter bei einem unklaren Fall?

Eine Regel wie „Keine sensiblen Daten in KI eingeben“ klingt zwar vorsichtig, hilft im Alltag aber wenig, wenn niemand weiß, was damit bei einer Kundenmail, einer Bewerbungsunterlage oder einer Kalkulation konkret gemeint ist.

Hilfreicher sind verständliche Beispiele aus den tatsächlichen Prozessen des Unternehmens.

8. Wer prüft das Ergebnis?

Datenschutz und Zugriffskontrolle beantworten noch nicht die Frage, ob das erzeugte Ergebnis fachlich richtig ist.

Ein KI-Assistent kann einen Text überzeugend formulieren und trotzdem Informationen falsch interpretieren, wichtige Details übersehen oder eine unpassende Empfehlung erzeugen.

Je relevanter das Ergebnis für Kunden, Verträge, Finanzen oder andere geschäftliche Entscheidungen ist, desto klarer sollte festgelegt sein, wer es vor der Verwendung prüft.

Damit wird aus einer allgemeinen Forderung nach „Human in the Loop“ eine konkrete Verantwortlichkeit im Geschäftsprozess.

Selbstcheck: 8 Fragen vor der Eingabe von Unternehmensdaten

Bevor Sie eine Kundenmail, Datei oder andere interne Information in einen KI-Assistenten geben, können Sie diesen kurzen Check verwenden:

1. Welches Konto verwende ich?

   Ist es die für geschäftliche Nutzung freigegebene Umgebung oder ein persönliches Konto?

2. Was möchte ich erreichen?

   Beschreiben Sie die konkrete Aufgabe. Ohne klaren Zweck lässt sich kaum beurteilen, welche Daten notwendig sind.

3. Welche Daten braucht die Aufgabe?

   Entfernen Sie Informationen, die für das gewünschte Ergebnis nicht benötigt werden.

4. Sind personenbezogene Daten enthalten?

   Prüfen Sie, ob Namen, Kontaktdaten, Mitarbeiter-, Bewerber- oder Kundeninformationen enthalten sind und welche Vorgaben dafür gelten.

5. Sind vertrauliche Unternehmensdaten enthalten?

   Beachten Sie neben Datenschutz auch Geschäftsgeheimnisse, Verträge, interne Sicherheitsregeln und Kundenvereinbarungen.

6. Enthält eine Datei mehr als sichtbar benötigt wird?

   Kontrollieren Sie Tabellenblätter, zusätzliche Seiten, Kommentare und nicht benötigte Datenbereiche.

7. Welche Zugriffe hat das System?

   Bei verbundenen Anwendungen sollten Sie wissen, welche Informationen gelesen oder verändert werden können.

8. Wer prüft das Ergebnis?

   Legen Sie bei geschäftlich relevanten Ergebnissen fest, wer die Verantwortung für die abschließende Prüfung trägt.

Beispiel: Eine Kundenmail soll nur besser formuliert werden

Vereinfachtes Beispiel: Ein Mitarbeiter eines mittelständischen Dienstleisters möchte eine lange Kundenmail mit ChatGPT zusammenfassen und anschließend eine verständlichere Antwort formulieren.

Die ursprüngliche Nachricht enthält Namen, Telefonnummer, Kundennummer, Projektbezeichnung, Preise und einen langen internen weitergeleiteten Verlauf.

Für die sprachliche Aufgabe werden viele dieser Informationen möglicherweise überhaupt nicht benötigt. Der Mitarbeiter kann zunächst den relevanten Sachverhalt isolieren und unnötige Identifikations- und Geschäftsdaten entfernen.

Die KI erstellt anschließend einen Antwortentwurf. Bevor dieser an den Kunden geht, kontrolliert der Mitarbeiter, ob Sachverhalt, Zusagen und Formulierungen tatsächlich stimmen.

Das Beispiel zeigt einen wichtigen Unterschied: KI sinnvoll einzusetzen bedeutet nicht automatisch, möglichst viele Unternehmensdaten bereitzustellen.

Dieses Beispiel dient ausschließlich zur Veranschaulichung und ist kein Kundenfall von Kubertino.

Was ändert sich bei ChatGPT Business?

Für Unternehmen ist die Unterscheidung zwischen einem persönlichen Workspace und einer verwalteten Business-Umgebung relevant.

OpenAI gibt für ChatGPT Business aktuell an, dass Workspace-Daten standardmäßig nicht zum Training der Modelle verwendet werden. Geschäftsdaten werden laut OpenAI während der Übertragung und im Ruhezustand verschlüsselt. Darüber hinaus stehen für Business-Workspaces administrative und organisatorische Funktionen zur Verfügung.

OpenAI: Datenschutz in ChatGPT Business

Das ist für eine Unternehmensentscheidung relevant, beantwortet aber nicht automatisch jede datenschutzrechtliche oder vertragliche Frage eines konkreten Anwendungsfalls.

Ein Unternehmen muss weiterhin bestimmen, welche Daten für welchen Zweck verarbeitet werden sollen und welche internen und rechtlichen Anforderungen dafür gelten.

Wenn Mitarbeiter ChatGPT regelmäßig nutzen, wird daraus ein Unternehmensprozess

Einzelne Versuche lassen sich noch manuell kontrollieren. Wenn zehn oder fünfzig Mitarbeiter täglich KI verwenden, reicht die Empfehlung „Seid vorsichtig“ nicht mehr aus.

Dann sollten zumindest diese Punkte geregelt sein:

• freigegebene Werkzeuge und Konten
• Rollen und Zugriffsrechte
• Umgang mit personenbezogenen und vertraulichen Daten
• erlaubte und nicht erlaubte Anwendungsfälle
• Prüfung geschäftskritischer Ergebnisse
• Ansprechpartner bei Unsicherheit
• regelmäßige Überprüfung, ob Regeln und technische Einstellungen noch passen

Erst danach lohnt es sich, wiederkehrende Aufgaben stärker zu automatisieren oder KI-Assistenten mit zusätzlichen Unternehmenssystemen zu verbinden.

Wenn aus einzelnen KI-Aufgaben mehrstufige Abläufe werden sollen, lesen Sie auch KI-Agenten im Unternehmen: Welche Aufgaben eignen sich wirklich?.

Wann lohnt sich eine strukturierte Prüfung?

Eine genauere Prüfung wird besonders sinnvoll, wenn mehrere Mitarbeiter bereits unterschiedliche KI-Dienste verwenden, regelmäßig Kundendaten verarbeitet werden oder KI mit E-Mail, CRM, Dateien und anderen Unternehmenssystemen verbunden werden soll.

Dann reicht es nicht, nur einen guten Prompt zu schreiben. Datenflüsse, Berechtigungen, Prozesse, Kontrollpunkte und der tatsächliche geschäftliche Nutzen sollten zusammen betrachtet werden.

Wenn Sie KI nicht nur ausprobieren, sondern kontrolliert in bestehende Geschäftsprozesse integrieren möchten, finden Sie unter Prozesse mit KI vereinfachen, wie solche Abläufe zunächst geprüft und abgegrenzt werden können.

Was dieser Check nicht ersetzt

Der Artikel kann Unternehmen dabei helfen, unnötige Datenübertragungen und unklare KI-Prozesse früh zu erkennen. Er ersetzt jedoch weder eine individuelle Datenschutzprüfung noch Rechtsberatung, Informationssicherheitsvorgaben oder die Prüfung bestehender Verträge.

Gerade bei besonderen Kategorien personenbezogener Daten, umfangreicher Mitarbeiter- oder Kundendatenverarbeitung, vertraulichen Vertragsinformationen oder geschäftskritischen Integrationen sollte der konkrete Anwendungsfall gesondert geprüft werden.

Das praktische Ziel ist deshalb nicht, jede KI-Nutzung zu verhindern. Es ist, bewusst zu entscheiden, welche Informationen eine konkrete KI-Aufgabe wirklich benötigt und unter welchen Bedingungen sie verarbeitet werden sollen.