Eine Anfrage kommt über das Website-Formular, eine zweite per E-Mail und eine dritte landet im allgemeinen Postfach. Ein Mitarbeiter liest jede Nachricht, entscheidet, worum es geht, sucht den richtigen Ansprechpartner und leitet sie weiter. Bei wenigen Anfragen funktioniert das. Mit wachsendem Volumen entstehen jedoch Wartezeiten, unnötige Rückfragen und das Risiko, dass eine wichtige Anfrage zu spät bearbeitet wird. Genau hier kann Automatisierung sinnvoll sein – aber nicht jeder Schritt sollte einer KI überlassen werden.
1. Automatisieren Sie nicht „die Kundenanfrage“, sondern einzelne Schritte
Die Aussage „Wir möchten Kundenanfragen mit KI automatisieren“ ist für eine technische Planung zu ungenau.
Eine einzelne Anfrage durchläuft häufig mehrere Schritte:
- Die Nachricht kommt über Website, E-Mail oder einen anderen Kanal an.
- Relevante Informationen werden erkannt.
- Die Anfrage wird einem Thema oder einer Leistung zugeordnet.
- Dringlichkeit und Zuständigkeit werden bestimmt.
- Die Anfrage wird an den richtigen Mitarbeiter oder ein System weitergeleitet.
- Gegebenenfalls erhält der Interessent eine erste Rückmeldung.
- Ein Mitarbeiter prüft, ergänzt oder bearbeitet den Vorgang.
- Der weitere Verlauf wird im vorhandenen System dokumentiert.
Nicht jeder dieser Schritte benötigt KI. Manche Aufgaben lassen sich mit festen Regeln zuverlässiger lösen.
Wenn beispielsweise alle Anfragen zu einer bestimmten Vertragsnummer immer an dieselbe Abteilung gehen, kann eine einfache Regel ausreichend sein. KI wird interessanter, wenn freie Texte verstanden und unterschiedliche Formulierungen sinnvoll eingeordnet werden müssen.
Die beste Automatisierung ist deshalb nicht die mit möglichst viel KI, sondern die mit möglichst wenig unnötiger manueller Arbeit bei ausreichend kontrollierbarem Ergebnis.
2. Welche Schritte lassen sich sinnvoll automatisieren?
Gut geeignet sind häufig Aufgaben, bei denen das gewünschte Ergebnis klar beschrieben und anschließend überprüft werden kann.
| Aufgabe | Mögliche Automatisierung | Was vorher geklärt werden sollte |
|---|---|---|
| Eingang erfassen | Anfrage automatisch aus Formular oder E-Mail übernehmen | Welche Kanäle gehören zum Prozess? |
| Daten extrahieren | Name, Firma, Kontaktdaten, Produkt oder andere definierte Felder erkennen | Welche Angaben werden wirklich benötigt? |
| Thema erkennen | Freitext einer definierten Kategorie zuordnen | Welche Kategorien existieren und wann ist eine Zuordnung unklar? |
| Zuständigkeit bestimmen | Anfrage anhand definierter Regeln an Vertrieb, Service oder andere Teams routen | Welche Geschäftsregeln bestimmen die Zuständigkeit? |
| Vollständigkeit prüfen | Fehlende notwendige Angaben erkennen | Welche Angaben sind für den nächsten Schritt zwingend erforderlich? |
| Eingang bestätigen | Definierte Eingangsbestätigung versenden | Welche Aussage darf automatisch gemacht werden? |
| CRM aktualisieren | Strukturierte Daten in einen vorhandenen Datensatz übertragen | Welche Felder dürfen automatisiert geschrieben werden und wie werden Fehler erkannt? |
Der Nutzen entsteht häufig aus der Kombination mehrerer kleiner Schritte.
Wenn ein Mitarbeiter eine Nachricht nicht mehr manuell aus einem allgemeinen Postfach kopieren, kategorisieren und weiterleiten muss, kann der Prozess schneller werden, ohne dass die eigentliche Beratung automatisiert werden muss.
3. Wann sollte ein Mensch übernehmen?
Eine sinnvolle Automatisierung braucht nicht nur Regeln für das automatische Weiterarbeiten, sondern ebenso klare Abbruch- und Übergaberegeln.
Eine menschliche Prüfung kann beispielsweise sinnvoll sein, wenn:
- die Anfrage keiner Kategorie zuverlässig zugeordnet werden kann
- wichtige Informationen fehlen oder widersprüchlich sind
- eine Beschwerde oder Eskalation erkannt wird
- rechtliche oder vertragliche Entscheidungen erforderlich werden
- eine ungewöhnlich wertvolle oder komplexe Anfrage eingeht
- besonders sensible Informationen enthalten sind
- eine automatische Aktion finanzielle oder andere erhebliche Folgen hätte
- der Prozess eine Situation erreicht, die im Pilot nicht ausreichend getestet wurde
Dabei muss eine Übergabe nicht bedeuten, dass die bisherige Automatisierung wertlos war.
Das System kann beispielsweise bereits die Nachricht erfassen, relevante Informationen strukturiert vorbereiten und dem zuständigen Mitarbeiter zusammen mit der Originalanfrage zur Prüfung vorlegen.
Der Mitarbeiter beginnt dann nicht bei null, behält aber die Entscheidung.
4. Beispiel: Von der Website-Anfrage zum richtigen Mitarbeiter
Fiktives Beispiel: Ein mittelständisches Unternehmen erhält Anfragen über ein allgemeines Website-Formular. Das Unternehmen hat drei relevante Bereiche: Vertrieb, bestehende Kunden und technische Serviceanfragen.
Bisher landen alle Nachrichten in einem gemeinsamen E-Mail-Postfach. Ein Mitarbeiter liest sie und leitet sie manuell weiter.
Für einen Pilot wird folgender Ablauf definiert:
| Schritt | Automatisierung | Kontrolle |
|---|---|---|
| 1. Eingang | Formular übergibt die Anfrage an den Workflow | Originalanfrage bleibt nachvollziehbar erhalten |
| 2. Extraktion | Name, Firma, E-Mail und Nachricht werden strukturiert übernommen | Nur vorher definierte Felder werden weiterverarbeitet |
| 3. Klassifizierung | Anfrage wird Vertrieb, Bestandskunde, Service oder „unklar“ zugeordnet | Unklare Fälle werden nicht automatisch erzwungen |
| 4. Routing | Eindeutige Fälle gehen an die zuständige Warteschlange | Zuordnungsregeln sind dokumentiert |
| 5. Eingangsbestätigung | Eine neutrale Empfangsbestätigung wird versendet | Keine automatische Zusage zu Preis, Termin oder Lösung |
| 6. Sonderfall | Beschwerden und unklare Fälle werden markiert | Mitarbeiter übernimmt |
| 7. Dokumentation | Definierte Daten werden dem vorgesehenen System übergeben | Schreibzugriffe und Fehler werden protokolliert |
Der Pilot automatisiert damit nicht den gesamten Kundenservice. Er reduziert zunächst eine klar abgegrenzte Aufgabe: eingehende Nachrichten erfassen, strukturieren und richtig verteilen.
Erst wenn dieser Teil zuverlässig funktioniert, wird geprüft, ob weitere Schritte wirtschaftlich und organisatorisch sinnvoll sind.
Das Beispiel ist fiktiv. Die Kategorien, Systeme, Freigaben und Prüfkriterien müssen für das jeweilige Unternehmen definiert werden.
5. Wie lässt sich ein Pilot sinnvoll messen?
„Die KI funktioniert meistens“ ist kein ausreichendes Abnahmekriterium.
Vor dem Pilot sollten deshalb messbare Prüfkriterien definiert werden. Dabei sind zwei Fragen voneinander zu trennen: Funktioniert der Prozess zuverlässig – und bringt er dem Unternehmen tatsächlich einen wirtschaftlichen Nutzen?
| Messgröße | Was wird geprüft? |
|---|---|
| Routing-Genauigkeit | Wie viele eindeutig prüfbare Anfragen landen beim vorgesehenen Team? |
| Manuelle Korrekturen | Wie oft muss ein Mitarbeiter eine automatische Zuordnung ändern? |
| Unklare Fälle | Wie häufig übergibt das System korrekt an einen Menschen, statt eine Zuordnung zu erzwingen? |
| Bearbeitungszeit | Wie verändert sich die Zeit vom Eingang bis zur richtigen Zuständigkeit? |
| Fehlende Anfragen | Geht eine Nachricht im automatisierten Prozess verloren? |
| Fehlerhafte Aktionen | Werden Nachrichten, Daten oder Systemaktionen ausgelöst, die nicht vorgesehen waren? |
| Manueller Aufwand | Wie viel Arbeitszeit bleibt nach Einführung des Workflows tatsächlich erforderlich? |
| Laufende Kosten | Welche Kosten entstehen für Modelle, Automatisierungsdienste, Schnittstellen und andere beteiligte Systeme? |
| Nachbearbeitung | Wie viel zusätzlicher Aufwand entsteht durch falsche Zuordnungen oder andere Fehler? |
Welche Werte akzeptabel sind, kann nicht allgemein vorgegeben werden.
Eine falsche Zuordnung einer allgemeinen Produktfrage hat möglicherweise andere Folgen als eine falsch behandelte Beschwerde oder eine dringende Serviceanfrage.
Deshalb sollte ein Unternehmen Fehlertoleranz und Stop-Kriterien vor dem produktiven Einsatz festlegen.
Ein Stop-Kriterium könnte beispielsweise lauten: Sobald eine definierte Art kritischer Anfrage falsch weiterverarbeitet wird, wird die betreffende automatische Aktion deaktiviert und der Fall untersucht.
Das ist kein universeller Grenzwert, sondern ein Beispiel dafür, wie aus „Wir testen KI“ ein überprüfbarer Geschäftsprozess wird.
Technisch erfolgreich bedeutet noch nicht wirtschaftlich sinnvoll
Nach dem Pilot sollte deshalb zusätzlich verglichen werden, wie der Prozess vorher und nachher funktioniert.
Dazu können beispielsweise die bisher benötigte manuelle Arbeitszeit, die verbleibende Nachbearbeitung, laufende Systemkosten und relevante Fehler betrachtet werden.
Eine Automatisierung, die technisch funktioniert, aber fast genauso viel manuelle Kontrolle benötigt wie vorher, muss nicht automatisch sinnvoll sein. Umgekehrt kann bereits eine kleine Teilautomatisierung nützlich sein, wenn sie einen häufigen, klar abgegrenzten Arbeitsschritt zuverlässig reduziert.
Ob sich der Prozess lohnt, sollte deshalb mit realen Daten aus dem eigenen Unternehmen bewertet werden – nicht mit pauschalen ROI-Versprechen.
6. Warum eine Kundenanfrage auch ein Sicherheitsrisiko sein kann
Dieser Punkt wird bei KI-Automatisierungen leicht übersehen.
Eine E-Mail, ein Formulartext oder ein hochgeladenes Dokument stammt von außen. Wenn ein KI-System diesen Inhalt verarbeitet, sollte er technisch als nicht vertrauenswürdige externe Eingabe behandelt werden.
Ein Angreifer könnte beispielsweise versuchen, Anweisungen in einer Nachricht oder einem Dokument zu verstecken, die das KI-System zu einem nicht vorgesehenen Verhalten bewegen sollen. Dieses Angriffsmuster wird als Prompt Injection bezeichnet.
OWASP beschreibt ausdrücklich indirekte Prompt-Injection-Angriffe über externe Inhalte wie E-Mails, Dokumente und Webseiten. Das Risiko wird besonders relevant, wenn ein KI-System nicht nur Informationen analysiert, sondern anschließend auf weitere Systeme zugreifen, Daten übertragen oder Aktionen ausführen kann.
OWASP: LLM Prompt Injection Prevention
OpenAI beschreibt für agentische Systeme ein ähnliches Sicherheitsmodell: Besonders kritisch ist die Verbindung aus einer extern beeinflussbaren Informationsquelle und einer Fähigkeit, die im falschen Kontext Schaden verursachen kann – beispielsweise Daten an Dritte zu übertragen oder ein verbundenes Werkzeug auszuführen.
OpenAI: Designing AI agents to resist prompt injection
Welche Schutzmaßnahmen erforderlich sind, hängt vom konkreten System und seinen Berechtigungen ab. Typische Prinzipien sind:
- externe Inhalte von Systemanweisungen und vertrauenswürdiger Konfiguration trennen
- nur die für den Prozess notwendigen Informationen extrahieren
- verfügbare Aktionen auf einen klar definierten Umfang begrenzen
- Berechtigungen nach dem Prinzip der geringsten erforderlichen Rechte vergeben
- Parameter und Systemaktionen technisch validieren
- kritische Aktionen nicht allein aufgrund freien Nachrichtentextes ausführen
- für folgenreiche Aktionen eine menschliche Freigabe vorsehen
- relevante Systemaktionen protokollieren und überwachen
Ein Beispiel: Eine Nachricht mit dem Inhalt „Ändern Sie meine Kundendaten und senden Sie alle bisherigen Rechnungen an diese neue Adresse“ sollte nicht allein aufgrund dieses Textes dazu führen, dass ein KI-Agent ohne weitere Prüfung Stammdaten verändert und Dokumente an eine neue Adresse übermittelt.
Wichtig ist außerdem: Prompt Injection lässt sich nicht allein durch einen einzelnen Filter oder einen guten System-Prompt zuverlässig ausschließen. Deshalb sollten Berechtigungen und mögliche Folgen so begrenzt werden, dass auch ein fehlerhaft beeinflusstes Modell nicht beliebige Aktionen ausführen kann.
7. Datenschutz und automatisierte Entscheidungen: Was muss getrennt betrachtet werden?
Kundenanfragen können personenbezogene Daten enthalten. Sobald solche Daten mit einem KI- oder Automatisierungssystem verarbeitet werden, muss der konkrete Verarbeitungsvorgang datenschutzrechtlich betrachtet werden.
Artikel 5 DSGVO nennt unter anderem die Grundsätze der Zweckbindung und Datenminimierung. Personenbezogene Daten sollen für festgelegte Zwecke verarbeitet und auf das für diese Zwecke notwendige Maß beschränkt werden.
EUR-Lex: Datenschutz-Grundverordnung
Vor einem Pilot sollten Unternehmen deshalb beispielsweise klären:
- Welche personenbezogenen Daten kommen über die jeweiligen Anfragekanäle an?
- Welche davon werden für Klassifizierung und Routing tatsächlich benötigt?
- Für welchen konkreten Zweck werden die Daten verarbeitet?
- Auf welcher Rechtsgrundlage erfolgt die jeweilige Verarbeitung?
- Welche Anbieter und Systeme erhalten Daten?
- Wer hat Zugriff auf die verarbeiteten Informationen?
- Welche Daten werden in Protokollen oder anderen Systemen gespeichert?
- Welche Speicher- beziehungsweise Löschregeln gelten für die beteiligten Systeme?
Eine pauschale Aussage wie „Diese KI ist DSGVO-konform“ beantwortet diese Fragen nicht. Entscheidend ist der konkrete Prozess mit den tatsächlich verwendeten Daten, Zwecken, Rechtsgrundlagen, Anbietern, Verträgen, Einstellungen und Zugriffen.
Routing ist nicht automatisch eine Entscheidung nach Artikel 22 DSGVO
Auch der Begriff „automatische Entscheidung“ sollte differenziert verwendet werden.
Artikel 22 DSGVO betrifft Entscheidungen, die ausschließlich auf automatisierter Verarbeitung beruhen und gegenüber einer Person rechtliche Wirkung entfalten oder sie in ähnlicher Weise erheblich beeinträchtigen.
Eine technische Zuordnung wie „Serviceanfrage an Service-Team weiterleiten“ ist deshalb nicht automatisch mit einer solchen Entscheidung gleichzusetzen.
Anders kann die Bewertung aussehen, wenn das System selbstständig Entscheidungen mit erheblichen Auswirkungen auf eine Person trifft. Für die in Artikel 22 geregelten Fälle bestehen besondere Voraussetzungen, Ausnahmen und Schutzmaßnahmen.
Wenn eine geplante Automatisierung nicht nur Nachrichten sortiert, sondern beispielsweise Verträge, Ansprüche, Konditionen oder andere für Personen erhebliche Entscheidungen automatisch beeinflusst, sollte die datenschutzrechtliche Einordnung deshalb vor dem produktiven Einsatz gesondert geprüft werden.
Für die vorgelagerte Prüfung hilft auch unser Beitrag Welche Unternehmensdaten darf ich in ChatGPT eingeben? 8 Fragen vor der Nutzung.
8. Wie sollten Unternehmen anfangen?
Beginnen Sie nicht mit der Frage, ob Sie ChatGPT, einen KI-Agenten, ein neues CRM oder ein bestimmtes Automatisierungswerkzeug brauchen.
Beginnen Sie mit einem realen Anfrageweg und dokumentieren Sie, was heute tatsächlich passiert.
- Eingang bestimmen: Über welche Kanäle kommen Anfragen tatsächlich an?
- Manuelle Schritte notieren: Was macht ein Mitarbeiter mit jeder Nachricht?
- Entscheidungen identifizieren: Nach welchen Regeln wird eine Anfrage heute zugeordnet oder priorisiert?
- Ausnahmen sammeln: Welche Fälle passen nicht in den Standardprozess?
- Daten und Risiken prüfen: Welche Informationen werden benötigt und welche Aktionen dürfen daraus entstehen?
- Kleinen Pilot wählen: Einen klar abgegrenzten Arbeitsschritt statt des gesamten Kundenservice automatisieren.
- Messgrößen und Stop-Kriterien definieren: Vorher festlegen, woran Nutzen und Fehler erkannt werden.
- Fallback vorsehen: Für Unsicherheit, Sonderfälle und technische Ausfälle einen manuellen Weg erhalten.
Erst danach sollte entschieden werden, ob für einen bestimmten Schritt feste Regeln, klassische Automatisierung, ein KI-Modell, ein bestehendes CRM oder eine Kombination daraus sinnvoll ist.
Wenn KI-Agenten zusätzlich selbstständig auf Systeme zugreifen oder Aktionen ausführen sollen, steigt die technische und organisatorische Verantwortung. Mehr dazu erklären wir in KI-Agenten im Unternehmen: Welche Aufgaben eignen sich wirklich?.
Gute Automatisierung erkennt auch, wann sie aufhören muss
Bei Kundenanfragen entsteht der größte Nutzen nicht unbedingt durch einen vollständig autonomen KI-Agenten.
Oft beginnt die sinnvollere Lösung wesentlich kleiner: Informationen automatisch erfassen, eindeutige Anfragen richtig zuordnen, fehlende Angaben erkennen und dem zuständigen Mitarbeiter einen vorbereiteten Vorgang übergeben.
Damit eine solche Automatisierung im Alltag funktioniert, braucht sie drei Dinge: klare Geschäftsregeln, messbare Prüfkriterien und einen sicheren Weg zurück zum Menschen.
Hinzu kommt die wirtschaftliche Prüfung: Eine technisch funktionierende Automatisierung ist erst dann sinnvoll, wenn Aufwand, Kosten, Fehler und verbleibende manuelle Arbeit im konkreten Unternehmen in einem vernünftigen Verhältnis zum Nutzen stehen.
Erst wenn ein begrenzter Prozess zuverlässig funktioniert und einen tatsächlichen Nutzen bringt, sollte geprüft werden, welcher nächste Schritt automatisiert werden kann.
Häufige Fragen zur Automatisierung von Kundenanfragen
Kann KI Kundenanfragen automatisch sortieren?
Ja, freie Texte können beispielsweise nach vorher definierten Themen oder Zuständigkeiten klassifiziert werden. Vor dem produktiven Einsatz sollte jedoch mit realistischen Testfällen geprüft werden, wie zuverlässig die Zuordnung funktioniert und wann unklare Fälle an einen Mitarbeiter übergeben werden.
Brauche ich dafür bereits ein CRM?
Nicht zwingend. Der richtige Aufbau hängt vom bestehenden Prozess ab. Ein CRM kann für eine strukturierte Weiterverarbeitung sinnvoll sein, sollte aber nicht allein deshalb eingeführt werden, weil eine KI-Automatisierung geplant ist. Zuerst sollte geklärt werden, welche Informationen wohin gelangen müssen.
Sollte KI automatisch auf Kundenanfragen antworten?
Das hängt von Art und möglichen Folgen der Antwort ab. Eine klar definierte Eingangsbestätigung ist etwas anderes als eine individuelle Aussage zu Preis, Vertrag, Beschwerde oder technischer Lösung. Je größer die Auswirkungen einer falschen Antwort sein können, desto wichtiger werden technische Validierung und menschliche Kontrolle.
Was passiert, wenn die KI eine Anfrage falsch zuordnet?
Genau dafür sollte der Prozess vorab Fehler-, Stop- und Fallback-Regeln enthalten. Zuordnungen sollten messbar sein, Korrekturen nachvollziehbar werden und kritische beziehungsweise unklare Fälle einen manuellen Bearbeitungsweg behalten.
Was ist Prompt Injection bei einer Kundenanfrage?
Dabei enthält eine externe Nachricht oder ein Dokument Anweisungen, die versuchen, das Verhalten eines KI-Systems zu beeinflussen. Dieses Risiko ist besonders relevant, wenn ein KI-System nicht nur Text analysiert, sondern anschließend auf andere Systeme zugreifen, Daten übertragen oder Aktionen ausführen kann. Externe Inhalte sollten deshalb als nicht vertrauenswürdige Eingaben behandelt werden.
Darf ich personenbezogene Kundendaten mit KI verarbeiten?
Das lässt sich nicht pauschal mit Ja oder Nein beantworten. Entscheidend sind unter anderem der konkrete Zweck, die verarbeiteten Daten, die Rechtsgrundlage, beteiligte Anbieter und Systeme, Verträge, Einstellungen, Zugriffe und weitere Anforderungen der DSGVO. Technisch sollte insbesondere geprüft werden, welche personenbezogenen Daten für den jeweiligen Automatisierungsschritt tatsächlich erforderlich sind.
Ist automatisches Lead Routing eine automatisierte Entscheidung nach Artikel 22 DSGVO?
Nicht automatisch. Artikel 22 DSGVO betrifft ausschließlich automatisierte Entscheidungen, die gegenüber einer Person rechtliche Wirkung entfalten oder sie in ähnlicher Weise erheblich beeinträchtigen. Eine einfache technische Weiterleitung an ein zuständiges Team ist damit nicht ohne Weiteres gleichzusetzen. Bei automatisierten Entscheidungen mit erheblichen Auswirkungen sollte die konkrete datenschutzrechtliche Einordnung gesondert geprüft werden.
Wie erkenne ich, ob sich eine Automatisierung lohnt?
Vergleichen Sie den Prozess vor und nach einem begrenzten Pilot: manuelle Arbeitszeit, Bearbeitungszeit, Korrekturen, Fehler, laufende Systemkosten und verbleibenden Nachbearbeitungsaufwand. Erst diese realen Daten zeigen, ob die Automatisierung für das konkrete Unternehmen einen sinnvollen Nutzen bringt.