Kundenservice-Chatbot (Website, Messaging, FAQ)

Kunden erwarten sofortige Antworten zu jeder Tageszeit, während Serviceteams in immer gleichen Fragen versinken (Wo ist meine Bestellung, wie sende ich zurück, was enthält mein Tarif). Regelbasierte Chatbots sind gescheitert, weil sie nur feste Absichten (Intents) erkannten. LLM-basierte Assistenten holen Antworten aus den eigenen Inhalten des Unternehmens, sprechen die Sprache des Kunden, rufen Backoffice-Systeme für einfache Aktionen auf und übergeben sauber an einen Menschen, wenn sie an ihre Grenzen stoßen. Gut umgesetzt, fangen sie einen großen Teil der Routinekontakte ab; schlecht umgesetzt, erfinden sie Zusagen, an die das Unternehmen rechtlich gebunden ist.

Problem & Nutzen

• Heute: FAQ-Seiten, die niemand liest, Ticket-Warteschlangen, E-Mails mit langen Antwortzeiten und alte Intent-Bots mit Sackgassen-Menüs. Mitarbeitende im Service verbringen einen großen Teil des Tages mit wenigen Dutzend wiederkehrenden Fragen.
• Nutzen durch KI: Erstreaktion rund um die Uhr in vielen Sprachen, Entlastung bei Routinekontakten, kürzere Wartezeiten, einheitliche Antworten und strukturierte Einblicke, was Kunden tatsächlich fragen (Wissenslücken fließen zurück ins Help Center).
• Berichtete Zahlen (Herstellerangaben, nicht unabhängig): Klarna gab 2024 an, sein Assistent habe im ersten Monat zwei Drittel der Kunden-Chats bearbeitet und die Lösungszeit von etwa 11 auf 2 Minuten gesenkt [3]. Im Mai 2025 sagte Klarnas CEO, das Unternehmen stelle wieder menschliche Mitarbeitende ein, damit Kunden immer eine Person erreichen können, nachdem der KI-Kurs die Servicequalität beeinträchtigt hatte [9]. Behandeln Sie solche Zahlen als Obergrenzen und planen Sie ein hybrides Modell mit Menschen ein.
• Die Haftung ist real: In Moffatt v. Air Canada (2024) machte ein kanadisches Schiedsgericht die Fluggesellschaft für falsche Erstattungsauskünfte ihres Website-Chatbots verantwortlich und wies das Argument zurück, der Bot sei eine eigenständige Einheit [4]. Gerichte und Aufsichtsbehörden behandeln Aussagen eines Chatbots als Aussagen des Unternehmens.

Varianten

• FAQ-/Entlastungs-Bot (KMU): antwortet nur aus einem gepflegten Help Center; kein Systemzugriff.
• Transaktionaler Service-Agent: authentifiziert; prüft Bestellungen, ändert Termine, erstellt Retourenlabels, legt Tickets per API an (Variante für Banken/Versicherungen: CONV-013).
• Omnichannel-Messaging: WhatsApp Business, Instagram, Messenger sowie Web-Widget.
• Mehrsprachiger EU-Servicedesk: eine Wissensbasis, Antworten in vielen EU-Sprachen.
• Verwandte Anwendungsfälle: Sprach-Frontend CONV-002; Unterstützung für Mitarbeitende CONV-007; öffentliche Verwaltung CONV-011; interne Beschäftigte CONV-004; Vertrieb CONV-005.

So funktioniert es

1. Kundennachricht (Web / WhatsApp / App)
2. KI-Hinweis + Datenschutzhinweis
3. Eingabe-Guardrails (PII-Maskierung, Prompt-Injection- und Missbrauchsfilter)
4. Absichts-/Spracherkennung, Authentifizierungsprüfung
5. Retrieval (Hybridsuche + Reranker über Help Center, Richtlinien, Produktdaten)
6. LLM-Antwort, gestützt auf abgerufene Textstellen, mit Quellenangaben
7. optionale Tool-Aufrufe (Bestellabfrage, Ticket, Retoure) mit eng begrenzten Zugangsdaten
8. Ausgabe-Guardrails (Belegprüfung, Richtlinien- und Tonprüfung)
9. Antwort | Übergabe an Mitarbeitende mit Zusammenfassung und Transkript
10. Protokollierung, Feedback (Daumen), Auswertung, Bericht zu Wissenslücken

• Fundierung (RAG): Das Modell darf nur aus abgerufenen Inhalten antworten; ist das Retrieval schwach, sagt es das und übergibt weiter. Das ist die wichtigste Kontrolle gegen Halluzinationen.
• Aktionen: eng begrenzte Werkzeuge (zunächst nur lesend); jede schreibende Aktion erfordert Identitätsprüfung und ab einem Schwellenwert eine Bestätigung durch einen Menschen.
• Mensch-in-der-Schleife (Human-in-the-Loop): jederzeit eine ausdrückliche Option „Mit einem Menschen sprechen“, automatische Übergabe bei geringer Sicherheit, Ärger- oder Verletzlichkeitssignalen, Beschwerden, rechtlichen oder vertraglichen Themen; Mitarbeitende sehen eine Zusammenfassung.

Datenaufbereitung

Der Chatbot ist nur so gut wie seine Wissensbasis. Typische Quellen sind FAQ- und Help-Center-Seiten, Produkthandbücher (oft PDFs), Rückgabe- und Garantierichtlinien, frühere Tickets im Helpdesk oder CRM sowie Bestelldaten im ERP- oder Shopsystem. In einem KMU ist dieses Wissen meist über Website, Dateiablagen, Postfächer und die Köpfe erfahrener Servicekräfte verstreut.

Typische Lücken: veraltete oder widersprüchliche Artikel, gescannte Handbücher ohne Textebene, doppelte FAQs, fehlende Produkt- oder Bestellkennungen und kein klarer Verantwortlicher für Inhalte. Kundendaten in Tickets dürfen nicht in Antworten gelangen.

Aufbereitungsschritte: (1) Quellen inventarisieren und je Thema einen Verantwortlichen benennen, (2) eine maßgebliche Version wählen und Duplikate löschen, (3) Scans per OCR umwandeln und lange Dokumente in kurze, antwortgroße Artikel umschreiben, (4) die 50 häufigsten Ticket-Themen auswerten und fehlende Antworten schreiben, (5) für Tests verwendete Ticket-Exporte pseudonymisieren, (6) einen Testsatz echter Fragen mit freigegebenen Antworten aufbauen. Werkzeuge: Paperless-ngx oder der Helpdesk-Export für OCR und Sammlung, Tabellenkalkulation oder n8n für die Bereinigung.

Rechnen Sie mit etwa 30 bis 50 Prozent des Projektaufwands für Daten- und Inhaltsarbeit. Siehe PREP-013, PREP-014, PREP-018, PREP-022, PREP-006 und DATA-003.

Umsetzungswege

Welcher Weg für wen

• KMU: Weg A. Ausgereifte, in der EU gehostete Chatbot-Produkte gibt es zu KMU-tauglichen Preisen, und der Prozess (FAQ, Bestellstatus, Übergabe) ist Standard.
• Großunternehmen: Weg B. Service ist ein Kernprozess mit hohem Volumen und tiefer CRM-/Bestellintegration; API-Kosten und Kontrolle sprechen für eine Eigenentwicklung auf Cloud-KI-Diensten.
• Entwickler: Weg B. Cloud-APIs plus ein RAG-Framework ermöglichen den schnellsten und flexibelsten Aufbau für Kundenprojekte.
• Öffentlicher Sektor: Weg C. Souveränität, Vergaberegeln und Bürgerdaten sprechen für Open-Weight-Modelle in einer deutschen oder europäischen souveränen Cloud.

Weg A — Kaufen (Standardsoftware) (für die meisten KMU und den gehobenen Mittelstand empfohlen)

• Helpdesk-eigene KI-Agenten: Intercom Fin, Zendesk AI agents, Freshworks Freddy AI, HubSpot Customer Agent, Salesforce Agentforce Service, Ada.
• Konversationsplattformen: Cognigy (DE, Teil von NICE), Parloa (DE, stark bei Sprache), Userlike (DE), Tidio (PL), Landbot (ES), Zowie (PL), Botpress, Kore.ai, Yellow.ai.
• Prüfen: Datenspeicherung in der EU, AVV und Unterauftragsverarbeiter (US-LLM-Anbieter), Unterstützung des KI-Hinweises, Übergabe an Ihr Ticketsystem, Quellenangaben, Abrechnung pro Lösung oder pro Nutzerplatz.
• Wählen Sie A, wenn: die Inhalte in einem Help Center liegen, der Helpdesk ein gängiges Produkt ist und keine tiefe individuelle Backend-Logik nötig ist.

Weg B — Auf Cloud-KI-Diensten aufbauen

• Modelle: Mistral (EU-Anbieter), Claude, Gemini, GPT über EU-Regionen (Azure OpenAI EU Data Zone, Vertex AI Europa, AWS Bedrock Frankfurt/Paris); kleine, schnelle Modelle für das Routing, größere für die Antworten.
• Stack: Embeddings + Hybridsuche (Qdrant, Weaviate, pgvector, OpenSearch), Reranker (Cohere Rerank, bge-reranker), Orchestrierung mit LangGraph / LlamaIndex / n8n, Werkzeugzugriff über MCP oder Function Calling, Guardrails (Llama Guard, NeMo Guardrails, Microsoft Presidio für PII).
• Kanäle: WhatsApp Business Platform, Twilio, Bird (NL) oder die API des Helpdesks.
• Wählen Sie B, wenn: Sie individuelle Aktionen brauchen, ein striktes Branding verlangen oder Prompts und Evaluation selbst verantworten wollen.

Weg C — Selbst betreiben (Open Source)

• Modelle: Open-Weight-Modelle wie Mistral Small, Llama, Qwen3, Gemma, gpt-oss; Embeddings wie bge-m3 oder Qwen3-Embedding; bereitgestellt mit vLLM oder Ollama.
• Frameworks: Rasa (in Deutschland gegründet; CALM, LLM-gesteuerter Dialog) [5], Botpress, Chatwoot (Open-Source- Posteingang) [7], Haystack, Langflow, Dify; Beobachtbarkeit mit Langfuse [8].
• Hardware: HW2 bewältigt ein Modell mit ca. 8–14 Mrd. Parametern bei mäßigem Verkehr; HW3 für Modelle mit 30–120 Mrd. Parametern und hohe Gleichzeitigkeit. Nötig, wenn Daten die eigenen Räume nicht verlassen dürfen (Gesundheit, Behörden).

Weg D — Eigenes Training

Selten nötig. Ein kleines Modell nur für Tonalität, Fachvokabular oder Intent-Routing feintunen, wenn Prompting + RAG ausgereizt sind und Ihnen tausende geprüfte Gespräche vorliegen; zuerst den Reranker oder Router abstimmen, nicht das Antwortmodell.

Stand der Technik (2026)

• Von Intent-Bots zu agentischem Service: LLM-Agenten verbinden Retrieval mit Tool-Aufrufen und folgen schriftlichen Abläufen („Playbooks“); mehrere Anbieter rechnen pro gelöstem Gespräch ab.
• Die Evaluation ist der Engpass: Teams bauen Testsätze aus echten Tickets, nutzen LLM-as-Judge plus menschliche Prüfung und führen bei jeder Änderung an Prompt oder Wissensbasis Regressionstests durch.
• Beobachtbarkeit: Das Nachverfolgen von Retrievals und Tool-Aufrufen (Langfuse, LangSmith, Arize Phoenix) ist Standard.
• Grenzen und Fehlerbilder: erfundene Richtlinien oder Preise, veraltete Inhalte der Wissensbasis, Prompt Injection über Nutzertext oder abgerufene Seiten, übereifrige Aktionen, schlechter Umgang mit emotionalen oder verletzlichen Kunden und „Endlosschleifen“, in denen Nutzer keinen Menschen erreichen. Die Qualität hängt mehr von der Pflege der Wissensbasis ab als von der Modellwahl.

Gemeinsame Bausteine & Kombinationen

• Derselbe RAG-Stack (embedding-text, reranker, vector-db) wie bei KNOW-002, KNOW-004 und CONV-004; ein Retrieval-Dienst kann Kunden und Beschäftigte mit unterschiedlichen Zugriffsbereichen bedienen.
• Kombinieren mit: LANG-012 (Ticket-Routing), LANG-013 (Stimmungs- und Feedback-Analyse), CONV-007 (Unterstützung für Mitarbeitende nach der Übergabe), CONV-002 (Sprach-Frontend), KNOW-011 (automatisch gepflegte FAQ), AGENT-011 (CRM-Aktualisierungen nach Gesprächen).
• Ein selbst betriebener LLM-Server (HW3) kann von mehreren CONV- und KNOW-Anwendungsfällen gemeinsam genutzt werden.

Aufwand, Kosten & Kennzahlen

• Weg A: Tage bis wenige Wochen; Abrechnung pro Nutzerplatz, pro Gespräch oder pro Lösung.
• Weg B: 1–3 Monate inkl. Integrationen, Evaluationssatz und Guardrails; die Token-Kosten sind meist gering gegenüber der Arbeitszeit der Mitarbeitenden, steigen aber bei langen Verläufen und großen abgerufenen Kontexten.
• Weg C: 2–4 Monate plus GPU-Betrieb.
• Kennzahlen: geprüfte Lösungsquote (nicht nur „keine Eskalation“), CSAT von Bot- gegenüber Menschen-Gesprächen, Qualität der Eskalation, Zeit bis zur ersten Antwort, Kosten pro gelöstem Kontakt, Quote belegter Antworten in Stichproben, Rückstau unbeantworteter Themen, Beschwerden über den Bot.

Menschen & Veränderung

Beziehen Sie die Geschäftsführung früh für Budget und die Entscheidung ein, was der Bot eigenständig tun darf. Die Serviceleitung ist Prozessverantwortliche und legt den Themenumfang fest; Servicemitarbeitende sind die Endanwender und sollten Antworten mitschreiben und den Bot testen, da sie die echten Fragen kennen. Die IT übernimmt die Kanal- und CRM-Integration, die Datenschutzbeauftragte bzw. der Datenschutzbeauftragte prüft die Rechtsgrundlage, den AVV mit dem Anbieter und ob eine DSFA nötig ist (Kundengespräche in großem Umfang, möglicherweise besondere Kategorien). Datenverantwortliche geben die Wissensquellen frei.

Betriebsrat: abhängig vom Einzelfall. Ein reiner kundenseitiger Bot löst nicht automatisch Mitbestimmung aus, aber Übergabeprotokolle, die Qualitätsbewertung von Mitarbeitenden oder Auswertungen je Mitarbeitenden machen das System objektiv geeignet, die Leistung zu überwachen (§87 Abs. 1 Nr. 6 BetrVG; BAG: Eignung genügt). In jedem Fall ist der Betriebsrat rechtzeitig zu unterrichten (§90 Abs. 1 Nr. 3), da sich Arbeitsabläufe ändern. Öffentlicher Dienst: Personalrat.

Maßnahmen: KI-Kompetenz des Serviceteams fördern (Art. 4 KI-Verordnung), Kunden darüber informieren, dass sie mit einer KI sprechen (Art. 50), mit einer Pilotgruppe zu zwei oder drei Themen starten, kommunizieren, dass der Bot repetitive Fragen übernimmt, damit Mitarbeitende komplexe Fälle bearbeiten. Die typische Sorge ist der Arbeitsplatzverlust; begegnen Sie ihr mit einer klaren Zweckerklärung und Weiterbildung. Behalten Sie die Kontrolle beim Menschen durch einfache Übergabe, Prüfung unbeantworteter Themen und einen Notausschalter. Siehe GUIDE-008, GUIDE-004, GUIDE-009.

Risiken, Regulierung & Compliance

• KI-Verordnung (AI Act): in der Regel begrenztes Risiko. Art. 50 Abs. 1 verlangt, dass Menschen darüber informiert werden, dass sie mit einem KI-System interagieren, sofern dies nicht offensichtlich ist; laut Analysen von Kanzleien gilt die Pflicht seit dem 2. August 2026 und wurde durch das AI-Omnibus-Paket nicht verschoben, das die Hochrisiko-Regeln verzögerte und bereits bestehenden generativen Systemen bis zum 2. Dezember 2026 Zeit nur für die Kennzeichnung von Inhalten gab [1][2]. Die KI-Kompetenz nach Art. 4 gilt für die Beschäftigten. Bots, die über den Zugang zu wesentlichen Diensten entscheiden (Kredit, Versicherung), können zu Hochrisiko-Systemen werden, und Emotionserkennung bei Beschäftigten ist nach Art. 5 verboten [6].
• DSGVO: Chats enthalten personenbezogene Daten (Namen, Bestellungen, manchmal Gesundheits- oder Finanzangaben). Erforderlich sind eine Rechtsgrundlage, ein AVV mit den Anbietern, Datenminimierung, PII-Maskierung vor Modellaufrufen, Speicherfristen und Garantien für Übermittlungen an Anbieter außerhalb der EU. Art. 22 greift, wenn der Bot Entscheidungen mit erheblicher Wirkung trifft (z. B. eine Erstattung automatisch ablehnt).
• Verbraucherrecht: Aussagen des Bots binden das Unternehmen (siehe Moffatt [4]); Beschwerde- und Widerrufsrechte müssen erreichbar bleiben; das Barrierefreiheitsstärkungsgesetz bzw. der European Accessibility Act (seit Juni 2025) erfasst E-Commerce-Oberflächen.
• Sicherheit: Prompt Injection, Datenabfluss zwischen Kunden, überprivilegierte Zugangsdaten für Werkzeuge; Prinzip der minimalen Rechte, sitzungsgebundene Identität und Red-Team-Tests anwenden.
• Gegenmaßnahmen: Fundierung mit Quellenangaben, zunächst nur lesende Werkzeuge, ein leichter Ausweg zum Menschen, Protokollierung für Audits, regelmäßige Prüfung der Transkripte.

Erste Schritte

1. Exportieren Sie 3 Monate Tickets und Chats; ordnen Sie die 30 häufigsten Fragetypen und messen Sie, wie viele aus vorhandenen Inhalten beantwortbar sind.
2. Bereinigen und konsolidieren Sie das Help Center; benennen Sie einen Verantwortlichen für die Aktualität der Wissensbasis.
3. Pilotieren Sie ein Produkt aus Weg A (oder einen kleinen Prototyp aus Weg B) auf einem Kanal mit nur lesendem Zugriff.
4. Bauen Sie einen Evaluationssatz mit 100–200 Fragen aus echten Tickets auf, einschließlich gezielt schwieriger Fälle.
5. Starten Sie mit KI-Hinweis und sichtbarer Übergabe an Menschen; prüfen Sie wöchentlich die Transkripte und ergänzen Sie dann Aktionen.

Quellen

1. Goodwin — EU AI Act transparency obligations now in force (Aug 2026) — https://www.goodwinlaw.com/en/insights/publications/2026/08/alerts-technology-dpc-eu-ai-act-transparency-obligations-now-in-force
2. Houthoff — AI Act: transparency obligations and the AI Omnibus Regulation — https://www.houthoff.com/insights/news/ai-act-transparency-obligations-and-the-ai-omnibus-regulation/
3. CX Today — Klarna claims its new AI assistant does the work of 700 full-time agents — https://www.cxtoday.com/contact-center/klarna-claims-its-new-ai-assistant-does-the-work-of-700-full-time-agents/
4. The Guardian — Air Canada ordered to pay customer who was misled by airline's chatbot — https://www.theguardian.com/world/2024/feb/16/air-canada-chatbot-lawsuit
5. Rasa — open-source conversational AI framework — https://github.com/RasaHQ/rasa
6. Regulation (EU) 2024/1689 (AI Act) — https://eur-lex.europa.eu/eli/reg/2024/1689/oj
7. Chatwoot — open-source customer engagement platform — https://github.com/chatwoot/chatwoot
8. Langfuse — open-source LLM observability — https://github.com/langfuse/langfuse
9. Entrepreneur — Klarna is hiring customer service agents after AI couldn't cut it on calls (May 2025, CEO interview with Bloomberg) — https://www.entrepreneur.com/business-news/klarna-ceo-reverses-course-by-hiring-more-humans-not-ai/491396