Echtzeit-Agentenunterstützung für Contact Center

Menschliche Servicemitarbeitende, die Anrufe und Chats bearbeiten, müssen Wissensdatenbanken durchsuchen, Notizen tippen und Compliance-Formulierungen im Kopf behalten, während die Kundschaft wartet. Ein Echtzeit-Assistent transkribiert das Gespräch, während es stattfindet, ruft die passende Antwort ab, schlägt den nächsten Schritt vor und entwirft die Zusammenfassung. Er lässt den Menschen in der Verantwortung und ist damit der risikoärmste Weg, generative KI in den Servicebetrieb zu bringen. Praxisbefunde zeigen die größten Gewinne bei neuen und weniger erfahrenen Mitarbeitenden.

Problem & Nutzen

• Heute: Mitarbeitende jonglieren mit CRM, Ticketsystem, Wissensdatenbank und Telefonie; Neueinsteiger brauchen Monate, um produktiv zu werden; die Nachbearbeitung kostet pro Kontakt Minuten; die Qualitätssicherung prüft nur eine kleine Stichprobe.
• Nutzen durch KI: kürzere Bearbeitungs- und Suchzeiten, einheitlichere und regelkonforme Antworten, schnellere Einarbeitung, nahezu keine manuelle Nachbearbeitung und Coaching, solange der Kontakt noch läuft.
• Belege: Eine Studie mit 5.179 Kundenservice-Mitarbeitenden, die einen generativen KI-Assistenten nutzten, der Chats überwacht und Antworten vorschlägt, fand durchschnittlich etwa 14 % mehr gelöste Fälle pro Stunde und etwa 34 % bei Neulingen oder gering qualifizierten Mitarbeitenden, bei kaum messbarer Wirkung auf sehr erfahrene; außerdem berichtete sie von besserer Kundenstimmung und höherer Mitarbeiterbindung [1]. Es handelt sich um ein Unternehmen und nur um Chat; verstehen Sie das als Hinweis, nicht als Garantie.
• Unterschied zu CONV-001/002: Hier spricht die KI nur mit dem Servicemitarbeitenden; jede Nachricht sendet ein Mensch.

Varianten

• Sprache vs. Chat/E-Mail: Sprache braucht Spracherkennung im Streaming mit geringer Latenz; Chat ist einfacher.
• Unterstützung bei Wissen, Führung und Compliance: Antwortkarten, nächster bester Schritt/Formularausfüllung, Erinnerungen an Pflichtangaben.
• Nur Nachbearbeitung: automatische Zusammenfassung und Abschlusscode, oft die Funktion mit der schnellsten Amortisation.

So funktioniert es

1. telephony / chat platform (CCaaS)
2. real-time media stream (consent + recording notice)
3. streaming ASR + speaker separation (agent / customer channel)
4. intent & entity detection (small LLM / classifier)
5. retrieval over knowledge base + CRM context (hybrid search, reranking)
6. LLM composes suggestion with citations, next step, compliance checks
7. agent desktop widget (accept / edit / ignore / thumbs feedback)
8. after call: summary, disposition code, CRM/ticket update (agent confirms)
9. analytics, QA and feedback loop

• ASR: Streaming-Modelle mit Teilergebnissen; Zweikanal-Audio vermeidet die meisten Probleme bei der Sprechertrennung.
• Retrieval-augmentierte Generierung: Antworten müssen aus freigegebenen Inhalten stammen und ihre Quelle zeigen, damit die Mitarbeitenden sie in Sekunden prüfen können (siehe KNOW-002).
• Latenz: Vorschläge müssen innerhalb von Sekunden eintreffen; für Auslöser kleine, schnelle LLMs verwenden.
• Mensch-in-der-Schleife (Human-in-the-Loop): Die Servicekraft entscheidet; kein Vorschlag wird automatisch an die Kundschaft gesendet. Zusammenfassungen bestätigt die Servicekraft.

Datenaufbereitung

Die Qualität der Unterstützung hängt von der Wissensdatenbank ab (Produkthandbücher, FAQs, Prozessbeschreibungen, Tarif- und Richtliniendokumente), von früheren Tickets und Gesprächsaufzeichnungen sowie vom CRM- oder ERP-Kontext. Diese liegen meist in einem DMS, in Wikis, auf Dateiablagen, in Ticketsystemen und im Kopf erfahrener Mitarbeitender. Typische Lücken: veraltete oder widersprüchliche Artikel, gescannte Handbücher, Duplikate, fehlende Zuständigkeit für Artikel, Gesprächsaufzeichnungen ohne Einwilligungsnachweis oder Transkripte und nicht erfasste Ergebnisse.

Schritte der Aufbereitung: (1) aus den Ticketdaten die 50-100 häufigsten Kontaktgründe auswählen; (2) pro Grund einen maßgeblichen Artikel schreiben oder bereinigen, mit benanntem Verantwortlichen und Prüfdatum; (3) ältere Handbücher per OCR erfassen und umwandeln; (4) Artikel nach Produkt, Prozess und Zielgruppe verschlagworten; (5) Compliance-Formulierungen und Vorlagen für die Nachbearbeitung festlegen; (6) die Telefonieeinrichtung auf Zugriff für die Transkription und auf die Einwilligung zur Aufzeichnung prüfen; (7) gute Beispielantworten der besten Servicekräfte sammeln. Werkzeuge: Export aus dem Ticketsystem, Paperless-ngx oder OCR-Werkzeuge für Scans, Wissens-Konnektoren der Anbieter. Grober Aufwandsanteil: 40 Prozent, dazu ein laufender Inhaltszyklus, der aus dem Feedback der Servicekräfte gespeist wird.

Nützliche PREP-Anwendungsfälle: PREP-013 (maßgebliche Wissensbasis), PREP-016 (Beispiele als Goldstandard), PREP-017 (Lebenszyklus von Inhalten), PREP-021 (Korrekturen der Servicekräfte erfassen), PREP-006 (Scannen). Siehe auch GUIDE-003.

Umsetzungswege

Welcher Weg für wen

• KMU — A: Unterstützungsfunktionen in etablierten Cloud-Suiten für Contact Center oder Helpdesk decken Standardbedarf ohne eigenen KI-Betrieb ab.
• Großunternehmen — B: Ein hohes Anrufvolumen macht Lizenzpreise pro Nutzer teuer, und der Assistent muss sich in eigenes CRM, eigene Telefonie und eigene Wissenssysteme einfügen; C, wenn Aufzeichnungen das Unternehmen nicht verlassen dürfen.
• Entwickler — B: Streaming-Spracherkennung plus LLM-APIs und RAG erlauben eine maßgeschneiderte Agentenunterstützung zu kontrollierbaren Kosten.

Weg A — Kaufen (Standardsoftware) (für die meisten KMU empfohlen)

• In der Contact-Center-Plattform: Amazon Connect mit seinen KI-Agenten (die frühere Funktion Amazon Q in Connect; Empfehlungen in Echtzeit, Absichtserkennung, agentische Unterstützung) [2]; Google Customer Engagement Suite / Agent Assist mit Gemini [3]; Genesys Cloud (angekündigte Verfügbarkeit in der AWS European Sovereign Cloud) [4]; NICE CXone und Cognigy Agent Copilot (Cognigy wurde in Düsseldorf gegründet und gehört jetzt zu NICE; dokumentierte Sprachoptionen mit EU-Hosting) [5]; Salesforce Service Cloud, Microsoft Dynamics 365 Contact Center, Five9, Talkdesk, Zendesk, Sprinklr.
• Spezialisierte Zusatzanbieter: Observe.AI, Cresta, Uniphore, Balto; aus der EU: Parloa (Berlin), Dixa und Trengo (Fokus auf Chat); prüfen Sie den aktuellen Funktionsumfang der Agentenunterstützung je Anbieter.
• Prüfen: Datenresidenz in der EU, kein Training des Anbieters mit Ihrem Audio, AVV/Unterauftragsverarbeiter, Sprachen und Dialekte sowie ob sich Emotionsfunktionen je Mandant abschalten lassen (siehe Risiken).
• A wählen, wenn: Sie bereits eine größere CCaaS-Plattform betreiben und eine gepflegte Wissensdatenbank haben.

Weg B — Auf Cloud-KI-Diensten aufbauen

• Streaming-ASR: Azure AI Speech, Google Cloud Speech-to-Text, Amazon Transcribe Streaming (EU-Regionen), Deepgram (EU-Endpunkt), AssemblyAI Streaming, OpenAI Realtime Transcription.
• LLMs: Mistral (EU-Anbieter), Claude, Gemini, GPT über EU-Regionen; ein kleines, schnelles Modell für Auslöser der Absichtserkennung und ein stärkeres Modell für Vorschläge und Zusammenfassungen.
• Integration: Media-Fork-APIs der CCaaS (z. B. Genesys AudioHook, Twilio Media Streams, Amazon Connect Kinesis Video Streams), Websocket zu einem Widget auf dem Agenten-Desktop (CTI / CRM-Seitenleiste).
• B wählen, wenn: Sie eine eigene Logik, ein ungewöhnliches CRM oder mehrere Kanäle unter einem Assistenten benötigen.

Weg C — Selbst betreiben (Open Source)

• ASR: Modelle der Whisper-Familie (faster-whisper, whisper.cpp; geringe Latenz erfordert Tricks beim Chunking), NVIDIA Parakeet/Canary über NeMo oder Riva, Kyutai Streaming STT.
• LLM: Modelle mit offenen Gewichten im Bereich von etwa 8–70B (Familien Mistral, Qwen, Llama, Gemma) auf vLLM; Embeddings und Reranker aus offenen Modellen (z. B. BGE, multilingual-e5); pgvector/Qdrant/OpenSearch.
• Pipelines: Pipecat oder LiveKit Agents; Jambonz oder FreeSWITCH für SIP.
• Hardware: HW3 für Dutzende gleichzeitiger Anrufe mit ASR und einem mittelgroßen LLM; die Skalierung richtet sich nach den gleichzeitigen Streams, nicht nach dem Gesamtvolumen. Wählen Sie dies bei strenger Souveränität (öffentlicher Sektor, Banken).

Weg D — Eigenes Training

ASR für Dialekte oder Fachvokabular feintunen und einen kleinen Klassifikator für Absichten und Abschlüsse trainieren, mit Audio, für das eine Einwilligung vorliegt und das transkribiert ist. Selten nötig, bevor die Verbesserungen an Prompts und RAG ausgeschöpft sind.

Stand der Technik (2026)

• Agentische Unterstützung: Anbieter sind von „einen Wissensartikel anzeigen" zu Assistenten übergegangen, die Bestellungen nachschlagen, Antworten entwerfen, Formulare ausfüllen und Aktionen vorbereiten, die die Servicekraft freigibt [2].
• Streaming-ASR ist für die großen EU-Sprachen bei sauberem Audio genau; die Genauigkeit sinkt bei Dialekten, Sprachwechsel mitten im Satz, Rauschen im Telefonband und buchstabierten Kennungen.
• Grenzen und Fehlerbilder: erfundene Richtlinien- oder Preisaussagen; veraltete Wissensartikel; zu spät eintreffende Vorschläge; übermäßiges Vertrauen bei Neulingen (Automation Bias); Alarmmüdigkeit; falsche Zusammenfassungen, die ungeprüft ins CRM gelangen; Prompt Injection über den Chat-Text der Kundschaft.

Gemeinsame Bausteine & Kombinationen

• Gleicher Stack: asr + diarization + llm-general bedient SPEECH-001 Besprechungsnotizen, SPEECH-002 Analyse nach dem Anruf und Qualitätssicherung sowie CONV-002 Voicebots; ein Streaming-ASR-Cluster kann alle speisen.
• Wissensschicht: KNOW-002/KNOW-003 liefern das Retrieval-Backend; CONV-001 und CONV-004 nutzen dieselben Inhalte, damit Bot und Mensch identische Antworten geben.
• Kombinationen: SPEECH-002 (Qualitätssicherung für alle Anrufe), PRED-011 (Personaleinsatz), LANG-012 (Routing), LANG-013 (Feedback), Eskalation vom Bot (CONV-001/002) mit Übergabezusammenfassung.

Aufwand, Kosten & Kennzahlen

• Weg A: Wochen bis Monate (die Bereinigung des Wissens ist der längste Pfad); Abrechnung pro Minute, Interaktion oder Nutzer.
• Weg B: 3–6 Monate für Sprache einschließlich CTI-Integration; die Kosten für ASR und LLM pro Minute sind variable Kosten, die gegen die Kosten der Servicekräfte zu rechnen sind.
• Weg C: 4–8 Monate; GPU-Server plus ein Team für MLOps/Telefonie.
• Kennzahlen: durchschnittliche Bearbeitungszeit, Nachbearbeitungszeit, Lösungsquote beim Erstkontakt, Zeit bis zur Einarbeitung neuer Mitarbeitender, Werte der Qualitätssicherung/Compliance, CSAT, Annahmequote der Vorschläge, Fluktuation von Servicekräften und Rate halluzinierter/falscher Vorschläge aus stichprobenartigen Prüfungen.

Menschen & Veränderung

Dieser Anwendungsfall betrifft Beschäftigte unmittelbar, beginnen Sie also mit dem Betriebsrat und den Servicekräften, nicht erst am Ende. Geschäftsführung und Leitung des Contact Centers legen das Ziel fest (Qualität und Entlastung, keine Überwachung). Binden Sie den Betriebsrat vor dem Pilot ein: Live-Transkription, Annahmequoten von Vorschlägen und Qualitätsbewertung eignen sich zur Überwachung von Verhalten und Leistung, daher gilt die Mitbestimmung nach § 87 Abs. 1 Nr. 6 BetrVG (das BAG verlangt nur die objektive Eignung); hinzu kommt § 90 Abs. 1 Nr. 3, und ein Sachverständiger nach § 80 Abs. 3 gilt oft als erforderlich. Eine Betriebsvereinbarung sollte eine individuelle Leistungsbeurteilung anhand der Daten der Unterstützung ausschließen. Im öffentlichen Dienst ist der Personalrat zuständig.

Datenschutzbeauftragte(r) und IT-Sicherheit werden früh gebraucht: Gesprächsinhalte, Einwilligung zur Aufzeichnung, AVV mit dem Anbieter und eine DSFA sind wahrscheinlich, da Anrufe systematisch verarbeitet werden. Die Personalabteilung kümmert sich um Schulung und Rollenänderungen.

KI-Kompetenz: Unterstützen Sie die Servicekräfte mit praxisnaher Schulung dazu, wie Vorschläge entstehen, wann man ihnen misstrauen sollte und wie man falsche meldet (KI-Verordnung Art. 4). Benennen Sie KI-Botschafter unter den Servicekräften und führen Sie den Pilot mit einem freiwilligen Team über 6-8 Wochen durch. Typische Sorgen: Überwachung, Verlust von Fähigkeiten und Arbeitsplatzverlust; begegnen Sie ihnen mit transparenter Datennutzung, keiner verdeckten Bewertung, Servicekräften, die entscheiden und jeden Vorschlag ignorieren können, und einer Feedback-Taste, die die Inhalte sichtbar verbessert.

Leitfäden: GUIDE-004 (Betriebsrat), GUIDE-006 (KI-Kompetenz), GUIDE-008 (Veränderungsmanagement).

Risiken, Regulierung & Compliance

• KI-Verordnung (AI Act): Der Basis-Assistent (Wissen, Entwürfe, Zusammenfassungen) hat typischerweise minimales Risiko oder begrenztes Risiko; die Servicekraft ist das menschliche Gegenüber, daher gilt die Chatbot-Offenlegung nach Art. 50 gegenüber der Kundschaft bei reiner Unterstützung der Servicekräfte im Allgemeinen nicht, prüfen Sie aber, ob Text ungeprüft versendet wird. Art. 4 KI-Kompetenz gilt.
• Verbot nach Art. 5 Abs. 1 Buchst. f: Das Ableiten der Emotionen von Beschäftigten am Arbeitsplatz aus biometrischen Daten (Stimme, Gesicht) ist seit dem 2. Februar 2025 verboten, mit engen Ausnahmen aus medizinischen oder Sicherheitsgründen. Die Leitlinien der Kommission stellen klar, dass die Stimmanalyse der Emotionen von Kundschaft im Contact Center nicht erfasst ist, wenn nicht gleichzeitig die Emotionen der Servicekräfte verfolgt werden; textbasierte Stimmungsanalyse liegt außerhalb der Definition des Biometrischen [6][7]. Aktivieren Sie keine „Stress-/Emotions"-Werte für Servicekräfte, kein Tracking der Stimmung zum Wohlbefinden und kein Ranking von Servicekräften nach Tonfall. Stimmungs-Dashboards dürfen nur auf dem Kundenkanal konfiguriert werden; eine rechtliche Prüfung wird empfohlen, weil Funktionen der Anbieter oft beides vermischen.
• Grenze zum Hochrisiko: Fließen die Ausgaben in Entscheidungen über die Beurteilung von Servicekräften, die Aufgabenverteilung oder Kündigungen ein, kann Anhang III (Beschäftigung) greifen. Halten Sie die Unterstützung getrennt von automatisierter Leistungsbewertung.
• DSGVO: Aufzeichnung und Transkription von Anrufen sind Verarbeitung personenbezogener Daten; nötig sind eine Rechtsgrundlage, ein transparenter Hinweis zu Beginn des Anrufs, Aufbewahrungsfristen, rollenbasierter Zugriff, AVV und kein Training des Anbieters mit Ihren Daten. In Anrufen können besondere Kategorien von Daten (Gesundheit, Finanzen) vorkommen; schwärzen Sie personenbezogene Daten und Zahlungskartendaten (PCI DSS) vor der Speicherung oder vor LLM-Aufrufen. Nach dem deutschen BDSG und dem Mitbestimmungsrecht (Betriebsverfassungsgesetz § 87) braucht die Überwachung von Beschäftigten eine Betriebsvereinbarung; andere Mitgliedstaaten haben vergleichbare Mitbestimmungsregeln. Regeln zur Einwilligung bei Telefonaufzeichnungen (z. B. § 201 StGB) gelten.
• Gegenmaßnahmen: Quellen anzeigen, Bestätigung durch die Servicekraft, Schwärzung, Filter gegen Prompt Injection, Notausschalter, Prüfprotokolle, stichprobenartige Prüfung, Betriebsvereinbarung vor dem Start.

Erste Schritte

1. Messen Sie die Ausgangswerte (Bearbeitungszeit, Nachbearbeitung, Lösungsquote beim Erstkontakt, Einarbeitungszeit) und wählen Sie eine Warteschlange.
2. Bereinigen Sie die 100 wichtigsten Wissensartikel; weisen Sie Verantwortliche zu.
3. Beginnen Sie mit Zusammenfassungen der Nachbearbeitung und Wissensvorschlägen; keine Emotions- oder Bewertungsfunktionen für Servicekräfte.
4. Stimmen Sie die Einführung mit Betriebsrat und Datenschutzbeauftragten ab; aktualisieren Sie die Hinweise zur Aufzeichnung.
5. Führen Sie einen Pilot mit 20–50 Servicekräften über 8 Wochen gegen eine Kontrollgruppe durch.

Quellen

1. Brynjolfsson, Li, Raymond — Generative AI at Work, NBER Working Paper 31161 — https://www.nber.org/papers/w31161
2. AWS — Amazon Connect agentic assistance / Amazon Q in Connect docs — https://docs.aws.amazon.com/connect/latest/adminguide/agentic-assistance.html
3. Google Cloud — Customer Engagement Suite with Google AI — https://cloud.google.com/blog/products/ai-machine-learning/introducing-customer-engagement-suite-with-google-ai
4. Genesys — Experience orchestration on the AWS European Sovereign Cloud — https://www.genesys.com/company/newsroom/announcements/genesys-to-offer-experience-orchestration-services-on-aws-european-sovereign-cloud
5. Cognigy — Cognigy.AI 2025.17 release (EU-hosted speech) — https://www.cognigy.com/product-updates/2025.17
6. European Commission — Guidelines on prohibited AI practices (AI Act) — https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act
7. Bundesnetzagentur — Prohibited practices under the AI Act — https://www.bundesnetzagentur.de/EN/Areas/Digitalisation/AI/08_ProhibitedPractices/start.html
8. Regulation (EU) 2024/1689 (AI Act) — https://eur-lex.europa.eu/eli/reg/2024/1689/oj