Einleitung und Abgrenzung
Chat-, Sprach- und Avatar-Assistenten, die mit Menschen sprechen und, wo erlaubt, über Schnittstellen zu Verwaltungssystemen (Back-Office-APIs) Aktionen ausführen. Vier Muster: - CONV.SERVICE: textbasierte Assistenten, die aus einer Wissensbasis antworten und einfache Transaktionen erledigen (Kunden, Beschäftigte, Bürger, Patienten, Bewerber, In-App). - CONV.VOICE: Telefon- und eingebettete Sprachagenten (eingehend, ausgehend, Drive-thru, im Fahrzeug, Interview, Notruf). - CONV.SALES: Assistenten für Vorverkauf und Einkauf. - CONV.COMPANION: persönliche, Wohlbefinden-, soziale, Kinder- und Gedenk-Begleiter.
Abgrenzungen: - CONV-001 ist die allgemeine Grundlage; CONV-011, -012, -013, -004 und -026 sind fachliche oder kanalbezogene Spezialisierungen, die darauf aufbauen. - CONV-002 (eingehend), CONV-008 (ausgehend) und CONV-003 (nur Terminbuchung) teilen sich den Sprach-Stack; CONV-007 unterstützt einen Menschen, statt ihn zu ersetzen. - CONV-017 kommuniziert nur mit Bewerbern; CONV-019 bewertet sie (hohes Risiko, Anhang III Beschäftigung); CONV-020 ist Recherche, keine Auswahl. - CONV-009 ist Selbsthilfe; CONV-010 ist klinische Erstaufnahme (Folgen für Medizinprodukte und hohes Risiko). - CONV-018 ist nur das Avatar-Frontend über einem Kern aus CONV-001/-002. - CONV-015 ist ein persönlicher Assistent (delegierter Zugriff); CONV-026 ist ein vom Anbieter eingebetteter Copilot. - Die Wissenssuche selbst gehört zu KNOW; Sprachkomponenten zu SPEECH; Agenten zu AGENT. - KI-Verordnung (AI Act): Die Offenlegung nach Art. 50 gilt für alle (Nutzer müssen wissen, dass sie mit einer KI sprechen); hohes Risiko besteht, wo das Ergebnis den Zugang zu wesentlichen Diensten, Beschäftigung oder die Notrufdisposition steuert. Emotionen oder die Schutzbedürftigkeit Minderjähriger (CONV-009, -016, -023, -024) erfordern zusätzliche Schutzmaßnahmen.
Übersicht
| ID | Titel | Muster | Reifegrad | Weg | HW-Stufe | KI-VO-Risiko |
|---|---|---|---|---|---|---|
| CONV-001 | Kundenservice-Chatbot (Website, Messaging, FAQ) | CONV.SERVICE | mainstream | A | HW3 | limited |
| CONV-002 | KI-Telefonagent / Voicebot für eingehende Anrufe | CONV.VOICE | early-adopter | A | HW3 | limited |
| CONV-003 | Assistent für Terminbuchungen (Praxen, Salons, Werkstätten) | CONV.SERVICE | mainstream | A | HW2 | limited |
| CONV-004 | Interner IT-Helpdesk-Assistent | CONV.SERVICE | mainstream | A | HW3 | limited |
| CONV-005 | Vertriebsassistent und Chatbot zur Lead-Qualifizierung | CONV.SALES | mainstream | A | HW2 | limited |
| CONV-006 | Conversational Commerce und Einkaufsassistent | CONV.SALES | early-adopter | A | HW2 | limited |
| CONV-007 | Echtzeit-Unterstützung für Mitarbeitende in Contact Centern | CONV.SERVICE | mainstream | A | HW3 | depends |
| CONV-008 | Ausgehender Sprachagent (Erinnerungen, Befragungen, Inkasso) | CONV.VOICE | early-adopter | A | HW3 | limited |
| CONV-009 | Begleiter für psychische Gesundheit und Wohlbefinden | CONV.COMPANION | early-adopter | A | HW3 | depends |
| CONV-010 | Assistent für Patientenaufnahme und Symptom-Triage | CONV.SERVICE | early-adopter | A | HW3 | high |
| CONV-011 | Chatbot für Bürgerservices (öffentliche Verwaltung) | CONV.SERVICE | early-adopter | A | HW3 | limited |
| CONV-012 | Concierge für Reisen und Gastgewerbe | CONV.SERVICE | mainstream | A | HW2 | limited |
| CONV-013 | Kundenassistent für Banken und Versicherungen (transaktional) | CONV.SERVICE | early-adopter | A | HW3 | limited |
| CONV-014 | Sprachassistent im Fahrzeug und in eingebetteten Geräten | CONV.VOICE | early-adopter | A | HW1 | limited |
| CONV-015 | Persönlicher KI-Assistent (E-Mail, Kalender, Aufgaben) | CONV.COMPANION | early-adopter | A | HW3 | limited |
| CONV-016 | Begleitende und unterstützende Gespräche für ältere Menschen | CONV.COMPANION | early-adopter | A | HW2 | limited |
| CONV-017 | Recruiting-Chatbot und Kommunikation mit Bewerbern | CONV.SERVICE | mainstream | A | HW2 | depends |
| CONV-018 | Digitaler Mensch / Avatar für die Kundeninteraktion | CONV.SERVICE | early-adopter | A | HW3 | limited |
| CONV-019 | KI-geführte Vorauswahl-Interviews und Bewerberbewertung | CONV.VOICE | early-adopter | A | HW3 | high |
| CONV-020 | KI-moderierte Interviews für Kunden- und Nutzerforschung | CONV.SERVICE | early-adopter | A | HW3 | limited |
| CONV-021 | Assistent zur Triage von Notrufen und Nicht-Notrufen (112, Polizei, Leitstellen) | CONV.VOICE | early-adopter | A | HW3 | high |
| CONV-023 | Sozialer Begleiter und Figuren-Chat (Unterhaltung, Rollenspiel) | CONV.COMPANION | mainstream | B | HW3 | limited |
| CONV-024 | Sprechende KI-Spielzeuge und Sprachbegleiter für Kinder | CONV.COMPANION | emerging | B | HW1 | depends |
| CONV-025 | Sprachbestellung im Drive-thru und Restaurant | CONV.VOICE | early-adopter | A | HW1 | limited |
| CONV-026 | KI-Copilot im Produkt (eingebetteter Assistent in SaaS und Apps) | CONV.SERVICE | early-adopter | B | HW3 | limited |
| CONV-027 | Visuelle Unterstützung per Live-Kamera und Fernanleitung (Smartphone, Datenbrille) | CONV.SERVICE | early-adopter | A | HW3 | limited |
| CONV-028 | Digitales Vermächtnis und Gedenk-Avatare (Griefbots, interaktive Zeitzeugnisse) | CONV.COMPANION | early-adopter | A | HW2 | limited |
Gemeinsame Basis
Gemeinsame Bausteine: LLM-Gateway mit Schutzmechanismen und Protokollierung, Embedding-Modell + Reranker + Vektordatenbank (gemeinsamer RAG-Index mit KNOW), Spracherkennung (ASR) und Sprachsynthese (TTS) für Sprache, Workflow-/Agentenschicht mit Tool-Schnittstellen (CRM, Kalender, Ticketsystem, Kasse), Warteschlange für die Übergabe an Menschen sowie eine Schicht für KI-Offenlegung und Einwilligung/Aufbewahrung.
HW1 (Edge, Geräteklasse) für CONV-014, -024, -025 (und Offline-Teile von -016): - Kleines LLM mit 1–4 Mrd. Parametern (Klasse Qwen/Gemma/Phi, INT4) über llama.cpp oder ONNX/TensorRT auf SoC oder NPU der Jetson-Klasse. - Streaming-ASR (whisper.cpp / kleines Whisper oder Parakeet), leichtgewichtige neuronale Sprachsynthese (Piper/Kokoro), Wake-Word und Sprachaktivitätserkennung (VAD) auf dem Gerät. - Cloud-Rückfall für schwierige Anfragen; lokaler Intent-Klassifikator; standardmäßig verlässt keine Rohaudio das Gerät.
HW2 (einzelne GPU / kleiner Server, 16–24 GB VRAM) für CONV-003, -005, -006, -012, -016, -017, -028: - vLLM oder Ollama mit einem Instruct-Modell mit 7–14 Mrd. Parametern (INT4/FP8) plus einem kleinen Modell für die Klassifikation. - Embeddings bge-m3 / multilingual-e5, bge-reranker, Qdrant oder pgvector, Postgres. - Whisper-large-v3-turbo oder faster-whisper sowie Piper/XTTS für Sprache; n8n oder Temporal für Workflows; Langfuse für Tracing. - Teilt sich den RAG-Index und das Gateway mit KNOW-002 sowie die ASR-/TTS-Dienste mit den SPEECH-Anwendungsfällen.
HW3 (Multi-GPU-Server / private EU-Cloud, 2–8 x 40–80 GB) für CONV-001, -002, -004, -007, -008, -009, -010, -011, -013, -015, -018, -019, -020, -021, -023, -026, -027: - vLLM-/SGLang-Cluster mit einem Modell mit 30–120 Mrd. Parametern (Klasse Mistral, Llama, Qwen, gpt-oss) plus Reasoning-Modell für Bewertung/Triage (CONV-010, -019, -021). - Eigene Streaming-ASR mit Sprechertrennung (CONV-007, -021), latenzarme Sprachsynthese oder Speech-to-Speech-Modell, SIP/WebRTC-Gateway (LiveKit, Asterisk/FreeSWITCH) für Telefonie. - VLM-Endpunkt für CONV-027, Avatar-Renderer (GPU) für CONV-018/-028. - Qdrant-/Weaviate-Cluster mit Reranker, Keycloak-SSO, Policy-Engine/Guardrail-Dienst, Audit-Protokoll; Hosting in der EU, AVV und kein Training mit Kundendaten.
Weg A vs. B: Weg A (verwaltete APIs in EU-Regionen hinter dem gemeinsamen Gateway) ist der Standard; Weg B (selbst betrieben) wird für CONV-023, -024 und -026 verfolgt, wo Datenkontrolle, Kosten oder Latenz es verlangen. Alle Stufen sollten ein einziges OpenAI-kompatibles Gateway bereitstellen, damit Anwendungsfälle Modelle ohne Codeänderung wechseln können.