Bürgerinnen und Bürger finden zwischen tausenden Verwaltungsseiten nur mühsam das richtige Amt, Formular oder die richtige Frist, und Callcenter und Bürgerbüros sind mit Routinefragen überlastet. Ein auf Retrieval gestützter Assistent antwortet rund um die Uhr in der Sprache der Bürgerin oder des Bürgers, nennt die amtliche Quelle, verlinkt den Online-Dienst und übergibt bei allem Individuellen an das Personal. Die entscheidende Entwurfsregel: Er informiert und führt, er entscheidet keine Fälle.
Problem & Nutzen
- Heute: Informationen sind auf Websites, PDFs und Serviceportale verteilt, die in Verwaltungssprache verfasst sind. Bürgerinnen und Bürger rufen an oder kommen vorbei, um einfache Fragen zu klären (Öffnungszeiten, benötigte Unterlagen, Gebühren, zuständige Stelle), und das Personal beantwortet immer wieder dieselben Fragen. Suchfelder auf Behördenseiten schneiden bei Fragen in natürlicher Sprache schlecht ab.
- Nutzen der KI: Zugang zum Leistungskatalog in natürlicher Sprache, Antworten in vielen Sprachen und in verständlicher Sprache, Verfügbarkeit außerhalb der Öffnungszeiten, Entlastung der Servicecenter und Auswertungen dazu, was Bürgerinnen und Bürger tatsächlich fragen (Inhaltslücken, unklare Formulare).
- Berichtete Evidenz: Die Pilotprojekte von GOV.UK Chat im Vereinigten Königreich (mehr als 10.000 Teilnehmende, rund 26.000 Fragen) berichten, dass die Genauigkeit gegenüber veröffentlichten Leitlinien von 76 % auf 90 % stieg, wobei Teilantworten der wichtigste verbleibende Fehler sind; 73 % der befragten App-Nutzenden fanden ihn nützlich und 64 % waren zufrieden [1][2]. Deutsche Kommunen berichten von Einführungen wie im Kreis Barnim (März 2026, 100 Sprachen und Leichte Sprache, die Einzelfallprüfung ausdrücklich dem Personal überlassen) und von gemeinsamen kommunalen Diensten im Saarland; dies sind überwiegend Presse- oder Herstellerangaben, unabhängige Studien zu den Ergebnissen sind nicht bekannt [3][4].
- Politischer Treiber: Das Single Digital Gateway der EU und nationale Digitalisierungsgesetze (z. B. das deutsche OZG) verlangen auffindbare, verständliche Online-Verwaltungsleistungen; eine dialogorientierte Eingangstür ergänzt sie [5].
Varianten
- Assistent auf der kommunalen Website (Leistungen, Abfall, Meldewesen, Veranstaltungen) - am häufigsten.
- Behördenspezifischer Assistent (Steuer, Sozialversicherung, Arbeit, Migration) - tiefere Verfahren, näher an Falldaten, höheres Risiko.
- Sprach-Frontend für Anrufe außerhalb der Öffnungszeiten (CONV-002); der Märkische Kreis berichtete von einem solchen [6].
- Interner Assistent für Sachbearbeitende auf derselben Wissensbasis (KNOW-002) - geringeres Risiko, oft der bessere erste Schritt.
- Private Nutzung: nicht anwendbar; allgemeine Assistenten sind für lokale Regeln nicht maßgeblich.
So funktioniert es
- Frage einer Bürgerin oder eines Bürgers (Web/App/Sprache)
- KI-Offenlegung + Spracherkennung + Eingabe-Leitplanken (Maskierung personenbezogener Daten, Prompt-Injection, Themenfremdes)
- Absichtserkennung und Weiterleitung (Information | Termin | Bearbeitungsstand | Beschwerde | Notfall/Krise | Mensch)
- Retrieval über kuratiertes Verwaltungswissen (hybride Suche + Reranker, Geltungsbereich je Kommune)
- Antwortgenerierung mit Quellenangaben, Stand-Datum, festgelegter Ablehnung, wenn keine Quelle gefunden wird
- Ausgabeprüfungen (Quellenbindung, keine Rechtsberatung zu Einzelfällen, Ton, Sprachniveau)
- Aktion: Direktlink / Termin-API / Übergabe an das Personal mit Zusammenfassung
- Protokollierung, Rückmeldung, Bericht zu Inhaltslücken an die Redaktion
- Wissensbasis: Die Qualität der Antworten hängt von gepflegten, maßgeblichen Quellen ab: Einträge im Leistungskatalog, amtliche Webseiten, Gebührenordnungen. Inhalte sind versioniert, mit einer benannten verantwortlichen Person je Thema und einem Ablaufdatum. Textabschnitte (Chunks) tragen Metadaten (Behörde, Geltungsbereich, letzte Prüfung).
- Retrieval-zuerst-Entwurf: Das Modell darf nur aus abgerufenen Textstellen antworten; alles andere wird mit einem Verweis auf die zuständige Stelle abgelehnt. Mandantenfähige Aufbauten begrenzen das Retrieval je Kommune, damit Antworten nicht über Zuständigkeitsgrenzen hinweg durchsickern.
- Werkzeugnutzung: standardmäßig nur lesende Aktionen (Terminfenster, Standorte der Ämter, Öffnungszeiten). Schreibende Aktionen (Buchen, Formular absenden) brauchen eine ausdrückliche Bestätigung der Nutzenden. Abfragen des Bearbeitungsstands erfordern starke Authentifizierung (eID oder BundID/Servicekonto) und sind der Punkt, an dem DSGVO-Anforderungen und Risiko stark zunehmen.
- Mensch-in-der-Schleife (Human-in-the-Loop): jederzeit sichtbarer Ausweg zu einem Menschen; Eskalation bei geringer Retrieval-Sicherheit, negativer Rückmeldung, Hinweisen auf schutzbedürftige Nutzende oder Themen auf einer Sperrliste (Asylentscheidungen, Leistungsablehnungen, Rechtsbehelfe); die Redaktion prüft die Protokolle unbeantworteter Fragen wöchentlich.
Datenaufbereitung
Der Chatbot ist nur so gut wie die Inhalte dahinter: Leistungsbeschreibungen, Formulare, Gebührenordnungen, Öffnungszeiten, örtliche Satzungen und FAQs. In einer Behörde liegen diese im CMS oder Portal, im Leistungskatalog (z. B. LeiKa), in Intranet- und Wiki-Seiten, in PDFs auf Dateiablagen und in den Köpfen der Sachbearbeitenden. Typische Lücken: veraltete oder widersprüchliche Seiten, gescannte PDFs, Behördensprache, doppelte Inhalte in verschiedenen Fachbereichen, keine verantwortliche Person je Seite und fehlende Fassungen in einfacher Sprache.
Aufbereitungsschritte: (1) Inhaltsquellen erfassen und je Thema eine verantwortliche Person benennen (PREP-004, GUIDE-003); (2) eine maßgebliche Wissensbasis kuratieren und Dubletten entfernen (PREP-013); (3) Dokumente umstrukturieren und verschlagworten (PREP-009, PREP-010); (4) wichtige Seiten in verständlicher Sprache neu schreiben (PREP-014) und eine Synonymliste für das Vokabular der Bürgerinnen und Bürger anlegen (PREP-015); (5) echte Bürgerfragen zu einem Testsatz sammeln (PREP-018); (6) einen Prüfzyklus und eine Rückmeldeschleife festlegen (PREP-017, PREP-021). Gescannte PDFs per OCR erfassen (PREP-006, DOC-014). Werkzeuge: CMS-Exporte, Paperless-ngx oder OCR-Pipelines, Qdrant oder pgvector für die Indexierung. Die Datenarbeit ist der größte Anteil, oft 50 % oder mehr, und die Inhaltspflege geht nach dem Start weiter.
Umsetzungswege
Welcher Weg für wen
- Öffentlicher Sektor: Weg B in einer souveränen EU- oder deutschen Cloud (oder über ein regionales IT-Dienstleistungszentrum), weil Vergaberecht und Souveränität kontrolliertes Hosting begünstigen und Antworten auf den eigenen geprüften Inhalten der Behörde beruhen müssen; Weg A (Kaufen) nur mit zertifizierten, in der EU gehosteten Produkten.
- Unternehmen: Weg A, weil kommunale Versorger und ähnliche Unternehmen eine Standardfunktion im Kundenservice nutzen, die ausgereifte EU-Anbieter abdecken.
- Entwicklung: Weg C, weil Integratoren, die viele Behörden bedienen, eine Open-Source-Plattform über alle Kunden hinweg teilen können (Baukasten-Effekt).
Weg A — Kaufen (Standardsoftware)
- Anbieter für den öffentlichen Sektor in DACH/EU: z. B. Bürger-Chat, frag.kim, convaise, entrecode sowie Portal-/CMS-Anbieter; regionale IT-Dienstleistungszentren wie eGo-Saar beschaffen gemeinsam. Ferner Parloa und Cognigy (deutsch, Sprache und Chat), Rasa (On-Premises-Option), Microsoft Copilot Studio für Behörden mit Microsoft-Standard.
- Prüfen: Hosting in der EU, kein Training mit Eingaben von Bürgerinnen und Bürgern, Quellenangaben, einfache Sprache, Barrierefreiheit (BITV/EN 301 549), Ausstiegsklauseln; nutzen Sie Muster-Leistungsverzeichnisse [7].
Weg B — Auf Cloud-KI-Diensten aufbauen
- Modelle: Mistral (EU-Anbieter), andere in der EU gehostete Angebote oder Frontier-APIs (Claude, Gemini, GPT) in EU-Regionen mit akzeptablen Verträgen.
- Retrieval: Azure AI Search/OpenSearch/Elastic oder Qdrant (EU); mehrsprachige Embeddings (BGE-M3, multilingual-e5) plus Reranker. Orchestrierung mit LangGraph oder Haystack (deepset, EU); Leitplanken über NeMo Guardrails und Presidio; Evaluation mit einem Referenzsatz (Golden Set).
Weg C — Selbst betreiben (Open Source)
- Modelle: Mistral Small, Qwen3, Llama, Gemma über vLLM/Ollama; Qdrant oder pgvector; Open WebUI; Whisper und Piper für Sprache.
- Hardware: HW3 für 30-70B-Modelle mit vielen Nutzenden; HW2 genügt für kleine Kommunen. Realistisch ist ein regionales IT-Dienstleistungszentrum, das einen Cluster gemeinsam nutzt.
Weg D — Eigenes Training
Selten gerechtfertigt. Einen Intent-Klassifikator oder ein Embedding-Modell erst feintunen, wenn Tausende anonymisierter Bürgerfragen vorliegen; Retrieval-Qualität und Inhaltspflege sind wichtiger.
Stand der Technik (2026)
- RAG mit Quellenangaben und Ablehnungen ist Standard. GOV.UK berichtet 90 % Genauigkeit und 508 von 508 abgewehrten Jailbreak-Versuchen, aber auch eine durchschnittliche Latenz von etwa 10,7 s und anhaltende Teilantworten [1][2].
- Mehrsprachige Ausgabe und Ausgabe in einfacher Sprache ist machbar, aber kleinere Sprachen und Leichte Sprache müssen mit Muttersprachlerinnen und Muttersprachlern getestet werden.
- Agentische Funktionen (Buchung, Vorausfüllen von Formularen, Statusabfragen) entstehen hinter Authentifizierungs- und Bestätigungsschritten; Sprachagenten funktionieren außerhalb der Öffnungszeiten, erkennen aber Namen und Adressen falsch.
- Fehlerbilder: veraltete oder widersprüchliche Seiten führen zu selbstsicheren falschen Antworten; ausgelassene Ausnahmen oder Fristen; Verwechslung benachbarter Kommunen; übermäßiges Vertrauen; Prompt-Injection über indexierte Inhalte.
Gemeinsame Bausteine & Kombinationen
- Gleicher Stack wie CONV-001 (Kundenservice-Chatbot), KNOW-002 (RAG über Dokumente) und KNOW-011 (Pflege der Wissensbasis): eine Retrieval-Plattform, eine Leitplanken-Schicht, ein Evaluationsrahmen.
- Lässt sich kombinieren mit: CONV-003 (Terminbuchung), CONV-002 (Sprach-Frontend), LANG-009 und SPEECH-003 (Übersetzung und Dolmetschen), LANG-010 (verständliche Sprache), DOC-016 (dokumentenbasierte Regelprüfungen, z. B. Baugenehmigungen) zur Unterstützung im Backoffice.
- Abgrenzung: Die Prüfung von Anspruchsberechtigung oder Betrugsrisiko bei Leistungen gehört nicht zu diesem Anwendungsfall; siehe ANOM-019 und die dortigen Schutzmaßnahmen für Hochrisiko. Die Bearbeitung von Notrufen ist CONV-021.
Aufwand, Kosten & Kennzahlen
- Aufwand: A Wochen bis Monate; B 3-6 Monate; C 4-9 Monate. Größter Kostentreiber ist die Pflege der Wissensbasis, danach die Portalintegration und die Evaluation.
- Kennzahlen: von Fachleuten bewertete Genauigkeit auf einem Referenzsatz (Golden Set), Lösung ohne menschlichen Kontakt, Eskalationsquote, Quote unbeantworteter Fragen, Zufriedenheit, Anruf-/Schaltervolumen bei den abgedeckten Themen, Gültigkeit der Quellenangaben, Zeit bis zur Behebung von Inhaltslücken.
Menschen & Veränderung
Beziehen Sie für die Entscheidung die Bürgermeisterin oder den Bürgermeister bzw. die Verwaltungsleitung ein, dann die Amtsleitungen, deren Leistungen der Bot beantwortet, die IT und Informationssicherheit für Hosting und den BSI-Grundschutz sowie die oder den Datenschutzbeauftragte(n). Sachbearbeitende sind der Schlüssel: Sie liefern und genehmigen Inhalte und erhalten eskalierte Fälle. Betriebsrat: abhängig. Der Chatbot selbst dient Bürgerinnen und Bürgern, doch Nutzungsprotokolle, Eskalationsstatistiken oder Bearbeitungszeit-Kennzahlen können zur Überwachung des Personals geeignet sein, was den Personalrat nach BPersVG oder Landesrecht einbindet; das Pendant in der Privatwirtschaft ist §87 Abs. 1 Nr. 6 BetrVG, dazu Unterrichtungspflichten nach §90 Abs. 1 Nr. 3 und eine KI-Sachverständige oder ein KI-Sachverständiger nach §80 Abs. 3. Vereinbaren Sie vorab, dass Daten nicht zur individuellen Leistungsbeurteilung genutzt werden.
Datenschutz: Eingaben von Bürgerinnen und Bürgern können personenbezogene Daten enthalten, daher ist eine DSFA (Art. 35 DSGVO) ratsam, mit einem AVV (Art. 28 DSGVO) für jeden Auftragsverarbeiter und ohne Training mit Eingaben. Die Transparenz nach Art. 50 der KI-Verordnung gilt seit dem 2. August 2026, kennzeichnen Sie den Bot daher deutlich. KI-Kompetenz: Ergreifen Sie nach Art. 4 Maßnahmen zur Förderung der KI-Kompetenz des Personals, besonders für Redaktion und Sachbearbeitende. Starten Sie einen Pilot mit zwei oder drei stark nachgefragten Leistungen, bieten Sie stets einen menschlichen Kontakt an und begegnen Sie Sorgen um den Arbeitsplatz, indem Sie die Entlastung von wiederkehrenden Fragen betonen. Siehe GUIDE-008, GUIDE-004 und GUIDE-010.
Risiken, Regulierung & Compliance
- KI-Verordnung (AI Act): typischerweise begrenztes Risiko. Art. 50 verlangt, Menschen mitzuteilen, dass sie mit KI interagieren; er gilt seit dem 2. August 2026 und wurde vom Digital Omnibus nicht verschoben (verschoben wurden vor allem Hochrisiko-Pflichten, Anhang III auf den 2. Dezember 2027) [8][9]; gleichen Sie dies mit dem Amtsblatt ab. Hochrisiko, wenn der Bot zur Prüfung des Anspruchs auf wesentliche öffentliche Leistungen oder für Migrations-/Asylentscheidungen eingesetzt wird (Anhang III) - halten Sie den Bot auf der Informationsseite. Art. 5: kein Social Scoring und keine Manipulation schutzbedürftiger Personen. KI-Kompetenz (Art. 4) gilt für das Personal.
- DSGVO: Rechtsgrundlage in der Regel Art. 6 Abs. 1 Buchst. e; DSFA, wo Authentifizierung oder Falldaten im Spiel sind; personenbezogene Daten maskieren, Aufbewahrung begrenzen, Auftragsverarbeitungsverträge, kein Training mit Eingaben von Bürgerinnen und Bürgern. Art. 22 begrenzt automatisierte Entscheidungen.
- Verwaltungsrecht und Barrierefreiheit: Antworten sind unverbindliche Informationen mit Stand-Datum der Quelle; das Widget muss EN 301 549/BITV erfüllen, und ein Kanal ohne KI bleibt verfügbar.
- Gegenmaßnahmen: ausschließlich auf Retrieval beruhende Antworten mit Ablehnung, Regressionstests am Referenzsatz (Golden Set) bei jeder Inhaltsfreigabe, Leitplanken, kein Schreibzugriff ohne Authentifizierung.
Erste Schritte
- Wählen Sie 20-50 stark nachgefragte Themen aus Anruf- und Suchprotokollen; benennen Sie Inhaltsverantwortliche und bereinigen Sie die Seiten.
- Schreiben Sie, bevor Sie ein Werkzeug auswählen, einen Referenzsatz (Golden Set) aus 200+ echten Fragen mit freigegebenen Antworten.
- Starten Sie den Pilot über Weg A oder eine gemeinsame Plattform mit Quellenangaben, Ablehnungen, KI-Offenlegung und Übergabe an Menschen.
- Testen Sie mit Personal und Bürgerinnen und Bürgern (einfache Sprache, nicht deutschsprachige Nutzende); schließen Sie DSFA und Barrierefreiheitsprüfung ab.
- Gehen Sie mit wöchentlicher Prüfung unbeantworteter Fragen live; ergänzen Sie Termine, sobald die Genauigkeit stabil ist.
Quellen
- GOV.UK Chat completes public pilot - https://www.ukauthority.com/articles/gov-uk-ai-chat-completes-public-pilot
- Civil Service World, GOV.UK AI chatbot achieves 90% accuracy - https://www.civilserviceworld.com/professions/article/govuk-ai-chatbot-achieves-90-accuracy
- Behörden Spiegel, KI-Chatbot für saarländische Kommunen (2025-11-03) - https://www.behoerden-spiegel.de/2025/11/03/ki-chatbot-fuer-saarlaendische-kommunen/
- Kommune21, Chatbot hilft durch Verwaltungsdschungel - https://www.kommune21.de/k21-meldungen/chatbot-hilft-durch-verwaltungsdschungel/
- European Commission, Single Digital Gateway - https://single-market-economy.ec.europa.eu/single-market/single-digital-gateway_en
- Meerbusch, "Meerlin" KI-Chatbot im Bürgerservice - https://meerbusch.de/aktuelles/nachrichten/details/meerlin-neuer-ki-chatbot-verbessert-den-buergerservice-der-stadtverwaltung
- Muster-LV KI-Assistent für den Bürgerservice (vendor-neutral sample tender, IT-Leistungsverzeichnisse) - https://it-leistungsverzeichnisse.de/produkte/muster-leistungsverzeichnisse/lv-ki-assistent-buergerservice
- Jones Walker, EU approved a high-risk AI delay, but most transparency obligations remain - https://www.joneswalker.com/en/insights/blogs/ai-law-blog/yes-august-2-still-matters-the-eu-approved-a-high-risk-ai-delay-but-most-trans.html
- Regulation (EU) 2024/1689 (AI Act), Art. 5, 50, Annex III - https://eur-lex.europa.eu/eli/reg/2024/1689/oj