Assistent für klinische Leitlinien und medizinisches Wissen

Klinische Leitlinien umfassen Hunderte von Seiten, ändern sich regelmäßig und sind über Verlage, Fachgesellschaften und Krankenhaus-Intranets verstreut. Ein Retrieval-Augmented-Assistent (RAG) indexiert sie, ruft die relevante Empfehlung ab und antwortet mit einer Quellenangabe, sodass eine Ärztin oder ein Arzt sie in Sekunden prüfen kann. Die entscheidende Gestaltungsfrage ist regulatorisch: Ein Assistent, der Wissen für Fachpersonal abruft und zusammenfasst, ist in der Regel kein Medizinprodukt; einer, der patientenspezifische Diagnosen oder Behandlungsvorschläge ausgibt, kann es sein.

Problem & Nutzen

• Heute: Kliniker schlagen Leitlinien in PDFs von AWMF/NICE/Fachgesellschaften nach, nutzen abonnementbasierte Werkzeuge im Stil von UpToDate oder verlassen sich auf das Gedächtnis von Kollegen. SOPs und Antibiotika-Leitlinien des Krankenhauses liegen in getrennten Intranets. Leitlinien unterscheiden sich je Land und werden zu unterschiedlichen Zeiten aktualisiert, sodass veraltete Versionen im Umlauf sind.
• KI-Nutzen: ein Einstieg in natürlicher Sprache über Leitlinien, Arzneimittelinformationen und lokale SOPs, mit Quellenangaben und Versionsdaten; schnelleres Nachschlagen; konsistente Anwendung lokaler Behandlungspfade; Unterstützung für Leitlinienautoren und Mitarbeitende im Qualitätsmanagement (alle von einer Änderung betroffenen Passagen finden).
• Evidenzlage: Retrieval hilft bei medizinischer Fragebeantwortung nachweislich. Die MedRAG-Studie (MIRAGE-Benchmark, 7.663 Fragen) berichtet Genauigkeitsgewinne von bis zu 18 % gegenüber Chain-of-Thought-Prompting bei sechs Sprachmodellen und dass Retrieval kleineren Modellen ermöglicht, sich Ergebnissen auf GPT-4-Niveau anzunähern [1]. Die Qualität bei offenen Fragen ist schwerer zu messen: HealthBench von OpenAI nutzt 5.000 mehrstufige Gespräche, die mit Bewertungsrastern von 262 Ärztinnen und Ärzten benotet werden [2]. Benchmark-Werte sind kein Beleg für einen Nutzen für Patienten; prospektive klinische Studien bleiben selten.

Varianten

• Leitlinien-Fragen und -Antworten für Krankenhäuser: Leitlinien + lokale SOPs, Antibiotic Stewardship, Behandlungspfade.
• Arzneimittelinformations-Assistent: SmPC/Fachinformation, Wechselwirkungen, Dosierung bei Niereninsuffizienz (Apotheke).
• Assistent für Hausarztpraxen: DEGAM- und nationale Versorgungsleitlinien für Hausärzte.
• Unterstützung bei Leitlinienentwicklung und Qualität: Empfehlungen verschiedener Leitlinien vergleichen, Widersprüche finden.
• Medizinische Ausbildung: Prüfungsnahes Tutoring anhand von Lehrbüchern und Leitlinien.
• Patientenorientierte Information (private Nutzung): verständliche Erklärung einer Diagnose oder Patientenleitlinie, ausschließlich Information, keine persönliche Diagnose. Symptomchecker für Verbraucher sind eine eigene, meist regulierte Kategorie.
• Hier nicht behandelt: ambiente klinische Dokumentation (siehe Familien SPEECH-/DOC-) und KI in der Bildgebung.

So funktioniert es

1. Leitlinienquellen (AWMF, NICE, ESC, SmPC, lokale SOPs)
2. Lizenzprüfung + versionierte Aufnahme (Dokument-Parsing, Chunking nach Abschnitt/Empfehlung)
3. Metadaten (Leitlinien-ID, Version, Datum, Empfehlungsgrad, Population, Fachgebiet)
4. hybrider Index (BM25 + Embeddings)
5. Reranker
6. Frage
7. Umformulierung der Anfrage (Abkürzungen, ICD-10/ATC, Deutsch/Englisch)
8. Retrieval mit Metadatenfiltern (nur gültige Version)
9. LLM-Antwort mit verpflichtenden Quellenangaben
10. Leitplanken (Scope-Prüfung, keine patientenspezifischen Anordnungen, Prüfung auf Widersprüche/veraltete Quellen)
11. Klinikerin bzw. Kliniker prüft im Quellenviewer
12. Feedback + Audit-Log

• Das Chunking ist entscheidend: Empfehlungen, Evidenzgrade und Tabellen müssen zusammen mit ihrem Empfehlungsgrad bleiben (z. B. „starke Empfehlung“, Evidenzlevel). Reines Seiten-Chunking verliert sie.
• Quellenangabe durch Konstruktion: Die Antwort wird aus abgerufenen Passagen zusammengesetzt; Sätze ohne stützende Passage werden entfernt oder markiert. Verweigern Sie die Antwort, wenn Evidenz fehlt oder Leitlinien sich widersprechen.
• Mensch-in-der-Schleife (Human-in-the-Loop): Die Klinikerin bzw. der Kliniker bleibt Entscheidungsträger und prüft die zitierte Quelle. Inhaltsverantwortliche (Leitlinienbeauftragte) genehmigen, was in den Index gelangt, und kümmern sich um Lizenzbedingungen.

Datenaufbereitung

Benötigte Quellen sind klinische Leitlinien (AWMF, Fachgesellschaften, internationale Gremien), Arzneimittelinformationen sowie interne SOPs und Behandlungspfade. Sie liegen in Leitlinienportalen, Krankenhaus-Intranets, dem DMS, auf Dateiservern, in PDF-Ordnern und, bei älteren SOPs, auf Papier. Typische Lücken: Leitlinien in vielen Versionen und Gültigkeitsstufen, gescannte SOPs, Tabellen und Flussdiagramme, die Parser falsch lesen, widersprüchliche lokale und nationale Empfehlungen sowie unklare Zuständigkeit dafür, wer Inhalte freigibt. Patientendaten gehören nicht in den Bestand.

Schritte der Aufbereitung: (1) eine verbindliche Quellenliste mit benannten Inhaltsverantwortlichen festlegen ([PREP-013], [PREP-004]); (2) Urheberrecht und Lizenzbedingungen jeder Leitlinie prüfen; (3) per OCR erfassen und parsen, mit Behandlung von Tabellen und Flussdiagrammen ([PREP-006], [DOC-014], [DOC-018]); (4) Leitlinie, Version, Fachgebiet, Gültigkeit und Evidenzlevel verschlagworten ([PREP-010]); (5) einen Prüfzyklus einrichten, damit überholte Leitlinien außer Kraft gesetzt werden ([PREP-017]); (6) mit Ärzten und Apothekern ein Evaluierungsset aus echten klinischen Fragen aufbauen ([PREP-018]). Werkzeuge: Docling oder Unstructured, Paperless-ngx. Die Aufbereitung macht grob 40 bis 50 Prozent des Aufwands aus, weil Korrektheit kritisch ist. Siehe [GUIDE-003].

Umsetzungswege

Welcher Weg für wen

• Großunternehmen (B): Krankenhäuser und Klinikverbünde brauchen die Integration mit eigenen SOPs und klinischen Systemen; ein Aufbau auf Cloud-APIs mit EU-Regionen gibt Kontrolle bei überschaubaren Kosten.
• Entwickler (B): Cloud-APIs mit einem kuratierten Leitlinienbestand und starken Prüfungen der Quellenangaben sind der schnellste Weg zu einem robusten Produkt.
• Öffentlicher Sektor (C): Öffentliche Krankenhäuser und Gesundheitsbehörden brauchen souveränes Hosting und offene Komponenten; eine größere GPU-Stufe (HW3) ist für sie realistisch.
• KMU (A): Praxen und kleine Apotheken haben nicht die Kapazität, ein klinisches System zu betreiben; ein zertifiziertes, in der EU gehostetes Produkt mit gepflegten Leitlinieninhalten ist die sicherere Wahl.

Weg A — Kaufen (Standardsoftware; für die meisten Organisationen empfohlen)

• Klinische Wissensprodukte mit KI: OpenEvidence (USA; Antworten mit Quellen aus Fachzeitschriften, für verifizierte Kliniker kostenlos), UpToDate mit den generativen KI-Funktionen von Wolters Kluwer, Elsevier ClinicalKey AI, der Assistent von Doximity (USA). Im deutschsprachigen Raum sind AMBOSS (Berlin, EU) und Angebote auf Basis von Thieme die naheliegende Wahl für deutsche Inhalte. Funktionen der Anbieter ändern sich schnell; prüfen Sie vor dem Kauf Verfügbarkeit und EU-Datenverarbeitung je Produkt (für diesen Eintrag nicht erneut geprüft).
• Unternehmens-RAG-Plattformen (siehe KNOW-002) für SOPs des Krankenhauses und Intranet-Inhalte, mit EU-Hosting und Zugriffskontrolle; viele Anbieter von Krankenhausinformationssystemen (KIS) ergänzen Assistenten.
• Wählen Sie A, wenn: öffentliche medizinische Literatur und eine kommerzielle Inhaltslizenz genügen und das Werkzeug von Klinikern zur Informationssuche genutzt wird und nicht an Patientenakten angebunden ist.

Weg B — Auf Cloud-KI-Diensten aufbauen

• Modelle: ein Spitzen-Sprachmodell aus einer EU-Region eines großen Cloud-Anbieters (Azure OpenAI EU Data Zone, Google Vertex EU, AWS Bedrock Frankfurt) oder von einem EU-Anbieter (Mistral AI). Nutzen Sie ein Reasoning-Modell für widersprüchliche Evidenz und ein kleineres Modell für das Umformulieren von Anfragen.
• Stack: Embedding + Reranker, eine hybride Suchmaschine (OpenSearch, Elasticsearch) oder Vektor-Datenbank, eine Orchestrierungsschicht, die Quellenangaben erzwingt; Evaluierungsumgebung mit von Ärzten verfassten Testsets.
• Wählen Sie B, wenn: Sie die Inhalte besitzen (lokale SOPs, lizenzierte Leitlinien) und individuelle Abläufe brauchen, aber einen AVV abschließen und vermeiden können, Patientenidentifikatoren zu senden (vor den Prompts anonymisieren).

Weg C — Selbst betreiben (Open Source)

• Modelle: allgemeine Open-Weight-Modelle wie Mistral Small 3.2 (24B, Apache 2.0, etwa 55 GB GPU-Speicher in bf16 [5]); medizinisch angepasste Optionen: Google MedGemma (4B und 27B, auf Basis von Gemma 3, unter den Health-AI- Developer-Foundations-Bedingungen; laut Modellkarte sind die Ausgaben vorläufig und nicht dafür gedacht, Diagnose oder Behandlung unmittelbar zu steuern [3][4]) und das Forschungsmodell MEDITRON-70B (auf Llama-2-Basis, 2023, inzwischen veraltet) [6]. Vergleichen Sie immer mit einem allgemeinen offenen Modell: Medizinische Anpassung garantiert keine besser belegten Antworten.
• Stack: Docling oder ein ähnlicher Parser, BGE-M3 oder mehrsprachige Embeddings, ein Reranker, Qdrant/pgvector/OpenSearch, Betrieb mit vLLM, das MedRAG-Toolkit als Ausgangspunkt für die Evaluierung [1].
• Hardware: HW3 für Modelle mit 24–70B Parametern bei mehreren gleichzeitigen Nutzern; für einen Piloten mit 4–8B genügt HW2. Erforderlich, wenn Patientendaten oder nicht öffentliche SOPs das Krankenhausnetz nicht verlassen dürfen.

Weg D — Eigenes Training

Selten der erste Schritt. Feintuning lohnt sich für spezialisierte Aufgaben (deutsche klinische Abkürzungen, Retrieval- Embeddings für ein Fachgebiet, Anpassung des Antwortstils) und erfordert von Ärzten beschriftete Frage/Antwort/Evidenz- Sets (Hunderte bis Tausende). MedGemma berichtet, dass Feintuning die Fehler beim Informationsabruf aus elektronischen Patientenakten in seiner Evaluierung um 50 % senkte [4]; das ist ein aufgabenspezifisches Ergebnis, keine allgemeine Garantie. Feintuning für patientenspezifische Empfehlungen rückt das Produkt in den Bereich der Medizinprodukte.

Stand der Technik (2026)

• Spitzenmodelle und offene Modelle erzielen sehr hohe Werte bei Multiple-Choice-Prüfungen (MedGemma 27B Text: 87,7 bei MedQA Zero-Shot laut Modellkarte [3]), aber die Sättigung bei Multiple-Choice sagt wenig über den klinischen Nutzen aus. Rasterbasierte Benchmarks wie HealthBench (einschließlich einer schwereren Teilmenge, in der Spitzenwerte beim Start nur etwa 32 % erreichten [2]) und von Ärzten bewertete Evaluierungen werden heute bevorzugt.
• Retrieval schlägt Gedächtnis: fundierte Antworten mit Quellenangaben sind die Norm; hybride Suche, Reranking und empfehlungsbewusstes Chunking bringen die größten Gewinne. Effekte des Typs „Lost in the middle“ sind im medizinischen RAG dokumentiert [1].
• Agentische Suche über PubMed, Leitlinienregister und Arzneimitteldatenbanken ersetzt das einstufige RAG (siehe KNOW-008, KNOW-015).
• Grenzen und Fehlerbilder: veraltete oder überholte Leitlinien; Vermischung von Empfehlungen verschiedener Länder; falsche Dosis oder Einheit; Missachtung von Kontraindikationen im Fallkontext; übermäßig selbstsichere Synthese widersprüchlicher Empfehlungen; Prompt-Empfindlichkeit (auf der MedGemma-Karte vermerkt [3]); Benchmark-Kontamination; Automatisierungsbias bei überlasteten Klinikern. Die Leitlinie der WHO zu großen multimodalen Modellen im Gesundheitswesen betont Governance, Transparenz und menschliche Aufsicht [7].

Gemeinsame Bausteine & Kombinationen

• Derselbe RAG-Stack wie KNOW-002 (Unternehmensdokumente), KNOW-004 (technische Handbücher) und KNOW-009 (Fragen und Antworten zu Normen): Parser, Embedding, Reranker, Vektor-/Hybrid-Index und Guardrails werden gemeinsam genutzt; ein HW3-Server kann mehrere davon betreiben.
• KNOW-008 (Literaturrecherche) liefert die Evidenz jenseits der Leitlinien; KNOW-013 (GraphRAG) verknüpft Krankheiten, Arzneimittel und Empfehlungen; DOC-014 parst Leitlinien-PDFs und Tabellen; DOC-018 anonymisiert Falltexte, bevor sie eine externe API erreichen; LANG-009 übernimmt die Übersetzung der Quellen zwischen Deutsch und Englisch.
• Naheliegende Erweiterung: Fragen und Antworten zu SOPs und Behandlungspfaden im Krankenhaus-Intranet (Muster von KNOW-003/KNOW-002).

Aufwand, Kosten & Kennzahlen

• Weg A: Wochen (Beschaffung, datenschutzrechtliche Prüfung, Schulung); Abonnement pro Nutzer.
• Weg B: 3–6 Monate inkl. Lizenzierung der Inhalte, Evaluierung durch Kliniker und Sicherheitsprüfung.
• Weg C: 4–9 Monate; GPU-Server, MLOps und klinische Inhaltspflege als Daueraufgabe.
• Kostentreiber: Inhaltslizenzen, Aufwand der klinischen Evaluierung, regulatorische Arbeit, falls der Status als Medizinprodukt zutrifft.
• Kennzahlen: Anteil der Antworten mit korrekten, aktuellen Quellenangaben (von Ärzten bewertete Stichprobe), Verweigerungsquote, wenn Evidenz fehlt, Zeit für das Nachschlagen, Aktualität der Leitlinienversionen, Befolgung lokaler Behandlungspfade durch die Nutzer, Vorfallsmeldungen. Behaupten Sie keine Behandlungsergebnisse für Patienten ohne Studie.

Menschen & Veränderung

Beginnen Sie mit der Geschäftsführung und der Ärztlichen Leitung, die die klinische Verantwortung tragen, dann mit den Abteilungsleitungen und dem Team der Apotheke oder des Qualitätsmanagements als Inhaltsverantwortliche. Ärzte und Apotheker sind die Endnutzer; beziehen Sie sie in einen Piloten mit 10 bis 20 Personen ein ([GUIDE-009]). IT, IT-Sicherheit und der/die Datenschutzbeauftragte stoßen früh für Hosting, Zugriffsrechte und den AVV hinzu; Recht oder Compliance klärt, ob das Werkzeug als Medizinprodukt gelten könnte und welche Haftung gilt.

Betriebsrat: abhängig vom Einzelfall. Eine reine Dokumentensuche ohne personenbezogene Protokollierung löst §87 Abs. 1 Nr. 6 BetrVG möglicherweise nicht aus, aber Nutzungsprotokolle je Kliniker eignen sich zur Verhaltenskontrolle, daher ist in der Praxis eine Mitbestimmung wahrscheinlich; informieren Sie den Betriebsrat in jedem Fall nach §90 Abs. 1 Nr. 3 und erwägen Sie einen Sachverständigen nach §80 Abs. 3 ([GUIDE-004]). Öffentliche Krankenhäuser beziehen den Personalrat ein. Eine DSFA ist nötig, wenn Anfragen Patientendaten oder besondere Kategorien enthalten können ([GUIDE-005]); weisen Sie die Mitarbeitenden an, keine identifizierbaren Patientendaten einzugeben.

KI-Kompetenz: Schulen Sie die Mitarbeitenden darin, Quellenangaben zu prüfen und Grenzen zu erkennen ([GUIDE-006]). Typische Sorge: Haftung und Verlust des klinischen Urteilsvermögens. Begegnen Sie ihr, indem das Werkzeug ausschließlich der Entscheidungsunterstützung dient, die Anzeige der Quelle verpflichtend ist und die Klinikerin bzw. der Kliniker für jede Entscheidung verantwortlich bleibt ([GUIDE-008]).

Risiken, Regulierung & Compliance

• KI-Verordnung (AI Act): Die Einstufung hängt vom Zweck ab. Ein reiner Informationsabruf-Assistent für Fachpersonal ist in der Regel kein Hochrisiko-System und unterliegt den Transparenzpflichten für begrenztes Risiko (Art. 50: Nutzer müssen wissen, dass sie mit KI sprechen). Ist die Software ein Medizinprodukt (oder Sicherheitskomponente), das eine benannte Stelle benötigt, ist sie über Art. 6 Abs. 1 und Anhang I Hochrisiko; MDCG 2025-6 erläutert das Zusammenspiel der Anforderungen von MDR und KI-Verordnung [8]. Anhang III Nr. 5 Buchst. d führt Systeme zur Patiententriage in der Notfallversorgung als Hochrisiko auf [9]. Nach dem konsolidierten Text auf artificialintelligenceact.eu gelten die Pflichten aus Anhang III ab dem 2. Dezember 2027 und die Pflichten aus Anhang I ab dem 2. August 2028 (aktuellen Rechtsstand prüfen) [10].
• MDR: Software, die Informationen für Entscheidungen über Diagnose oder Therapie liefern soll, kann ein Medizinprodukt sein (Regel 11, meist Klasse IIa oder höher). MDCG 2019-11 (Rev. Juni 2025) ist der Leitfaden zur Qualifizierung [8]. Halten Sie die Zweckbestimmung eng („Suche und Zusammenfassung veröffentlichter Leitlinien für Fachpersonal, keine patientenspezifischen Empfehlungen“) und dokumentieren Sie sie; eine neue Funktion, die Patientendaten verarbeitet, kann sie ändern.
• DSGVO: Gesundheitsdaten sind besondere Kategorien personenbezogener Daten (Art. 9); Patientenidentifikatoren in Prompts erfordern eine Rechts- grundlage, einen AVV und eine DSFA; bevorzugen Sie Anonymisierung und den Betrieb On-Premises. Landeskrankenhausgesetze und die ärztliche Schweigepflicht (§ 203 StGB) gelten für die Cloud-Nutzung in Deutschland.
• Inhaltslizenzen: Die AWMF stellt fest, dass Leitlinien rechtlich nicht bindend sind und die Verantwortung bei den Autoren liegt; die Seite des Registers nennt keine Nachnutzungslizenz, daher sind Indexierungsrechte je Leitlinie und Verlag zu klären [11].
• Gegenmaßnahmen: Quelle und Version neben jeder Antwort anzeigen, Ablaufdaten für indexierte Leitlinien, Evaluierungssets je Fachgebiet, Red-Teaming für Dosierungen, klare Kennzeichnung, Vorfallprozess, Freigabe durch Kliniker.

Erste Schritte

1. Legen Sie die Zweckbestimmung in einem Satz fest und entscheiden Sie, ob das Werkzeug Patientendaten berührt (wenn ja, beziehen Sie zuerst Regulatory Affairs und den/die Datenschutzbeauftragte(n) ein).
2. Erfassen Sie Inhalte und Lizenzen: AWMF-/DEGAM-Leitlinien, SmPC, lokale SOPs; halten Sie Version und Verantwortliche jeweils fest.
3. Bauen oder kaufen Sie einen Piloten mit 20–50 Leitlinien eines Fachgebiets; nutzen Sie empfehlungsbewusstes Chunking und verpflichtende Quellenangaben.
4. Lassen Sie 2–3 Ärzte 100–200 echte Fragen mit Musterantworten und Quellen verfassen; messen Sie die Korrektheit der Quellenangaben, nicht nur die Sprachqualität, und nehmen Sie Fälle der Verweigerung auf.
5. Rollen Sie den Piloten an eine kleine Gruppe aus, protokollieren Sie Nutzung und Korrekturen und benennen Sie eine verantwortliche Person für monatliche Leitlinienaktualisierungen.

Quellen

1. Xiong et al., Benchmarking Retrieval-Augmented Generation for Medicine (MedRAG / MIRAGE) — https://arxiv.org/abs/2402.13178
2. Arora et al., HealthBench: Evaluating Large Language Models Towards Improved Human Health — https://arxiv.org/abs/2505.08775
3. Google, MedGemma 27B model card (Hugging Face) — https://huggingface.co/google/medgemma-27b-it
4. MedGemma Technical Report — https://arxiv.org/abs/2507.05201
5. Mistral AI, Mistral-Small-3.2-24B-Instruct-2506 model card — https://huggingface.co/mistralai/Mistral-Small-3.2-24B-Instruct-2506
6. Chen et al., MEDITRON-70B: Scaling Medical Pretraining for Large Language Models — https://arxiv.org/abs/2311.16079
7. WHO, Ethics and governance of AI for health: Guidance on large multi-modal models (2025) — https://www.who.int/publications/i/item/9789240084759
8. European Commission, MDCG guidance list (MDCG 2019-11 rev.1 and MDCG 2025-6 on MDR/IVDR and AI Act) — https://health.ec.europa.eu/medical-devices-sector/new-regulations/guidance-mdcg-endorsed-documents-and-other-guidance_en
9. AI Act, Annex III (point 5) — https://artificialintelligenceact.eu/annex/3/
10. AI Act, Article 6 (classification rules for high-risk systems) — https://artificialintelligenceact.eu/article/6/
11. AWMF Leitlinienregister — https://www.awmf.org/leitlinien
12. Regulation (EU) 2024/1689 (AI Act) — https://eur-lex.europa.eu/eli/reg/2024/1689/oj