KI-personalisierte Phishing-Simulation & Sicherheitsschulung (Human Risk Management)

Jährliche Schulungsvideos und allgemeine Phishing-Tests vermitteln wenig, während Angreifer inzwischen mit GenAI flüssige, gezielte Köder in jeder Sprache schreiben. Plattformen für Human Risk Management (HRM) wenden dieselbe Technik zum Guten: Ein LLM entwirft Simulationen passend zu Rolle, Sprache und aktuellen Bedrohungstrends jeder Person, der Schwierigkeitsgrad passt sich dem Verhalten an, und ein Fehlklick löst eine kurze, gezielte Lektion aus. Ergebnis: realistischere Schulung, messbares Risiko je Team und dokumentierte Nachweise für die Schulungspflichten nach NIS2 und DORA.

Problem & Nutzen

• Heute: Awareness besteht meist aus einem jährlichen E-Learning-Kurs und einer monatlichen Phishing-Kampagne nach Vorlage. Die Vorlagen sind allgemein, schlecht übersetzt, werden von den Beschäftigten schnell erkannt und unter Kollegen weitergegeben. Berichtet wird die „Klickrate“, die wenig über das tatsächliche Risiko aussagt.
• Warum der Mensch zählt: Der Verizon Data Breach Investigations Report nennt den menschlichen Faktor (Phishing, gestohlene Zugangsdaten, Fehler, Missbrauch) durchgängig bei einem Großteil der Sicherheitsvorfälle [1]. Die ENISA Threat Landscape nennt Phishing als einen der wichtigsten Wege für den Erstzugriff [2].
• KI-Nutzen:
• Szenarien in Sprache, Abteilung und Werkzeugen der Beschäftigten (z. B. ein Köder mit Lieferantenrechnung für die Kreditorenbuchhaltung, ein gefälschtes Personalportal für Neueintritte, eine Gehaltsänderungsbitte für das Finanzwesen);
• der Schwierigkeitsgrad passt sich je Person an, sodass Einsteiger nicht entmutigt und Fortgeschrittene nicht gelangweilt werden;
• Kurzschulungen im richtigen Moment, nämlich beim Fehler, wenn das Gelernte am besten haftet;
• Risikobewertung aus dem Verhalten (Meldequote, Zeit bis zur Meldung, wiederholte Fehler) statt nur aus der Klickrate;
• deutlich weniger manueller Aufwand beim Erstellen und Lokalisieren von Kampagnen.
• Regulatorischer Sog: NIS2 Art. 20 verlangt, dass Leitungsorgane Schulungen zur Cybersicherheit absolvieren und den Beschäftigten regelmäßig ähnliche Schulungen anbieten; Art. 21 nennt grundlegende Cyberhygiene und Schulungen unter den verpflichtenden Risikomanagementmaßnahmen [3]. DORA Art. 13 Abs. 6 verlangt Programme zur Sensibilisierung für IKT-Sicherheit und Schulungen zur digitalen operationalen Resilienz für Beschäftigte und Leitung von Finanzunternehmen [4].
• Von Herstellern veröffentlichte Nutzenzahlen sind Eigenangaben; bestimmen Sie Ihre eigene Ausgangsbasis.

Varianten

• KMU: gehostete Plattform mit automatischen monatlichen Kampagnen, Melde-Schaltfläche für Microsoft 365/Google Workspace und fertiger Kursbibliothek; eine Teilzeit-Verantwortliche bzw. ein Teilzeit-Verantwortlicher.
• Großunternehmen / regulierte Branchen (Finanzwesen, Energie, Gesundheit): rollenbasierte Pfade (Führungskräfte, Finanzwesen, Entwickler, Administratoren), mehrsprachige Einführungen, Anbindung an SIEM/IdP, Betriebsvereinbarung, Berichte an die Geschäftsleitung.
• Mehrkanal: E-Mail, Smishing, QR-Code („Quishing“), Köder in Teams/Slack und Voice-Phishing-Simulation mit synthetischer Stimme für Rückrufszenarien bei Helpdesk und Finanzwesen. Simulationen mit Deepfake-Stimmen von Führungskräften brauchen eine ausdrückliche Freigabe, Einwilligungsregeln und eine klare Nachbesprechung (zur Erkennung siehe SEC-011).
• Öffentlicher Sektor / MSP: kostengünstige Open-Source-Werkzeuge oder mandantenfähige Plattformen als Managed Service.
• Privatnutzung: Übungen zu Betrugsanrufen für Familien gibt es, sie dienen aber meist der Verbraucherbildung.

So funktioniert es

1. role/locale data + current threat themes
2. scenario generation (LLM: lure text, landing page, sender, difficulty, language)
3. safety review (guardrails, brand/impersonation limits, human approval of templates)
4. delivery via allow-listed sending infrastructure (email / SMS / chat / voice)
5. telemetry (open, click, credential entry, report, time-to-report)
6. human-risk scoring (per person, role, team; adaptive difficulty)
7. just-in-time micro-training + nudges
8. reporting (NIS2/DORA evidence, board dashboards) and feedback to SEC-002 controls

• Erzeugung: Ein anweisungsfolgendes LLM erzeugt den Köder innerhalb eines Szenarioschemas (Vorwand, Dringlichkeitssignal, zu vermittelnde Warnzeichen, Schwierigkeit 1-5). Jede Vorlage enthält die „vermittelbaren Warnzeichen“, damit die Lektion darauf verweisen kann, was übersehen wurde. Anbieter verringern Missbrauch, indem sie die Erzeugung auf authentifizierte Kundenmandanten beschränken.
• Adaptiver Schwierigkeitsgrad: Ein einfaches Modell (Regeln, Gradient-Boosted-Trees oder Bandit) wählt anhand früherer Ergebnisse das nächste Szenario; ein tiefes Modell ist nicht nötig.
• Risikowert Mensch: Kombination aus Simulationsverhalten, Meldeverhalten, Schulungsabschluss und optional Sicherheitssignalen (z. B. riskante Anmeldungen). Für das Management Teamwerte bevorzugen; Einzelwerte nur zur Personalisierung der Schulung.
• Voice/Smishing: TTS- oder Speech-to-Speech-Modelle spielen skriptgesteuerte Anrufszenarien, idealerweise mit einer Trainerin oder einem Trainer in der Schleife.
• Mensch-in-der-Schleife (Human-in-the-Loop): Die Awareness-Leitung gibt Szenariobibliotheken und heikle Vorwände frei (Boni, Entlassungen, Gesundheit, laufende Krisen sind üblicherweise verboten); Betriebsrat/Datenschutzbeauftragte(r) geben die Bewertung frei; Fehler führen zu Lernen, nicht zu Disziplinarmaßnahmen.

Datenaufbereitung

Dieser Anwendungsfall braucht wenig klassische Daten, aber saubere Organisationsdaten. Die wichtigste Quelle ist das Verzeichnis (Entra ID, AD, Google Workspace) und das HR-System für Abteilung, Rolle, Sprache und Standort; E-Mail-Adressen und Gruppenzugehörigkeiten liegen oft an mehreren Stellen. Typische Lücken sind veraltete Konten, fehlende Sprach- oder Rollenattribute, geteilte Postfächer, externe Beschäftigte und Dubletten zwischen HR- und IT-Listen. Eine zweite Eingabe ist die Simulationstelemetrie selbst, die personenbezogen ist und geschützt werden muss.

Schritte der Aufbereitung: - Die Nutzerliste aus Verzeichnis und HR exportieren und abgleichen (PREP-005, PREP-011); Rollen- und Sprachattribute korrigieren. - Vor der ersten Kampagne Rollengruppen und verbotene Vorwände festlegen. - Einen pseudonymisierten oder teambezogenen Berichtsmodus vereinbaren (PREP-022) und Zweck sowie Rechtsgrundlage prüfen (PREP-025). - Absenderdomänen und IPs der Simulation gemeinsam mit der IT auf die Positivliste setzen. - Einige echte, anonymisierte Phishing-Mails als Ausgangsthemen sammeln.

Der Aufwandsanteil ist gering, etwa 10-15 Prozent des Projekts; die meiste Zeit geht in die Freigabe der Inhalte und in Vereinbarungen mit Betriebsrat und Datenschutzbeauftragten.

Umsetzungswege

Welcher Weg für wen

• KMU: Weg A, weil gehostete EU-Plattformen (z. B. SoSafe, Hoxhunt) Simulation, Melde-Schaltfläche und Nachweise zu Preisen pro Nutzer mit Standardprozess abdecken.
• Großunternehmen: Weg A, weil Awareness-Schulung eine Standardfunktion ist und die Inhaltsbibliotheken, Sprachen und IdP-/SIEM-Konnektoren der Anbieter den Eigenaufwand überwiegen.
• Öffentlicher Sektor: Weg C, weil GoPhish plus ein Open-Weight-Modell auf eigener Infrastruktur die Telemetrie der Beschäftigten On-Premises hält und zu knappen Budgets und Vergaberegeln passt.

Weg A — Kaufen (Standardsoftware) (empfohlen für KMU und Großunternehmen)

• Globale HRM-/SAT-Plattformen: KnowBe4 (AIDA-Agenten für KI-gestützte Simulationen und Schulungen), Proofpoint Security Awareness, Mimecast Engage, Hoxhunt (Finnland, EU; adaptiv, spielerisch), Adaptive Security (KI-personalisierte Simulationen inkl. Deepfake-Stimme und SMS), Cofense, Microsoft Defender for Office 365 Attack Simulation Training (in höheren M365-Lizenzen enthalten).
• EU-basiert: SoSafe (Deutschland; KI-gestützte Phishing-Simulation und Risiko-Dashboard), Hoxhunt (Finnland). Datenstandort in der EU und Unterauftragnehmer prüfen.
• Auswahl-Checkliste: EU-Hosting und AVV, pseudonymisierter Berichtsmodus, Konfiguration für den Betriebsrat, Sprachen, Kanäle (Voice/QR), Integration der Melde-Schaltfläche, Konnektoren für SIEM/IdP/SCIM, Export von Compliance-Nachweisen, Schutzmaßnahmen gegen Missbrauch erzeugter Köder.
• Weg A wählen, wenn Sie schnell Nachweise für NIS2/DORA wollen und kein eigenes Inhalte-Team haben.

Weg B — Auf Cloud-KI-Diensten aufbauen

• Inhalte: LLM-APIs mit EU-Hosting oder in EU-Regionen (Mistral, Azure OpenAI in EU-Regionen, Claude oder Gemini über Cloud-Endpunkte in EU-Regionen) mit strukturierten Ausgaben für Szenario-JSON; Erzeugung auf interne Mandanten beschränkt.
• Zustellung: Open-Source-Kampagnenengine plus eine vom Produktivmail-System getrennte Versanddomäne; Positivliste im Mail-Gateway für Simulations-Header.
• Bewertung/Analyse: Data Warehouse plus einfaches ML; Dashboards im vorhandenen BI.
• Weg B wählen, wenn Sie Sonderszenarien haben (Industrie, Klinik) oder eine gekaufte Plattform um unternehmensspezifische Köder erweitern wollen. Rechnen Sie mit mehr Aufwand für die juristische Prüfung als für Code.

Weg C — Selbst betreiben (Open Source)

• Kampagnen: GoPhish (Open-Source-Phishing-Framework) für Versand, Landingpages und Tracking.
• Inhalte: Open-Weight-LLMs wie Mistral Small / Mixtral-Klasse, Llama, Qwen oder gpt-oss, bereitgestellt mit vLLM oder Ollama; offene TTS (z. B. Piper, Modelle im Stil von Coqui) für Sprachübungen.
• Schulungsinhalte: selbst erstellte Kurzlektionen, optional vom Awareness-Team erzeugt und geprüft.
• Hardware: HW2 genügt; die Modelle schreiben nur kurze Texte. Der Betriebsaufwand liegt bei Zustellbarkeit, Hosting und Pflege der Inhalte.
• Weg C wählen, wenn Daten On-Premises bleiben müssen (öffentlicher Sektor, verteidigungsnahe Zulieferer) oder das Budget minimal ist.

Weg D — Eigenes Training

Selten gerechtfertigt; ein maßgeschneidertes Risikoprognosemodell braucht lange Kampagnenhistorien und eine strenge Datenschutzprüfung. Beginnen Sie mit adaptiven Regeln.

Stand der Technik (2026)

• Agentische Simulation: Anbieter lassen KI-Agenten die Kampagne planen (wer, wann, welcher Köder, welche Lektion), statt nur Texte zu schreiben; KnowBe4 vermarktet seine AIDA-Agenten, Hoxhunt und SoSafe adaptive Engines, Adaptive Security KI-personalisierte Mehrkanal-Simulationen [5][6][7].
• Über E-Mail hinaus: SMS, QR-Codes, Kollaborationswerkzeuge und Anrufe mit synthetischer Stimme bilden ab, wie echte Angreifer heute vorgehen; Fälle von Deepfake-gestütztem CEO-Betrug sind vielfach berichtet und machen Sprachübungen zu einem Unterscheidungsmerkmal.
• Von der Klickrate zum Verhalten: Führende Programme verfolgen Meldequote und Zeit bis zur Meldung als positive Kennzahl; wer schnell meldet, ist ein menschlicher Sensor für das SOC (siehe SEC-001).
• Die Belege sind gemischt: Wissenschaftliche Arbeiten bezweifeln den Wert verpflichtender, bestrafender eingebetteter Schulungen. Eine große Feldstudie in einem US-Gesundheitssystem fand für eingebettete Schulungen kaum messbare Wirkung [8]. Setzen Sie auf kurze, freiwillig wirkende, kontextbezogene Lektionen, eine positive Meldekultur und technische Kontrollen (MFA, phishing-resistentes FIDO2, Mailfilterung) als Hauptverteidigung.
• Grenzen und Fehlerbilder:
• LLM-Köder können unrealistisch perfekt oder kulturell unpassend sein; Prüfung und Kontrolle der lokalen Sprache vorsehen.
• Zu stark zugeschnittene Szenarien (Privatleben, Gesundheit, Bonus) beschädigen das Vertrauen und können gegen Arbeitsrecht verstoßen.
• Die Bewertung Einzelner weckt Überwachungsbedenken und verleitet zum Austricksen des Systems.
• Simulations-Mails können blockiert oder als echt gemeldet werden oder echte Vorfälle auslösen, wenn sie nicht mit dem SOC abgestimmt sind.

Gemeinsame Bausteine & Kombinationen

• Gemeinsamer Stack: Das Erzeugungsmodell kann derselbe Server sein, den SEC-008 (Zusammenfassung von Bedrohungsaufklärung) nutzt.
• SEC-002 (Phishing & E-Mail-Sicherheit): Simulationsergebnisse verbessern die Erkennung; von Beschäftigten abgefangenes echtes Phishing liefert neue Schulungsthemen.
• SEC-011 (Deepfake-Erkennung): gemeinsame Sprach-/Videoszenarien und Awareness-Inhalte zu Deepfake-CEO-Betrug.
• SEC-013 (Schatten-KI-Erkennung): Schulung zur sicheren KI-Nutzung; derselbe Kanal für Hinweise.
• SEC-009 (Compliance-Automatisierung): Schulungsnachweise für NIS2, DORA und die Awareness-Kontrollen nach ISO 27001 A.6.3.
• EDU-006 / EDU-010: allgemeines Microlearning und Rollenspiel-Werkzeuge; dieser Anwendungsfall unterscheidet sich durch die Erzeugung von Angriffsinhalten und die Bewertung des Sicherheitsverhaltens.

Aufwand, Kosten & Kennzahlen

• Weg A: Tage bis Wochen; üblicherweise Abo pro Nutzer und Jahr; Hauptkosten sind Veränderungsmanagement und Betriebsvereinbarung.
• Weg B: 1-3 Monate; API-Kosten sind gegenüber dem Aufwand für Recht und Inhalts-Governance vernachlässigbar.
• Weg C: 2-6 Wochen für GoPhish plus LLM; laufender Aufwand für Zustellbarkeit und Inhalte.
• Kennzahlen: Meldequote, mediane Zeit bis zur Meldung, Quote wiederholter Fehler, Quote der Zugangsdaten-Eingaben, Schulungsabschluss, Stimmung zur Teilnahme, Anzahl der von Beschäftigten gemeldeten echten Phishing-Vorfälle, mittlere Zeit von der ersten Meldung echten Phishings bis zur Eindämmung, Abdeckung der Schulungspflichten nach NIS2/DORA. Die Klickrate nicht als einzige Kennzahl verwenden.

Menschen & Veränderung

• Früh einbinden: Geschäftsleitung (Mandat, Haltung ohne Schuldzuweisung), IT-Sicherheit (Verantwortliche, Briefing des SOC), Betriebsrat, Datenschutzbeauftragte(r), Personalabteilung (Schulungspflichten, Beschäftigtendaten), IT (Positivliste, Verzeichnis) und Endnutzer über einen Pilot mit Freiwilligen.
• Betriebsrat: ja. Simulationstelemetrie und Risikowerte sind zur Überwachung von Verhalten und Leistung geeignet, daher greift § 87 Abs. 1 Nr. 6 BetrVG (objektive Eignung genügt, laut BAG). Schließen Sie eine Betriebsvereinbarung zu pseudonymisierter oder teambezogener Berichterstattung, Aufbewahrung, verbotenen Vorwänden und einem Verbot disziplinarischer Verwendung; unterrichten Sie den Betriebsrat rechtzeitig (§ 90 Abs. 1 Nr. 3); ein KI-Sachverständiger kann hinzugezogen werden (§ 80 Abs. 3). Öffentliche Stellen beteiligen den Personalrat.
• Datenschutz: DSFA bei Einzelbewertung wahrscheinlich; AVV mit dem Anbieter; Datenschutzbeauftragte(r) vor dem Pilot einbinden; EU-Hosting.
• KI-Kompetenz: Das Programm selbst unterstützt die Maßnahmen zur KI-Kompetenz nach Art. 4; ergänzen Sie ein kurzes Briefing zu KI-erzeugten Ködern und Stimmklonen (GUIDE-006).
• Kommunikation: Kampagnen in allgemeinen Worten ankündigen, das Ziel erklären (Schutz, nicht Prüfung von Menschen), Ergebnisse auf Teamebene veröffentlichen und Meldende würdigen.
• Pilot: 50-100 Freiwillige aus verschiedenen Rollen und Sprachen.
• Bedenken: „Ausspioniert werden“ begegnet man mit aggregierter Berichterstattung; „hereingelegt werden“ mit Nachbesprechungen statt Sanktionen. Menschen genehmigen alle Vorlagen und sehen alle Bewertungsregeln.
• Siehe GUIDE-004, GUIDE-008 und GUIDE-005.

Risiken, Regulierung & Compliance

• KI-Verordnung (AI Act): meist minimales oder begrenztes Risiko; die Schulungsinhalte sind selbst kein Hochrisiko-System. Zu beachten:
• Verbot nach Art. 5 Abs. 1 Buchst. f: Emotionserkennung am Arbeitsplatz ist verboten; schließen Sie während Schulungen oder Simulationen nicht aus Stimme, Webcam oder Tippverhalten auf Emotionen oder Stress.
• Art. 50: Synthetische Stimmen oder Deepfake-Inhalte müssen offengelegt werden, wo sie Menschen gezeigt werden; geschlossene interne Übungen mit Nachbesprechung sollten die Begründung der Ausnahme dokumentieren.
• Anhang III Nr. 4 Beschäftigung: Die Verwendung von Risikowerten für Beförderung, Disziplinarmaßnahmen, Überwachung oder Kündigung könnte Hochrisiko-Pflichten auslösen. Werte nur für die Schulung verwenden und diesen Zweck dokumentieren.
• Art. 4 KI-Kompetenz wird durch solche Programme teilweise erfüllt.
• DSGVO: Simulationstelemetrie sind personenbezogene Daten von Beschäftigten. Nötig sind eine Rechtsgrundlage (typischerweise berechtigtes Interesse mit Interessenabwägung oder rechtliche Verpflichtung nach NIS2/DORA für die Schulung selbst), Transparenz, Datenminimierung, Aufbewahrungsfristen, DSFA bei Einzelbewertung und ein pseudonymisierter Modus. In Deutschland gilt die Mitbestimmung des Betriebsrats (BetrVG § 87 Abs. 1 Nr. 6); Berichte an Vorgesetzte sollten aggregiert sein.
• Beschäftigung und Ethik: keine Bestrafung für Fehler; ausbeuterische Vorwände vermeiden; juristische Prüfung von Ködern, die echte Marken (Markenrecht) oder echte Führungskräfte imitieren.
• Sicherheit: Simulationsinfrastruktur isolieren; Positivlisten sauber pflegen; SOC und Helpdesk informieren; nie echte Passwörter erfassen (nur den Wahrheitswert „Zugangsdaten eingegeben“ speichern).
• Gegenmaßnahmen: Freigabe-Workflow für Vorlagen, Sperrliste von Themen, rollenbasierter Zugriff auf Ergebnisse, jährliche Überprüfung von Bewertung und Fairness.

Erste Schritte

1. Ziele und Ausgangsbasis festlegen: Meldequote und Zeit bis zur Meldung sowie eine Übersicht der Schulungspflichten nach NIS2/DORA.
2. Den Umfang mit Datenschutzbeauftragten und Betriebsrat vereinbaren: pseudonymisierte Berichte, keine personenbezogenen Disziplinarmaßnahmen, verbotene Vorwände.
3. 2-3 Anbieter (oder GoPhish plus ein LLM) mit 50-100 Freiwilligen aus verschiedenen Rollen und Sprachen pilotieren.
4. Die Phishing-Melden-Schaltfläche ausrollen und in den SOC-Workflow einbinden (SEC-001/SEC-002).
5. Monatliche adaptive Kampagnen plus Lektionen im richtigen Moment durchführen; Kennzahlen vierteljährlich prüfen und Voice-/QR-Szenarien ergänzen, sobald die Grundlagen stabil sind.

Quellen

1. Verizon — 2025 Data Breach Investigations Report — https://www.verizon.com/business/resources/reports/dbir/
2. ENISA — Threat Landscape — https://www.enisa.europa.eu/topics/cyber-threats/threats-and-trends
3. Directive (EU) 2022/2555 (NIS2) — https://eur-lex.europa.eu/eli/dir/2022/2555/oj
4. Regulation (EU) 2022/2554 (DORA) — https://eur-lex.europa.eu/eli/reg/2022/2554/oj
5. KnowBe4 — AI-driven security awareness training and AIDA — https://www.knowbe4.com/products/aida
6. Hoxhunt — Human risk management platform — https://hoxhunt.com/
7. SoSafe — Security awareness and human risk management — https://sosafe-awareness.com/
8. Ho et al. — Understanding the Efficacy of Phishing Training in Practice (IEEE S&P 2025) — https://www.computer.org/csdl/proceedings-article/sp/2025/223600a076/26hiMybBLEs
9. GoPhish — open-source phishing framework — https://getgophish.com/
10. Regulation (EU) 2024/1689 (AI Act) — https://eur-lex.europa.eu/eli/reg/2024/1689/oj
11. Adaptive Security — https://www.adaptivesecurity.com/