Phishing- & E-Mail-Sicherheit

E-Mail bleibt der häufigste Einstiegspunkt für Zugangsdatendiebstahl, Ransomware und Betrug durch umgeleitete Zahlungen. Klassische Gateways gleichen bekannte schädliche Signaturen ab; Angreifer nutzen inzwischen LLMs, um in jeder Sprache flüssige, personalisierte Köder zu schreiben und jede Nachricht zu variieren. Moderne E-Mail-Sicherheit kombiniert Authentifizierungsstandards mit verhaltensbasierter KI (wer schreibt normalerweise wem, worüber), Sprachmodellen, die die Absicht erkennen, und der automatischen Triage von Nutzermeldungen, sodass neuartige Angriffe auch ohne bekannte Signatur erkannt werden.

Problem & Nutzen

• Heute: Ein Secure Email Gateway (SEG) oder der in die Mail-Plattform eingebaute Filter behandelt Spam und bekannte Schadsoftware; Beschäftigte melden verdächtige Mails an ein Postfach, das ein kleines IT-Team von Hand liest. Gezieltes BEC (falscher Geschäftsführer, Lieferant oder IBAN-Änderung) enthält weder schädlichen Link noch Anhang und rutscht durch signaturbasierte Filter.
• KI-Nutzen: (1) Social-Engineering-Mails ohne technischen Indikator erkennen, indem normales Kommunikationsverhalten modelliert und die Absicht des Textes gelesen wird; (2) QR-Codes, Bilder und PDFs lesen, die Links verbergen; (3) bereits zugestellte Nachrichten in allen Postfächern entfernen, sobald eine Kampagne erkannt wird; (4) Nutzermeldungen innerhalb von Minuten statt Stunden beantworten.
• Bedrohungslage: Die Threat-Landscape-Berichte der ENISA nennen Phishing durchgängig unter den wichtigsten Einstiegsvektoren in der EU und beschreiben den zunehmenden Einsatz generativer KI im Social Engineering [1]. Die Jahresberichte des FBI IC3 führen BEC unter den teuersten Kategorien der Internetkriminalität [2]. Von Anbietern genannte Erkennungsraten sollten Sie an Ihren eigenen Mails prüfen und nicht dem Marketing entnehmen.

Varianten

• KMU: Schutz der Mail-Plattform selbst (Microsoft 365 / Google Workspace) plus erzwungenes DMARC; optional ein Zusatzprodukt.
• Unternehmen: API-basierte „Integrated Cloud Email Security“ (ICES) neben oder anstelle eines SEG, mit SOAR-Integration und automatischer Bereinigung.
• Öffentliche Hand / kritische Einrichtungen: durch NIS2 getriebene Maßnahmen, souveräne oder lokale Filterung, in Deutschland/der EU gehostete Gateways.
• Über E-Mail hinaus: Kollaborationswerkzeuge (Teams, Slack), SMS-/QR-Phishing („Quishing“), Voice Phishing; Deepfake-basierter CEO-Betrug ist SEC-011.
• Ausgehend / Datenabfluss: Warnungen bei falschen Empfängern und DLP (SEC-017).
• Privatnutzung: eingebaute Filter der Verbraucheranbieter plus Passkeys; kein eigenes Produkt nötig.

So funktioniert es

1. eingehende Mail
2. Authentifizierungsprüfungen (SPF, DKIM, DMARC, ARC; BIMI optional)
3. Reputation + URL-/Anhang-Detonation (Sandbox, SEC-003)
4. Merkmalsextraktion (Header-Auffälligkeiten, ähnlich aussehende Domains, Screenshot der gerenderten Seite, QR/OCR auf Bildern)
5. Verhaltensmodell (Graph Absender-Empfänger, Tonfall, Anfrageart: Zahlung, Zugangsdaten, Geschenkkarten)
6. LLM-/Klassifikator-Urteil zur Absicht + Begründung
7. Aktion: zustellen | Warnbanner | Quarantäne | Entfernung nach Zustellung Melde-Schaltfläche
8. automatische Triage (Cluster, Urteil, Antwort an Meldenden)
9. Analyst bei unklaren Fällen (SEC-001)

• Zentrale KI-Komponenten: feingetunte Encoder-Klassifikatoren für Text- und URL-Merkmale; Graph-/Anomaliemodelle auf der Kommunikationshistorie; Bildmodelle, die Zielseiten rendern und beurteilen sowie QR-Codes lesen; LLMs für die Klassifikation der Absicht und für schriftliche Erklärungen an Nutzer und Analysten.
• Mensch-in-der-Schleife (Human-in-the-Loop): Analysten prüfen Grenzfälle in der Quarantäne und jede Regel zur automatischen Bereinigung bei der Einführung; Beschäftigte der Finanzabteilung bestätigen Änderungen von Zahlungsdaten unabhängig vom Urteil auf einem zweiten Kanal per Telefon.

Datenaufbereitung

E-Mail-Sicherheitsprodukte funktionieren meist sofort, daher ist die Datenaufbereitung gering. Wichtig sind: die Mail-Plattform (Microsoft 365, Google Workspace, eigener Mailserver), die Authentifizierungseinrichtung (SPF, DKIM, DMARC), das Benutzerverzeichnis und eine Sammlung gemeldeter Phishing-Mails und Fehlalarme der vergangenen Monate. In einem KMU liegen diese in Postfächern, im Helpdesk-Ticketwerkzeug und manchmal nur im Gedächtnis der Beschäftigten.

Typische Lücken: kein zentraler Ort für gemeldete Mails, fehlendes DMARC, veraltete Benutzer- und Gruppenlisten, keine Liste risikoreicher Rollen (Finanzen, Personal, Geschäftsleitung) und durcheinandergeratene Verteilerlisten.

Vorbereitungsschritte: - Ein gemeinsames Meldepostfach oder eine Melde-Schaltfläche einrichten und gemeldete Mails mit ihren Urteilen sammeln (siehe PREP-020). - Eine Liste von VIPs und zahlungsrelevanten Rollen für den Schutz vor Identitätsvortäuschung pflegen. - SPF, DKIM und DMARC korrigieren und das Benutzerverzeichnis bereinigen. - Einen kleinen Testsatz bekannter Phishing-Mails und legitimer Mails, auch interner Newsletter, aufbauen, um Fehlalarme zu prüfen (siehe PREP-018). - Festlegen, welche Mail-Inhalte von externen KI-Diensten analysiert werden dürfen (siehe PREP-024).

Grober Aufwand: etwa 10 bis 15 Prozent des Projekts. Die meiste Zeit geht in Richtlinienentscheidungen und Feinabstimmung, nicht in die Datenbereinigung. Bei einer selbst gebauten Pipeline (Wege B und C) sollten Sie Mail-Texte pseudonymisieren, bevor Sie sie an ein Modell senden (siehe PREP-022).

Umsetzungswege

Welcher Weg für wen

• KMU: A - KI-basierte E-Mail-Sicherheit in Microsoft Defender, Google Workspace oder einem EU-Secure-Email-Gateway ist ausgereift, Standard und bezahlbar.
• Unternehmen: A - E-Mail-Schutz ist eine Standardfunktion; die führenden Produkte enthalten bereits KI-Erkennung, daher lohnt sich Eigenbau selten.
• Entwickler: C - Open-Source-Mailfilter mit selbst betriebenem Klassifikator eignen sich zum Experimentieren und für eigene Mail-Infrastruktur.
• Öffentliche Hand: B - Behörden können eine KI-Triage gemeldeter Phishing-Mails über in der EU gehostete oder souveräne Cloud-APIs ergänzen und das Mail-Gateway selbst als Produkt behalten.

Weg A — Kaufen (Standardsoftware) (empfohlen)

• Plattformeigen: Microsoft Defender for Office 365 (Plan 2, mit automatisierter Untersuchung und Reaktion), Gmail-Schutzfunktionen von Google Workspace [3].
• ICES / API-basiert: Abnormal AI, Darktrace /EMAIL, Proofpoint (Core Email Protection, Nexus), Mimecast, Sublime Security, Check Point Harmony Email, Cisco Secure Email, Trend Micro. Kennzeichen: Anbindung über Graph-/Gmail-API in Minuten, ohne MX-Änderung.
• EU- / Souveränitätsoptionen: Hornetsecurity (DE, 365 Total Protection), Retarus (DE), Vade (FR, inzwischen Teil von Hornetsecurity), Libraesva (IT), SEPPmail (CH, Mail-Verschlüsselung plus Filterung), deutsche Gateway-Dienste im Stil von Mail-in-Black; prüfen Sie Datenhaltung in der EU und Unterauftragsverarbeiter.
• A wählen, wenn: Sie kein Security-Engineering-Team haben; führen Sie vor dem Kauf einen Wirksamkeitsnachweis mit Ihrer eigenen historischen Mail und einer Red-Team-Stichprobe durch.

Weg B — Auf Cloud-KI-Diensten aufbauen

• Mail-APIs (Microsoft Graph, Gmail API) nutzen, um Nachrichten abzuholen, ein führendes oder EU-Modell (Claude, Mistral, GPT, Gemini in EU-Regionen) mit strukturierter Ausgabe für „Absicht + Risiko + Gründe“ aufrufen und Urteile an SOAR weitergeben.
• Typischer Einsatz: Triage von Nutzermeldungen zu Phishing und Analystenunterstützung, nicht Blockieren im Mailfluss (Latenz und Kosten). Personenbezogene Daten vor dem Senden entfernen oder pseudonymisieren, wo möglich.
• Werkzeuge: n8n, Power Automate, Tines, Torq; URL-Prüfung mit den APIs von urlscan.io oder VirusTotal.

Weg C — Selbst betreiben (Open Source)

• Gateway-Ebene: Rspamd, SpamAssassin, Postfix mit OpenDMARC / opendkim; ClamAV; Sandbox über CAPE oder Ähnliches (SEC-003); Wazuh/Security Onion zur Korrelation.
• KI-Ebene: kleine Open-Weight-LLMs (Qwen, Llama, Mistral, Gemma-Familien), bereitgestellt mit vLLM oder Ollama für die Triage gemeldeter Mails; feingetunte Encoder-Modelle (Klasse DistilBERT/DeBERTa) für die Textklassifikation im Mailfluss; PhishTank-/OpenPhish-/abuse.ch-Feeds für URLs.
• Hardware: HW1 für Encoder und Regeln; HW2 für ein Triage-LLM mit ca. 8–30 Mrd. Parametern. Aufwand: laufende Feinabstimmung, kein Bedrohungsnetzwerk eines Anbieters.

Weg D — Eigenes Training

Lohnt sich für große Anbieter oder sehr spezielle Köder je nach Sprache/Branche. Erfordert Tausende gelabelte Phishing- und legitime Mails aus dem eigenen Mandanten, was erhebliche Einschränkungen durch DSGVO und Betriebsrat mit sich bringt. Öffentliche Korpora (z. B. Nazario, von Enron abgeleitete Sätze) sind veraltet und nicht repräsentativ für von LLMs geschriebene Köder.

Stand der Technik (2026)

• Verhaltensbasierte + semantische Erkennung hat bei BEC die reine Indikator-Erkennung abgelöst; die führenden Anbieter bauen Modelle der Kommunikationsmuster je Mandant und ergänzen eine LLM-basierte Absichtsanalyse.
• Bereinigung nach Zustellung und API-Anbindung sind Standard; die Marktorientierung von Gartner behandelt ICES als eigene Kategorie, die den Plattformfilter und SEGs ergänzt.
• LLM-generierte Angriffe: Forschung zeigt, dass von LLMs geschriebenes Spear Phishing bei den Klickraten mit menschlichen Experten mithalten kann [4]; Verteidiger antworten mit Absichtsmodellen, die nicht auf Rechtschreib- oder Grammatikhinweise angewiesen sind, welche keine verlässlichen Signale mehr sind.
• Durchsetzung der Authentifizierung: Seit 2024 verlangen Google und Yahoo SPF/DKIM/DMARC von Massenversendern, und Microsoft zog für Outlook-Privatkonten nach; DMARC mit p=reject ist die günstigste starke Maßnahme gegen Domain-Spoofing [5].
• Grenzen: Fehlalarme bei legitimer eiliger Mail untergraben das Vertrauen; Angreifer missbrauchen vertrauenswürdige Dienste (geteilte Dokumente, legitime SaaS-Benachrichtigungen, kompromittierte Lieferantenkonten); in Mails versteckte feindliche Prompts können auf LLM-basierte Triage zielen (siehe SEC-010); QR-Codes und mehrstufige Weiterleitungsketten bleiben schwer; kein Produkt fängt alles ab, daher bleiben MFA mit Phishing-resistenten Passkeys/FIDO2 und Verfahren für Zahlungsänderungen unverzichtbar.

Gemeinsame Bausteine & Kombinationen

• Detonation und Dateianalyse: SEC-003 (Schadsoftware-Analyse) teilt Sandboxes und YARA-Regeln.
• SOC-Ablauf: SEC-001 erhält eskalierte Vorfälle; SEC-008 liefert Threat Intelligence und Anreicherung von Indikatoren.
• Menschliche Ebene: SEC-024 (KI-personalisierte Simulationen und Schulungen) nutzt dasselbe Wissen zur Köder-Erzeugung und misst die Melderaten.
• Angrenzende Bedrohungen: SEC-011 (Deepfake-CEO-Betrug), SEC-021 (ähnlich aussehende Domains und Markenimitation), SEC-017 (DLP im Ausgang), ANOM-017 (gefälschte Rechnungsdokumente).
• Hardware/Stack: Ein einzelner HW2-LLM-Server kann die Triage gemeldeter Mails, die Zusammenfassung für SEC-001 und SEC-008 bedienen.

Aufwand, Kosten & Kennzahlen

• Weg A: Tage bis zwei Wochen für die API-basierte Einführung; Lizenz pro Postfach und Monat; die plattformeigene Stufe ist oft bereits in der Microsoft-365-/Workspace-Lizenz enthalten.
• Weg B: 1-2 Monate für eine Triage-Pipeline; die Kosten werden von Integration und Feinabstimmung bestimmt, nicht von API-Token.
• Weg C: 2-4 Monate plus laufende Feinabstimmung und Bereitschaftsdienst.
• Kennzahlen: im Posteingang zugestellte Phishing-Mails pro 1.000 Postfächer, Zeit bis zur Bereinigung nach Zustellung, Melderate und Meldegenauigkeit der Nutzer, Fehlalarmrate (legitime Mails in Quarantäne), Analystenminuten pro gemeldeter Mail, Anteil DMARC-konformer Mails, BEC-Vorfälle und Schäden.

Menschen & Veränderung

Beziehen Sie IT und IT-Sicherheit für Konfiguration und Quarantäneregeln ein, das Management für die Richtlinie, was mit verdächtigen Mails geschieht, und die oder den Datenschutzbeauftragte(n), weil Mail-Inhalte und Metadaten gescannt werden (AVV, Verarbeitungsort, Aufbewahrung; siehe GUIDE-005). Informieren Sie Endnutzer früh; sie sind Ziel und Sensor zugleich, daher machen eine Melde-Schaltfläche und schnelle Rückmeldung sie zu Partnern.

Betriebsrat: kommt darauf an. Wenn das Produkt Mails nur auf Bedrohungen scannt und keine Einzelpersonen bewertet, ist eine Mitbestimmung dennoch wahrscheinlich, weil Systeme, die Mail- und Klickverhalten protokollieren, objektiv geeignet sind, Beschäftigte zu überwachen (§ 87 Abs. 1 Nr. 6 BetrVG). Berichte aus Phishing-Simulationen auf Personenebene sind besonders sensibel. Vereinbaren Sie, dass Ergebnisse nur aggregiert für Schulungen verwendet werden (siehe GUIDE-004). In öffentlichen Stellen übernimmt der Personalrat diese Rolle.

KI-Kompetenz: Verbinden Sie Sensibilisierungsschulungen damit, wie KI-generiertes Phishing aussieht und warum Quarantäne-Entscheidungen falsch sein können; die KI-Verordnung (AI Act) verlangt von Arbeitgebern, die KI-Kompetenz der Beschäftigten zu fördern (siehe GUIDE-006). Pilotieren Sie mit der IT und einer Fachabteilung, beobachten Sie Fehlalarme und lassen Sie Nutzer Mails nach klaren Regeln freigeben. Sorge: legitime Mail wird blockiert - antworten Sie mit einem schnellen Freigabeverfahren. Menschen entscheiden bei Grenzfällen und beim Sperren von Absendern (siehe GUIDE-008).

Risiken, Regulierung & Compliance

• KI-Verordnung (AI Act): minimales Risiko; Sicherheitsfilterung ist keine Anwendung nach Anhang III. Die Pflicht zur KI-Kompetenz (Art. 4) gilt für Beschäftigte. Emotionsableitung bei Beschäftigten aus Mail-Texten ist zu vermeiden (Art. 5 Abs. 1 Buchst. f verbietet Emotionserkennung am Arbeitsplatz); halten Sie die Modelle auf Bedrohungsmerkmale der Nachricht ausgerichtet, nicht auf Stimmung oder Leistung der Beschäftigten [6].
• DSGVO: Mail-Inhalte und Metadaten sind personenbezogene Daten von Beschäftigten und Dritten. Rechtsgrundlage meist berechtigtes Interesse (Art. 6 Abs. 1 Buchst. f) plus Netz- und Informationssicherheit als anerkanntes Interesse (Erwägungsgrund 49); führen Sie für tiefe Inhaltsanalyse eine DSFA durch, schließen Sie einen Auftragsverarbeitungsvertrag ab, dokumentieren Sie Unterauftragsverarbeiter und Drittlandübermittlungen und beschränken Sie den menschlichen Zugriff auf privaten Inhalt in der Quarantäne [7].
• Mitarbeiterüberwachung: In Deutschland hat der Betriebsrat Mitbestimmungsrechte (BetrVG § 87 Abs. 1 Nr. 6) bei Systemen, die das Verhalten überwachen können; die Regelung zur privaten Mailnutzung berührt das Fernmeldegeheimnis (TDDDG).
• NIS2 / DORA: E-Mail-Sicherheit unterstützt die geforderten Risikomanagementmaßnahmen und die Vorfallmeldung; NIS2 nennt grundlegende Cyberhygiene und Schulungen ausdrücklich [8].
• Gegenmaßnahmen: Pseudonymisierung gemeldeter Mails, die an externe LLMs gehen, Aufbewahrungsfristen für die Quarantäne, Härtung der LLM-Triage gegen Prompt Injection, menschliche Freigabe für automatisches Massenlöschen, Auditlog.

Erste Schritte

1. SPF, DKIM und DMARC für alle Versanddomains prüfen; DMARC von p=none auf quarantine/reject umstellen.
2. Den stärksten bereits lizenzierten nativen Schutz aktivieren (z. B. Safe Links/Anhänge von Defender for Office 365, Schutz vor Identitätsvortäuschung) und eine Melde-Schaltfläche mit einem Klick einrichten.
3. Einen 30-tägigen Wirksamkeitsnachweis eines ICES im reinen Beobachtungsmodus auf Ihrer eigenen Mail durchführen; übersehene Mails und Fehlalarme vergleichen.
4. Ein Verfahren für Zahlungsänderungen und Anfragen nach Zugangsdaten mit Bestätigung auf einem zweiten Kanal festlegen; Phishing-resistente MFA einführen.
5. Datenschutzbeauftragte(n) und Betriebsrat einbinden, bevor die Inhaltsanalyse aktiviert wird; dann die Ergebnisse an die SOC-Werkzeuge anbinden (SEC-001).

Quellen

1. ENISA Threat Landscape — https://www.enisa.europa.eu/topics/cyber-threats/threats-and-trends
2. FBI Internet Crime Complaint Center annual reports — https://www.ic3.gov/AnnualReport/Reports
3. Microsoft — Microsoft Defender for Office 365 documentation — https://learn.microsoft.com/defender-office-365/mdo-about
4. Heiding et al. — Evaluating LLM-automated spear phishing (arXiv 2412.00586) — https://arxiv.org/abs/2412.00586
5. Google — Email sender guidelines (SPF, DKIM, DMARC requirements) — https://support.google.com/mail/answer/81126
6. Regulation (EU) 2024/1689 (AI Act) — https://eur-lex.europa.eu/eli/reg/2024/1689/oj
7. Regulation (EU) 2016/679 (GDPR), Recital 49 and Art. 6 — https://eur-lex.europa.eu/eli/reg/2016/679/oj
8. Directive (EU) 2022/2555 (NIS2) — https://eur-lex.europa.eu/eli/dir/2022/2555/oj
9. Rspamd documentation — https://rspamd.com/doc/