Ihre Beschäftigten nutzen bereits ChatGPT und ähnliche Werkzeuge, ob Sie es erlaubt haben oder nicht. Dieser Leitfaden hilft Ihnen, von „niemand weiß Bescheid“ zu einer KI-Richtlinie von zwei bis vier Seiten zu kommen. Die Richtlinie benennt die freigegebenen Werkzeuge, ordnet Daten in Klassen ein, die festlegen, was wohin darf, und regelt klar die Pflichten der Nutzenden. Sie wird durch ein tatsächlich bereitgestelltes Unternehmenswerkzeug gestützt, sodass es keinen Grund für private Konten gibt.
Warum es wichtig ist
- Schatten-KI ist bereits verbreitet. Der Bitkom hat Mitte 2025 604 deutsche Unternehmen mit 20 oder mehr Beschäftigten befragt. In 8 % davon nutzen Beschäftigte weitgehend private KI-Werkzeuge bei der Arbeit (2024: 4 %). Weitere 17 % berichteten von Einzelfällen, und weitere 17 % vermuten es, ohne es sicher zu wissen. Das ergibt rund 4 von 10 Unternehmen. Nur 26 % geben Beschäftigten offiziellen Zugang zu generativer KI, und nur 23 % haben KI-Regeln (2024: 15 %) [1].
- Datenabfluss und Kontrollverlust. Das BSI nennt fehlende Vertraulichkeit eingegebener Daten, Abhängigkeit vom Anbieter, halluzinierte Ausgaben und KI-spezifische Angriffe als wichtige Risiken generativer KI-Modelle. Es empfiehlt vor dem Einsatz eine Risikoanalyse für jeden konkreten Anwendungsfall [2][3].
- Die DSGVO-Rechenschaftspflicht bleibt bei Ihnen. Nach Auffassung der deutschen Datenschutzaufsichtsbehörden (DSK) ist eine Organisation, die ein LLM für eigene Zwecke einsetzt und ihren Beschäftigten die Nutzung erlaubt, in der Regel Verantwortliche. Sie muss daher Rechtsgrundlage, Auftragsverarbeitungsvertrag und interne Regeln klären [4]. Personenbezogene Daten, die in ein kostenloses privates Konto eingegeben werden, werden ohne AVV (Art. 28 DSGVO) und oft mit aktivierter Nutzung für das Training verarbeitet.
- KI-Verordnung (AI Act), Art. 4. Seit dem 27. Juli 2026 müssen Betreiber Maßnahmen ergreifen, um die KI-Kompetenz ihrer Beschäftigten zu fördern. Das Gesetz verlangt kein garantiertes Niveau. Die Kommission erklärt, sie werde kein festes „ausreichendes Niveau“ vorschreiben [5]. Eine schriftliche Richtlinie samt Unterweisung ist die günstigste dokumentierte Maßnahme, die Sie nachweisen können (siehe GUIDE-006).
- Geschäftsgeheimnisse. Nach dem GeschGehG gilt eine Information nur dann als geschütztes Geschäftsgeheimnis, wenn Sie „angemessene Geheimhaltungsmaßnahmen“ getroffen haben. Eine dokumentierte Regel, was nicht in externe KI-Werkzeuge gehört, ist eine dieser Maßnahmen.
Wann Sie es brauchen
- Jetzt, wenn Sie bisher gar keine Regel haben. Schatten-KI wartet nicht auf Ihre KI-Strategie.
- Bevor Sie ein KI-Werkzeug für das Unternehmen einführen (M365 Copilot, ein Business-Tarif von ChatGPT/Claude/Le Chat, ein interner RAG-Assistent). Richtlinie und Werkzeug sollten gemeinsam starten.
- Wenn eine neue Werkzeugklasse auftaucht: KI-Meeting-Aufzeichnung, Browser-Erweiterungen, Coding-Assistenten, KI-Agenten mit Zugriff auf E-Mail oder ERP.
- Mindestens einmal im Jahr und immer dann, wenn sich gesetzliche Termine ändern (KI-Verordnung: Transparenzpflichten nach Art. 50 seit 2. Aug. 2026, Pflichten für Hochrisiko-Systeme nach Anhang III ab 2. Dez. 2027; siehe GUIDE-014).
Wer beteiligt ist
| Rolle | Aufgabe |
|---|---|
| Geschäftsleitung | Entscheidet über Risikobereitschaft und Budget für ein freigegebenes Werkzeug, unterzeichnet die Richtlinie, geht mit gutem Beispiel voran |
| IT / IT-Sicherheit | Wählt freigegebene Werkzeuge aus und konfiguriert sie (SSO, kein Training mit Unternehmensdaten, Protokollierung, Aufbewahrung). Sperrt oder überwacht riskante Werkzeuge. Betreibt den Antragsprozess für neue Werkzeuge |
| Datenschutzbeauftragte(r) | Prüft Rechtsgrundlage, AVV, Drittlandübermittlungen und die Notwendigkeit einer DSFA (GUIDE-005). Legt die Regeln „keine personenbezogenen Daten“ fest |
| Betriebsrat | Bestimmt mit, wenn das Werkzeug Verhalten oder Leistung überwachen kann (§ 87 Abs. 1 Nr. 6 BetrVG). Wird nach § 90 frühzeitig unterrichtet (GUIDE-004) |
| Personalabteilung | Verankert die Richtlinie im Onboarding und in den Beschäftigungsbedingungen. Verantwortet die Folgen von Verstößen. Deckt die KI-Nutzung bei Einstellungen und in Personalunterlagen ab |
| Recht / Compliance | Vertraulichkeitspflichten gegenüber Kunden (NDAs, Berufsgeheimnisse wie § 203 StGB), Urheberrecht, Kennzeichnung nach Art. 50 KI-Verordnung |
| Abteilungsleitungen und Endnutzende | Bringen die realen Anwendungsfälle ein. Eine Pilotgruppe prüft den Entwurf auf Praxistauglichkeit |
Schritt für Schritt
1. Herausfinden, was tatsächlich genutzt wird (1–2 Wochen, geringer Aufwand). Führen Sie eine kurze anonyme Umfrage durch: welche Werkzeuge, für welche Aufgaben, mit welchen Daten. Ergänzen Sie einen Blick in Proxy-/Firewall-Protokolle oder SaaS-Discovery nach KI-Domains. Berichten Sie die Ergebnisse nur aggregiert und sprechen Sie zuerst mit dem Betriebsrat, wenn Sie Protokolle auswerten. Sie suchen nach dem Bedarf, nicht nach Schuldigen. Typische Funde: E-Mail-Entwürfe, Übersetzung, Zusammenfassungen, Excel-Formeln, Code-Schnipsel, Bilderstellung.
2. Eine freigegebene Alternative bereitstellen, bevor Sie verbieten (2–6 Wochen). Ein Verbot ohne Alternative verlagert die Nutzung auf private Smartphones. Wählen Sie mindestens einen universellen Assistenten in einem Business- oder Enterprise-Tarif mit: - einem AVV (Auftragsverarbeitungsvertrag) und EU-Datenhaltung oder Standardvertragsklauseln, - vertraglichem Ausschluss des Trainings mit Ihren Eingaben, - SSO und vom Unternehmen verwalteten Konten (keine privaten Konten), - Administrationsfunktionen für Aufbewahrung, Konnektoren und Freigaben. Nutzen Sie GUIDE-002 für die Entscheidung zwischen Eigenbau und Kauf und GUIDE-010 für die Anbieterprüfung.
3. Daten in verständlicher Sprache klassifizieren (1 Tag Workshop). Die meisten KMU haben bereits drei oder vier Klassen oder brauchen sie. Ordnen Sie jeder Klasse die Werkzeuge zu, in die sie eingegeben werden darf:
| Klasse | Beispiele | Kostenlose/private KI-Werkzeuge | Freigegebene Unternehmens-KI | Interne KI / On-Premises |
|---|---|---|---|---|
| Öffentlich | Website-Texte, veröffentlichte Broschüren | Erlaubt | Erlaubt | Erlaubt |
| Intern | Prozessbeschreibungen, interne Mitteilungen | Nicht erlaubt | Erlaubt | Erlaubt |
| Vertraulich | Angebote, Preise, Zeichnungen, Verträge, Quellcode, Kundendaten | Nicht erlaubt | Nur erlaubt, wenn für diesen Anwendungsfall freigegeben | Erlaubt |
| Streng vertraulich / besondere Kategorien | Gesundheitsdaten, Personalakten, Geschäftsgeheimnisse unter NDA, Berufsgeheimnisse | Nicht erlaubt | Nur mit Freigabe von Datenschutzbeauftragte(r)/Recht und ggf. DSFA | Einzelfallentscheidung |
4. Die Richtlinie schreiben (2–4 Seiten, nicht 20). Empfohlene Gliederung: 1. Zweck und Geltungsbereich (alle Beschäftigten, Zeitarbeitskräfte, Auftragnehmer; Firmengeräte und private Geräte, die für die Arbeit genutzt werden). 2. Liste der freigegebenen Werkzeuge. Führen Sie sie als eigene, häufig aktualisierte Seite mit einer verantwortlichen Person. 3. Verboten: private Konten für Unternehmensdaten, nicht freigegebene Browser-Erweiterungen und KI-Meeting-Bots, das Hochladen von Daten oberhalb der zulässigen Klasse, vollautomatisierte Entscheidungen über Personen. 4. Datenregeln (die Tabelle oben) plus Hinweise „erst anonymisieren“ (siehe DOC-018). 5. Pflichten der Nutzenden: Ergebnisse vor der Verwendung prüfen (Fakten, Zahlen, rechtliche Aussagen, Code), Verantwortung als Autorin bzw. Autor übernehmen, keine KI-generierten Inhalte als geprüftes Fachwissen ausgeben. 6. Transparenz: KI-generierte Inhalte kennzeichnen, wo Art. 50 KI-Verordnung es verlangt (z. B. Chatbots im Kundenkontakt, Deepfakes, KI-Texte zu Themen von öffentlichem Interesse ohne menschliche redaktionelle Prüfung). Auch dort kennzeichnen, wo Ihre Kunden oder Verträge es verlangen. 7. Urheberrecht und Vertraulichkeit: kein Hochladen von Fremdmaterial, an dem Sie keine Rechte haben, und NDAs einhalten. 8. Neue Werkzeuge beantragen: ein einfaches Formular (Zweck, Datenklasse, Anbieter, Kosten) mit einem Entscheidungsziel von 2 Wochen. 9. Vorfälle: Wen man informiert, wenn vertrauliche Daten in das falsche Werkzeug gelangt sind. Keine Schuldzuweisung bei schneller Meldung. 10. Schulung und Ansprechperson. Folgen von Verstößen. Datum der Überprüfung.
5. Mitbestimmung und Datenschutz klären (parallel zu Schritt 4). Im Jahr 2024 sah das Arbeitsgericht Hamburg (ArbG Hamburg, 16. Jan. 2024, 24 BVGa 1/24, einstweiliges Verfahren) kein Mitbestimmungsrecht, wenn Beschäftigten lediglich erlaubt wurde, ChatGPT über eigene private Konten zu nutzen und der Arbeitgeber keine Nutzungsdaten erhielt [6]. Verallgemeinern Sie das nicht. Sobald Sie Unternehmenskonten bereitstellen, deren Protokolle oder Admin-Berichte zeigen könnten, wer was getan hat, greift der Maßstab der „objektiven Eignung“ des BAG. § 87 Abs. 1 Nr. 6 BetrVG ist dann in der Regel ausgelöst, wie bei M365 Copilot. Verhaltensregeln können außerdem § 87 Abs. 1 Nr. 1 berühren. Planen Sie eine Rahmenbetriebsvereinbarung zu KI, statt Werkzeug für Werkzeug zu verhandeln (GUIDE-004). Die vbw (Vereinigung der Bayerischen Wirtschaft) hat eine Muster-Betriebsvereinbarung zur KI-Nutzung veröffentlicht [7]. Lassen Sie die Datenschutzbeauftragte bzw. den Datenschutzbeauftragten die Verarbeitung im Verzeichnis von Verarbeitungstätigkeiten erfassen und entscheiden, ob eine DSFA nötig ist.
6. Mit einer Unterweisung starten, nicht mit einer E-Mail (1–2 Stunden pro Gruppe). Halten Sie pro Team eine Sitzung von 45–60 Minuten: die freigegebenen Werkzeuge, die Tabelle der Datenklassen mit realen Beispielen aus Ihrem Unternehmen und 3–4 gute Prompts für die jeweilige Arbeit. Lassen Sie die Beschäftigten bestätigen, dass sie die Richtlinie gelesen haben. Das dokumentiert zugleich Ihre Maßnahmen nach Art. 4 (GUIDE-006). Benennen Sie KI-Botschafter je Abteilung (GUIDE-008).
7. Verhältnismäßig durchsetzen und überprüfen. Technische Maßnahmen: bekannte Werkzeugkategorien mit hohem Risiko sperren (z. B. ungeprüfte KI-Browser-Erweiterungen, Transkriptions-Bots) und DLP-Regeln für eindeutig gekennzeichnete vertrauliche Dateien nutzen, soweit Ihre Lizenzen das erlauben. Organisatorische Maßnahmen: vierteljährliche Überprüfung der Liste freigegebener Werkzeuge, jährliche Überprüfung der Richtlinie und eine Überprüfung nach jedem Vorfall. Verfolgen Sie die Zahlen: aktive Nutzende des freigegebenen Werkzeugs, offene Werkzeuganträge, Vorfälle.
Realistischer Aufwand für ein Unternehmen mit 50–250 Beschäftigten: 8–15 Personentage intern über 6–10 Wochen, zuzüglich der Lizenzkosten für das freigegebene Werkzeug. Für Verhandlungen mit dem Betriebsrat kommt weitere Zeit hinzu.
Checkliste
- [ ] Anonyme Umfrage zur aktuellen KI-Nutzung durchgeführt; Ergebnisse aggregiert geteilt
- [ ] Mindestens ein freigegebenes KI-Werkzeug mit AVV, Klausel „kein Training“, SSO und Unternehmenskonten
- [ ] Datenklassen definiert und Werkzeugen zugeordnet, mit unternehmensspezifischen Beispielen
- [ ] Richtlinie (2–4 Seiten) von Geschäftsleitung, Datenschutzbeauftragte(r), IT-Sicherheit und Personalabteilung freigegeben
- [ ] Betriebsrat frühzeitig unterrichtet (§ 90); Betriebsvereinbarung abgeschlossen, wo § 87 Abs. 1 Nr. 6 greift
- [ ] Verzeichnis von Verarbeitungstätigkeiten aktualisiert; Entscheidung zur DSFA dokumentiert
- [ ] Antragsprozess für Werkzeuge mit verantwortlicher Person und Entscheidungsfrist
- [ ] Meldeweg für Vorfälle allen bekannt, mit Regel „keine Schuldzuweisung“ bei schneller Meldung
- [ ] Unterweisung durchgeführt, Kenntnisnahme eingeholt, Maßnahmen nach Art. 4 dokumentiert
- [ ] Liste freigegebener Werkzeuge vierteljährlich überprüft; Richtlinie jährlich überprüft
Vorlagen & Werkzeuge
- IHK Schwaben – Muster-KI-Richtlinie: kostenlose Musterrichtlinie zu KI (Zweck, freigegebene Programme, Datenschutz, Verantwortung) [8].
- vbw – Muster-Betriebsvereinbarung zur Nutzung von KI (Juli 2025) [7].
- DSK – Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ (Mai 2024): Kriterien in Checklistenform für Auswahl und Einsatz LLM-basierter Werkzeuge [4].
- BSI – „Generative KI-Modelle: Chancen und Risiken für Industrie und Behörden“ (aktualisiert Jan. 2025, DE/EN): Risikokatalog und Gegenmaßnahmen, nützlich als Grundlage für den Risikoteil Ihrer Richtlinie [2][3].
- EU-Kommission – Fragen und Antworten zur KI-Kompetenz und lebendes Verzeichnis von Praxisbeispielen [5].
- Die Mittelstand-Digital Zentren und Ihre örtliche IHK bieten kostenlose Einführungsworkshops zu KI-Governance an.
Typische Fehler
- Verbot ohne Alternative. Das führt zu mehr Schatten-KI, nicht zu weniger. Abhilfe: erst das freigegebene Werkzeug, dann die Regeln.
- Richtlinie von Juristen für Juristen. Zwanzig Seiten, die niemand liest. Abhilfe: 2–4 Seiten, eine Tabelle der Datenklassen und reale Beispiele („ein Angebot an Kunde X: nur im freigegebenen Werkzeug“).
- Freigabeliste nie aktualisiert. Beschäftigte umgehen eine veraltete Liste. Abhilfe: eine verantwortliche Person, vierteljährliche Überprüfung, Entscheidungsziel von 2 Wochen für Werkzeuganträge.
- Sich auf die Hamburger Entscheidung verlassen. Sie betraf private Konten ohne Datenzugriff des Arbeitgebers. Unternehmenswerkzeuge mit Protokollierung sind ein anderer Fall.
- Eingebettete KI vergessen. KI-Funktionen, die in vorhandener Software eingeschaltet werden (Office-Paket, CRM, DMS, Videokonferenzen), zählen ebenfalls. Nehmen Sie sie in die Bestandsaufnahme und die Freigabeliste auf.
- Ehrliche Meldende bestrafen. Wenn die Meldung eines Fehlers zu Sanktionen führt, erfahren Sie nichts mehr von Vorfällen.
- Die Richtlinie für die ganze KI-Kompetenz halten. Ein Dokument zu unterschreiben, baut keine Fähigkeiten auf. Kombinieren Sie es mit Schulung (GUIDE-006).
Quellen
- Bitkom: "Beschäftigte nutzen vermehrt Schatten-KI", press release, 21 Oct 2025 (survey of 604 companies ≥20 employees, July–Aug 2025). https://www.bitkom.org/Presse/Presseinformation/Beschaeftigte-nutzen-vermehrt-Schatten-KI
- BSI: "Generative KI-Modelle – Chancen und Risiken für Industrie und Behörden". https://www.bsi.bund.de/SharedDocs/Downloads/DE/BSI/KI/Generative_KI-Modelle.html
- BSI: "Aktualisierte Fassung veröffentlicht: Chancen und Risiken generativer KI-Modelle", 21 Jan 2025. https://www.bsi.bund.de/DE/Service-Navi/Presse/Alle-Meldungen-News/Meldungen/Chancen-Risiken-generative-KI_250121.html
- Datenschutzkonferenz (DSK): Orientierungshilfe "Künstliche Intelligenz und Datenschutz", press release 6 May 2024. https://datenschutzkonferenz-online.de/media/pm/2024_05_06_DSK_PM_OH_KI_und_Datenschutz.pdf
- European Commission: AI Literacy – Questions & Answers. https://digital-strategy.ec.europa.eu/en/faqs/ai-literacy-questions-answers
- ArbG Hamburg, decision of 16 Jan 2024, 24 BVGa 1/24, summarised by CMS: "Kein Mitbestimmungsrecht des Betriebsrats bei ChatGPT & Co." https://cms.law/de/deu/legal-updates/kein-mitbestimmungsrecht-des-betriebsrats-bei-chatgpt-co
- vbw: Muster-Betriebsvereinbarung zur Nutzung von KI (July 2025). https://www.bds-bayern.de/wp-content/uploads/2026/05/Muster-Betriebsvereinbarung-zur-Nutzung-von-KI-Juli-2025-vbw.pdf
- IHK Schwaben: KI-Richtlinie (Muster). https://www.ihk.de/schwaben/produktmarken/digitalisierung/kuenstliche-intelligenz/ki-richtlinie-6644000
Abgerufen 2026-10.