KI-Anbieter auswählen: EU-Hosting, AVV, Sicherheitsfragebogen, Ausstiegsstrategie, Vertragspunkte

Wenn Sie sich entschieden haben, eine Lösung zu kaufen oder zu mieten statt selbst zu bauen (siehe GUIDE-002), legt der Anbietervertrag fest, wohin Ihre Daten gehen, wer sie nutzen darf, wie sicher sie sind und wie Sie wieder aussteigen. Dieser Leitfaden gibt IT-Verantwortlichen und Entscheidern ein kurzes Vorgehen, einen Sicherheitsfragebogen und eine Liste von Vertragspunkten an die Hand. Am Ende haben Sie eine Anbieterakte, die Ihre Datenschutzbeauftragte bzw. Ihr Datenschutzbeauftragter, die IT-Sicherheit und die Geschäftsleitung freigeben können.

Warum es wichtig ist

• Sie bleiben verantwortlich. Bei fast jedem KI-Dienst verarbeitet der Anbieter in Ihrem Auftrag personenbezogene Daten. Er ist damit Auftragsverarbeiter nach Art. 28 DSGVO. Sie brauchen einen Auftragsverarbeitungsvertrag (AVV) und müssen einen Anbieter wählen, der „hinreichende Garantien" für geeignete technische und organisatorische Maßnahmen bietet [1][2]. Wenn der Anbieter versagt, bleiben das Bußgeld oder die Meldung der Datenpanne trotzdem bei Ihnen.
• Drittlandübermittlungen sind nicht dauerhaft geklärt. Anbieter mit Sitz in den USA stützen sich meist auf das EU-US Data Privacy Framework (DPF). Das Gericht der Europäischen Union hat es am 3. September 2025 bestätigt (T-553/23, Latombe), doch beim Gerichtshof ist eine Berufung anhängig (C-703/25 P) [8]. Die beiden Vorgänger wurden gekippt. Vertragsklauseln, mit denen Sie auf eine reine Verarbeitung in der EU umstellen können, sind eine günstige Absicherung.
• Der Ausstieg ist jetzt ein Rechtsanspruch. Der EU Data Act (Kapitel VI) erfasst IaaS, PaaS und SaaS, auch bestehende Verträge: höchstens zwei Monate Vorbereitung, 30 Tage für den Wechsel, mindestens 30 Tage danach Zugriff auf die Daten und ab dem 12. Januar 2027 keine Wechselentgelte mehr [4]. Das hilft nur, wenn Sie einen Plan haben, wohin Ihre Daten gehen.
• Sicherheit der Lieferkette kann eine gesetzliche Pflicht sein. Unternehmen, die unter das deutsche NIS2-Umsetzungsgesetz (NIS2UmsuCG, seit Dezember 2025 in Kraft) fallen, müssen Risiken in der Lieferkette steuern. KI-Anbieter gehören zu dieser Kette [9].
• Pflichten aus der KI-Verordnung (AI Act) brauchen Zuarbeit des Anbieters. Die Transparenzpflichten nach Art. 50 (z. B. Kennzeichnung von Chatbots) gelten seit dem 2. August 2026; die Pflichten für Hochrisiko-Systeme nach Anhang III (z. B. KI im Recruiting) ab dem 2. Dezember 2027. Für beide brauchen Sie Dokumentation vom Anbieter, vereinbaren Sie sie daher jetzt im Vertrag (GUIDE-014).

Wann Sie es brauchen

• Vor einem Pilotprojekt mit echten Daten. Kostenlose Testkonten sind der häufigste Weg, auf dem Daten ohne AVV das Unternehmen verlassen.
• Vor dem Rollout oder einer längeren Vertragslaufzeit, besonders wenn der Pilot unter Testbedingungen lief.
• Wenn ein bestehender Anbieter KI-Funktionen ergänzt, etwa einen Copilot in Ihrem ERP, CRM oder Office-Paket. Prüfen Sie AVV, Unterauftragsverarbeiter und Klauseln zur Datennutzung erneut.
• Jährlich und bei Änderungsmitteilungen zu Unterauftragsverarbeitern, Regionen oder Modellversionen.

Wer beteiligt ist

Schritt für Schritt

1. Eine einseitige Anforderungsübersicht schreiben (½ Tag). Halten Sie den Anwendungsfall, die Datenkategorien (personenbezogen, besondere Kategorien, Geschäftsgeheimnisse), die Nutzer, die Integrationen (M365, DATEV, ERP, DMS) und den Schutzbedarf (normal / hoch / sehr hoch) fest. Der Schutzbedarf bestimmt, wie streng die folgenden Schritte ausfallen.

2. Eine engere Wahl von 3 bis 5 Anbietern aufstellen (1 bis 2 Tage). Filtern Sie früh nach drei K.-o.-Kriterien: - Hosting und Support-Zugriff innerhalb der EU/des EWR, zumindest aber eine vertraglich zugesicherte Option nur für die EU; - ein AVV wird angeboten, mit veröffentlichter Liste der Unterauftragsverarbeiter; - kein Training oder keine Verbesserung von Modellen mit Ihren Ein- und Ausgaben, oder ein vertragliches Opt-out.

Die Orientierungshilfe der DSK nennt das Training mit Eingaben als zentralen Prüfpunkt [6]. Anbieter, die schriftlich nicht antworten, scheiden aus.

3. Den Sicherheitsfragebogen versenden (2 bis 3 Wochen Laufzeit, 1 bis 2 Tage Aufwand). Verwenden Sie den Fragebogen in der Checkliste unten. Verlangen Sie Nachweise, keine Werbeaussagen: ein ISO/IEC-27001-Zertifikat samt Geltungsbereich, ein BSI-C5-Testat und, falls vorhanden, ein AIC4-Testat. C5:2026, der Cloud-Sicherheitskatalog des BSI, enthält 168 Basiskriterien (C5:2020: 121), ergänzt Themen wie Confidential Computing und ist ab dem 1. Juni 2027 für Prüfungen verbindlich [3]. AIC4 baut auf C5 auf und ergänzt KI-spezifische Kriterien wie Robustheit und Datenqualität [5]. Wenige Anbieter für den Mittelstand haben AIC4, aber C5 oder ISO 27001 sind bei hohem Schutzbedarf ein angemessenes Minimum.

4. Mit echten Aufgaben testen (1 bis 2 Wochen). Lassen Sie dieselben 20 bis 50 typischen Aufgaben durch jedes Werkzeug laufen, bis zur Unterzeichnung des AVV mit synthetischen oder anonymisierten Daten. Bewerten Sie Qualität, Geschwindigkeit, Kosten pro Aufgabe und Administrationsfunktionen (SSO, Rollen, Protokollexport, Löschung). Siehe GUIDE-009.

5. Die Datenschutzunterlagen prüfen (Datenschutzbeauftragte(r), 1 bis 3 Tage). Gehen Sie durch: - den AVV im Abgleich mit Art. 28 Abs. 3 DSGVO oder mit den Standardvertragsklauseln der Kommission für Auftragsverarbeiter (Durchführungsbeschluss 2021/915) [1][2]; - Unterauftragsverarbeiter, Änderungsmitteilungen und Ihr Widerspruchsrecht; - die Grundlage der Übermittlung (DPF oder SCC); - Aufbewahrung und Löschung von Prompts, Dateien und Protokollen; - ob eine DSFA nötig ist (wahrscheinlich bei der Bewertung von Personen, bei besonderen Kategorien oder bei neuer Technik in großem Umfang).

6. Die Vertragspunkte verhandeln (1 bis 3 Wochen). Nutzen Sie die Liste im nächsten Abschnitt. KMU erhalten von großen Anbietern selten individuelle Verträge. Fragen Sie trotzdem schriftlich nach, wählen Sie das Business-Paket (Privatkunden-Pakete haben oft weder AVV noch Zusage zum Verzicht auf Training) und dokumentieren Sie Ablehnungen. Nützliche Formulierungen liefern die unverbindlichen Data-Act-Klauseln der Kommission für den Cloud-Wechsel [7] und die EU-Mustervertragsklauseln für die KI-Beschaffung (MCC-AI, aktualisiert im März 2025, „light" und „high-risk"), die für öffentliche Auftraggeber geschrieben wurden, sich aber anpassen lassen [10].

7. Den Ausstieg vor der Unterschrift planen (½ Tag). Listen Sie auf, was Sie mitnehmen müssten (Prompts, individuelle Assistenten, RAG-Indizes, Feintuning-Daten, Protokolle), die Exportformate und eine realistische Rückfalllösung. Halten Sie Quelldokumente und Evaluierungssätze außerhalb des Systems des Anbieters.

8. Entscheiden und dokumentieren (½ Tag). Bewahren Sie Anforderungen, Antworten auf den Fragebogen, Testergebnisse, AVV, DSFA-Entscheidung, Stand der Betriebsratsbeteiligung und Vertrag in einer Anbieterakte auf. Nehmen Sie den Anbieter in die Liste freigegebener Werkzeuge (GUIDE-007) und in die jährliche Überprüfung auf.

Vertragspunkte, für die es sich zu kämpfen lohnt

• Datennutzung: kein Training mit Ihren Daten; Sie behalten die Rechte an Ein- und Ausgaben; Prompts sind vertraulich.
• Standort: Verarbeitung in der EU/im EWR; Support-Zugriff aus Drittländern nur protokolliert und angekündigt.
• Unterauftragsverarbeiter: eine Liste, 30 Tage Vorankündigung bei Änderungen sowie ein Widerspruchs- oder Kündigungsrecht.
• Sicherheit: eine benannte Zertifizierung, die aufrechterhalten werden muss, und Meldung von Vorfällen innerhalb von 24 bis 48 Stunden (gegenüber der Aufsichtsbehörde haben Sie 72 Stunden, Art. 33 DSGVO).
• Modelländerungen: Vorankündigung und ein Testfenster, bevor Modelle ersetzt werden (GUIDE-011).
• Servicelevel: Verfügbarkeit, Supportzeiten, Ankündigung von Preisänderungen mit Kündigungsrecht.
• KI-Verordnung: Mitwirkung bei der Transparenz nach Art. 50 und, bei Hochrisiko-Anwendungen, Gebrauchsanweisung und Informationen für Betreiber.
• Geistiges Eigentum und Haftung: Freistellung von Ansprüchen Dritter wegen geistigen Eigentums an den Ausgaben, soweit angeboten; eine Haftungsobergrenze oberhalb einer Monatsgebühr.
• Ausstieg: Export in offenen Formaten, Wechselregeln nach dem Data Act und Löschbestätigung nach Ablauf der Abrufphase.
• Recht und Gerichtsstand: deutsches oder EU-Recht und entsprechende Gerichte, wo möglich.

Checkliste

• [ ] Anforderungsübersicht mit Datenkategorien und Schutzbedarf
• [ ] EU/EWR-Hosting oder vertragliche Option nur für die EU schriftlich bestätigt
• [ ] Kein Training mit Ein-/Ausgaben (Vertragsklausel oder geprüfte Einstellung)
• [ ] AVV unterzeichnet; Liste der Unterauftragsverarbeiter geprüft; Übermittlungsgrundlage dokumentiert
• [ ] DSFA-Entscheidung durch die Datenschutzbeauftragte bzw. den Datenschutzbeauftragten dokumentiert
• [ ] Sicherheitsfragebogen mit Nachweisen beantwortet (ISO 27001 / C5 / AIC4, Zusammenfassung des Penetrationstests)
• [ ] SSO, MFA, Rollenrechte, Export des Audit-Protokolls und Löschfunktionen getestet
• [ ] Betriebsrat unterrichtet; Betriebsvereinbarung nötig? (GUIDE-004)
• [ ] Meldung von Vorfällen, Modelländerungen und Preisänderungen im Vertrag geregelt
• [ ] Ausstiegsplan: Dateninventar, Exportformate, Rückfalloption
• [ ] Anbieter in die Liste freigegebener Werkzeuge und in den Kalender der jährlichen Überprüfung aufgenommen

Sicherheitsfragebogen, 12 Kernfragen: 1. Wo werden Daten und Backups gespeichert, und von wo aus können Support-Mitarbeitende darauf zugreifen? 2. Werden Eingaben, Ausgaben oder Dateien zum Training oder zur Verbesserung von Modellen genutzt, auch durch menschliche Prüfung? 3. Wie lange werden Prompts, Dateien und Protokolle aufbewahrt, und können wir dies selbst festlegen? 4. Welche Zertifizierungen decken genau diesen Dienst ab (Geltungsbereich ISO 27001, C5, AIC4, SOC 2)? 5. Wie werden Mandanten getrennt? Sind Daten bei der Übertragung und im Ruhezustand verschlüsselt, und wer hält die Schlüssel? 6. Unterstützen Sie SSO, MFA, Rollen und SCIM? 7. Können Administratoren Audit-Protokolle exportieren? Erfassen Protokolle Nutzeraktivitäten? (Relevant für den Betriebsrat.) 8. Wie verhindern Sie Prompt Injection und Datenabfluss über Konnektoren (GUIDE-013)? Beachten Konnektoren bestehende Zugriffsrechte? 9. Welche Basismodelle und Unterauftragsverarbeiter werden eingesetzt, und wie werden Änderungen angekündigt? 10. Wie sieht Ihr Vorfallprozess aus, und wie schnell melden Sie? Wann wurde zuletzt ein Penetrationstest oder KI-Red-Teaming durchgeführt? 11. Wie exportieren wir alle Daten und Konfigurationen, und in welchen Formaten? 12. Welche Dokumentation zur KI-Verordnung stellen Sie Betreibern bereit?

Vorlagen & Werkzeuge

• BSI-C5-Kriterienkatalog, mit Hinweisen für Cloud-Kunden [3]
• BSI-AIC4-Kriterienkatalog für KI-Cloud-Dienste [5]
• BSI: Generative KI-Modelle, Chancen und Risiken, für bedrohungsbezogene Fragen [11]
• DSK-Orientierungshilfe zu KI und Datenschutz, mit Prüfpunkten für die Auswahl von KI-Anwendungen [6]
• Standardvertragsklauseln der Kommission für Auftragsverarbeiter (2021/915) [2]
• Data-Act-Standardvertragsklauseln der Kommission für den Cloud-Wechsel [7]; Merkblatt der Bundesnetzagentur zum Wechsel [4]
• EU-Mustervertragsklauseln für die KI-Beschaffung (MCC-AI light und high-risk) [10]
• Ihr regionales Mittelstand-Digital Zentrum oder Ihre IHK für anbieterneutrale Beratung zur engeren Wahl

Typische Fehler

• Pilot mit einem Privatkunden-Tarif. Kostenlose Tarife haben oft keinen AVV und dürfen unter Umständen mit Ihren Daten trainieren. Pilotieren Sie im Business-Tarif oder mit synthetischen Daten.
• „Gehostet in Deutschland" für bare Münze genommen. EU-Hosting schließt Support-Zugriff aus Drittländern oder US-Unterauftragsverarbeiter nicht aus. Lesen Sie die Liste der Unterauftragsverarbeiter.
• Zertifikate mit falschem Geltungsbereich. Ein ISO-27001-Zertifikat für das Büro des Anbieters sagt nichts über den KI-Dienst aus.
• KI-Funktionen in bestehender Software übersehen. Ein neuer Copilot in einem Werkzeug, das Sie schon nutzen, ist eine neue Anbieterentscheidung, auch für den Betriebsrat.
• Keine Ausstiegsdaten. Individuelle Assistenten und RAG-Indizes lassen sich oft nicht exportieren. Halten Sie Quelldokumente und Konfigurationen bei sich.
• Unterschreiben, bevor der Betriebsrat eingebunden ist. Wenn das Werkzeug die Nutzung protokolliert, kann ein Rollout ohne Mitbestimmung per einstweiliger Verfügung gestoppt werden.
• Einmalige Prüfung. Anbieter wechseln mehrmals im Jahr Modelle und Unterauftragsverarbeiter, prüfen Sie daher jährlich.

Quellen

1. Regulation (EU) 2016/679 (GDPR), Art. 28 and 33, EUR-Lex: https://eur-lex.europa.eu/eli/reg/2016/679/oj
2. Commission Implementing Decision (EU) 2021/915 on standard contractual clauses between controllers and processors: https://eur-lex.europa.eu/eli/dec_impl/2021/915/oj
3. BSI: Kriterienkatalog C5 (C5:2020 and C5:2026): https://www.bsi.bund.de/DE/Themen/Unternehmen-und-Organisationen/Informationen-und-Empfehlungen/Empfehlungen-nach-Angriffszielen/Cloud-Computing/Kriterienkatalog-C5/kriterienkatalog-c5_node.html ; summary of C5:2026 changes, Rödl & Partner (2026): https://www.roedl.com/insights/der-neue-c5-katalog-ist-da-was-sie-jetzt-beachten-muessen/ ; transition date: https://www.a-lign.com/articles/c5-attestation
4. Bundesnetzagentur: Data Act fact sheet "Switching between data processing services" (June 2026): https://www.bundesnetzagentur.de/EN/Areas/Digitalisation/DataAct/DL/Factsheet4.html
5. BSI: AI Cloud Service Compliance Criteria Catalogue (AIC4): https://www.bsi.bund.de/EN/Themen/Unternehmen-und-Organisationen/Informationen-und-Empfehlungen/Kuenstliche-Intelligenz/AIC4/aic4.html
6. Datenschutzkonferenz (DSK): Orientierungshilfe "Künstliche Intelligenz und Datenschutz", version 1.0, 6 May 2024: https://datenschutzkonferenz-online.de/media/pm/2024_05_06_DSK_PM_OH_KI_und_Datenschutz.pdf
7. European Commission: Draft Recommendation on non-binding model contractual terms on data access and use and non-binding standard contractual clauses for cloud computing contracts (19 Nov 2025): https://digital-strategy.ec.europa.eu/en/library/draft-recommendation-non-binding-model-contractual-terms-data-access-and-use-and-non-binding
8. General Court, T-553/23 Latombe (3 Sep 2025), summary by Clifford Chance: https://www.cliffordchance.com/insights/resources/blogs/talking-tech/en/articles/2025/09/transatlantic-data-transfers-where-the-dpf-stands-post-latombe.html ; appeal C-703/25 P: https://eur-lex.europa.eu/eli/C/2025/6610/oj/eng
9. IHK Darmstadt: NIS-2, obligations for companies (implementation in force): https://www.ihk.de/darmstadt/produktmarken/digitalisierung/datenschutz-und-it-sicherheit2/nis-2-pflichten-fuer-unternehmen-6218248
10. EU model contractual clauses for AI procurement (MCC-AI), updated March 2025; overview by Covington: https://www.insideprivacy.com/artificial-intelligence/eus-community-of-practice-publishes-updated-ai-model-contractual-clauses/
11. BSI: Generative KI-Modelle – Chancen und Risiken für Industrie und Behörden: https://www.bsi.bund.de/SharedDocs/Downloads/DE/BSI/KI/Generative_KI-Modelle.pdf

Abgerufen 2026-10.