Den meisten KMU fehlt es nicht an KI-Werkzeugen. Es fehlt eine Shortlist konkreter, lohnender Probleme. Dieser Leitfaden führt Sie in etwa vier bis sechs Wochen von „Wir sollten etwas mit KI machen“ zu einem bewerteten Backlog und zwei oder drei Quick Wins. Er behandelt auch die unscheinbare Arbeit: kleine Automatisierungen und Datenaufbereitung, die oft den ersten echten Nutzen bringen.
Warum es wichtig ist
- Die Verbreitung wächst, aber die meisten Unternehmen stehen noch am Anfang. In der Bitkom-Umfrage 2026 (603 Unternehmen, ab 20 Beschäftigte) nutzen 57 % KI, ein Jahr zuvor waren es 36 %. Neun von zehn sagen, sie stünden erst am Anfang [1]. Das Statistische Bundesamt (Destatis) zählte 2025 bei 26 % der Unternehmen mit 10 und mehr Beschäftigten KI-Nutzung, bei kleinen Unternehmen (10–49) nur 23 % [2].
- Fehlende Anwendungsfälle und fehlende Daten werden als Hürden genannt. Von den Unternehmen ohne KI sagen 30 %, sie hätten keine Anwendungsfälle identifiziert, und 40 %, ihnen fehlten die nötigen Daten. Von den Unternehmen, die KI bereits nutzen, nennen 42 % mangelnde Akzeptanz der Beschäftigten als Problem [1].
- Ein falsches erstes Projekt ist teuer. Ein auffälliger Chatbot auf schlechten Daten beschädigt das Vertrauen, und das belastet jedes Folgeprojekt. Eine unspektakuläre, aber funktionierende Automatisierung, etwa das Auslesen eingehender Rechnungen oder das Sortieren des gemeinsamen Postfachs, schafft Vertrauen und Budget.
- Bottom-up schlägt Top-down. Die Menschen, die den Prozess täglich bearbeiten, wissen, wo Zeit verloren geht. Wenn sie die Anwendungsfälle mit auswählen, akzeptieren sie diese später deutlich eher (siehe GUIDE-008).
Wann Sie es brauchen
- Bevor Sie eine KI-Lizenz über einen allgemeinen Assistenten hinaus kaufen oder bevor Sie einen Anbieter auswählen (GUIDE-002, GUIDE-010).
- Wenn einzelne Abteilungen bereits eigenständig KI-Werkzeuge nutzen („Schatten-KI“) und Sie diese Aktivität steuern müssen (GUIDE-007).
- Einmal im Jahr oder nach einer größeren Systemumstellung (neues ERP oder DMS), um das Backlog zu aktualisieren.
- Vor der Beantragung von Förderung oder kostenloser Unterstützung: Die meisten Programme erwarten eine konkrete Projektidee (GUIDE-012).
Wer beteiligt ist
| Rolle | Beitrag im Prozess |
|---|---|
| Geschäftsleitung | Legt Ziele und Budget fest, trifft die endgültige Entscheidung über die Prioritäten |
| Abteilungsleitungen (Prozessverantwortliche) | Bringen die Probleme ein, verantworten den Business Case, benennen Teilnehmende |
| Endanwender | Beschreiben den realen Arbeitsablauf, Schmerzpunkte und Behelfslösungen; testen Quick Wins |
| IT | Prüft Systeme, Schnittstellen, bereits vorhandene Lizenzen (z. B. M365, DATEV, ERP) und Aufwand |
| Datenverantwortliche | Sagen, wo die Daten liegen, wie sauber sie sind und wer darauf zugreifen darf |
| Betriebsrat (falls gewählt) | Früh einbinden: § 90 Abs. 1 Nr. 3 BetrVG verlangt rechtzeitige Unterrichtung, wenn Arbeitsverfahren mit KI geplant werden; viele Kandidaten lösen § 87 Abs. 1 Nr. 6 aus (GUIDE-004) |
| Datenschutzbeauftragte(r) / IT-Sicherheit | Schnelle Prüfung auf personenbezogene Daten, DSFA-Bedarf und Risiken für Datenabfluss (GUIDE-005, GUIDE-013) |
In öffentlichen Stellen tritt der Personalrat an die Stelle des Betriebsrats, nach dem BPersVG oder den Landesgesetzen.
Schritt für Schritt
1. Rahmen setzen (ein halber Tag, Geschäftsleitung + 1–2 Abteilungsleitungen). Benennen Sie zwei oder drei Unternehmensziele, zum Beispiel „Durchlaufzeit der Auftragsbearbeitung senken“, „das Backoffice trotz Fachkräftemangel entlasten“ oder „schnellere Angebote“. Legen Sie ein grobes Budget und einen Zeitrahmen fest. Bestimmen Sie, wer koordiniert. Informieren Sie den Betriebsrat jetzt, nicht erst nach dem Pilotprojekt.
2. Schmerzpunkte sammeln, nicht KI-Ideen (1–2 Wochen). Stellen Sie jeder Abteilung eine Frage: „Welche wiederkehrenden Aufgaben kosten Sie Zeit, verursachen Fehler oder ärgern Sie?“ Nutzen Sie ein einfaches Formular oder eine 30-minütige Runde pro Team. Suchen Sie gezielt nach einfacher Arbeit, die niemand „KI“ nennt: - Daten aus E-Mails oder PDFs ins ERP übertragen (Aufträge, Lieferscheine, Rechnungen) - das gemeinsame Postfach sortieren und weiterleiten - Excel-Exporte umformatieren, Listen zusammenführen, Kunden- und Artikelstammdaten bereinigen - Standardbriefe, Besprechungsprotokolle und Zusammenfassungen schreiben - Dokumente und Antworten laufwerksübergreifend suchen
Daraus entstehen meist die Quick Wins. Notieren Sie auch Aufgaben der Datenaufbereitung (Stammdaten-Dubletten bereinigen, Papierakten scannen, PDFs strukturieren, Dateiablagen aufräumen). Sie sind oft die Voraussetzung für jedes größere Projekt und verdienen eigene Backlog-Einträge.
3. Discovery-Workshop durchführen (ein halber bis ein ganzer Tag pro Bereich). Teilnehmende: 4–8 Personen aus dem Prozess (einschließlich Endanwender), eine Person aus der IT, die Koordination und, falls vorhanden, ein Mitglied des Betriebsrats. Ablauf: 1. 20 Min.: Was aktuelle KI kann und was nicht, mit Live-Demos an Ihren eigenen Beispieldokumenten 2. 60 Min.: ein oder zwei Prozesse Schritt für Schritt abbilden (Haftnotizen oder Whiteboard); Zeitfresser markieren 3. 60 Min.: Zeitfresser in Kandidaten für Anwendungsfälle überführen; mit diesem Katalog abgleichen, um typische Lösungen, Aufwand und Beteiligte zu sehen 4. 30 Min.: erste grobe Bewertung (Schritt 4) und offene Fragen
Behalten Sie das Ziel der IHK-Workshops im Blick: mit mindestens einem priorisierten Anwendungsfall nach Hause gehen [3].
4. Jeden Kandidaten bewerten (1–2 Stunden pro Charge). Nutzen Sie eine Skala von 1–5 und eine einfache gewichtete Summe. Führen Sie sie in einer gemeinsamen Tabelle:
| Kriterium | Frage | Gewicht |
|---|---|---|
| Nutzen | Eingesparte Stunden pro Monat, Fehlerreduktion, Wirkung auf Umsatz oder Service | 30 % |
| Machbarkeit | Geht es mit vorhandenen Werkzeugen oder einem Standardprodukt? Integrationsaufwand? | 20 % |
| Datenreife | Sind die Daten vorhanden, digital, einigermaßen sauber und zugänglich? (GUIDE-003) | 20 % |
| Risiko & Compliance | Personenbezogene Daten, Risikoklasse nach KI-Verordnung, Relevanz für den Betriebsrat, Auswirkung auf Kunden | 15 % (invers bewertet) |
| Akzeptanz | Wollen die Betroffenen es? Gibt es einen Fürsprecher im Team? | 15 % |
Notieren Sie für den Nutzen eine grobe Zahl: „4 Personen × 3 Std. pro Woche für die Auftragserfassung“ macht Diskussionen konkret. Für die Risikoprüfung ist der EU AI Act Service Desk mit seinem Compliance Checker ein nützlicher erster Filter. Er ersetzt keine Rechtsberatung [4]. Denken Sie daran, dass die Pflichten für Hochrisiko-Systeme nach Anhang III (zum Beispiel KI bei der Personalauswahl) ab dem 2. Dezember 2027 gelten und die Transparenzpflichten nach Art. 50 seit dem 2. August 2026 (GUIDE-014).
5. Einordnen und auswählen (ein Treffen). Tragen Sie die Kandidaten in eine 2×2-Matrix aus Nutzen und Aufwand (Machbarkeit + Datenreife) ein. - Quick Wins (hoher Nutzen, geringer Aufwand): sofort starten, meist mit vorhandenen Werkzeugen oder einem kleinen Low-Code-Ablauf (n8n, Power Automate). - Strategische Projekte (hoher Nutzen, hoher Aufwand): einen Pilot planen (GUIDE-009). Oft brauchen Sie zuerst ein Datenaufbereitungsprojekt. - Wegbereiter: Datenbereinigung, Scannen und DMS-Struktur. Bewerten Sie sie danach, wie viele andere Anwendungsfälle sie ermöglichen. - Zurückgestellt: Begründung festhalten und in sechs Monaten erneut prüfen.
6. Den Umsetzungsweg bewusst wählen. Kaufen Sie nicht für alles standardmäßig ein SaaS-Produkt. Fragen Sie für jeden Anwendungsfall der Shortlist: Deckt eine Funktion in bereits vorhandener Software ihn ab? Ist es eine kleine Automatisierung, die wir selbst mit Low-Code und einer LLM-API bauen können? Braucht es ein spezialisiertes Produkt? Oder erzwingt die Sensibilität der Daten den Selbstbetrieb? Ein gesundes Portfolio mischt meist alle diese Wege (GUIDE-002).
7. Festlegen und kommunizieren (eine Woche). Benennen Sie für jeden Quick Win eine verantwortliche Person, eine Erfolgskennzahl (z. B. Minuten pro Auftrag), einen Zeitrahmen von 4–8 Wochen und die Personen, die ihn testen. Teilen Sie die vollständige Liste, einschließlich der zurückgestellten Punkte und der Gründe, mit allen Teilnehmenden und dem Betriebsrat. So sehen die Beteiligten, dass ihr Beitrag genutzt wurde.
Realistischer Gesamtaufwand für ein Unternehmen mit 50–250 Beschäftigten: 8–15 Personentage, verteilt auf 4–6 Wochen, zuzüglich der Workshop-Zeit der Teilnehmenden.
Checkliste
- [ ] Unternehmensziele und Budgetrahmen von der Geschäftsleitung vereinbart
- [ ] Betriebsrat / Personalrat zu Beginn informiert (falls vorhanden)
- [ ] Schmerzpunkte aus jeder relevanten Abteilung gesammelt, einschließlich der Endanwender
- [ ] Einfache Automatisierungen und Aufgaben der Datenaufbereitung ausdrücklich aufgelistet
- [ ] Mindestens ein Discovery-Workshop pro Kernprozess durchgeführt
- [ ] Jeder Kandidat nach Nutzen, Machbarkeit, Datenreife, Risiko und Akzeptanz bewertet
- [ ] Datenschutzbeauftragte(r) und IT-Sicherheit haben die Shortlist geprüft
- [ ] Umsetzungsweg (vorhandenes Werkzeug / selbst bauen / kaufen / selbst betreiben) je Anwendungsfall geprüft
- [ ] 2–3 Quick Wins mit verantwortlicher Person, Kennzahl und Zeitrahmen
- [ ] Ergebnisse mit allen Teilnehmenden geteilt, einschließlich zurückgestellter Ideen
Vorlagen & Werkzeuge
- Dieser Katalog: Filtern Sie nach
complexity: low,time_to_value: days/weeksunddata_prep_effort, um Quick-Win-Kandidaten und ihre typischen Beteiligten zu finden. - Mittelstand-Digital Zentren: kostenlose, anbieterneutrale Unterstützung, einschließlich KI-Trainer. Die bisherigen Zentren laufen bis Dezember 2026 schrittweise aus. Das BMWE kündigte am 20. Oktober 2026 ein neues Netzwerk aus sechs regionalen Zentren ab dem 1. Januar 2027 und elf Fachzentren ab Mai 2027 an [5]. Geprüft am 31.10.2026.
- IHK: kostenlose Übersichten zu KI-Unterstützungsangeboten, ein Selbstcheck zur KI-Kompetenz und Links zur DIHK-Sammlung von Anwendungsfällen [6].
- Fraunhofer KI-ULTRA-Leitfäden (vom BMAS gefördert): problemgetriebene und technologiegetriebene Suche nach Anwendungsfällen mit Leitfragen sowie ein menschzentrierter Leitfaden zur Umsetzung [7].
- EU AI Act Service Desk / Compliance Checker: erste Risikoprüfung je Anwendungsfall [4].
- Bewertungsvorlage als Tabelle: Die Tabelle in Schritt 4 genügt. Kaufen Sie dafür kein Werkzeug.
Typische Fehler
- Mit der Technik beginnen. „Wir brauchen einen Chatbot“ ist kein Anwendungsfall. Beginnen Sie mit dem Problem und den verlorenen Stunden.
- Nur Führungskräfte fragen. Sie kennen die Strategie, aber nicht die Behelfslösungen. Binden Sie Endanwender ab dem ersten Workshop ein.
- Datenaufbereitung ignorieren. Viele vielversprechende Ideen scheitern, weil die Daten auf Papier liegen, verstreut oder doppelt sind. Machen Sie die Datenbereinigung als eigenes Projekt sichtbar und würdigen Sie sie.
- Kleine Automatisierungen übersehen. Ein Low-Code-Ablauf mit 20 Schritten, der täglich eine Stunde spart, ist keine „echte KI“, amortisiert sich aber oft schneller als jedes Leuchtturmprojekt.
- Standardmäßig kaufen. Prüfen Sie zuerst, was vorhandene Lizenzen und einfache selbst gebaute Automatisierungen schon abdecken.
- Den Betriebsrat spät informieren. Wenn er erst beim Rollout von einem System erfährt, das Nutzeraktivitäten protokolliert, müssen Sie mit Verzögerungen rechnen. Das BAG lässt die objektive Eignung zur Überwachung für die Mitbestimmung genügen.
- Keine Kennzahl. Ohne Ausgangswert (z. B. Zeit pro Rechnung vor dem Pilotprojekt) können Sie einen Quick Win nicht belegen, und das nächste Budget wird schwerer zu bekommen.
Quellen
- Bitkom: "Erstmals nutzt die Mehrheit der Unternehmen KI", Pressemitteilung, 14.09.2026. https://www.bitkom.org/Presse/Presseinformation/Erstmals-nutzt-die-Mehrheit-der-Unternehmen-KI
- Destatis: Unternehmen, die KI-Technologien nutzen, nach Beschäftigtengrößenklassen (IKT-Erhebung 2025). https://www.destatis.de/EN/Themes/Economic-Sectors-Enterprises/Enterprises/ICT-Enterprises-ICT-Sector/Tables/icte-new-1-enterprises-artifical-intelligence.html und https://www.destatis.de/DE/Themen/Branchen-Unternehmen/Unternehmen/IKT-in-Unternehmen-IKT-Branche/_inhalt.html
- IHK Weiterbildung: KI-Anwendungsfall-Workshop für KMU (Workshop-Ziel: mindestens ein priorisierter KI-Anwendungsfall). https://ihk-weiterbildung.de/anmeldeformular/2038767/
- Europäische Kommission: AI Act Service Desk und zentrale Informationsplattform (Compliance Checker). https://ai-act-service-desk.ec.europa.eu/en und https://digital-strategy.ec.europa.eu/de/news/commission-launches-ai-act-service-desk-and-single-information-platform-support-ai-act
- DATEV-Nachricht zur BMWE-Pressemitteilung: "BMWE startet Netzwerk Mittelstand-Digital Zentren", 20.10.2026. https://www.datev.de/web/de/berufsgruppenuebergreifend/nachrichten/ndsr/wirtschaft/Digitalisierung-Mittelstand-BMWE-startet-Netzwerk-Mittelstand-Digital-Zentren
- IHK (ihk.de/ihklw): "Kostenfreie Unterstützung bei der Einführung von KI". https://www.ihk.de/ihklw/produkte/beratung-und-service/ecommerce-und-internet/kuenstliche-intelligenz/kostenfreie-unterstuetzung-bei-der-einfuehrung-von-ki-6396292
- Fraunhofer: KI-ULTRA-Leitfäden zu Strategie, Wandel und Umsetzung von KI-Projekten (vom BMAS gefördert). https://websites.fraunhofer.de/ergebnisse-ki-ultra/ki-ultra-leitfaden-auswahl
Abgerufen im Oktober 2026.