Worum es geht: KI im Mittelstand scheitert selten an Technik — fast immer am Vorgehen. Zu groß starten, ohne klaren Use Case, ohne Erfolgskriterien, ohne Datenschutz-Konzept. Dieser Ratgeber zeigt den 4-Schritte-Plan, mit dem KMU heute KI sauber einführen: ohne eigene IT-Abteilung, mit überschaubarem Geschäftsführer-Aufwand, und mit Ergebnissen, die nach 6–8 Wochen sichtbar sind.

Der häufigste Fehler — und wie Sie ihn vermeiden

Viele Mittelständler steigen falsch ein: „Wir machen mal was mit KI." Dann startet ein Workshop, eine Ideen-Sammlung, eine Anbieter-Suche — und am Ende ist ein Jahr vergangen, ein Konzept liegt in der Schublade, geliefert wurde nichts. Der bessere Einstieg ist umgekehrt: Eine konkrete schmerzhafte Routine wählen, in 4–8 Wochen einen kleinen Workflow live bringen, lernen, und dann weiter ausrollen.

Das ist der Kern des 4-Schritte-Plans: kleinster sinnvoller Erstanlauf statt großes Konzept.

Schritt 1: Den richtigen ersten Use Case finden (Woche 1)

Drei Filter helfen, den richtigen Einstiegs-Use-Case zu finden:

FilterFrageIdealer Wert
HäufigkeitWie oft pro Woche fällt die Aufgabe an?Mindestens 5×, besser täglich
Klarheit der RegelnLässt sich die Aufgabe in „wenn-dann"-Regeln beschreiben?Ja, mit max. 5 Ausnahmen
DatenverfügbarkeitSind die nötigen Daten heute schon digital?Ja, in einem oder zwei Systemen
Frust-FaktorWürde Ihr Team feiern, wenn die Aufgabe weg wäre?Ja, deutlich
SichtbarkeitMerken Sie den Erfolg innerhalb von 4–6 Wochen?Ja, in Stunden oder Klarheit

Use Cases, die alle fünf Filter passieren, sind die richtigen ersten Kandidaten. Typische Treffer im Mittelstand: Belegerfassung, E-Mail-Klassifikation, Angebots-Nachfass, Termin-Koordination. Was Sie zuerst nicht angehen sollten: alles mit kreativem Content (Texte schreiben), alles mit komplexer Verhandlung (Vertragsverhandlungen), alles mit emotionaler Sensibilität (Beschwerde-Eskalation auf höchster Ebene).

Schritt 2: Den richtigen Anbieter wählen (Woche 1–2)

In Deutschland gibt es heute drei grundsätzliche Anbieter-Kategorien für KI-Einführung im Mittelstand. Jede mit ihren Stärken und Risiken:

2.1 Große Beratung mit SAP-Anbindung

  • tiefe Integration in bestehende SAP-Landschaft, Methodik aus Großkonzernen
  • für KMU oft überdimensioniert, lange Vorlaufzeit, hoher Festpreis
  • ab ca. 250 Mitarbeitern aufwärts

2.2 Spezialisierte KI-Agentur

  • auf KMU zugeschnitten, schneller Go-Live (Wochen statt Monate), direkter Draht zu den Gründern
  • Anbieter-Qualität streut stark — auf Referenzen aus der eigenen Branche achten
  • 5–250 Mitarbeiter, klarer Use Case

2.3 SaaS-Tool zum Selbst-Konfigurieren

  • günstig im Einstieg, schnell ausprobierbar
  • Sie sind verantwortlich für Anbindung, DSGVO-Konfiguration, Wartung — versteckter interner Aufwand
  • wenn Sie technisch affines Personal haben oder einen sehr abgegrenzten Use Case

Welche fünf Fragen Sie jedem Anbieter stellen sollten, bevor Sie unterschreiben:

  1. Welche vergleichbaren Projekte haben Sie in den letzten 12 Monaten in meiner Branche umgesetzt? (Konkrete Namen oder Anonymisierung, aber keine vagen „bei einem Kunden")
  2. Wo läuft die KI — deutsches Rechenzentrum oder US-Cloud? Welches Modell genau?
  3. Bekomme ich die Workflow-Definitionen am Ende als Export? (Vendor-Lock-in vermeiden)
  4. Welche AVV-Vorlage und welches Datenfluss-Diagramm gehören standardmäßig zur Einrichtung?
  5. Wie lange dauert es vom Erstgespräch bis Festpreisangebot? (24–48 Stunden ist Standard)
📅 Kostenloses Erstgespräch

Welcher Use Case wäre bei Ihnen der ehrlichste Einstieg?

30 Minuten mit den Gründern. Wir hören uns Ihre Verwaltungs-Routinen an, prüfen die fünf Filter live mit Ihnen und sagen ehrlich, welcher Use Case als erster sinnvoll ist — und welcher zu früh wäre.

Kostenlos & unverbindlich · Direkt mit den Gründern · 30 Min.

Schritt 3: Pilot fahren, nicht Wasserfall (Woche 3–6)

Der dritte Schritt ist der entscheidende: Statt monatelang ein Konzept zu schreiben, geht ein kleiner Workflow innerhalb von 2–6 Wochen live. In der Praxis sieht das so aus:

  1. Kick-off-Workshop (1–2 Stunden): Sie und der Anbieter definieren die genauen Spielregeln des Workflows. Welche E-Mail in welche Kategorie? Welcher Beleg an welches Konto? Welche Eskalation an wen?
  2. Anbindung der Systeme (parallel, durch Agentur): Verbindung zu E-Mail, Buchhaltung, CRM. Mit minimalen Zugriffsrechten.
  3. Test-Phase (1–2 Wochen): Der Workflow läuft im „Schatten-Modus" — er bereitet Aktionen vor, aber sendet/bucht nicht autonom. Sie geben frei oder korrigieren.
  4. Lern-Phase (1–2 Wochen): Aus jeder Korrektur lernt die KI-Komponente. Treffsicherheit steigt typischerweise von 70 % auf über 95 %.
  5. Vollbetrieb mit Sicherheits-Modi: Standardfälle laufen vollautomatisch, Sonderfälle bleiben in Ihrem Entscheidungs-Bereich.

Wichtig in dieser Phase: messen, was sich verändert. Vor dem Pilot eine Stunden-Schätzung machen („wir verbrauchen pro Woche x Stunden für diese Aufgabe"), und nach 4 Wochen Praxis nachschauen.

Schritt 4: Ausrollen und stabilisieren (ab Monat 2)

Wenn der erste Workflow stabil läuft, ist das KMU bereit für die zweite Welle. Hier sind drei typische Fortsetzungs-Strategien:

  • Vertiefung im gleichen Bereich: Wer Belegerfassung automatisiert hat, kommt jetzt zu Zahlungseingangs-Abgleich und Mahnwesen. Ein Anbieter, eine Logik, hoher Hebel.
  • Breite über Bereiche: Nach E-Mail-Klassifikation kommen Termin-Koordination und Angebots-Nachfass dazu — der Vormittag wird komplett aufgeräumt.
  • Strategische Aufgaben: Erst nach 3–6 Monaten praktischer Erfahrung gehen typischerweise die anspruchsvolleren Use Cases (Reporting, Forecasting, individuelle KI-Agenten für komplexe Aufgaben).

Ehrliche Risiken — was Sie wissen sollten

Risiko 1: Use-Case-Wahl

Der häufigste Fehler ist, mit einem zu unklaren Anwendungsfall zu starten („KI soll uns bei der Kundenberatung helfen" — zu vage). Die fünf Filter oben sind die wichtigste Vorarbeit.

Risiko 2: Vendor-Lock-in

Manche Anbieter bauen proprietäre Workflows, die nur in ihrer eigenen Plattform laufen. Bei Ende der Zusammenarbeit ist alles weg. Lösung: explizit auf Open-Source-Basis (z. B. n8n) bestehen, Export-Recht vertraglich zusichern lassen.

Risiko 3: DSGVO-Lücken

Wenn KI-Modelle in den USA gehostet sind, ist die Verarbeitung von Mandanten- oder Kundendaten kritisch. Lösung: EU-Modelle (Mistral, Aleph Alpha), deutsches Hosting, Pseudonymisierung vor KI-Aufruf. Siehe unseren DSGVO-Leitfaden.

Häufige Fragen

Tufan Enes Yilmaz

Geschäftsführer & Gründer von BTS Intelligence. Begleitet bayerische Unternehmen bei der Einführung von KI-Automatisierung — mit Fokus auf pragmatische erste Schritte und ehrlicher Risiken-Aufklärung statt großer Konzepte.

← Alle Ratgeber Welche Prozesse zuerst? → 12 abgebbare Aufgaben