KI-Einführung im Unternehmen: Schritt für Schritt zum ersten Anwendungsfall

Wo steht der Mittelstand bei der KI-Einführung?

Viele Unternehmen sind noch am Anfang. Laut Statistischem Bundesamt nutzten 2025 rund 26 Prozent der Unternehmen in Deutschland KI. Bei kleinen Unternehmen mit 10 bis 49 Beschäftigten waren es 23 Prozent, bei mittleren mit 50 bis 249 Beschäftigten 36 Prozent und bei großen ab 250 Beschäftigten 57 Prozent.

Interessant ist, warum Unternehmen KI erwogen, aber noch nicht eingeführt haben. Am häufigsten nannten sie fehlendes Wissen (72 Prozent), unklare rechtliche Folgen (62 Prozent) und Bedenken beim Datenschutz (60 Prozent). Zu hohe Kosten nannten nur 32 Prozent. Wissen und Regeln wiegen also schwerer als das Budget, und beides lässt sich mit einer geordneten Einführung angehen, die mit einer kostenlosen KI-Potenzialanalyse beginnen kann.

Schritt 1: Ziel und Zuständigkeit festlegen

Am Anfang steht eine einfache Frage: Was soll mit KI besser werden? Mögliche Ziele sind weniger Abtipparbeit im Innendienst, schnellere Angebote oder kürzere Antwortzeiten im Kundenservice. „Wir wollen KI nutzen“ reicht als Ziel nicht aus.

Legen Sie außerdem fest, wer zuständig ist. Das muss kein neuer Posten sein. Sinnvoll ist ein kleines Team aus Geschäftsführung, IT und dem Fachbereich, in dem der erste Anwendungsfall liegt. Die Initiative Neue Qualität der Arbeit (INQA) empfiehlt, auch Beschäftigte und gegebenenfalls Betriebs- oder Personalrat früh einzubinden und Risiken und Zielkonflikte gemeinsam abzuschätzen.

Schritt 2: Den ersten Anwendungsfall auswählen

Der erste Anwendungsfall entscheidet darüber, ob die KI-Einführung Schwung bekommt oder im Sand verläuft. Gute Kandidaten erkennen Sie an diesen Merkmalen:

Typische erste Anwendungsfälle im Mittelstand sind Bestellungen, die per E-Mail und PDF kommen, Eingangsrechnungen, Lieferavise, Reklamationen oder die Vorbereitung von Angeboten. Ein Beispiel aus unserer Arbeit: Bei einem Hersteller werden Bestellungen aus E-Mail und PDF automatisch ausgelesen, die Artikel zugeordnet und ans ERP übergeben. Geprüft wird nur noch, wenn etwas abweicht. Mehr Beispiele finden Sie im Ratgeber zur Prozessoptimierung mit KI.

Schritt 3: Daten und Systeme prüfen

KI arbeitet nur so gut wie die Daten, die sie bekommt. Prüfen Sie für den gewählten Ablauf drei Dinge. Woher kommen die Eingangsdaten, etwa ein Postfach, ein Portal oder ein Scanner? Wohin soll das Ergebnis, also ins ERP, ins CRM oder ins Dokumentenmanagement? Und wie gut sind die Stammdaten, zum Beispiel Artikelnummern, Kundennummern und Preise?

Hier zeigt sich oft der eigentliche Aufwand. Wenn Artikelbezeichnungen der Kunden nicht zu Ihren Artikelnummern passen, muss die KI eine Zuordnung lernen oder bekommen. Schwierigkeiten mit Verfügbarkeit oder Qualität der Daten nannten in der Destatis-Erhebung 44 Prozent der Unternehmen, die KI erwogen, aber noch nicht nutzen.

Schritt 4: Das passende Werkzeug wählen

Für die KI-Einführung gibt es grob zwei Wege, und die meisten Unternehmen brauchen am Ende beide.

Der erste Weg sind KI-Assistenten wie ChatGPT, Microsoft Copilot oder Claude. Mitarbeitende nutzen sie zum Schreiben, Zusammenfassen und Recherchieren. Das ist schnell eingerichtet, verändert aber keinen Ablauf von selbst. Was diese Werkzeuge kosten, steht in unserem Artikel zu den Kosten von ChatGPT für Unternehmen.

Der zweite Weg ist die Automatisierung. Hier erledigt KI einen Ablauf im Hintergrund, verbunden mit Ihren Systemen. Eine Bestellung wird gelesen, geprüft und angelegt, ohne dass jemand ein Chatfenster öffnet. Das ist mehr Aufwand in der Umsetzung, bringt aber den größeren und messbaren Effekt. Wie das funktioniert, beschreiben wir unter KI-Automatisierung.

Welches KI-Modell dahinter arbeitet, ist zweitrangig. Wichtiger ist, dass die Lösung mit Ihren vorhandenen Systemen zusammenarbeitet und dass Sie das Modell später wechseln können.

Schritt 5: Regeln für den KI-Einsatz aufstellen

Eine kurze KI-Richtlinie gibt allen Sicherheit. Sie sollte mindestens regeln, welche Werkzeuge erlaubt sind, welche Daten eingegeben werden dürfen, wer neue Anwendungen freigibt und wer Ergebnisse prüft, bevor sie das Haus verlassen. Zwei Seiten reichen für den Anfang.

Zwei rechtliche Punkte gehören dazu, Stand Oktober 2026 und ohne Anspruch auf Rechtsberatung:

• Datenschutz: Verarbeitet ein KI-Anbieter personenbezogene Daten in Ihrem Auftrag, brauchen Sie nach Artikel 28 DSGVO einen Vertrag zur Auftragsverarbeitung. OpenAI stellt einen solchen Vertrag zum Beispiel für ChatGPT Enterprise und die API bereit.
• KI-Kompetenz: Artikel 4 der EU-KI-Verordnung verlangt in der 2026 geänderten Fassung, dass Unternehmen, die KI-Systeme einsetzen, Maßnahmen ergreifen, um die KI-Kompetenz ihres Personals zu fördern. Laut Bundesnetzagentur sind dafür weder Zertifikate noch formalisierte Trainings noch ein KI-Beauftragter vorgeschrieben. Sie empfiehlt aber, die Maßnahmen gut zu dokumentieren, etwa Art, Umfang und Teilnehmende.

Schritt 6: Mitarbeitende mitnehmen und schulen

Die beste Lösung bringt wenig, wenn sie niemand nutzt. Erklären Sie früh, warum Sie KI einführen und was sich für die Einzelnen ändert. In den meisten Fällen geht es darum, lästige Routinearbeit loszuwerden, damit mehr Zeit für Kunden und schwierige Fälle bleibt. Sagen Sie das offen, und sagen Sie auch, wo Sie es noch nicht wissen.

Schulungen wirken am besten, wenn sie mit echten Aufgaben aus dem Alltag arbeiten. Ein allgemeiner Vortrag über KI bleibt selten hängen. In einem unserer Workshops haben Mitarbeitende zum Beispiel eigene Automatisierungen mit dem Werkzeug n8n gebaut, mit klaren Regeln für Kosten und Freigaben. Mehr dazu unter KI-Schulung und KI-Workshop. Die INQA empfiehlt außerdem Pilot- und Experimentierphasen vor der flächendeckenden Einführung, damit die Beschäftigten Sicherheit gewinnen.

Schritt 7: Ergebnisse messen und ausweiten

Messen Sie vor dem Start, wie der Ablauf heute aussieht, sonst können Sie später nichts vergleichen. Geeignete Kennzahlen sind die Bearbeitungszeit pro Vorgang, der Anteil der Fälle ohne manuelle Nacharbeit, die Fehlerquote und die Durchlaufzeit, etwa vom Eingang einer Bestellung bis zur Auftragsbestätigung.

Nach einigen Wochen Betrieb sehen Sie, ob die KI hält, was sie verspricht. In einem unserer Projekte im Vertrieb ist die Zeit für die Recherche von Interessenten um über 90 Prozent gesunken. Kontaktrecherche und Gesprächsvorbereitung laufen dort automatisch, nach dem Gespräch entstehen CRM-Eintrag, Angebot und Nachfass-Mail. Solche Zahlen sind die beste Grundlage für die Entscheidung, welcher Ablauf als Nächstes drankommt. INQA rät, dafür regelmäßig offene Feedbackgespräche zu führen und das Erfahrungswissen der Beschäftigten einzubeziehen.

Typische Fehler bei der KI-Einführung

Diese Muster bremsen eine KI-Einführung häufig aus:

• Zu groß anfangen: Ein Projekt, das fünf Abteilungen gleichzeitig verändern soll, kommt selten zum Abschluss.
• Lizenzen ohne Plan: Alle bekommen einen KI-Assistenten, aber niemand weiß, wofür. Dann besteht die Gefahr, dass ihn bald kaum noch jemand nutzt.
• Daten unterschätzen: Die Technik ist schnell gebaut, die Bereinigung der Stammdaten dauert länger.
• Keine Zuständigkeit: Ohne eine Person, die entscheiden darf, bleibt das Thema zwischen IT und Fachbereich liegen.
• Kein Vorher-Wert: Ohne Messung vor dem Start lässt sich der Nutzen später nicht belegen.

Wenn Sie öffentliche Zuschüsse für Beratung oder Schulung nutzen möchten, finden Sie einen Überblick im Ratgeber zur KI-Förderung.

Einführung in KI für Einsteiger: kostenlose Kurse

Viele, die nach „KI Einführung“ suchen, wollen zuerst verstehen, wie KI funktioniert. Kurz erklärt: Künstliche Intelligenz ist der Oberbegriff für Software, die Aufgaben löst, für die man bisher menschliches Urteilsvermögen brauchte, etwa Texte verstehen oder Bilder erkennen. Die meisten heutigen Systeme beruhen auf maschinellem Lernen, sie lernen also aus Beispielen statt aus fest programmierten Regeln. Generative KI wie ChatGPT erzeugt daraus neue Texte, Bilder oder Code.

Für einen fundierten Einstieg eignen sich diese Angebote:

• KI-Campus, „Einführung in die KI“: kostenloser Onlinekurs des appliedAI Institute for Europe, etwa 40 Stunden, ohne Vorkenntnisse. Themen sind Grundlagen, maschinelles Lernen, Risiken und generative KI.
• Microsoft Learn, „Einführung in KI-Konzepte“: Einsteigermodul mit zehn Einheiten, unter anderem zu generativer KI, Sprache, Bildverarbeitung und verantwortungsvoller KI.

Für Teams im Unternehmen ist eine Kombination sinnvoll: Grundlagen aus einem solchen Kurs und danach eine Schulung, die mit den eigenen Abläufen und Werkzeugen arbeitet.