KI im Unternehmen einführen: Ein Leitfaden für KMUs

Mit welcher Aufgabe sollte ein Unternehmen starten?

„Wir wollen KI nutzen“ beschreibt eine Absicht. Für eine belastbare Entscheidung braucht ihr eine Arbeitssituation: Wer erledigt welche Aufgabe, wie häufig fällt sie an und was macht sie heute aufwendig? Erst dann könnt ihr beurteilen, ob ein KI-Werkzeug zu dieser Aufgabe passt.

Schaut dafür gemeinsam mit den Menschen auf den Ablauf, die ihn täglich ausführen. Wo suchen sie Informationen? Wo übertragen sie Inhalte zwischen Systemen? Wo entstehen Entwürfe, die anschließend fachlich geprüft werden? Ein Gespräch über diese Reibungspunkte liefert bessere Kandidaten als eine Sammlung beliebter Tools.

KI ist dabei eine mögliche Lösung. Wenn eine feste Regel, eine bessere Suchfunktion oder eine geklärte Zuständigkeit das Problem bereits behebt, gehört diese Alternative in den Vergleich. Das Ziel ist eine bessere Arbeitsweise.

Beispiel: Antworten auf wiederkehrende Kundenfragen vorbereiten

Ein Team sucht für ähnliche Anfragen regelmäßig Informationen in freigegebenen Produktunterlagen. Ein möglicher KI-Anwendungsfall wäre, relevante Stellen zu finden und einen Antwortentwurf mit Quellen vorzubereiten. Ein Mensch prüft die Aussage und gibt die Antwort frei.

Der Auftrag lautet damit: „Antwortentwürfe auf Basis freigegebener Unterlagen vorbereiten.“ Automatischer Versand, verbindliche Zusagen und eigenständige Änderungen an Kundendaten gehören zunächst ausdrücklich nicht zum Umfang. Dieses Beispiel ist illustrativ und kein Bericht über ein Kundenprojekt.

KI-Anwendungsfälle auswählen und bewerten

Für eine erste Auswahl schlagen wir fünf Fragen vor. Besprecht sie für jeden Kandidaten mit Fachbereich und technischer Verantwortung. Eine einfache Einordnung in „geklärt“, „noch zu prüfen“ und „kritisch“ reicht zunächst aus.

• Nutzen: Welches konkrete Problem wird kleiner? Geht es um Bearbeitungszeit, Qualität, Wartezeiten oder den Zugang zu Wissen?
• Prüfbarkeit: Kann eine fachkundige Person zuverlässig erkennen, ob das Ergebnis richtig und vollständig ist?
• Daten: Sind aktuelle, geeignete Informationen vorhanden und für den geplanten Einsatz freigegeben?
• Fehlerfolgen: Was passiert bei einer falschen Antwort? Lässt sich ein Fehler vor einer Wirkung auf Kunden oder andere Beteiligte abfangen?
• Aufwand: Welche Schnittstellen, Schulungen und Änderungen am Ablauf sind erforderlich?

Ein hoher erwarteter Nutzen gleicht kritische Fehlerfolgen oder ungeklärte Datenfreigaben nicht aus. Solche Punkte sind ein Anlass, den Umfang zu begrenzen oder den Anwendungsfall zunächst zurückzustellen.

Drei mögliche Einstiege und ihre Grenzen

Diese Beispiele sind keine pauschalen Freigaben. Ob sie passen, hängt von euren Daten, Risiken und Arbeitsabläufen ab. Auch Mittelstand-Digital beschreibt unterschiedliche betriebliche KI-Anwendungen und die Bedeutung einer geeigneten Datenbasis.

Welche Voraussetzungen braucht eine KI-Einführung?

Ein Pilot braucht keinen vollständig ausgearbeiteten Konzernprozess. Er braucht jedoch klare Antworten auf die Fragen, die für seinen Umfang entscheidend sind.

Daten und Zugriff

Legt fest, welche Informationen verarbeitet werden dürfen und welche ausgeschlossen sind. Prüft beim Anbieter unter anderem die Verarbeitung und Speicherung von Eingaben, eine mögliche Verwendung für Modelltraining, Löschmöglichkeiten und Zugriffseinstellungen. Vertrauliche Unternehmensdaten und personenbezogene Informationen brauchen eine passende fachliche, datenschutzbezogene und sicherheitstechnische Prüfung.

Bei einem internen Wissensassistenten müssen Berechtigungen auch beim Abruf der Inhalte greifen. Dass ein Dokument technisch auffindbar ist, bedeutet nicht, dass jede Person darauf zugreifen darf. Unklare oder veraltete Quellen müssen ebenfalls bearbeitet werden.

Verantwortung und Qualitätsprüfung

Benennt eine Person, die den fachlichen Nutzen verantwortet, sowie Zuständige für Betrieb und Freigaben. Klärt, wer Ergebnisse prüft, Fehler meldet und bei Problemen über eine Unterbrechung entscheidet. Das NIST-Profil zu generativer KI beschreibt unter anderem Risiken durch überzeugend formulierte Falschaussagen, Datenpreisgabe und übermäßiges Vertrauen in KI-Ausgaben. Eine sprachlich gute Antwort ist deshalb noch kein Qualitätsnachweis.

Kompetenz und Zeit im Team

Die beteiligten Menschen müssen verstehen, wofür die Anwendung geeignet ist und wo ihre Grenzen liegen. Übt an echten Aufgabentypen mit freigegebenem Material. Dazu gehören hilfreiche Eingaben, das Erkennen unzureichender Ergebnisse und ein verlässlicher Umgang mit Unsicherheit. Plant dafür Arbeitszeit ein und benennt eine erreichbare Ansprechperson.

Standardwerkzeug, Wissensassistent oder eigene Lösung?

Die technische Umsetzung sollte aus dem Anwendungsfall folgen. Für die erste Entscheidung hilft diese Unterscheidung:

• Ein vorhandenes Standardwerkzeug kann passen, wenn einzelne Personen Entwürfe, Zusammenfassungen oder Analysen erstellen und bewusst freigegebene Inhalte eingeben. Prüft Funktionen, Datenverarbeitung und Verwaltungsmöglichkeiten des konkreten Tarifs.
• Ein Wissensassistent mit angebundenen Quellen kommt infrage, wenn Antworten auf internen Informationen beruhen sollen. Bei einem Retrieval-Augmented-Generation-Ansatz, kurz RAG, werden passende Inhalte abgerufen und dem Modell als Kontext bereitgestellt. Das erfordert gepflegte Quellen, Berechtigungen und eine Bewertung der Antworten. Es garantiert keine fehlerfreien Aussagen.
• Eine integrierte Anwendung kann sinnvoll sein, wenn mehrere Systeme und Prozessschritte zusammenspielen. Neben der Modellanbindung braucht ihr dann beispielsweise Fehlerbehandlung, Freigabeschritte, Überwachung und eine Zuständigkeit für den Betrieb.

Eine Eigenentwicklung ist kein notwendiger erster Schritt. Haltet eure Anforderungen fest und prüft, ob eine bestehende Lösung sie ausreichend erfüllt. Vergleicht dabei auch den laufenden Aufwand für Pflege und Support.

Ein Pilot in vier Schritten

Unser Vorschlag für einen überschaubaren Pilot besteht aus vier Entscheidungsschritten. Die Dauer hängt von Umfang, Datenzugang und Abstimmungsbedarf ab.

1. Auftrag begrenzen: Beschreibt Aufgabe, Nutzergruppe, erwarteten Nutzen und ausgeschlossene Funktionen. Haltet den bisherigen Ablauf und seine Bearbeitungszeit fest.
2. Voraussetzungen schaffen: Gebt Daten und Werkzeug frei, benennt Verantwortliche und stellt typische Prüffälle zusammen. Nehmt auch unvollständige, mehrdeutige und schwierige Fälle auf.
3. Im begrenzten Kreis erproben: Lasst das Team die Anwendung mit klaren Prüf- und Freigabeschritten nutzen. Dokumentiert Fehler, Nacharbeit und Situationen, in denen das Werkzeug nicht hilft.
4. Bewusst entscheiden: Vergleicht den Versuch mit dem Ausgangszustand. Die möglichen Ergebnisse sind ausweiten, gezielt nachbessern oder beenden. Definiert vorab, welche Beobachtungen jeweils dafür sprechen.

Vereinbart besonders für kritische Fehler eine Abbruchregel. Wenn etwa Inhalte außerhalb der vorgesehenen Berechtigungen erscheinen, muss der Versuch unterbrochen und die Ursache geklärt werden. Gute Durchschnittswerte reichen dann nicht als Freigabe.

Wie lässt sich der Nutzen von KI messen?

Ein schneller erstellter Entwurf spart erst dann Zeit, wenn Prüfung und Nacharbeit die Einsparung nicht wieder aufbrauchen. Messt deshalb den gesamten Ablauf mit vergleichbaren Aufgaben, einem einheitlichen Qualitätsmaßstab und allen erforderlichen Arbeitsschritten.

Erfasst neben der Zeit auch die Qualität: Wie viele Ergebnisse bestehen die fachliche Prüfung? Welche wichtigen Fehler treten auf? Wie oft muss eine Aufgabe vollständig neu bearbeitet werden? Legt Mindestanforderungen fest, statt Zeitgewinn und Qualität unbemerkt gegeneinander auszutauschen.

Eine ergänzende Frage an das Team lautet: Wird die Anwendung im Alltag tatsächlich genutzt, und warum oder warum nicht? Nutzungszahlen allein sagen jedoch wenig darüber aus, ob die Arbeit besser geworden ist.

Vom Versuch in den Arbeitsalltag

Ein erfolgreicher Pilot beantwortet noch nicht alle Fragen zum dauerhaften Einsatz. Vor der Ausweitung braucht ihr Zuständige für Support, Quellenpflege und Änderungen an der Anwendung. Legt fest, wie Probleme gemeldet werden und wie das Team bei einem Ausfall weiterarbeitet.

Bewertet die Anwendung erneut, wenn sich Modell, Datenquellen, Funktionen oder Einsatzbereich wesentlich ändern. Bewährte Prüffälle helfen dabei, Verschlechterungen zu erkennen. Dokumentiert außerdem Grenzen und Freigaben so, dass neue Mitarbeitende sie verstehen.

Hier treffen Technologie und Organisation aufeinander. Neue Werkzeuge verändern Aufgaben, Abstimmungen und Verantwortung. Unsere KI-Beratung verbindet die Auswahl sinnvoller Anwendungen mit diesen fachlichen und organisatorischen Fragen. Beispiele für KI-Governance und KI-Schulungen für Softwareentwicklung findet ihr in unseren Praxisprojekten.

Eine Vorlage für euren ersten KI-Anwendungsfall

Beschreibt auf einer Seite: Aufgabe und Nutzergruppe, heutiger Ablauf, gewünschte Verbesserung, verfügbare Daten, erlaubte Nutzung, Qualitätsprüfung, Verantwortliche sowie Kriterien für Fortsetzung und Abbruch. Wenn diese Punkte noch offen sind, ist genau dort der nächste Arbeitsschritt.

Vorlage für den KI-Anwendungsfall herunterladen (.txt)

Häufige Fragen zur KI-Einführung im Unternehmen

Brauchen KMUs zuerst eine vollständige KI-Strategie?

Für einen begrenzten Pilot kann ein klarer Auftrag mit Ziel, Rahmen und Verantwortlichen ausreichen. Sobald mehrere Bereiche, größere Investitionen oder gemeinsame Plattformen betroffen sind, braucht ihr eine übergreifende Abstimmung von Prioritäten und Regeln. Der Pilot sollte dazu passen.

Müssen wir ein eigenes KI-Modell trainieren?

Nein. Bei vielen Anwendungen könnt ihr zunächst prüfen, ob ein vorhandenes Modell oder Standardprodukt die Aufgabe ausreichend erfüllt. Ob zusätzliche Wissensquellen, Anpassungen oder ein eigenes Modell erforderlich sind, hängt vom konkreten Qualitätsanspruch und Einsatzbereich ab.

Wie viel kostet es, KI im Unternehmen einzuführen?

Ohne definierten Umfang ist eine belastbare Summe nicht möglich. Erfasst Werkzeug- und Nutzungskosten, Integration, Datenaufbereitung, Schulung, Qualitätsprüfung und laufende Betreuung. Ein begrenzter Pilot macht sichtbar, welche dieser Aufwände in eurem Fall entstehen und ob der erwartete Nutzen sie rechtfertigt.

Wann ist ein Anwendungsfall für den Einstieg ungeeignet?

Wenn zentrale Daten nicht freigegeben sind, Ergebnisse nicht zuverlässig geprüft werden können oder niemand fachlich verantwortlich ist, fehlen wichtige Voraussetzungen. Auch schwerwiegende Fehlerfolgen sprechen dafür, den Umfang enger zu setzen und zusätzliche Fachleute einzubeziehen.