KI im Mittelstand einführen, ohne Geld zu verbrennen

Etwas mehr als ein Viertel der Unternehmen in Deutschland nutzte 2025 künstliche Intelligenz. Bei den großen ab 250 Beschäftigten war es mehr als die Hälfte, bei den kleinen mit 10 bis 49 Beschäftigten nicht einmal jedes vierte. Das sind Zahlen des Statistischen Bundesamts, erhoben in der IKT-Unternehmensbefragung.

Die interessantere Zahl steht aber in einer anderen Tabelle. Das Bundesamt hat auch gefragt, warum Unternehmen KI nicht einsetzen, die darüber nachgedacht haben. Und die Kosten stehen dort nicht vorn, sondern an sechster Stelle.

Dieser Beitrag nimmt diese Reihenfolge ernst. Er handelt deshalb nicht davon, welches Werkzeug man kaufen soll, sondern davon, wie man den ersten Schritt so klein macht, dass er nicht schiefgehen kann, und wie man merkt, ob er funktioniert hat.

Wie viele setzen KI überhaupt ein?

Quelle: Statistisches Bundesamt, Stand 24. November 2025.

Der Abstand zwischen 23 und 57 Prozent ist der eigentliche Befund. Er hat wenig mit besserer Technik in großen Häusern zu tun, denn dieselben Werkzeuge stehen allen offen, oft im selben Browserfenster. Er hat damit zu tun, dass große Häuser jemanden abstellen können, der sich einen Monat lang darum kümmert. Genau diese Person fehlt im Betrieb mit 30 Leuten, und deshalb bleibt es beim Vorsatz.

Woran scheitert es wirklich?

Dieselbe Erhebung, andere Tabelle. Gefragt wurden Unternehmen, die den Einsatz erwogen und dann gelassen haben.

Quelle: Statistisches Bundesamt, Stand 24. November 2025.

Die ersten drei Plätze sind kein Budgetproblem. Sie sind ein Klarheitsproblem. Fehlendes Wissen, unklare Rechtslage, Datenschutzbedenken: Das lässt sich alles beantworten, und keine dieser Antworten kostet Lizenzgebühren.

Daraus folgt eine unbequeme Erkenntnis für jeden, der KI verkauft: Der richtige erste Schritt ist keine Anschaffung. Er ist eine Aufstellung, welche Aufgaben im Betrieb sich überhaupt eignen und welche Daten dabei ins Spiel kommen.

Womit fängst du an?

Mit einer Aufgabe, nicht mit einem Werkzeug. Die Frage lautet nicht „was kann ChatGPT“, sondern „welche Arbeit machen wir jede Woche, die viel Text und wenig Urteilsvermögen braucht“.

Gute Kandidaten für den Anfang erkennst du an vier Merkmalen:

1. Sie wiederholt sich. Mindestens wöchentlich, besser täglich.
2. Das Ergebnis wird ohnehin gegengelesen. Dann ist ein Fehler der Maschine ein Ärgernis und kein Schaden.
3. Die Eingangsdaten sind unkritisch. Kein Gesundheitsbezug, keine Personalakte, keine Mandantendaten für den ersten Versuch.
4. Jemand im Team hat Lust darauf. Der wichtigste Punkt, und der einzige, der nichts mit Technik zu tun hat.

Typische erste Anwendungsfälle, die wir in Betrieben sehen: Angebotstexte aus Stichpunkten, Zusammenfassungen langer Mailverläufe, Übersetzungen für den Export, Produktbeschreibungen aus technischen Datenblättern, Protokolle aus Besprechungsnotizen, Entwürfe für Stellenanzeigen.

Was sich für den Anfang nicht eignet: alles, wo die Maschine ohne Gegenlesen nach außen spricht. Ein Chatbot auf der Website ist ein verlockender erster Versuch und fast immer der falsche, weil er ungeprüft mit Kunden redet und weil er die Rechtsfragen aus dem nächsten Abschnitt sofort mitbringt.

Wohin gehen unsere Daten?

Das ist der Punkt, an dem 60 Prozent der Befragten hängen bleiben, und die Sorge ist berechtigt. Es gibt drei Wege, und sie unterscheiden sich stark.

Öffentlicher Dienst im Browser. Schnell, billig, und für alles ungeeignet, was nicht ohnehin auf der Website stehen könnte. Wer hier Kundendaten einträgt, hat eine Auftragsverarbeitung ohne Vertrag.

Geschäftskonto beim Anbieter. Mit Auftragsverarbeitungsvertrag, abschaltbarem Training auf euren Daten und Serverstandort in der EU. Für die meisten Betriebe der pragmatische Weg. Prüfen musst du drei Dinge: Gibt es einen AV-Vertrag, wo wird verarbeitet, und werden eure Eingaben zum Training verwendet.

Modell auf eigener Infrastruktur. Die Daten verlassen das Haus nicht. Das ist der sauberste Weg für Gesundheits-, Kanzlei- und Personaldaten, kostet aber Hardware und Betreuung. Wir setzen das um, wenn die Datenlage es verlangt, und raten davon ab, wenn sie es nicht tut.

Für die Website selbst gilt dabei dasselbe wie für jedes andere Werkzeug: Was auf dem Gerät deiner Besucher passiert, ist eine eigene Frage. Die haben wir in der DSGVO-Checkliste auseinandergenommen.

Was kostet das?

Ehrliche Antwort: Die Lizenz ist der kleinste Posten, und deshalb ist sie die falsche Frage.

Ein Geschäftskonto für ein Sprachmodell kostet pro Kopf und Monat ungefähr so viel wie ein Mittagessen. Bei zehn Leuten ist das eine Summe, über die niemand lange diskutiert. Teuer wird es an drei anderen Stellen:

• Die Einführung. Jemand muss die Anwendungsfälle finden, die Zugänge einrichten, die Regeln aufschreiben und das Team anlernen. Das ist der eigentliche Aufwand, und er fällt einmal an.
• Der Leerlauf. Werkzeuge, die gekauft und dann nicht benutzt werden. Das ist die häufigste Art, mit KI Geld zu verbrennen, und sie taucht in keiner Rechnung als Posten auf.
• Die Doppelarbeit. Wenn das Ergebnis jedes Mal komplett neu geschrieben werden muss, weil niemand gelernt hat, wie man vernünftig fragt, kostet die Maschine mehr Zeit, als sie spart.

Unsere Preise für KI-Beratung stehen bewusst nicht als Paket auf der Website, weil der Aufwand zwischen „zwei Tage, Anwendungsfälle sortieren und Team anlernen“ und „lokales Modell auf eigener Hardware“ um mehr als eine Größenordnung auseinanderliegt. Was wir dir vorher sagen können, ist der Aufbau: erst eine Analyse mit priorisierten Anwendungsfällen und Aufwand, danach entscheidest du, was davon umgesetzt wird.

Wer im Betrieb macht das?

Nicht die Geschäftsführung nebenbei, und nicht „die IT“, wenn die IT ein externer Dienstleister für Drucker und Netzwerk ist.

Was funktioniert, ist eine Person aus dem Fach mit ein paar Stunden im Monat und einem klaren Auftrag. Sie muss nicht programmieren können. Sie muss die Arbeit kennen, die verbessert werden soll, und sie muss gefragt werden dürfen, wenn jemand nicht weiterkommt.

Dazu gehören drei Regeln, die man in einer halben Stunde aufschreibt und die mehr Probleme verhindern als jede Schulung:

1. Was nicht hineingeschrieben werden darf. Namentliche Kundendaten, Gesundheitsangaben, Zugangsdaten, alles unter Verschwiegenheitspflicht.
2. Was gegengelesen werden muss, bevor es rausgeht. Am Anfang: alles.
3. Wo die guten Formulierungen gesammelt werden. Wer eine Frage gefunden hat, die gute Ergebnisse liefert, schreibt sie an eine gemeinsame Stelle. Sonst fängt jeder wieder bei null an.

Was schreibt die KI-Verordnung vor?

Für den typischen Einsatz im Mittelstand weniger, als befürchtet, aber nicht nichts. Die Transparenzpflichten aus Artikel 50 gelten seit dem 2. August 2026, und sie treffen genau die Fälle, in denen die Maschine mit Menschen spricht oder Inhalte erzeugt, die für echt gehalten werden könnten.

Für den internen Einsatz, bei dem ein Mensch das Ergebnis gegenliest und verantwortet, ändert sich wenig. Für einen Chatbot auf der Website und für KI-erzeugte Bilder, die als Fotos durchgehen könnten, ändert sich einiges. Wir haben das im Beitrag zur KI-Verordnung ausführlich auseinandergenommen.

Das erklärt übrigens den zweiten Platz in der Tabelle oben. 62 Prozent nennen unklare rechtliche Folgen als Grund, es zu lassen. Die Unklarheit ist auflösbar, sie kostet nur einmal Lesezeit.

Woran merkst du, dass es wirkt?

An einer Zahl, die du vorher festlegst. Nicht an dem Gefühl, dass es sich moderner anfühlt.

Brauchbare Größen sind zum Beispiel: Wie lange dauert ein Angebot von der Anfrage bis zum Versand? Wie viele Stunden im Monat gehen für Produkttexte drauf? Wie lange braucht eine Übersetzung? Miss das vor dem Start, sonst hast du hinterher nur Meinungen.

Und plane einen Zeitpunkt ein, an dem ihr ehrlich aufhört. Wenn ein Anwendungsfall nach zwei Monaten nichts gebracht hat, ist er kein Anwendungsfall. Das ist kein Scheitern, das ist der Zweck eines kleinen ersten Schritts.

Eine Wirkung läuft dabei nebenher, ohne dass ihr etwas dafür tut: KI verändert auch, wie Kunden euch überhaupt finden. Ein wachsender Teil der Suchanfragen endet in einer generierten Antwort statt in einer Ergebnisliste. Was das für die eigene Sichtbarkeit heißt, steht im Beitrag zur Answer-Engine-Optimierung.

Der kürzeste sinnvolle Anfang

Wenn du nach diesem Beitrag genau eine Sache tun willst:

Nimm dir eine Stunde, schreib die fünf Aufgaben auf, die in deinem Betrieb jede Woche wiederkehren und viel Text erzeugen. Streich alles, wo kritische Daten im Spiel sind. Von dem, was übrig bleibt, nimm die Aufgabe, für die sich jemand im Team interessiert. Das ist dein erster Anwendungsfall.

Wenn dabei nichts übrig bleibt oder du bei der Datenfrage unsicher bist, ist das genau der Punkt, an dem eine Analyse von außen Zeit spart. Wir betreuen Betriebe aus Hamburg, Koblenz und dem Raum Stuttgart und arbeiten bundesweit remote.