von Es ist eine der widersprüchlichsten Zahlen, die ich in letzter Zeit gelesen habe: Jeder Euro, der in generative KI investiert wird, generiert im Durchschnitt 3,70 Euro Return on Investment. Klingt nach einem Selbstläufer. Klingt nach: einsteigen, Tool ausrollen, Geld verdienen.
Nur — die Realität in den Unternehmen sieht anders aus. 80 Prozent der Unternehmen berichten, dass sie keinen messbaren Einfluss von KI auf ihre Business-Zahlen sehen. Eine viel zitierte MIT-Studie beziffert die Fehlerquote bei GenAI-Projekten sogar auf 95 Prozent.
Wie passt das zusammen? Und vor allem: Was bedeutet das für mittelständische Unternehmen, die jetzt vor der Entscheidung stehen, ob und wie sie KI einführen?
Die Lücke zwischen Versprechen und Realität
Wenn wir uns die Zahlen genauer ansehen, wird das Bild klarer. Die 3,70 Euro ROI pro investiertem Euro sind ein aggregierter Durchschnittswert. Sie sagen nichts darüber aus, wie diese Rendite verteilt ist. Tatsächlich konzentriert sich der Erfolg auf eine kleine Gruppe: 92 Prozent der Early Adopter berichten von positiven Effekten. Sie ziehen den Durchschnitt nach oben — während die große Mehrheit der Unternehmen in der Statistik untergeht.
Das ist eine klassische Pareto-Verteilung: Wenige machen es richtig und ernten massiv. Die meisten investieren, experimentieren, frustrieren — und sehen am Ende nichts in der Bilanz.
Die spannende Frage ist also nicht „Funktioniert KI?“, sondern: Was machen die 20 Prozent anders?
Die drei Hauptgründe für das Scheitern
Wenn man Branchenberichte und Praxis-Erfahrungen zusammenführt, kristallisieren sich drei Ursachen heraus, warum KI-Projekte im Mittelstand straucheln:
1. Schwache Business Cases
Viele Projekte starten mit der Technologie, nicht mit dem Problem. „Wir müssen jetzt was mit KI machen“ ist kein Business Case — das ist ein Reflex. Erfolgreiche Implementierungen beginnen mit einer klar definierten geschäftlichen Frage: Welcher Prozess kostet uns zu viel Zeit? Wo entstehen Fehler, die uns Geld kosten? Welche Entscheidungen treffen wir auf Basis unzureichender Daten?
Erst wenn diese Frage präzise formuliert ist, lässt sich beurteilen, ob KI das richtige Werkzeug ist — oder ob ein gut konfigurierter Workflow, eine Schulung oder eine schlankere Datenbasis denselben Effekt zum Bruchteil der Kosten liefern würde.
2. Schlechtes Change Management
Eine KI-Lösung ist nur so gut wie die Menschen, die sie nutzen. Und Menschen nutzen Werkzeuge nur dann konsequent, wenn sie verstehen, was sie tun, warum sie es tun und welchen Vorteil sie davon haben. Wer KI als technisches Projekt aufsetzt und vergisst, dass dahinter eine Veränderung von Arbeitsweisen, Verantwortlichkeiten und manchmal auch von Selbstverständnis steht, scheitert vorhersagbar.
Mitarbeitende, die nicht eingebunden werden, entwickeln Workarounds, ignorieren das Tool oder, schlimmer noch, untergraben es aktiv. Nach sechs Monaten ist die Lizenz dann gekündigt und die Erkenntnis lautet: „KI funktioniert bei uns nicht.“
3. Fehlendes Vertrauen in den KI-Output
Das dritte Problem ist subtiler — und vielleicht das wichtigste. Selbst wenn ein KI-System gute Ergebnisse liefert, nutzt das nichts, wenn die Anwender den Ergebnissen nicht trauen. Und Vertrauen entsteht nicht über Nacht. Es entsteht durch Transparenz: Wie kommt das Modell zu seinem Vorschlag? Welche Daten liegen zugrunde? Was passiert, wenn es daneben liegt — und wer haftet dann?
Ohne Antworten auf diese Fragen bleiben KI-Empfehlungen schöne Vorschläge, die niemand umsetzt. Der ROI bleibt theoretisch.
Governance First — keine Bürokratie, sondern Überlebensfaktor
An dieser Stelle wird ein Begriff wichtig, der in vielen Unternehmen einen schlechten Ruf hat: Governance. Wer „Governance“ hört, denkt an Formulare, Freigabeschleifen, Verzögerungen. Das ist verständlich, aber irreführend.
KI-Governance heißt: Wir definieren vorab, welche Use Cases wir verfolgen und welche nicht. Wir legen fest, wer welche Daten nutzen darf und wer entscheidet, wenn das Modell unsicher ist. Wir vereinbaren, wie wir Erfolg messen — und wann wir ein Projekt beenden, wenn es nicht liefert.
Das ist kein Bremsklotz. Das ist die einzige Möglichkeit, in einem Feld mit 80 Prozent Fehlerquote nicht in den Statistiken zu landen. Governance ist die Vorab-Antwort auf die Fragen, die im Krisenfall niemand mehr in Ruhe beantworten kann.
Use-Case-Selektion als neue Kernkompetenz
Wer aus diesen Erkenntnissen eine praktische Konsequenz ziehen will, landet bei einer Fähigkeit, die in vielen Mittelstandsorganisationen noch unterentwickelt ist: der systematischen Auswahl von KI-Use-Cases.
Statt zehn Tools parallel zu testen, lohnt sich der umgekehrte Weg. Fragen Sie sich:
- Welche drei Prozesse in unserem Unternehmen sind am datenintensivsten?
- Wo entstehen die meisten Wiederholungsaufgaben?
- Welche Entscheidungen treffen wir täglich auf Basis unvollständiger Informationen?
- Wo sind die Kosten von Fehlern besonders hoch — und wo sind sie tolerierbar?
Aus den Antworten ergibt sich eine Shortlist. Diese Shortlist wird mit zwei weiteren Filtern bearbeitet: Wie reif ist die Technologie für diesen Use Case heute wirklich? Und: Haben wir die Daten, die Prozesse und die Menschen, um es umzusetzen?
Was übrig bleibt, ist meist ein einziger Use Case. Mit diesem einen sollten Sie starten — nicht mit zwölf gleichzeitig.
Ernüchterung ist Teil des Weges
Eine letzte Beobachtung, die mir wichtig ist: Wenn Sie in den nächsten Monaten Phasen der Ernüchterung erleben, ist das kein Zeichen, dass KI nicht funktioniert. Es ist ein Zeichen, dass Sie im Gartner-Hype-Cycle gerade die Phase des „Tal der Enttäuschungen“ durchschreiten. Genau hier trennt sich die Spreu vom Weizen. Wer dranbleibt, nachjustiert und seine Cases präzisiert, kommt auf der anderen Seite raus — bei den 20 Prozent, die liefern.
Wer in dieser Phase aufgibt, hat eine teure Lektion gelernt und kein Asset aufgebaut.
Was Sie konkret tun können
Wenn Sie aus diesem Artikel nur drei Dinge mitnehmen sollten:
Erstens: Starten Sie nicht mit der Technologie. Starten Sie mit einem Problem, das spürbar Geld, Zeit oder Nerven kostet.
Zweitens: Bauen Sie Governance auf, bevor Sie das erste Pilotprojekt starten. Wer entscheidet was, mit welchen Daten, mit welcher Eskalationsebene? Diese Fragen brauchen Antworten, bevor das Tool live geht.
Drittens: Investieren Sie mindestens so viel in Change Management wie in die Lizenzkosten. Wenn Ihr Team nicht versteht, warum und wie es das Werkzeug nutzen soll, bleibt jeder ROI theoretisch.
Die Frage ist nicht mehr, ob KI im Mittelstand ankommt. Sie ist da. Die Frage ist, ob Sie zu den 20 Prozent gehören, die damit Geld verdienen — oder zu den 80, die in ein paar Jahren erzählen, dass sie es ja auch mal versucht haben.
Wer sich tiefer in das Thema einarbeiten möchte, findet weitere Perspektiven in unseren Beiträgen zur Agentic-AI-Adoption im Unternehmen und zu den konkreten Implementierungsschritten für den Mittelstand.
