Die meisten KI-Piloten in Unternehmen scheitern, weil die Organisation und ihre Daten nie darauf vorbereitet waren, nicht, weil das zugrunde liegende Modell schwach wäre. Die meistzitierte Zahl von 2025 macht das Ausmass deutlich: In seinem Bericht The GenAI Divide: State of AI in Business 2025 fand das MIT-Projekt NANDA, dass rund 95% der generativen KI-Piloten in Unternehmen keine messbare Auswirkung auf Gewinn und Verlust hatten (MIT NANDA, 2025). Zu verstehen, warum, ist der Unterschied zwischen einer beeindruckenden Demo und einem System, das sich rechnet.
Das Scheitern liegt vor dem Modell
Moderne Sprachmodelle sind leistungsfähig. Was kaputtgeht, ist alles, wovon sie abhängen. Drei Muster kehren wieder.
Unsaubere Eingaben. Unternehmenswissen ist überwiegend unstrukturiert und verstreut: Dokumente über Tools dupliziert, veraltete Versionen nie entfernt, keine konsistente Beschriftung. Eine KI, die aus diesem Bestand antwortet, ruft selbstbewusst die falsche Version ab und wiederholt sie. Das Problem ist nicht neu; McKinseys Global Institute schätzte vor über einem Jahrzehnt, dass Wissensarbeiter bereits rund 1,8 Stunden pro Tag, fast ein Fünftel der Arbeitswoche, allein mit dem Suchen und Zusammentragen von Informationen verbrachten (Chui et al., 2012). Richtet man ein Modell auf dieses Durcheinander, automatisiert man das Durcheinander.
Keine Retrieval-Ebene. Ohne Mechanismus, Antworten in den tatsächlichen Dokumenten des Unternehmens zu verankern, generiert ein Modell aus seiner Trainingsverteilung und füllt Lücken mit plausibler Erfindung. Diese Erfindung bleibt allen als «die Demo, die vor einem Kunden halluziniert hat» in Erinnerung. Die Lösung, Retrieval-Augmented Generation, ist in der Forschung gut etabliert (Lewis et al., 2020), muss aber gebaut werden, nicht vorausgesetzt.
Keine Governance. Keine Zugriffsregeln, keine Prüfung, was die KI sagen darf, kein Monitoring nach dem Start. Ein Pilot, der an Tag eins funktioniert, driftet, wenn sich Daten, Nutzer und die Modelle selbst ändern.
Die «GenAI-Kluft»
Die Analyse von MIT NANDA (2025) ist gerade deshalb nützlich, weil sie die Gewinner vom Rest trennt. Die Organisationen, die Wert schöpften, hatten nicht die grössten Modelle oder Budgets; sie integrierten KI in einen spezifischen, klar definierten Workflow und bauten die umliegenden Daten- und Feedback-Schleifen. Die scheiternde Mehrheit behandelte das Modell als Produkt und übersprang die unspektakuläre Arbeit darunter. Der Bericht nennt diese Lücke eine «Kluft»: eine kleine Gruppe erreicht messbare Erträge, während die meisten in der Pilotphase steckenbleiben.
Zuerst saubere Daten, dann KI
Die praktische Folge ist eine Reihenfolge, keine Abkürzung. Bevor ein Modell auf Ihrem eigenen Wissen nützlich ist, müssen fünf Dinge zutreffen: Der Bestand ist klassifiziert (Taxonomie und Zugriffsmodell), bereinigt (redundante, veraltete und triviale Dateien entfernt), strukturiert (Dokumente in abrufbare Daten überführt), verbunden (die relevanten Tools integriert) und gesteuert (Leitplanken und Monitoring vorhanden). Erst dann wird eine Retrieval- oder Assistenten-Ebene verlässlich. Den Retrieval-Mechanismus selbst erklären wir schlicht in Was ist RAG.
Wie «bereit» aussieht
Ein nützlicher Test: Bevor Sie das Modell messen, fragen Sie, ob Sie überhaupt das Modell messen. Ein Pilot auf einem unklassifizierten, duplizierten, ungesteuerten Bestand misst den Bestand. Bringen Sie die Eingaben in Ordnung, und dasselbe Modell, das «versagte», gelingt oft, weil die Beschränkung nie sein Schliessen war, sondern das Material, über das es schliessen musste.
Diese Reihenfolge ist der Kern unserer Knowledge-Systems-Arbeit: Wir bringen zuerst das Innere in Ordnung, bauen die Systeme darauf und überwachen sie nach dem Start, damit die Verlässlichkeit hält, wenn sich Ihre Daten und die Modelle entwickeln.
Quellen
Chui, M., Manyika, J., Bughin, J., Dobbs, R., Roxburgh, C., Sarrazin, H., Sands, G., & Westergren, M. (2012). The social economy: Unlocking value and productivity through social technologies. McKinsey Global Institute. https://www.mckinsey.com/industries/technology-media-and-telecommunications/our-insights/the-social-economy
Lewis, P., Perez, E., Piktus, A., Petroni, F., Karpukhin, V., Goyal, N., Küttler, H., Lewis, M., Yih, W., Rocktäschel, T., Riedel, S., & Kiela, D. (2020). Retrieval-augmented generation for knowledge-intensive NLP tasks. Advances in Neural Information Processing Systems, 33, 9459–9474. https://arxiv.org/abs/2005.11401
MIT NANDA. (2025). The GenAI divide: State of AI in business 2025 [Bericht]. MIT Media Lab, Project NANDA. https://www.media.mit.edu/groups/nanda/overview/