Retrieval-Augmented Generation (RAG) ist eine Methode, bei der eine KI eine Frage beantwortet, indem sie zuerst die relevantesten Passagen aus einem gewählten Dokumentenbestand abruft und dann eine darauf gegründete Antwort mit angehängten Quellen erzeugt. Statt sich nur auf im Training Gespeichertes zu verlassen, liest sie Ihr Material im Moment der Frage. Diese Verankerung verhindert, dass sie Antworten über Ihr Geschäft erfindet. Der Ansatz wurde von Lewis et al. (2020) eingeführt, die zeigten, dass die Kombination eines neuronalen Retrievers mit einem generativen Modell die Genauigkeit bei wissensintensiven Aufgaben verbessert und das System auf die Belege hinter seinen Antworten verweisen lässt.
Warum einfache Chatbots halluzinieren
Ein Sprachmodell allein ist eine Wahrscheinlichkeitsmaschine: Es sagt flüssige Fortsetzungen von Text voraus. Fragen Sie nach Ihrer internen Preisgestaltung, einem alten Vertrag oder einer speziellen Richtlinie, liefert es eine selbstbewusste Antwort, ob es dafür eine Grundlage hat oder nicht. Diese Neigung, flüssige, aber unbelegte Inhalte zu erzeugen, ist gut dokumentiert; eine umfassende Übersicht von Ji et al. (2023) katalogisiert Halluzinationen über Systeme der natürlichsprachlichen Generierung hinweg und benennt eine wiederkehrende Ursache: Modelle, die über das hinaus generieren, was ihre Eingaben tatsächlich stützen. Ein Consumer-Chatbot hat keinen Zugriff auf Ihre Dokumente und keine Pflicht, etwas zu belegen; das Risiko ist also strukturell, nicht gelegentlich.
Was RAG verändert
RAG fügt zwei Schritte um das Modell herum hinzu.
Abrufen. Ihre Dokumente werden in einen durchsuchbaren Index überführt, typischerweise Vektor-Embeddings, die Bedeutung statt nur Schlüsselwörter erfassen. Kommt eine Frage, zieht das System die dafür relevantesten Passagen.
Verankern und belegen. Diese Passagen werden dem Modell als Kontext übergeben, und die Antwort wird daraus gebaut, mit Links zur Quelle, damit eine Person jede Aussage prüfen kann. Das Ergebnis ist eine Antwort, der Ihr Team vertrauen kann, weil sie prüfbar ist, nicht nur zu glauben. Lewis et al. (2020) zeigten, dass dieser Retrieval-Schritt sowohl die faktische Genauigkeit verbesserte als auch die Ausgaben spezifischer und belegbarer machte als bei einem vergleichbaren Modell, das aus dem Gedächtnis allein generiert.
RAG ist nur so gut wie die Daten darunter
Dieser Vorbehalt entscheidet über den Erfolg in der Praxis. Retrieval über einen unsauberen, duplizierten, widersprüchlichen Dokumentenbestand liefert unsaubere, widersprüchliche Passagen, und die erzeugte Antwort erbt das. Gutes RAG ist vielleicht zu 20% Modell und zu 80% Qualität, Struktur und Zugriffsmodell des Bestands, aus dem es abruft. Deshalb kommen Klassifizierung und Bereinigung zuerst, ein Punkt, den wir in Warum die meisten KI-Piloten scheitern vertiefen. Retrieval-Qualität, Chunking-Strategie und die Aktualität des Index zählen für die reale Verlässlichkeit mehr als die Wahl des Spitzenmodells.
Wo RAG in ein Unternehmen passt
Für die meisten Organisationen ist RAG der Unterschied zwischen einer KI-Demo und einem KI-System, das Menschen wirklich nutzen. Eine gut gebaute Retrieval-Ebene verwandelt einen verstreuten Dokumentenbestand in einen Copiloten, der in klarer Sprache antwortet, seine Quellen belegt und aktuell bleibt, wenn sich Dokumente ändern. Sie begrenzt auch Risiko: Weil Antworten in freigegebenem Material verankert und nachvollziehbar sind, lassen sie sich weit leichter prüfen, auditieren und steuern als freie Generierung.
Diese Retrieval-Ebene zu bauen, auf einem Fundament, das wirklich dafür bereit ist, ist Teil unseres Knowledge-Systems-Service.
Quellen
Ji, Z., Lee, N., Frieske, R., Yu, T., Su, D., Xu, Y., Ishii, E., Bang, Y. J., Madotto, A., & Fung, P. (2023). Survey of hallucination in natural language generation. ACM Computing Surveys, 55(12), 1–38. https://doi.org/10.1145/3571730
Lewis, P., Perez, E., Piktus, A., Petroni, F., Karpukhin, V., Goyal, N., Küttler, H., Lewis, M., Yih, W., Rocktäschel, T., Riedel, S., & Kiela, D. (2020). Retrieval-augmented generation for knowledge-intensive NLP tasks. Advances in Neural Information Processing Systems, 33, 9459–9474. https://arxiv.org/abs/2005.11401