Glossar KI-Technik
RAG (Retrieval-Augmented Generation)
Was ist RAG (Retrieval-Augmented Generation)?
RAG lässt ein Sprachmodell zuerst die passenden Dokumente aus Ihren eigenen Quellen abrufen und seine Antwort darauf stützen, sodass es aus Ihrem Wissen schöpft statt nur aus seinem Training.
Ein Sprachmodell weiß viel, aber nichts Spezifisches über Ihr Unternehmen: nicht Ihre Vertragsbedingungen, nicht Ihre Akten, nicht Ihre internen Handbücher. RAG löst das, indem es bei jeder Frage zuerst die relevanten Passagen aus Ihren Quellen heraussucht und dem Modell mitgibt. Die Antwort stammt dann aus Ihrem Wissen, nicht aus einem allgemeinen Gedächtnis. So bauen wir zum Beispiel eine Wissensdatenbank auf Ihren eigenen Dokumenten.
Das bewirkt zweierlei. Antworten werden aktuell und unternehmensspezifisch, und es gibt weniger Halluzinationen, weil sich das Modell auf echten Text stützen kann, statt zu raten. Außerdem lässt sich jede Antwort auf ihre Quelle zurückführen und damit überprüfen.
RAG ist oft der Unterschied zwischen einer KI, die gut klingt, und einer KI, die für Ihre Situation stimmt. Für die meisten Anwendungen im Mittelstand ist es der erste Baustein, zu dem wir greifen, noch bevor wir uns Fine-Tuning ansehen.
Zuletzt aktualisiert: 18. Juni 2026