Sprachmodell plus eigene Wissensquellen — und warum die Qualität an der Aufbereitung hängt, nicht am Modell.
Kategorie · KI & Agents
Modell + eigene Quellen.
Retrieval-Augmented Generation verbindet ein Sprachmodell mit einer Wissensbasis. Bei einer Anfrage wird zuerst in der Wissensbasis nach relevanten Passagen gesucht, diese werden dem Modell als Kontext mitgegeben, dann generiert es die Antwort.
Vorteil: das Modell antwortet mit aktuellen oder firmenspezifischen Informationen, ohne neu trainiert werden zu müssen. Und: Antworten bekommen Quellenverweise, was Halluzinationen reduziert und Reviews möglich macht.
Worauf es in der Praxis ankommt.
Die Qualität eines RAG-Systems steht und fällt mit der Aufbereitung der Quellen — Chunking, Metadaten, Reranking, Evaluations. „Vector-DB reinwerfen und fertig" liefert selten gute Ergebnisse.
Wir nutzen RAG für Wissenssysteme, Produktberater, Vertriebs-Assistenten und technische Dokumentation, auf die interne Teams zugreifen.
