Wissensdatenbanken & RAG

Überblick

Mit einer Wissensdatenbank können Sie der KI Ihre eigenen Dokumente bereitstellen, um ihre Antworten zu fundieren. ToRun nimmt Dokumente auf, teilt sie in Chunks auf, indexiert sie und ruft zur Abfragezeit die relevantesten Chunks über eine Kombination aus Vektor- (semantischer) und lexikalischer (Schlüsselwort-)Suche ab — dies ist Retrieval-Augmented Generation (RAG).

Wie sie aufgebaut ist

• Wissensdatenbank — der Index der Dateien eines Projekts; sie gehört Ihnen.
• Wissensdokument — jede Datei oder Quelle, die Sie einer Datenbank hinzufügen.
• Wissens-Chunk — die indexierten Teile, in die ein Dokument aufgeteilt wird; der Abruf erfolgt auf Chunk-Ebene.

Wissensdatenbanken sind benutzergebunden — Ihre Datenbank und deren Inhalte gehören Ihnen.

Eine Datenbank erstellen und befüllen

1. Öffnen Sie ein Projekt oder erstellen Sie eines — die Dateien, die Sie hinzufügen, bilden seine Wissensdatenbank.
2. Fügen Sie Dokumente hinzu. ToRun nimmt jedes Dokument auf, teilt es in Chunks auf und erstellt Embeddings für die semantische Suche.
3. Sobald sie indexiert ist, steht die Datenbank zur Fundierung von Antworten zur Verfügung.

Wie der Abruf funktioniert

Wenn Sie eine Frage an eine Datenbank stellen, führt ToRun Folgendes aus:

1. Vektorsuche — bettet Ihre Abfrage ein und findet semantisch ähnliche Chunks.
2. Lexikalische Suche — gleicht Schlüsselwörter direkt ab und erfasst exakte Begriffe, die die Vektorsuche übersehen kann.
3. Die kombinierten besten Ergebnisse werden dem Modell als Fundierungskontext übergeben, und die Antwort wird daraus generiert.

Dieser hybride Ansatz erfasst sowohl Treffer der Art „bedeutet dasselbe" als auch „enthält genau diesen Begriff".

Kosten

Das Einbetten von Dokumenten während der Aufnahme und das Beantworten fundierter Fragen sind KI-Aufrufe, sodass jeder einen BillingRecord mit einem Preis-Snapshot erzeugt. Die Aufnahmekosten sind in etwa proportional zum Dokumentvolumen; die Abfragekosten fallen pro Frage an.

Tipps

• Fügen Sie saubere, gut strukturierte Dokumente hinzu — verstümmelter Text wird schlecht indexiert und schlecht abgerufen.
• Halten Sie eine Datenbank auf ein Thema oder Projekt fokussiert; eine einzige riesige gemischte Datenbank liefert verrauschtere Ergebnisse.
• Fügen Sie Dokumente erneut hinzu oder aktualisieren Sie sie, wenn sich das zugrunde liegende Material ändert — der Abruf kennt nur das, was indexiert ist.