Bazy wiedzy i RAG

Przegląd

Baza wiedzy pozwala przekazać SI własne dokumenty, aby ugruntować jej odpowiedzi. ToRun pobiera dokumenty, dzieli je na fragmenty (chunki), indeksuje je, a w czasie zapytania pobiera najbardziej trafne fragmenty przy użyciu hybrydy wyszukiwania wektorowego (semantycznego) i leksykalnego (po słowach kluczowych) — to jest Retrieval-Augmented Generation (RAG).

Jak jest zbudowana

• Baza wiedzy — indeks plików projektu; należy do Ciebie.
• Dokument wiedzy — każdy plik lub źródło, które dodajesz do bazy.
• Fragment wiedzy — zaindeksowane części, na które dzielony jest dokument; pobieranie odbywa się na poziomie fragmentu.

Bazy wiedzy mają zakres użytkownika — Twoja baza i jej zawartość należą do Ciebie.

Tworzenie i wypełnianie bazy

1. Otwórz projekt albo utwórz nowy — pliki, które do niego dodasz, tworzą jego bazę wiedzy.
2. Dodaj dokumenty. ToRun pobiera każdy dokument, dzieli go na fragmenty i buduje osadzenia (embeddingi) do wyszukiwania semantycznego.
3. Po zaindeksowaniu baza jest dostępna do ugruntowywania odpowiedzi.

Jak działa pobieranie

Gdy zadajesz pytanie do bazy, ToRun uruchamia:

1. Wyszukiwanie wektorowe — osadza Twoje zapytanie i znajduje semantycznie podobne fragmenty.
2. Wyszukiwanie leksykalne — bezpośrednio dopasowuje słowa kluczowe, wychwytując dokładne terminy, które wyszukiwanie wektorowe może pominąć.
3. Połączone najlepsze wyniki są przekazywane do modelu jako kontekst ugruntowujący, a odpowiedź jest z nich generowana.

To hybrydowe podejście wychwytuje zarówno dopasowania typu „znaczy to samo", jak i „zawiera dokładnie ten termin".

Koszt

Generowanie osadzeń dokumentów podczas pobierania oraz odpowiadanie na ugruntowane pytania to wywołania SI, więc każde z nich tworzy BillingRecord z migawką cen. Koszt pobierania jest w przybliżeniu proporcjonalny do ilości dokumentów; koszt zapytania jest naliczany za pytanie.

Wskazówki

• Dodawaj czyste, dobrze ustrukturyzowane dokumenty — zniekształcony tekst źle się indeksuje i źle pobiera.
• Utrzymuj bazę skupioną na jednym temacie lub projekcie; jedna gigantyczna, mieszana baza pobiera bardziej zaszumione wyniki.
• Dodawaj ponownie lub odświeżaj dokumenty, gdy zmienia się materiał źródłowy — pobieranie zna tylko to, co jest zaindeksowane.