Znalostní báze a RAG

Přehled

Znalostní báze vám umožňuje poskytnout umělé inteligenci vlastní dokumenty, aby na nich založila své odpovědi. ToRun přijímá dokumenty, rozděluje je na části (chunky), indexuje je a v době dotazu načítá nejrelevantnější části pomocí kombinace vektorového (sémantického) a lexikálního (klíčová slova) vyhledávání — to je Retrieval-Augmented Generation (RAG).

Jak je strukturována

• Znalostní báze — rejstřík souborů projektu; patří vám.
• Znalostní dokument — každý soubor nebo zdroj, který do báze přidáte.
• Znalostní část (chunk) — indexované kousky, na které je dokument rozdělen; načítání probíhá na úrovni částí.

Znalostní báze jsou vázány na uživatele — vaše báze a její obsah patří vám.

Vytvoření a naplnění báze

1. Otevřete projekt, nebo vytvořte nový — soubory, které do něj přidáte, tvoří jeho znalostní bázi.
2. Přidejte dokumenty. ToRun přijme každý dokument, rozdělí jej na části a vytvoří embeddingy pro sémantické vyhledávání.
3. Jakmile je báze zaindexována, je k dispozici pro založení odpovědí.

Jak funguje načítání

Když položíte otázku vůči bázi, ToRun spustí:

1. Vektorové vyhledávání — vloží váš dotaz a najde sémanticky podobné části.
2. Lexikální vyhledávání — přímo porovnává klíčová slova a zachytí přesné termíny, které vektorové vyhledávání může minout.
3. Kombinované nejlepší výsledky jsou předány modelu jako kontext pro založení a odpověď je z nich vygenerována.

Tento hybridní přístup zachytí jak shody typu „znamená totéž", tak „obsahuje přesně tento termín".

Náklady

Vytváření embeddingů dokumentů během příjmu a odpovídání na založené otázky jsou volání AI, takže každé vytvoří BillingRecord se snímkem cen. Náklady na příjem jsou zhruba úměrné objemu dokumentů; náklady na dotaz jsou za otázku.

Tipy

• Přidávejte čisté, dobře strukturované dokumenty — poškozený text se špatně indexuje a špatně načítá.
• Udržujte bázi zaměřenou na jedno téma nebo projekt; jedna obří smíšená báze načítá zašuměnější výsledky.
• Dokumenty znovu přidejte nebo obnovte, když se změní podkladový materiál — načítání zná jen to, co je zaindexováno.