Znalostné databázy a RAG

Prehľad

Znalostná databáza vám umožňuje poskytnúť umelej inteligencii vlastné dokumenty, aby na nich založila svoje odpovede. ToRun prijíma dokumenty, rozdeľuje ich na časti (chunky), indexuje ich a v čase dopytu načítava najrelevantnejšie časti pomocou kombinácie vektorového (sémantického) a lexikálneho (kľúčové slová) vyhľadávania — to je Retrieval-Augmented Generation (RAG).

Ako je štruktúrovaná

• Znalostná databáza — register súborov projektu; patrí vám.
• Znalostný dokument — každý súbor alebo zdroj, ktorý do databázy pridáte.
• Znalostná časť (chunk) — indexované kúsky, na ktoré je dokument rozdelený; načítavanie prebieha na úrovni častí.

Znalostné databázy sú viazané na používateľa — vaša databáza a jej obsah patria vám.

Vytvorenie a naplnenie databázy

1. Otvorte projekt alebo vytvorte nový — súbory, ktoré doň pridáte, tvoria jeho znalostnú databázu.
2. Pridajte dokumenty. ToRun prijme každý dokument, rozdelí ho na časti a vytvorí embeddingy pre sémantické vyhľadávanie.
3. Po zaindexovaní je databáza k dispozícii na založenie odpovedí.

Ako funguje načítavanie

Keď položíte otázku voči databáze, ToRun spustí:

1. Vektorové vyhľadávanie — vloží váš dopyt a nájde sémanticky podobné časti.
2. Lexikálne vyhľadávanie — priamo porovnáva kľúčové slová a zachytí presné termíny, ktoré vektorové vyhľadávanie môže minúť.
3. Kombinované najlepšie výsledky sa odovzdajú modelu ako kontext na založenie a odpoveď sa z nich vygeneruje.

Tento hybridný prístup zachytí ako zhody typu „znamená to isté", tak aj „obsahuje presne tento termín".

Náklady

Vytváranie embeddingov dokumentov počas príjmu a odpovedanie na založené otázky sú volania AI, takže každé vytvorí BillingRecord so snímkou cien. Náklady na príjem sú zhruba úmerné objemu dokumentov; náklady na dopyt sú za otázku.

Tipy

• Pridávajte čisté, dobre štruktúrované dokumenty — poškodený text sa zle indexuje a zle načítava.
• Udržujte databázu zameranú na jednu tému alebo projekt; jedna obrovská zmiešaná databáza načíta zašumenejšie výsledky.
• Dokumenty znovu pridajte alebo obnovte, keď sa zmení podkladový materiál — načítavanie pozná len to, čo je zaindexované.