Baze de cunoștințe și RAG

Prezentare generală

O bază de cunoștințe îți permite să oferi IA-ului propriile documente pentru a-și fundamenta răspunsurile. ToRun ingeră documentele, le împarte în fragmente (chunk-uri), le indexează și, în momentul interogării, recuperează cele mai relevante fragmente folosind o combinație de căutare vectorială (semantică) și lexicală (după cuvinte cheie) — aceasta este Retrieval-Augmented Generation (RAG).

Cum este structurată

• Bază de cunoștințe — indexul fișierelor unui proiect; îți aparține.
• Document de cunoștințe — fiecare fișier sau sursă pe care o adaugi la o bază.
• Fragment de cunoștințe (chunk) — bucățile indexate în care este împărțit un document; recuperarea are loc la nivel de fragment.

Bazele de cunoștințe au domeniu de utilizator — baza ta și conținutul ei îți aparțin.

Crearea și popularea unei baze

1. Deschide un proiect sau creează unul — fișierele pe care i le adaugi alcătuiesc baza lui de cunoștințe.
2. Adaugă documente. ToRun ingeră fiecare document, îl împarte în fragmente și construiește embedding-uri pentru căutarea semantică.
3. Odată indexată, baza este disponibilă pentru a fundamenta răspunsuri.

Cum funcționează recuperarea

Când pui o întrebare unei baze, ToRun rulează:

1. Căutare vectorială — încorporează interogarea ta și găsește fragmente similare semantic.
2. Căutare lexicală — potrivește direct cuvintele cheie, captând termeni exacți pe care căutarea vectorială i-ar putea rata.
3. Cele mai bune rezultate combinate sunt transmise modelului ca context de fundamentare, iar răspunsul este generat din ele.

Această abordare hibridă captează atât potrivirile de tip „înseamnă același lucru", cât și „conține exact acest termen".

Cost

Încorporarea documentelor în timpul ingestiei și răspunsul la întrebări fundamentate sunt apeluri IA, deci fiecare produce un BillingRecord cu un instantaneu de prețuri. Costul de ingestie este aproximativ proporțional cu volumul de documente; costul interogării este per întrebare.

Sfaturi

• Adaugă documente curate, bine structurate — textul deteriorat se indexează prost și se recuperează prost.
• Menține o bază concentrată pe un singur subiect sau proiect; o singură bază gigantică, amestecată, recuperează rezultate mai zgomotoase.
• Readaugă sau reîmprospătează documentele când materialul de bază se schimbă — recuperarea știe doar ce este indexat.