Knowledge Base e RAG

Panoramica

Una knowledge base ti consente di fornire all'IA i tuoi documenti per fondare le sue risposte. ToRun acquisisce i documenti, li suddivide in frammenti (chunk), li indicizza e, al momento della query, recupera i frammenti più pertinenti utilizzando una combinazione di ricerca vettoriale (semantica) e lessicale (per parole chiave) — questa è la Retrieval-Augmented Generation (RAG).

Come è strutturata

• Knowledge base — l'indice dei file di un progetto; appartiene a te.
• Documento di conoscenza — ogni file o fonte che aggiungi a una base.
• Frammento di conoscenza — le parti indicizzate in cui un documento viene suddiviso; il recupero avviene a livello di frammento.

Le knowledge base hanno ambito utente — la tua base e i suoi contenuti appartengono a te.

Creare e popolare una base

1. Apri un progetto, o creane uno: i file che vi aggiungi formano la sua knowledge base.
2. Aggiungi documenti. ToRun acquisisce ogni documento, lo suddivide in frammenti e costruisce gli embedding per la ricerca semantica.
3. Una volta indicizzata, la base è disponibile per fondare le risposte.

Come funziona il recupero

Quando poni una domanda a una base, ToRun esegue:

1. Ricerca vettoriale — incorpora la tua query e trova frammenti semanticamente simili.
2. Ricerca lessicale — corrisponde direttamente alle parole chiave, catturando termini esatti che la ricerca vettoriale può mancare.
3. I migliori risultati combinati vengono passati al modello come contesto di fondamento, e la risposta viene generata a partire da essi.

Questo approccio ibrido cattura sia le corrispondenze del tipo "significa la stessa cosa" sia "contiene esattamente questo termine".

Costo

Generare gli embedding dei documenti durante l'acquisizione e rispondere a domande fondate sono chiamate IA, quindi ognuna produce un BillingRecord con uno snapshot dei prezzi. Il costo di acquisizione è all'incirca proporzionale al volume dei documenti; il costo della query è per domanda.

Consigli

• Aggiungi documenti puliti e ben strutturati — il testo confuso si indicizza male e si recupera male.
• Mantieni una base focalizzata su un solo argomento o progetto; un'unica base gigante e mista recupera risultati più rumorosi.
• Aggiungi nuovamente o aggiorna i documenti quando il materiale sottostante cambia — il recupero conosce solo ciò che è indicizzato.