Baze znanja in RAG

Pregled

Baza znanja vam omogoča, da umetni inteligenci podate svoje dokumente, da na njih utemelji svoje odgovore. ToRun sprejme dokumente, jih razdeli na koščke (chunke), jih indeksira in ob poizvedbi pridobi najustreznejše koščke z uporabo kombinacije vektorskega (semantičnega) in leksikalnega (po ključnih besedah) iskanja — to je Retrieval-Augmented Generation (RAG).

Kako je zgrajena

• Baza znanja — kazalo datotek projekta; pripada vam.
• Dokument znanja — vsaka datoteka ali vir, ki ga dodate v bazo.
• Ko znanja (chunk)* — indeksirani kosi, na katere je dokument razdeljen; pridobivanje poteka na ravni koščkov.

Baze znanja so vezane na uporabnika — vaša baza in njena vsebina pripadata vam.

Ustvarjanje in polnjenje baze

1. Odprite projekt ali ustvarite novega — datoteke, ki jih dodate vanj, sestavljajo njegovo bazo znanja.
2. Dodajte dokumente. ToRun sprejme vsak dokument, ga razdeli na koščke in zgradi vložitve (embeddinge) za semantično iskanje.
3. Ko je indeksirana, je baza na voljo za utemeljevanje odgovorov.

Kako deluje pridobivanje

Ko postavite vprašanje proti bazi, ToRun zažene:

1. Vektorsko iskanje — vloži vašo poizvedbo in najde semantično podobne koščke.
2. Leksikalno iskanje — neposredno se ujema s ključnimi besedami in zajame natančne izraze, ki jih vektorsko iskanje lahko spregleda.
3. Združeni najboljši rezultati se modelu posredujejo kot kontekst za utemeljitev, odgovor pa je iz njih ustvarjen.

Ta hibridni pristop zajame tako ujemanja vrste »pomeni isto« kot »vsebuje natanko ta izraz«.

Strošek

Vlaganje dokumentov med sprejemom in odgovarjanje na utemeljena vprašanja so klici UI, zato vsak ustvari BillingRecord s posnetkom cen. Strošek sprejema je približno sorazmeren z obsegom dokumentov; strošek poizvedbe je na vprašanje.

Nasveti

• Dodajajte čiste, dobro strukturirane dokumente — popačeno besedilo se slabo indeksira in slabo pridobiva.
• Bazo ohranjajte osredotočeno na eno temo ali projekt; ena sama ogromna mešana baza pridobi bolj šumne rezultate.
• Dokumente znova dodajte ali osvežite, ko se osnovno gradivo spremeni — pridobivanje pozna le to, kar je indeksirano.