Þekkingargrunnar og RAG

Yfirlit

Þekkingargrunnur gerir þér kleift að gefa gervigreindinni þín eigin skjöl til að grundvalla svör hennar. ToRun tekur inn skjöl, skiptir þeim í búta (chunks), skráir þau og við fyrirspurn sækir hún viðeigandi búta með blöndu af vektorleit (merkingarlegri) og orðasafnsleit (lykilorða) — þetta er Retrieval-Augmented Generation (RAG).

Hvernig hann er uppbyggður

• Þekkingargrunnur — skráin yfir skrár verkefnis; hann er þinn.
• Þekkingarskjal — hver skrá eða heimild sem þú bætir við grunn.
• Þekkingarbútur (chunk) — skráðu hlutarnir sem skjal er skipt í; sókn fer fram á bútastigi.

Þekkingargrunnar eru notandabundnir — grunnurinn þinn og innihald hans tilheyra þér.

Að búa til og fylla grunn

1. Opnaðu verkefni eða búðu til nýtt — skrárnar sem þú bætir við mynda þekkingargrunn þess.
2. Bættu við skjölum. ToRun tekur inn hvert skjal, skiptir því í búta og byggir innfellingar (embeddings) fyrir merkingarlega leit.
3. Þegar hann er skráður er grunnurinn tiltækur til að grundvalla svör.

Hvernig sókn virkar

Þegar þú spyrð spurningar gegn grunni keyrir ToRun:

1. Vektorleit — fellir inn fyrirspurnina þína og finnur merkingarlega svipaða búta.
2. Orðasafnsleit — passar lykilorð beint og grípur nákvæm hugtök sem vektorleit getur misst af.
3. Sameinuðu bestu niðurstöðurnar eru sendar til líkansins sem grundvallarsamhengi, og svarið er búið til út frá þeim.

Þessi blandaða nálgun grípur bæði samsvaranir af gerðinni „þýðir það sama" og „inniheldur nákvæmlega þetta hugtak".

Kostnaður

Að fella inn skjöl við inntöku og að svara grundvölluðum spurningum eru gervigreindarkall, svo hvert framleiðir BillingRecord með verðmyndarmynd. Inntökukostnaður er nokkurn veginn í hlutfalli við skjalamagn; fyrirspurnarkostnaður er á hverja spurningu.

Ábendingar

• Bættu við hreinum, vel uppbyggðum skjölum — brenglaður texti skráist illa og sækist illa.
• Haltu grunni einbeittum á eitt efni eða verkefni; einn risastór blandaður grunnur sækir hávaðasamari niðurstöður.
• Bættu við eða endurnýjaðu skjöl þegar undirliggjandi efni breytist — sókn þekkir aðeins það sem er skráð.