知识库与 RAG

概述

知识库让你能够将自己的文档提供给 AI，作为其回答的依据。ToRun 会摄取文档，将其拆分为块（chunk），建立索引，并在查询时使用向量（语义）检索与词法（关键词）检索的混合方式检索最相关的块——这就是 Retrieval-Augmented Generation（RAG）。

结构组成

• 知识库 — 一个项目的文件索引，归你所有。
• 知识文档 — 你添加到知识库中的每个文件或来源。
• 知识块（chunk） — 文档被拆分成的已索引片段；检索在块级别进行。

知识库的作用域为用户——你的知识库及其内容归你所有。

创建并填充知识库

1. 打开一个项目，或新建一个——你添加到其中的文件就构成它的知识库。
2. 添加文档。ToRun 会摄取每个文档，将其拆分为块，并为语义检索构建嵌入（embedding）。
3. 一旦完成索引，知识库即可用于为回答提供依据。

检索的工作原理

当你针对某个知识库提问时，ToRun 会执行：

1. 向量检索 — 将你的查询嵌入，并找出语义相似的块。
2. 词法检索 — 直接匹配关键词，捕捉向量检索可能遗漏的精确术语。
3. 合并后的最佳结果作为依据上下文传递给模型，并据此生成回答。

这种混合方式既能捕捉“含义相同”的匹配，也能捕捉“包含此精确术语”的匹配。

成本

在摄取期间嵌入文档以及回答有依据的问题都是 AI 调用，因此每次都会生成一条带有定价快照的 BillingRecord。摄取成本大致与文档量成正比；查询成本按每个问题计算。

提示

• 添加干净、结构良好的文档——杂乱的文本索引效果差、检索效果也差。
• 让一个知识库专注于一个主题或项目；单个庞大的混合知识库检索出的结果噪声更大。
• 当底层材料发生变化时，重新添加或刷新文档——检索只知道已索引的内容。