Cơ sở tri thức & RAG
Cập nhật lần cuối: 8 thg 11 2026
Tổng quan
Một cơ sở tri thức cho phép bạn cung cấp cho AI các tài liệu của riêng mình để làm cơ sở cho các câu trả lời. ToRun nạp tài liệu, chia chúng thành các đoạn (chunk), lập chỉ mục chúng, và tại thời điểm truy vấn sẽ truy xuất các đoạn liên quan nhất bằng cách dùng sự kết hợp giữa tìm kiếm vector (ngữ nghĩa) và tìm kiếm từ vựng (từ khóa) — đây chính là Retrieval-Augmented Generation (RAG).
Cách nó được cấu trúc
- Cơ sở tri thức — chỉ mục các tệp của một dự án; nó thuộc về bạn.
- Tài liệu tri thức — mỗi tệp hoặc nguồn mà bạn thêm vào một cơ sở.
- Đoạn tri thức (chunk) — các mảnh được lập chỉ mục mà một tài liệu được chia thành; việc truy xuất diễn ra ở cấp độ đoạn.
Cơ sở tri thức có phạm vi người dùng — cơ sở của bạn và nội dung của nó thuộc về bạn.
Tạo và điền dữ liệu cho một cơ sở
- Mở một dự án, hoặc tạo dự án mới — các tệp bạn thêm vào sẽ tạo nên cơ sở tri thức của dự án đó.
- Thêm tài liệu. ToRun nạp từng tài liệu, chia nó thành các đoạn, và xây dựng các embedding cho tìm kiếm ngữ nghĩa.
- Sau khi được lập chỉ mục, cơ sở sẵn sàng để làm cơ sở cho các câu trả lời.
Cách truy xuất hoạt động
Khi bạn đặt câu hỏi đối với một cơ sở, ToRun chạy:
- Tìm kiếm vector — nhúng truy vấn của bạn và tìm các đoạn tương tự về ngữ nghĩa.
- Tìm kiếm từ vựng — khớp trực tiếp các từ khóa, bắt được các thuật ngữ chính xác mà tìm kiếm vector có thể bỏ sót.
- Các kết quả tốt nhất được kết hợp sẽ được chuyển cho mô hình làm ngữ cảnh nền tảng, và câu trả lời được tạo ra từ chúng.
Cách tiếp cận lai này bắt được cả các kết quả khớp kiểu "có nghĩa giống nhau" lẫn "chứa chính xác thuật ngữ này".
Chi phí
Nhúng tài liệu trong quá trình nạp và trả lời các câu hỏi có cơ sở là các lệnh gọi AI, nên mỗi lệnh tạo ra một BillingRecord kèm ảnh chụp giá. Chi phí nạp xấp xỉ tỷ lệ với khối lượng tài liệu; chi phí truy vấn được tính theo từng câu hỏi.
Mẹo
- Thêm các tài liệu sạch, được cấu trúc tốt — văn bản bị lỗi sẽ lập chỉ mục kém và truy xuất kém.
- Giữ một cơ sở tập trung vào một chủ đề hoặc dự án; một cơ sở khổng lồ, hỗn hợp duy nhất sẽ truy xuất các kết quả nhiễu hơn.
- Thêm lại hoặc làm mới tài liệu khi tài liệu nền tảng thay đổi — việc truy xuất chỉ biết những gì đã được lập chỉ mục.
Xem cách hoạt động
Projects, your own files and memory: an AI assistant that knows your work
A project groups related chats, files and memory, and every new chat in it follows the project's system prompt. Add PDFs, documents or text files under Knowledge and the assistant searches them in that project's chats. Memory works across all your chats: mention something worth keeping and you don't have to say it again. Everything it remembers is on your memory page, where you can edit it or make it forget for good.
Video này bằng tiếng Anh.