지식 베이스와 RAG

개요

지식 베이스를 사용하면 자체 문서를 AI에 제공하여 답변의 근거로 삼을 수 있습니다. ToRun은 문서를 수집하고 청크로 분할하여 인덱싱하며, 쿼리 시점에 벡터(의미) 검색과 어휘(키워드) 검색의 하이브리드를 사용해 가장 관련성 높은 청크를 검색합니다. 이것이 바로 Retrieval-Augmented Generation(RAG)입니다.

구조

• 지식 베이스 — 프로젝트 파일의 색인이며, 여러분의 것입니다.
• 지식 문서 — 베이스에 추가하는 각 파일 또는 소스입니다.
• 지식 청크 — 문서가 분할된 인덱싱된 조각으로, 검색은 청크 수준에서 이루어집니다.

지식 베이스는 사용자 범위입니다 — 여러분의 베이스와 그 내용은 여러분에게 속합니다.

베이스 만들기 및 채우기

1. 프로젝트를 열거나 새로 만듭니다 — 여기에 추가한 파일이 그 프로젝트의 지식 베이스가 됩니다.
2. 문서를 추가합니다. ToRun은 각 문서를 수집하고 청크로 분할하며 의미 검색을 위한 임베딩을 생성합니다.
3. 인덱싱이 완료되면 베이스를 답변의 근거로 사용할 수 있습니다.

검색 작동 방식

베이스에 질문을 하면 ToRun은 다음을 실행합니다.

1. 벡터 검색 — 쿼리를 임베딩하고 의미적으로 유사한 청크를 찾습니다.
2. 어휘 검색 — 키워드를 직접 매칭하여 벡터 검색이 놓칠 수 있는 정확한 용어를 포착합니다.
3. 결합된 상위 결과가 근거 컨텍스트로 모델에 전달되고, 그로부터 답변이 생성됩니다.

이 하이브리드 방식은 "같은 의미를 가진" 일치와 "이 정확한 용어를 포함하는" 일치를 모두 포착합니다.

비용

수집 중 문서를 임베딩하는 것과 근거 기반 질문에 답변하는 것은 AI 호출이므로, 각각 가격 스냅샷이 포함된 BillingRecord를 생성합니다. 수집 비용은 대략 문서 양에 비례하며, 쿼리 비용은 질문당 부과됩니다.

팁

• 깔끔하고 잘 구조화된 문서를 추가하세요 — 깨진 텍스트는 인덱싱과 검색 모두 좋지 않습니다.
• 베이스를 하나의 주제나 프로젝트에 집중하세요. 거대하고 혼합된 단일 베이스는 더 노이즈가 많은 결과를 검색합니다.
• 기반 자료가 변경되면 문서를 다시 추가하거나 새로 고치세요 — 검색은 인덱싱된 것만 알 수 있습니다.