Triển khai tại chỗ (On-Prem) và tự lưu trữ

Tổng quan

ToRun có thể chạy trên hạ tầng của riêng bạn. Một trình cài đặt Docker chỉ với một lệnh sẽ xây dựng backend, trình di trú cơ sở dữ liệu và ứng dụng web từ mã nguồn, đồng thời đưa nền tảng lên phía sau một reverse proxy duy nhất — máy chủ lưu trữ chỉ cần Docker. Điều này dành cho các nhóm cần lưu trú dữ liệu (data residency), vận hành cô lập mạng (air-gapped) hoặc các mô hình cục bộ của riêng họ.

Trình cài đặt làm gì

Trình cài đặt tại chỗ:

• Xây dựng Host API, trình di trú cơ sở dữ liệu và frontend SPA từ mã nguồn bên trong Docker.
• Cấu hình một reverse proxy biên (edge) duy nhất ở phía trước mọi thứ.
• Tự động tạo các secret, chứng chỉ và cấu hình môi trường cần thiết để chạy.
• Tạo một tài khoản quản trị ban đầu từ cấu hình (email và mật khẩu quản trị do cấu hình điều khiển).

Vì mọi thứ được xây dựng từ mã nguồn trong container, máy chủ lưu trữ không cần bộ công cụ .NET hay Node — chỉ cần Docker.

Sử dụng các mô hình cục bộ của riêng bạn

Các triển khai tại chỗ có thể trỏ tới các LLM cục bộ của riêng bạn thay vì (hoặc song song với) các nhà cung cấp được lưu trữ. Kết hợp với kho BYOK, điều này có nghĩa là quá trình suy luận (inference) có thể hoàn toàn nằm trong môi trường của bạn.

Tùy chọn cấp phép

Triển khai tại chỗ được cung cấp với một số tùy chọn thương mại:

• Giấy phép theo chỗ ngồi (per seat) — định giá theo mỗi chỗ ngồi mỗi năm, với thông điệp chính $0 thiết lập; dịch vụ chuyên nghiệp có sẵn theo giờ khi bạn muốn được hỗ trợ trực tiếp.
• Giấy phép mã nguồn — một khoản phí một lần cho mã nguồn cộng với phí cập nhật hằng năm, dành cho các tổ chức cần chính mã nguồn đó.
• Ký quỹ mã nguồn (source escrow) — có sẵn để mã nguồn được bảo vệ và có thể truy cập theo các điều kiện đã thỏa thuận ngay cả trong các tình huống xấu nhất.

(Các con số chính xác được ấn định trong thỏa thuận giá hiện hành; báo giá/giao dịch của bạn phản ánh các con số đang áp dụng.)

Tư thế vận hành

Thiết kế tại chỗ hướng tới vận hành không cần nhân sự — cài đặt tự động, cập nhật tự động và một lộ trình hỗ trợ tự phục vụ — để một nhóm nhỏ (hoặc một người vận hành đơn lẻ) có thể chạy nó mà không cần đội ngũ vận hành chuyên trách.

Cập nhật

Các triển khai có thể tự cập nhật để bạn luôn cập nhật mà không cần chu kỳ xây dựng lại thủ công.

Mẹo

• Đặt email/mật khẩu quản trị qua cấu hình trước lần khởi động đầu tiên để tài khoản quản trị được tạo là của bạn ngay từ đầu.
• Nếu dữ liệu không bao giờ được rời khỏi mạng của bạn, hãy chạy các mô hình cục bộ qua BYOK và tránh cấu hình khóa của các nhà cung cấp được lưu trữ.
• Hãy bật cập nhật tự động trừ khi bạn có lý do kiểm soát thay đổi để ghim một phiên bản.