Şirket İçi (On-Prem) ve Kendi Kendine Barındırılan Dağıtım

Genel Bakış

ToRun kendi altyapınızda çalışabilir. Tek komutluk bir Docker yükleyici; arka ucu, veritabanı geçiş aracını ve web uygulamasını kaynaktan derler ve platformu tek bir ters proxy arkasında ayağa kaldırır — ana makinede yalnızca Docker gerekir. Bu seçenek, veri yerleşimi (data residency), ağdan yalıtılmış (air-gapped) çalışma veya kendi yerel modellerine ihtiyaç duyan ekipler içindir.

Yükleyici ne yapar

Şirket içi yükleyici:

• Host API'yi, veritabanı geçiş aracını ve SPA ön ucunu Docker içinde kaynaktan derler.
• Her şeyin önüne tek bir kenar (edge) ters proxy yapılandırır.
• Çalıştırmak için gereken gizli anahtarları, sertifikayı ve ortam yapılandırmasını otomatik üretir.
• Yapılandırmadan ilk yönetici hesabını seed eder (yönetici e-postası ve parolası yapılandırma tabanlıdır).

Her şey konteyner içinde kaynaktan derlendiği için, ana makinenin bir .NET veya Node araç zincirine ihtiyacı yoktur — yalnızca Docker.

Kendi yerel modellerinizi kullanma

Şirket içi dağıtımlar, barındırılan sağlayıcılar yerine (veya onlarla birlikte) kendi yerel LLM'lerinize yönlendirilebilir. BYOK kasası ile birleştirildiğinde bu, çıkarımın (inference) tamamen kendi ortamınızda kalabileceği anlamına gelir.

Lisanslama seçenekleri

Şirket içi dağıtım birkaç ticari seçenekle sunulur:

• Koltuk başına lisans — koltuk başına yıllık olarak fiyatlandırılır, $0 kurulum vurgusuyla; uygulamalı yardım istediğinizde profesyonel hizmetler saatlik olarak mevcuttur.
• Kaynak lisansı — kaynak kodun kendisine ihtiyaç duyan kuruluşlar için, kaynak için tek seferlik bir ücret artı yıllık güncelleme ücreti.
• Kaynak emaneti (source escrow) — en kötü senaryolarda bile kaynağın korunması ve üzerinde anlaşılan koşullar altında erişilebilir olması için mevcuttur.

(Kesin rakamlar mevcut fiyatlandırma sözleşmesinde belirlenir; satış/teklifiniz güncel sayıları yansıtır.)

Operasyon duruşu

Şirket içi tasarım sıfır personelli operasyonu hedefler — otomatik kurulum, otomatik güncellemeler ve self servis bir destek yolu — böylece küçük bir ekip (veya tek bir operatör), özel bir operasyon kadrosu olmadan bunu çalıştırabilir.

Güncellemeler

Dağıtımlar kendini güncelleyebilir, böylece manuel yeniden derleme döngüsü olmadan güncel kalırsınız.

İpuçları

• İlk açılıştan önce yönetici e-postasını/parolasını yapılandırma yoluyla ayarlayın; böylece seed edilen yönetici en baştan sizin olur.
• Veriler ağınızdan asla çıkmamalıysa, yerel modelleri BYOK üzerinden çalıştırın ve barındırılan sağlayıcı anahtarlarını yapılandırmaktan kaçının.
• Bir sürümü sabitlemek için bir değişiklik kontrolü nedeniniz olmadıkça otomatik güncellemeyi etkin tutun.