Helyszíni (On-Prem) és önállóan üzemeltetett telepítés

Áttekintés

A ToRun a saját infrastruktúrádon is futtatható. Egy egyparancsos Docker-telepítő forrásból építi fel a háttérrendszert, az adatbázis-migrátort és a webalkalmazást, és egyetlen fordított proxy mögött hozza fel a platformot — a gazdagépnek csak Dockerre van szüksége. Ez azoknak a csapatoknak való, amelyeknek adatrezidenciára, hálózattól elszigetelt (air-gapped) működésre vagy saját helyi modellekre van szükségük.

Mit csinál a telepítő

A helyszíni telepítő:

• Forrásból építi fel a Host API-t, az adatbázis-migrátort és az SPA frontendet a Dockeren belül.
• Egyetlen perem (edge) fordított proxyt konfigurál minden más elé.
• Automatikusan legenerálja a futtatáshoz szükséges titkokat, tanúsítványt és környezeti konfigurációt.
• Létrehoz egy kezdeti rendszergazdai fiókot a konfigurációból (a rendszergazdai e-mail és jelszó konfiguráció által vezérelt).

Mivel minden forrásból épül fel a konténerben, a gazdagépnek nincs szüksége .NET vagy Node eszközláncra — csak Dockerre.

Saját helyi modellek használata

A helyszíni telepítések a saját helyi LLM-jeidre mutathatnak a hosztolt szolgáltatók helyett (vagy mellett). A BYOK-széffel kombinálva ez azt jelenti, hogy a következtetés (inference) teljes egészében a környezeteden belül maradhat.

Licencelési lehetőségek

A helyszíni telepítés többféle kereskedelmi lehetőséggel érhető el:

• Munkahelyenkénti (per seat) licenc — munkahelyenként évente árazva, a $0 beüzemelés üzenettel; szakmai szolgáltatások óránként érhetők el, ha gyakorlati segítségre van szükséged.
• Forráslicenc — egyszeri díj a forráskódért, valamint éves frissítési díj azoknak a szervezeteknek, amelyeknek magára a kódra van szükségük.
• Forráskód-letét (source escrow) — elérhető, hogy a forráskód védve és a megállapodott feltételek mellett hozzáférhető legyen még a legrosszabb forgatókönyvek esetén is.

(A pontos összegeket az aktuális árazási megállapodás rögzíti; az értékesítésed/árajánlatod az élő számokat tükrözi.)

Üzemeltetési hozzáállás

A helyszíni kialakítás a dedikált létszám nélküli üzemeltetést célozza meg — automatizált telepítés, automatizált frissítések és önkiszolgáló támogatási útvonal —, így egy kis csapat (vagy egyetlen üzemeltető) is futtathatja dedikált üzemeltetői személyzet nélkül.

Frissítések

A telepítések önmagukat frissíthetik, így naprakész maradsz manuális újraépítési ciklus nélkül.

Tippek

• Az első indítás előtt állítsd be a rendszergazdai e-mailt/jelszót a konfiguráción keresztül, hogy a létrehozott rendszergazda a kezdetektől a tiéd legyen.
• Ha az adatok soha nem hagyhatják el a hálózatodat, futtass helyi modelleket BYOK-on keresztül, és kerüld a hosztolt szolgáltatók kulcsainak konfigurálását.
• Hagyd bekapcsolva az automatikus frissítést, hacsak nincs változáskezelési okod egy verzió rögzítésére.