Staðbundin (On-Prem) og sjálfhýst uppsetning

Yfirlit

ToRun getur keyrt á þínum eigin innviðum. Docker-uppsetningarforrit með einni skipun byggir bakendann, gagnagrunnsflutninginn og vefforritið úr frumkóða og ræsir kerfið á bak við einn öfugan staðgengil (reverse proxy) — hýsingarvélin þarf aðeins Docker. Þetta er fyrir teymi sem þurfa gagnabústað, einangraðan (air-gapped) rekstur eða eigin staðbundin líkön.

Hvað uppsetningarforritið gerir

Staðbundna uppsetningarforritið:

• Byggir Host API, gagnagrunnsflutninginn og SPA-framendann úr frumkóða innan Docker.
• Stillir einn jaðar- (edge) öfugan staðgengil fyrir framan allt.
• Býr sjálfkrafa til leyndarmálin, vottorðið og umhverfisstillingarnar sem þarf til að keyra.
• Setur upp upphaflegan stjórnandareikning úr stillingunum (tölvupóstur og lykilorð stjórnanda eru stilling-stýrð).

Þar sem allt er byggt úr frumkóða í gámnum þarf hýsingarvélin enga .NET- eða Node-verkfærakeðju — aðeins Docker.

Að nota þín eigin staðbundnu líkön

Staðbundnar uppsetningar geta beint á þín eigin staðbundnu LLM í stað (eða ásamt) hýstra þjónustuaðila. Ásamt BYOK-hvelfingunni þýðir þetta að ályktun (inference) getur verið alfarið innan þíns umhverfis.

Leyfisvalkostir

Staðbundin uppsetning er boðin með nokkrum viðskiptavalkostum:

• Leyfi á hvern sæti (per seat) — verðlagt á hvert sæti á ári, með fyrirsögninni $0 uppsetning; fagþjónusta er í boði á klukkutíma fresti þegar þú vilt verklega aðstoð.
• Frumkóðaleyfi — eingreiðsla fyrir frumkóðann auk árlegs uppfærslugjalds, fyrir fyrirtæki sem þurfa kóðann sjálfan.
• Frumkóðavarsla (source escrow) — í boði svo að frumkóðinn sé verndaður og aðgengilegur samkvæmt umsömdum skilyrðum jafnvel í verstu aðstæðum.

(Nákvæmar tölur eru settar í gildandi verðsamningi; sala/tilboð þitt endurspeglar núverandi tölur.)

Rekstrarstaða

Staðbundin hönnun stefnir að rekstri án mannafla — sjálfvirk uppsetning, sjálfvirkar uppfærslur og sjálfsafgreiðsluleið fyrir stuðning — svo að lítið teymi (eða einn rekstraraðili) geti keyrt það án sérstaks rekstrarstarfsfólks.

Uppfærslur

Uppsetningar geta uppfært sig sjálfar svo þú haldist uppfærður án handvirks endurbyggingarferlis.

Ábendingar

• Stilltu tölvupóst/lykilorð stjórnanda í gegnum stillingar fyrir fyrstu ræsingu svo að uppsetti stjórnandinn sé þinn frá upphafi.
• Ef gögn mega aldrei yfirgefa netið þitt skaltu keyra staðbundin líkön í gegnum BYOK og forðast að stilla lykla hýstra þjónustuaðila.
• Haltu sjálfvirkri uppfærslu virkri nema þú hafir breytingaeftirlitsástæðu til að festa útgáfu.