Alla team kan inte skicka sina uppmaningar till någon annans moln. Reglerade branscher, offentliga arbetslaster och företag med stränga regler om datalagringsort behöver att deras AI-stack stannar inom det egna nätet. ToRun distribueras som en plattform för egen drift just för detta fall — och det är ingen bantad utgåva. Det är samma produkt, under din kontroll.
Vad egen drift betyder här
ToRun i egen drift är hela plattformen utrullad på infrastruktur som är din: dina servrar, ditt Kubernetes-kluster eller en enda Docker-värd i ett datacenter. Det finns ingen skyldighet att ringa hem för slutledning. När du styr ett chattmeddelande, en bildgenerering eller ett arbetsflödessteg går begäran till de modeller du ställt in, och de kan vara helt lokala.
Utrullningen är tänkt att skötas av ett litet team. En Docker-installation med ett enda kommando reser API:et, Angular-framsidan, MongoDB, Redis och händelsebussen. Därifrån pekar du mot dina modellservrar och ditt objektlager, och plattformen beter sig som den värdbaserade versionen.
Ta med dina egna lokala språkmodeller
ToRuns förmågestyrning bryr sig inte om en modell bor hos en molnleverantör eller på en GPU-maskin i ditt eget skåp. Du för in modellen i katalogen med de förmågor den stöder (text, syn, verktyg, strukturerad utdata och så vidare), pekar klienten mot din lokala slutledningsslutpunkt, och den träder in i samma styrningskedja som allt annat.
Det betyder att du kan köra modeller med öppna vikter via en lokal server — samma OpenAI-kompatibla slutledningsslutpunkter som de flesta team i egen drift redan använder — och låta ToRun välja mellan dem efter förmåga och kostnad precis som det skulle välja mellan molnleverantörer. Ett arbetsflöde kan blanda en lokal modell för känsliga steg med en molnmodell för övriga, om din policy tillåter. Eller så håller du varje anrop innanför omkretsen.
Samma delar, under dina nycklar
Egen drift betyder inte att ge upp plattformens förtroendemaskineri. På din egen infrastruktur har du fortfarande:
- Förmågestyrning med automatisk reserv mellan de modellservrar du för in.
- En faktureringspost per anrop — kostnadsboken arbetar mot dina inställda priser, så du kan fortfarande fördela utgiften på team, läge och modell, även om beräkningen är din.
- BYOK-valv för de molnleverantörer du ändå väljer att använda, med uppgifter krypterade i vila och ett granskningsspår över deras upplösning.
- Kedjad granskning med kontrollsummor för åtgärder som kräver bevis på oförändrat innehåll.
- Verktyg för dataskyddsrättigheter enligt GDPR/KVKK — registrerades tillgång och radering körs mot din egen databas, så en raderingsbegäran uppfylls helt innanför din kontrollgräns.
Licensiering och uppdateringar
Utgåvan för egen drift licensieras per installation med tillgång till källkoden, så att ditt säkerhetsteam kan granska vad som kör innanför din omkrets. Uppdateringar kommer som signerade utgåvor du tillämpar när du bestämmer — det finns ingen påtvingad självuppdatering som skjuter in ändringar i en reglerad miljö utan ditt medgivande. För team som behöver det finns ett avtal om källkodsdeposition, så att installationen förblir körbar oavsett leverantörens läge.
Vem detta är för
Om din invändning mot att införa en AI-plattform alltid varit »vi kan inte släppa ut de uppgifterna ur vårt nät«, då är ToRun i egen drift svaret. Du får en modern arbetsyta för AI med flera leverantörer — chatt, generering, arbetsflöden, minne, kunskapsbaser — som kör mot dina modeller, på din utrustning, med den granskbarhet ett efterlevnadsteam faktiskt begär.
Tala med oss om en egen utrullning eller läs avsnittet om installation på plats under /docs för referensarkitekturen.