Nu orice echipă își poate trimite cererile în norul altcuiva. Ramurile reglementate, sarcinile sectorului public și întreprinderile cu reguli stricte de amplasare a datelor au nevoie ca stiva lor de inteligență artificială să rămână în propria rețea. ToRun se distribuie ca platformă cu găzduire proprie tocmai pentru acest caz — și nu este o ediție ciuntită. Este același produs, sub controlul tău.
Ce înseamnă aici găzduire proprie
ToRun găzduit propriu este platforma completă desfășurată pe infrastructură care îți aparține: serverele tale, gruparea ta Kubernetes sau o singură gazdă Docker într-un centru de date. Nu există obligația de a suna acasă pentru inferență. Când direcționezi un mesaj de conversație, o generare de imagine sau un pas de flux, cererea merge la modelele pe care le-ai configurat, iar acestea pot fi în întregime locale.
Instalarea este gândită să fie condusă de o echipă mică. O instalare Docker cu o singură comandă ridică API-ul, partea din față în Angular, MongoDB, Redis și magistrala de evenimente. De acolo arăți spre serverele tale de modele și spre depozitul tău de obiecte, iar platforma se comportă ca versiunea găzduită.
Adu-ți propriile modele lingvistice locale
Direcționării după capabilități din ToRun îi este egal dacă un model stă la un furnizor din nor sau pe o mașină cu GPU în propriul tău dulap. Înscrii modelul în catalog cu capabilitățile pe care le acceptă (text, vedere, unelte, ieșire structurată și așa mai departe), arăți clientul spre punctul tău local de inferență, iar el intră în același lanț de direcționare ca tot restul.
Înseamnă că poți rula modele cu ponderi deschise printr-un server local — aceleași puncte de inferență compatibile cu OpenAI pe care majoritatea echipelor cu găzduire proprie le folosesc deja — și îl poți lăsa pe ToRun să aleagă între ele după capabilitate și cost exact cum ar alege între furnizori din nor. Un flux poate amesteca un model local pentru pașii sensibili cu unul din nor pentru ceilalți, dacă politica ta permite. Sau poți ține fiecare apel în interiorul perimetrului.
Aceleași piese, sub cheile tale
Găzduirea proprie nu înseamnă renunțarea la mecanismul de încredere al platformei. Pe propria infrastructură ai în continuare:
- Direcționare după capabilități cu rezervă automată între serverele de modele pe care le înscrii.
- O înregistrare de facturare pe apel — registrul de costuri lucrează cu tarifele tale configurate, deci poți atribui în continuare cheltuiala pe echipă, pe mod și pe model, chiar dacă socoteala este a ta.
- Seif BYOK pentru acei furnizori din nor pe care totuși alegi să-i folosești, cu date de acces criptate în repaus și urmă de audit a rezolvării lor.
- Audit înlănțuit prin sumă de control pentru acțiunile care cer dovada nealterării.
- Unelte pentru drepturile asupra datelor GDPR/KVKK — accesul și ștergerea la cererea persoanei rulează peste propria bază, deci o cerere de ștergere se împlinește în întregime în granița ta de control.
Licențiere și actualizări
Ediția cu găzduire proprie se licențiază pe instalare cu acces la codul sursă, ca echipa ta de securitate să poată revizui ce rulează în perimetrul tău. Actualizările vin ca versiuni semnate pe care le aplici când hotărăști — nu există autoactualizare forțată care să împingă schimbări într-un mediu reglementat fără acordul tău. Pentru echipele care au nevoie, există o înțelegere de depozitare a codului, ca instalarea să rămână funcțională indiferent de situația furnizorului.
Cui i se adresează
Dacă obiecția ta față de adoptarea unei platforme de inteligență artificială a fost mereu „nu putem lăsa acele date să iasă din rețeaua noastră", atunci ToRun găzduit propriu este răspunsul. Primești un spațiu de lucru modern cu mai mulți furnizori — conversație, generare, fluxuri, memorie, baze de cunoștințe — care rulează față de modelele tale, pe echipamentul tău, cu verificabilitatea pe care o echipă de conformitate chiar o cere.
Vorbește cu noi despre o instalare proprie sau citește secțiunea despre instalarea la tine sub /docs pentru arhitectura de referință.