Niet elk team kan zijn prompts naar andermans cloud sturen. Gereguleerde sectoren, publieke werklasten en ondernemingen met strikte regels over gegevenslocatie hebben nodig dat hun AI-stack binnen het eigen netwerk blijft. ToRun wordt precies voor dat geval als zelf te hosten platform geleverd — en het is geen uitgeklede editie. Het is hetzelfde product, onder jouw controle.
Wat zelf gehost hier betekent
Zelf gehoste ToRun is het volledige platform uitgerold op infrastructuur die van jou is: je eigen servers, je Kubernetes-cluster of één Docker-host in een datacentrum. Er is geen verplichting om voor inferentie naar huis te bellen. Wanneer je een chatbericht, een beeldgeneratie of een workflowstap routeert, gaat het verzoek naar de modellen die jij hebt ingesteld, die volledig lokaal kunnen zijn.
De uitrol is bedoeld om door een klein team beheerd te worden. Een Docker-installatie met één commando zet de API, de Angular-frontend, MongoDB, Redis en de gebeurtenisbus op. Daarna wijs je naar je modelbackends en je objectopslag, en het platform gedraagt zich als de gehoste versie.
Neem je eigen lokale LLM's mee
De capaciteitsgerichte routering van ToRun maakt het niet uit of een model bij een cloudaanbieder leeft of op een GPU-machine in je eigen rek. Je registreert een model in de catalogus met de capaciteiten die het ondersteunt (tekst, zicht, gereedschappen, gestructureerde uitvoer, enzovoort), wijst de client naar je lokale inferentie-eindpunt, en het komt in dezelfde routeringspijplijn als al het andere.
Dat betekent dat je modellen met open gewichten via een lokale server kunt draaien — dezelfde OpenAI-compatibele inferentie-eindpunten die de meeste zelfhostende teams al gebruiken — en ToRun daartussen op capaciteit en kosten laat kiezen, precies zoals het tussen cloudaanbieders zou kiezen. Een workflow kan een lokaal model voor de gevoelige stappen mengen met een cloudmodel voor de rest, als je beleid dat toelaat. Of je houdt elke aanroep binnen de perimeter.
Dezelfde bouwstenen, onder jouw sleutels
Zelf hosten betekent niet dat je de vertrouwensmachinerie van het platform opgeeft. Op je eigen infrastructuur houd je nog steeds:
- Capaciteitsgerichte routering met automatische terugval tussen de modelbackends die je registreert.
- Eén factuurregel per aanroep — het kostengrootboek werkt tegen jouw ingestelde tarieven, dus je kunt uitgaven nog steeds toewijzen per team, per modus en per model, ook al is de rekenkracht van jou.
- BYOK-kluis voor de cloudaanbieders die je wél kiest te gebruiken, met in rust versleutelde inloggegevens en een auditspoor van de resolutie.
- Met hash geketende audit voor handelingen die manipulatiebewijs vereisen.
- Gereedschappen voor AVG/KVKK-gegevensrechten — inzage en wissing door de betrokkene draaien tegen je eigen database, dus een verwijderverzoek wordt volledig binnen je eigen controlegrens afgehandeld.
Licentie en updates
De zelf gehoste editie wordt per uitrol gelicentieerd met toegang tot de broncode, zodat je beveiligingsteam kan nakijken wat er binnen je perimeter draait. Updates komen als ondertekende versies die je toepast wanneer jij dat besluit — er is geen gedwongen automatische update die wijzigingen naar een gereguleerde omgeving duwt zonder jouw akkoord. Voor teams die dat nodig hebben, bestaat er een broncodedepotregeling zodat de uitrol bruikbaar blijft ongeacht de situatie van de leverancier.
Voor wie dit is
Als je bezwaar tegen het aannemen van een AI-platform altijd is geweest «we kunnen die gegevens ons netwerk niet uit laten gaan», dan is zelf gehoste ToRun het antwoord. Je krijgt een moderne AI-werkomgeving met meerdere aanbieders — chat, generatie, workflows, geheugen, kennisbanken — draaiend tegen je eigen modellen, op je eigen hardware, met de controleerbaarheid die een nalevingsteam werkelijk vraagt.
Praat met ons over een zelf gehoste uitrol of lees het gedeelte over installaties op locatie onder /docs voor de referentiearchitectuur.